最新観測LATEST01
AIハルシネーションとは何か——もっともらしさと事実を分ける
AIハルシネーションとは、AIが誤った内容をもっともらしく出力する現象を指す。引用・根拠・確認の境界から、使い方を考える。
TAG / OBSERVATIONS
「AIツール」を手がかりに、カテゴリを横断して集めた観測記録です。
AIハルシネーションとは、AIが誤った内容をもっともらしく出力する現象を指す。引用・根拠・確認の境界から、使い方を考える。
ファインチューニングとは、学習済みモデルにタスクや領域の情報を追加して適応させる工程。RAGやプロンプトとの違い、向き不向きを整理する。
生成AIのプロンプトとは、目的・文脈・入力・出力を伝える指示。質問文の技巧だけに頼らず、使う前の設計と確認手順を整理する。
生成AIに個人情報を入力する前に、目的、入力範囲、保存・利用、削除・見直しを確認する。公的な注意喚起をもとに整理する。
RAGとは、質問に関連する情報を検索してから生成AIへ渡し、回答を組み立てる仕組み。検索結果の質、権限、出典、検証の境界を整理する。
生成AIとは、入力データの特徴をもとに文章・画像・音声などの合成コンテンツを生成するAIモデルの一群。従来のAIとの違いと使い分けを整理する。
LLMとは、大量のテキストで学習した大規模言語モデル。生成AIとの関係、アプリケーションとの役割分担、RAGやプロンプトの位置づけを整理する。