この記事は、LLM（Large Language Model／大規模言語モデル）の役割と、生成AIを使うときに確認したい境界を整理する基礎解説です。特定モデルの性能比較や、出力の正確さを保証するものではありません。
「LLMとは何か」と聞かれたとき、「生成AIの頭脳」と答えると分かりやすい。一方で、その比喩だけでは、モデルとサービス、検索と生成、人の確認がどこで分かれるのかが見えにくい。LLMは、AIサービス全体の名前ではなく、言語を扱うモデルの一種である。
NISTの用語整理では、LLMは「large language model」の略語として扱われている。IPA掲載の中核人材育成プログラム卒業プロジェクト資料は、言語モデルを文章や単語の出現確率をモデル化するものとし、大量のテキストを学習した大規模な言語モデルをLLMと説明する。ここでは、自然な文章を「理解した」と急いで結論づけず、入力、モデル、周辺システム、確認の流れから見ていく。
01 LLMはサービスではなく、言語を扱うモデルである
LLMを理解する最初の線引きは、モデルとサービスを分けることだ。利用者が画面で見ているチャットAIには、入力欄、履歴、認証、検索、ファイル処理、出力表示、利用ルールなどが組み合わされている。その中心でテキストを処理するモデルの一つがLLMである。
| 層 | 主な役割 | ここで確認すること |
|---|---|---|
| LLM | 入力された文脈をもとに、テキストの候補を生成する | 何を学習し、どの入力形式と長さに対応するか |
| アプリケーション | 画面、履歴、ファイル、検索、権限などをつなぐ | 何を保存し、どの情報をモデルへ渡すか |
| 利用者・組織 | 目的、採用、修正、公開、保留を判断する | 誰が確認し、失敗時にどこへ戻すか |
「AIに質問した」という一つの操作の中にも、複数の層がある。回答の印象だけでサービス全体をLLMの性質だと決めると、検索結果や履歴、権限設定の問題を見落としやすい。
02 生成AIとLLMは、同じ言葉ではない
生成AIは、文章、画像、音声、動画など、入力に応じて新しいコンテンツを出力するAIの広いカテゴリーである。LLMは、そのうち主にテキストを入力・出力する大規模な言語モデルを指す。画像や音声を扱う生成モデルまで、すべてLLMと呼ぶわけではない。
この関係は、次のように覚えるとよい。
| 言葉 | 位置づけ | 問いの例 |
|---|---|---|
| 生成AI | 多様なコンテンツを生成する技術やサービスの広い呼び方 | 何を生成できるか |
| LLM | テキストを扱うモデルの一種 | 文章をどう処理するか |
| チャットAI | LLMなどを組み込んだ対話システム | どの画面・履歴・機能で使うか |
| RAG | 外部情報を検索し、生成の文脈へ渡す構成 | どの資料を根拠として使うか |
そのため、「生成AIを使っている」と聞いても、必ずLLMを単独で使っているとは限らない。逆に、LLMが内部にあっても、検索、ツール、権限、表示を含めたサービスの振る舞いはモデルだけでは決まらない。
03 LLMは文章のデータベースではない
LLMは大量の文章データを学習するが、学習した資料をそのまま検索できるデータベースとして保存しているわけではない。入力された文脈を処理し、続く語や文章の候補を確率的に生成するモデルとして動く。だから、自然な文章が返ってきても、その文章が事実か、最新か、原典に支えられているかは別に確認する必要がある。
テキスト生成AIの大まかな流れは、次のように分けられる。
- 利用者が質問や指示を入力する
- システムが入力をモデルが扱える単位へ変換する
- 必要に応じて履歴、ファイル、検索結果などを文脈へ加える
- LLMが文脈をもとにテキストを生成する
- アプリが表示し、利用者が採用・修正・保留を判断する
IPA掲載の資料が説明するように、入力はモデルへ直接届くとは限らず、システム内で処理される。プロンプトの長さにもモデルごとの上限がある。入力欄へ貼り付けた情報が、どの範囲で保存・検索・共有されるのかまで見て、モデルの性能だけで安全性を判断しないことが重要だ。
04 自然な文章は「理解」や「正しさ」の証明にならない
LLMの出力は、会話のように流暢で、文脈にも合っているように見える。そのため、モデルが内容を人間と同じ意味で理解し、事実を確認した上で答えているように感じやすい。しかし、文章の自然さから、知識の出どころや事実確認の有無を推測することはできない。
特に注意したいのは、次の三つを同じものとして扱わないことだ。
- 文章の形式が整っていること
- 質問の条件に沿っているように見えること
- 外部資料によって主張が確認できること
LLMの回答を説明文、制度案内、契約、医療や生活に影響する判断へ使う場合は、主張ごとに原典と確認日を持つ。誤りを見つけたときに、モデルの人格や意図を責めるのではなく、入力、参照情報、指示、確認手順のどこに問題があったかを分けて見る。
05 プロンプトはモデルへの入力、答えを保証する呪文ではない
プロンプトは、チャットAIへ与える利用者の入力を指す。質問、命令、背景、参考情報、出力形式などが含まれる場合がある。入力を整理すれば、目的に合う出力候補を得やすくなるが、プロンプトだけで事実確認、権利、機密性、最終責任まで解決するわけではない。
実務では、次の順番を分けておくと、プロンプトの工夫を過大評価しにくい。
- 目的：何を変えたいのか
- 入力：何を渡してよく、何を渡さないのか
- 出力：どの形式なら人が確認できるのか
- 確認：どの主張を誰が原典へ戻るのか
よい指示文を探す前に、この四つを決める。LLMに渡す文が長くなっても、目的や確認条件が曖昧なら、出力の量だけが増えることがある。プロンプトは作業設計の一部であり、検証の代わりではない。
06 RAGはLLMへ外部の文脈を渡す構成である
LLMの学習時点に含まれていない社内文書や更新された資料を扱う場合、RAGのように外部の情報を検索し、生成前の文脈へ加える構成が使われる。これによって、回答から参照資料へ戻る経路を設計しやすくなる。
ただし、RAGを追加すれば、回答が自動的に正しくなるわけではない。検索結果が質問に合っているか、資料の版や権限が適切か、回答の主張が原文を越えていないかを別々に見る必要がある。LLM、検索、データ管理、表示、人の確認を一つのシステムとして扱うことが、RAGを使うときの境界になる。
07 LLMを知ることは、モデルへ責任を丸投げしないこと
LLMは、文章の候補をつくる強力な部品である。一方で、何を入力し、どの文脈を渡し、どの出力を採用し、どこで人へ戻すかは、モデルの外側で設計する。モデルを大きくすることや、流暢な回答を得ることだけでは、利用の目的や責任は決まらない。
「LLMとは」を知るときに覚えておきたいのは、次の一文だ。
LLMは言語を扱うモデルであり、サービス全体でも、検索結果でも、確認済みの事実でもない。
この線引きができれば、生成AIを使う場面で、モデルの能力に期待しながらも、入力・権限・出典・確認の設計を人の仕事として残せる。便利さと慎重さを対立させず、どこを任せ、どこを戻すかを観測することが、LLMを使いこなすための最初の条件になる。