RAG（検索拡張生成）とは、AIが質問に答える前に関連する文書を検索し、その内容を読んでから答えを作る仕組みです。 通常のAIは学習した知識だけで答えますが、RAGはその場で資料を参照するため、学習していない社内文書や最新の情報にも答えられます。ただし、RAGを使えば誤りがなくなるわけではありません。 この記事では、その限界まで含めて解説します。
この記事の要点
- RAGは「検索してから答える」仕組み。学習し直す必要がない
- 検索は言葉の一致ではなく意味の近さで行われる
- RAGでも間違える。原因は「検索が外す」「元の文書が古い」「読み違える」の3つ
なぜRAGが必要なのか
生成AI（LLM）には、構造上どうしても弱い部分があります。
- 学習した時点までの知識しかない：それ以降の出来事は知りません
- 自社の情報を知らない：社内規程、製品マニュアル、過去の議事録は学習対象に含まれていません
- 知らないことも、もっともらしく答えてしまう（ハルシネーション）
これを解決する方法は2つあります。1つはAIそのものを学習し直すこと（ファインチューニング）、もう1つが、答えるたびに資料を参照させること（RAG）です。
RAGの流れ：3ステップ
- 質問を受け取る（例：「有給休暇の繰り越しは何日まで？」）
- 関連する文書を検索する（社内の就業規則から、有給に関する記述を探す）
- 見つけた文書を読んで、答えを作る（その記述にもとづいて回答する）
ポイントは2番です。 ここでAIは、質問文と文書を照らし合わせて「関係がありそうな箇所」を取り出しています。
検索の中身：言葉ではなく意味で探す
一般的な検索は、キーワードの一致で探します。「有給」と入力すれば「有給」を含む文書が出てきます。
RAGの検索は、これとは違います。言葉が一致していなくても、意味が近ければ見つけられます。 「休みを繰り越せますか」という質問から、「年次有給休暇の翌年度への繰越」という記述にたどり着けるのは、このためです。
この「意味の近さ」を計算する仕組みは埋め込み（Embedding）とはで解説しています。
RAGでも間違える3つのケース
ここが、この記事でいちばん伝えたい部分です。RAGは誤りを減らしますが、なくしません。 原因は3つに分けられます。
| 原因 | 何が起きるか | 対処 |
|---|---|---|
| 検索が外す | 関係のない文書を拾い、それをもとに答える | 質問を具体的にする。文書側の見出しを整える |
| 元の文書が古い | 参照先が古いままなら、答えも古い | 文書の更新が止まればRAGも止まる |
| 読み違える | 正しい文書を拾っても、条件や例外を取り違える | 出典を必ず表示し、人が原文を確認する |
2番目が実務ではいちばん厄介です。 RAGを導入しても、参照させている社内文書が3年前のままなら、3年前の答えが返ってきます。しかも、根拠つきで自信満々に返ってくるぶん、かえって信じてしまいます。
また、参照する文書の量にも上限があります。一度に読める量は限られているため（コンテキストウィンドウ）、長大な資料をすべて渡せるわけではありません。
PR・おすすめValue AI Writer byGMO高品質なSEO記事を生成するAIライティングツール。公式サイトを見るファインチューニングとの違い
もう一つの解決策との違いを整理します。
| RAG | ファインチューニング | |
|---|---|---|
| やること | 答えるたびに文書を参照させる | AIそのものを追加学習させる |
| 情報の更新 | 文書を差し替えるだけ | 学習をやり直す必要がある |
| 出典 | 示せる | 示せない |
| 向いているもの | 頻繁に変わる情報、社内文書 | 文体や形式の癖を覚えさせる |
情報が変わるものはRAG、振る舞いを変えたいならファインチューニング、というのが基本的な使い分けです。詳しくはファインチューニングとはへ。
身近なところにもRAGはある
社内システムの話に聞こえるかもしれませんが、個人が使えるサービスにも同じ仕組みが入っています。
Web検索の結果をもとに、出典つきで回答するAIサービスがその例です（Perplexityでできること）。質問に対してまず検索し、見つけたページを読んでから答える——構造はRAGと同じです。
出典が表示されるAIを使ったことがあるなら、すでにRAGの成果物に触れています。
導入の成否を分けるもの
企業でRAGを検討する場合、技術より先に確認すべきことがあります。参照させる文書が、整っているかどうかです。
- 最新版がどれか分かるか（同じ資料の新旧が混在していないか）
- 見出しがついていて、内容が推測できるか
- 更新する担当と頻度が決まっているか
- そもそも文書化されているか（口伝で回っていないか）
ここが崩れていると、どんなに良い仕組みを入れても機能しません。 RAG導入の相談が「まず文書を整理しましょう」から始まるのは、このためです。
なお、外部から取り込んだ文書を参照させる場合は、その文書に仕込まれた指示にAIが従ってしまうリスクもあります（プロンプトインジェクションとは）。
FAQ
Q. RAGを使えば間違いはゼロになりますか？ A. なりません。検索が外れる、元の文書が古い、条件を読み違える、という3つの原因で誤りは残ります。出典を表示させ、重要な内容は原文を確認する運用が前提です。
Q. 普通のチャットAIと何が違いますか？ A. 普通のAIは学習した知識から答え、RAGは検索した文書から答えます。そのため、学習していない社内文書や最新情報にも対応でき、根拠を示すこともできます。
Q. 専門知識がないと使えませんか？ A. 利用する側に専門知識は要りません。RAGを使ったサービスは、通常のチャットと同じように質問するだけです。仕組みを知っておくと、答えを疑うべき場面が分かるようになります。
Q. 社内文書を使うとき、情報は外部に出ますか？ A. 利用するサービスや契約形態によって扱いが異なります。業務で使う前に、データの取り扱いに関する各社の公式情報と、所属先のルールを確認してください。
Q. ファインチューニングとどちらを選ぶべきですか？ A. 情報が頻繁に変わるならRAG、AIの文体や出力形式を安定させたいならファインチューニングが向きます。両方を組み合わせる構成もあります。
まとめ
- RAGは「検索してから答える」仕組み。学習し直さずに最新情報や社内文書へ対応できる
- 検索は意味の近さで行われるため、言葉が一致していなくても見つけられる
- 誤りはゼロにならない。検索が外す・文書が古い・読み違えるの3つが残る
- 情報が変わるものはRAG、振る舞いを変えたいならファインチューニング
- 導入の成否は技術より、参照させる文書が整っているかで決まる
次に読む：ハルシネーションとは？／埋め込み（Embedding）とは／NotebookLMでできること全ガイド
※本記事はRAGの一般的な解説です。各サービスの実装・仕様・データの取り扱いは公式情報をご確認ください。
出典
- 本記事は概念解説のため、外部の数値出典は用いていません
- 各サービスの実装・仕様は各社公式情報
最終更新：2026年7月25日／fondantAI編集部