ハルシネーション（hallucination）とは、生成AIが事実と異なる情報を、あたかも本当のことのように自信ありげに答えてしまう現象のことです。 直訳すると「幻覚」。AIを使ううえで必ず知っておくべき性質です。この記事では、なぜ起きるのか、どこが危険か、使う側にできる対策を解説します。

この記事の要点

  • ハルシネーションとは、AIが「もっともらしい誤り」を出す現象
  • AIは意味を理解しているのではなく「ありそうな言葉」を選ぶために起きる
  • 大事な用途では、必ず一次情報で裏を取るのが基本

ハルシネーションとは：もっともらしい「作り話」

生成AIに質問すると、存在しない書籍名や、間違った数字、実在しない出来事などを、堂々と答えてくることがあります。これがハルシネーションです。厄介なのは、文章が自然で自信ありげなため、正しく見えてしまう点です。

なぜ起きるのか

生成AI（LLM）は、「意味を理解して答えている」わけではありません。学習した大量の文章から、「次に来る、もっともありそうな言葉」を確率的に選んでつなげているだけです（仕組みはLLMとは？で解説）。

そのため、事実の裏づけがなくても、「それっぽい言葉の並び」を作ってしまうことがあります。知らないことでも「知らない」と言わず、ありそうな答えを埋めてしまう——これがハルシネーションの正体です。

なぜ「知りません」と言えないのか

人間なら「よく分からないので調べます」と答える場面で、AIは答えを出してきます。これは不誠実だからではなく、「自分が知らないことを判定する仕組み」を持っていないためです。

AIの中にあるのは、事実の一覧ではなく「言葉のつながりやすさ」です。知っていることと知らないことの境目が、そもそも存在しません。 だから、確かな知識も、それらしい推測も、同じ調子で出力されます。

自信のある口調は、正しさの証拠になりません。 ここを最初に理解しておくのが、いちばんの防御になります。

起きやすい質問の型

でたらめが出る確率は、質問の仕方でかなり変わります。次の4つは要注意です。

質問の型例なぜ危ないか
存在を前提にして聞く「〇〇法の第3条を教えて」存在しなくても、条文らしきものが作られる
マイナーな固有名詞地方の中小企業名、専門書のタイトル学習データに情報が少なく、埋め合わせが起きる
複数の条件を組み合わせる「2024年に出た、日本語対応で、無料の〇〇」条件を満たす実例がなくても、それらしく合成される
数字を求める「市場規模は何億円？」桁や年度が入れ替わりやすい

逆に言えば、「一般的な考え方」「文章の書き換え」「アイデア出し」では、実害はほとんど出ません。 用途によって警戒度を変えるのが現実的です。

特に注意が必要な場面

  • 数字・日付・固有名詞：金額、統計、法律名、人名などは誤りが混じりやすい
  • 専門分野（医療・法律・お金など）：誤った情報が実害につながりやすい
  • 最新の出来事：学習時点以降の情報は不正確になりがち

使う側ができる対策

  1. 一次情報で裏を取る：AIの答えは「下書き」と考え、公式サイトや原典で確認する
  2. 出典を求める：「根拠となる情報源を示して」と頼み、その情報源自体を確認する（情報源ごと作ることもあるため）
  3. 使いどころを選ぶ：アイデア出しや文章の下書きなど「多少ずれても困らない用途」から使う
  4. 断定を鵜呑みにしない：自信ありげでも、それは正しさの証明ではないと心得る

「知らない」と言わせる頼み方

放っておくと埋めてしまうので、先に逃げ道を用意すると精度が上がります。

分からない場合は「分かりません」と答えてください。推測で埋めないでください。

回答のうち、確信が持てない箇所に「※要確認」を付けてください。

この説明の中で、公式情報で確認すべき項目を挙げてください。

3つ目が実用的です。答えそのものより、「どこを確認すべきか」を出させるほうが、確認の手間が減ります。

PR・おすすめValue AI Writer byGMO高品質なSEO記事を生成するAIライティングツール。公式サイトを見る

見抜くための3ステップ

疑わしいと感じたら、この順で確認してください。1分で終わります。

  1. 固有名詞を検索する：書籍名・法律名・企業名・制度名を、そのまま検索窓に入れる。存在しなければ、そこで終わりです
  2. 数字の出どころを聞く：「その数値の出典と調査年を教えて」と聞き返す。答えられない、または出典が実在しない場合は使わない
  3. 同じ質問を別の聞き方でする：表現を変えて聞き直し、答えがぶれるかを見る。ぶれる箇所は、根拠が薄い箇所です

3つ目は道具が要らないので、その場でできます。

検索機能つきのAIなら安全か

Web検索と組み合わせたAIや、社内文書を参照する仕組み（RAG）では、誤りは減ります。参照した文書にもとづいて答えるためです。

ただし、ゼロにはなりません。 理由は3つあります。

  • 検索が的外れな文書を拾い、それをもとに答えることがある
  • 参照した文書自体が古い、または誤っている
  • 文書は正しいのに、条件や例外を読み違える

出典が表示されていても、その出典が主張を裏づけているかは別問題です。 リンクを開いて確認するところまでが対策になります。

業務で実害が出やすい場面

  • 社外に出す資料：数値や社名の誤りが、そのまま信用に響きます
  • 制度・法令の説明：条文や要件を誤ると、相手に不利益が及びます
  • 議事録の要約：発言していないことが混ざると、後で問題になります
  • 翻訳・要約の「補完」：元の文章にない情報が足されることがあります

共通するのは、確認する人が自分しかいない場面です。レビューが入る作業より、一人で完結する作業のほうが危険度は上がります。実際に起きた失敗の型はAIやらかし集にまとめています。

用途別の警戒度：どこまで確認するか

すべてを疑っていては、AIを使う意味がなくなります。用途で線を引いてください。

用途警戒度確認すること
アイデア出し・壁打ち低ほぼ不要。採否は自分で決めるため
文章の言い換え・推敲低固有名詞と数値が書き換わっていないか
自分が詳しい分野の下書き中読めば違和感で気づける。通し読みで足りる
知らない分野の説明高制度名・数値・固有名詞をすべて一次情報で照合
社外に出す文書高上に加えて、第三者の目を通す
制度・法令・医療・お金最高AIの説明は下書きにもしない。公式情報から書く

分かれ目は「自分が誤りに気づけるか」です。 自分が詳しい領域では、AIの誤りは読んだ瞬間に分かります。逆に、知らない分野ほど見抜けません。知らないことを聞くときこそ、いちばん危ないという逆説があります。

人に伝えるときのルール

自分が確認しないまま、AIの答えを人に渡すのがいちばん危険です。次の2つだけ守ってください。

  1. 確認していない情報は、確認していないと伝える：「AIに聞いた範囲では〜ですが、未確認です」
  2. 数値と固有名詞は、確認したものだけ渡す：確認していないなら、その部分は削る

「AIがそう言っていた」は、発信の責任を免れる理由になりません。 伝えた時点で、その内容の責任は伝えた人にあります。

FAQ

Q. ハルシネーションは完全になくせますか？ A. 現状、ゼロにはできません。仕組み上つきものなので、「起こる前提で使う」のが安全です。

Q. 有料版なら間違えませんか？ A. 精度が上がることはありますが、間違いがゼロになるわけではありません。裏取りは引き続き必要です。

Q. どうすれば見抜けますか？ A. 数字・固有名詞・出典を疑い、公式情報と照合するのが確実です。「なんとなく正しそう」で判断しないことが大切です。

まとめ

  • ハルシネーションとは、AIが事実と異なる内容をもっともらしく答える現象
  • 「知らない」と判定する仕組みがないため、確かな知識も推測も同じ調子で出てくる
  • 起きやすいのは「存在を前提にした質問・マイナーな固有名詞・条件の組み合わせ・数字」
  • 見抜く3ステップは「固有名詞を検索／数字の出典を聞く／別の聞き方で答えがぶれるか見る」
  • 検索機能つきでもゼロにはならない。出典が表示されても、開いて確認する
  • 大事な用途では一次情報で裏取りを。AIの答えは下書きとして扱う

次に読む：生成AIとは？／LLMとは？／AIやらかし集／RAGとは？AIが最新情報や社内文書に答えられる仕組みをやさしく解説／AIでデータ分析する方法

※本記事は生成AIの一般的な特性の解説です。各サービスの仕様は公式情報をご確認ください。

出典

  • 生成AIの特性に関する一般的な解説

最終更新：2026年7月25日／fondantAI編集部