AIのハルシネーションとは？原因と対策・防ぐプロンプトを解説

AIの回答をそのまま資料に使ったら、後から内容が事実と違うと分かって冷や汗をかいた経験はないでしょうか。もっともらしい文章で返ってくるため、どこが誤りなのかを見抜きにくく、業務で使うことに不安を感じる人も多いはずです。

この記事では、AIのハルシネーションの意味と語源・起こる原因・実際の事例・業務上のリスク・防ぐためのプロンプトの書き方・会社で取るべき対策を、AI各社の公式ドキュメントや公的な資料に沿って解説します。

記事を読めば、ハルシネーションを前提にしたAIの使い方を自分の業務に取り入れられる状態です。結論は、分からないときは分からないと答えてよいとAIに伝えて根拠になる資料を渡し、重要な内容は必ず人が確かめる使い方が基本です。

AIのハルシネーションとは事実と異なる内容をもっともらしく出力する現象

まず、ハルシネーションの意味を以下の3つで押さえます。

• AIが事実に基づかない情報を生成する現象を指す
• 語源は幻覚を意味する英語のhallucination
• 学習データと食い違う誤りと学習データにない内容の2種類がある

AIが事実に基づかない情報を生成する現象を指す

野村総合研究所の用語解説は、ハルシネーションを、AIが事実に基づかない情報を生成する現象と説明しています。AIが幻覚を見ているかのようにもっともらしい嘘を出力することが、名前の由来です。

Anthropicの公式ドキュメントも、最先端の言語モデルであっても、事実として誤った文章や与えられた文脈と矛盾する文章を生成することがあると述べています。特定のAIだけの欠陥ではなく、生成AI全般に見られる現象です。

語源は幻覚を意味する英語のhallucination

ハルシネーションは、英語のhallucination(幻覚)をカタカナにした言葉です。ケンブリッジ辞典は、2023年の「今年の言葉」に動詞のhallucinateを選びました。

同辞典は、存在しないものを見たり聞いたりする従来の意味に加えて、AIが誤った情報を作り出す意味を新たに定義へ追加しています。AIの広がりとともに、一般の言葉として定着したことが分かります。

学習データと食い違う誤りと学習データにない内容の2種類がある

野村総合研究所の解説によると、ハルシネーションは大きく2種類に分けられます。1つは、学習に使ったデータとは異なる事実を出力する場合です。

もう1つは、学習に使ったデータには存在しない内容を出力する場合で、事実かどうかを検証できません。前者は情報の取り違え、後者は情報のでっち上げと考えると理解しやすくなります。

AIのハルシネーションが起こる原因

ハルシネーションが起こる主な原因は以下の4つです。

• 次に続く言葉を予測する仕組みで動いている
• 学習データに誤りや偏りや不足がある
• 現実の知識や事実との結びつきが足りない
• 分からないと答えるより推測するほうが評価されやすい

次に続く言葉を予測する仕組みで動いている

言語モデルは、前後の文脈をもとに、次に続く可能性の高い語句を予測して文章を作ります。野村総合研究所の解説は、出力の事実としての正しさそのものを直接的に最適化しているわけではないと指摘しています。

文脈には合っていても、真実ではない内容が出力されることがあるのは、次の言葉を予測する仕組みによるものです。文章が自然であることと、内容が正しいことは別だと理解しておく必要があります。

学習データに誤りや偏りや不足がある

言語モデルは、インターネットなどから集めた大量のデータで学習します。学習データの中に偏りや誤った情報が含まれていると、誤りがそのまま出力に現れかねません。

Google Cloudの解説によると、学習データが不完全な場合や偏りがある場合はAIが適切なパターンを学習できず、不正確な出力が生じるおそれがあります。

現実の知識や事実との結びつきが足りない

Google Cloudの解説は、原因の1つとして、適切なグラウンディングの欠如を挙げています。グラウンディングは、AIの出力を現実の知識や事実の情報と結びつけることです。

結びつきが足りないと、もっともらしく見えても事実に反する内容や、存在しないウェブページへのリンクが作られることがあります。

分からないと答えるより推測するほうが評価されやすい

2025年に公開された研究論文は、言語モデルがハルシネーションを起こす理由を、学習と評価の手順が不確かさを認めることより推測することに報酬を与えているためだと論じています。難しい試験問題を前にした学生が、白紙で出すより当て推量で答えるのと同じ構図です。

論文は、ハルシネーションは最先端のモデルでも残り続けていると述べています。AIが自信を持って答えていても、正しいとは限りません。

AIのハルシネーションの実例

公的な資料や報告で確かめられるハルシネーションの例は、以下の表のとおりです。

各事例の内容は以下の3つです。

• 航空会社のチャットボットが実際と異なる払い戻しの案内をした
• 存在しないソフトウェアの部品のインストールを勧めた
• 自治体の実証でも不適切な回答が一定の割合で報告された

航空会社のチャットボットが実際と異なる払い戻しの案内をした

カナダのブリティッシュコロンビア州の民事紛争審判所は、2024年2月14日、航空会社のエア・カナダと利用者の間の紛争について裁定を出しました。利用者は、同社のウェブサイトのチャットボットから、忌引きの割引運賃を搭乗後にさかのぼって申請できると案内されました。

実際の同社の規定は、搭乗後の申請を認めていない内容です。同社はチャットボットが提供した情報について責任を負わないと主張しましたが、審判所は利用者の申立てをおおむね認めています。

存在しないソフトウェアの部品のインストールを勧めた

トレンドマイクロの調査では、ChatGPTが実在しないソフトウェアの部品(パッケージ)のインストールを勧めた事例が報告されています。攻撃者が同じ名前で不正な部品を公開しておくと、AIの提案どおりに実行した人が被害を受けるおそれがあります。

同社の見解では、高度なコーディング用のAIでも架空の部品名の提案を完全には防げません。

AIプログラミングとは？2つの意味と始め方・おすすめツールを解説

自治体の実証でも不適切な回答が一定の割合で報告された

横須賀市は、2023年にChatGPTを全庁で使う実証を行い、結果を公表しました。最終アンケートでは、6%程度の職員が、概ね不適切な回答が返ってくると答えています。

市は、ChatGPTに向かない検索の用途での利用が約3割見られたことも課題に挙げました。事実を調べる用途にそのまま使うと、ハルシネーションに当たりやすいことを示す結果です。

AIのハルシネーションが業務にもたらすリスク

ハルシネーションを見逃したときに起こり得るリスクは以下の3つです。

• 誤った情報を社外に出して信用を失う
• AIの回答でも会社が責任を問われる
• 誤った前提で意思決定をしてしまう

誤った情報を社外に出して信用を失う

AIが作った文章を確かめずに、提案書・ウェブサイト・顧客への回答に使うと、誤った情報がそのまま社外に出ます。数字や固有名詞の誤りは読み手に気づかれやすく、会社の信用に関わる問題です。

日本経済新聞社と朝日新聞社は2025年8月の提訴の発表で、生成AIの検索サービスが両社の名前を引用元に表示しながら記事の内容と異なる虚偽の事実を表示していると主張しています。誤った内容は、名前を使われた側の信用も傷つけます。

AIの回答でも会社が責任を問われる

エア・カナダの事例では、会社側が「チャットボットの情報には責任を負わない」と主張しても認められませんでした。顧客から見れば、会社のウェブサイトにあるチャットボットの回答は、会社の案内と同じです。

AIを顧客対応に使う場合は、AIの回答を会社の回答として扱われる前提で、内容の確認と修正の仕組みを用意する必要があります。

誤った前提で意思決定をしてしまう

調査や分析にAIを使う場合、誤った数字や存在しない事例をもとに判断してしまうリスクがあります。Google Cloudの解説も、医療の診断や金融の取引など、重要な意思決定に使うAIではハルシネーションが問題になると指摘しています。

重要な判断の根拠にする情報は、AIの回答ではなく元の資料で確かめましょう。

生成AIの問題点を解説！企業が知っておきたいリスクと具体的な対策の進め方

ハルシネーションを防ぐプロンプトの書き方

Anthropicの公式ドキュメントが示している、ハルシネーションを減らすプロンプトの工夫は以下の5つです。

• 分からないときは分からないと答えてよいと伝える
• 根拠にする資料を渡して資料だけを使わせる
• 先に資料から引用を抜き出させる
• 主張ごとに根拠を示させて根拠がなければ取り消させる
• 同じ質問を複数回して回答を比べる

分からないときは分からないと答えてよいと伝える

Anthropicの公式ドキュメントは、不確かなときにそう認めてよいとAIに明示的に許可するだけで、誤った情報を大きく減らせると説明しています。プロンプトの例は以下のとおりです。

• 確信が持てない点や資料に情報がない点は「判断に必要な情報が足りません」と答えてください

「ハルシネーションしないでください」と頼むより、分からないときの答え方を具体的に決めておくほうが、AIが推測で埋める余地を減らせます。

根拠にする資料を渡して資料だけを使わせる

AIの一般的な知識に頼らせず、渡した資料だけを根拠にするよう指示する方法です。公式ドキュメントは、提供した文書の情報だけを使い、一般知識は使わないよう明示的に指示する手法を挙げています。

社内の規程や製品の仕様など、正しい情報が手元にある場合は、資料を貼り付けて「この資料に書かれている内容だけで答えてください」と伝えます。

先に資料から引用を抜き出させる

長い資料を扱うときは、まず関係する箇所を一字一句そのまま引用させ、その引用をもとに回答させます。公式ドキュメントは、引用を先に抜き出す手順で回答が実際の文章に結びつき、ハルシネーションが減ると説明しています。

該当する箇所がない場合は「関連する引用は見つかりません」と答えるよう指示しておくことが、無理な回答を防ぐコツです。

主張ごとに根拠を示させて根拠がなければ取り消させる

回答の後に、主張の1つひとつについて根拠となる引用を示させる方法です。根拠が見つからない主張は取り消すよう、あらかじめ指示しておきます。

出典が付いていれば、人が確かめる作業も短時間で済みます。プレスリリースや報告書など、社外に出す文章の下書きで特に有効です。

同じ質問を複数回して回答を比べる

同じプロンプトを複数回実行して、回答を比べる方法もあります。公式ドキュメントは、回答の間に食い違いがあれば、ハルシネーションの可能性があるとしています。

回答が毎回変わる部分は、AIが推測で答えている可能性が高い箇所です。重点的に確かめる目印になります。

会社で取るべきハルシネーション対策

組織としてハルシネーションに備える方法は以下の4つです。

• 重要な内容は人が確かめる工程を入れる
• 社内の資料や検索とつないで根拠を持たせる
• 出典を表示できる機能を活用する
• 向かない使い方を社員に教える

重要な内容は人が確かめる工程を入れる

Anthropicの公式ドキュメントは、紹介した手法でハルシネーションを大きく減らせても完全にはなくせないと述べ、重要な情報は必ず検証するよう求めています。AIの出力を下書きとして扱い、人が確かめてから使う流れを業務の手順に入れてください。

特に、数字・固有名詞・日付・法令や規程に関わる内容は、確認の対象として明記しておくと漏れを防げます。

社内の資料や検索とつないで根拠を持たせる

AIに社内の文書やデータを参照させて回答させる仕組みを使うと、根拠のある回答を得やすくなります。パナソニック コネクトは、2024年から文書や図面・仕様書などと生成AIをつなぐ取り組みを広げていると発表しています。

適切なグラウンディングでハルシネーションのリスクを抑えられる点は、Google Cloudの解説にも書かれた内容です。

AI活用事例を業務別に紹介！企業の成果と自社で始める手順を解説

出典を表示できる機能を活用する

AIのサービスには、回答のもとになった情報源を表示できるものがあります。Googleの公式ヘルプによると、Geminiアプリでは回答の下や回答内にソースのボタンが表示され、関連するリンクを確かめられます。

ただし、すべての回答に情報源が付くわけではありません。情報源が示されない回答は、自分で裏付けを取る必要があります。

向かない使い方を社員に教える

横須賀市の実証では、検索の用途での利用が課題に挙がりました。AIは文章の下書きや要約が得意で、最新の事実を調べる用途には向かないことを、社員に具体例で伝えておきます。

社内ルールに、AIの回答を確かめずに社外へ出さないことを明記し、研修で繰り返し伝えましょう。

生成AIの社内ルールの作り方を徹底解説！盛り込む項目とひな形も紹介

AIのハルシネーションのよくある質問

ハルシネーションについてよく出る疑問への回答は以下の4つです。

• ハルシネーションが起こる確率はどれくらいですか？
• ハルシネーションをゼロにできますか？
• GeminiやChatGPTでも起こりますか？
• AIに聞かないほうがよいことはありますか？

ハルシネーションが起こる確率はどれくらいですか？

決まった確率はありません。使うモデル・質問の内容・資料を渡しているかどうかで大きく変わります。

横須賀市の実証では、6%程度の職員が概ね不適切な回答が返ってくると答えましたが、これは特定の時期と使い方での結果です。自社の業務で試して、どんな質問で誤りが出やすいかを把握することが役立ちます。

ハルシネーションをゼロにできますか？

現時点ではできません。Anthropicの公式ドキュメントは、対策の手法を使っても完全にはなくせないと明記しています。研究論文も、最先端のモデルでハルシネーションが残り続けていると述べています。

なくすことを目指すより、起こる前提で確認の手順を整えるほうが現実的です。

GeminiやChatGPTでも起こりますか？

起こります。ハルシネーションは特定のサービスだけの問題ではなく、言語モデルの仕組みに由来する現象です。

どのサービスを使う場合も、根拠になる資料を渡すことと、重要な内容を人が確かめることが対策になります。

AIに聞かないほうがよいことはありますか？

確かめる手段がない事実を、AIの回答だけで判断する使い方は避けましょう。医療・法律・お金に関わる重要な判断や最新の出来事・正確な数字が必要な内容は、元の資料や専門家で確かめる必要があります。

一方で、文章の下書き・要約・アイデア出しのように、人が結果を確かめやすい作業はAIに向いています。

AIのハルシネーションは起こる前提で確認の手順を整えましょう

AIのハルシネーションは、事実と異なる内容をもっともらしく出力する現象です。次に続く言葉を予測する仕組み・学習データの誤り・推測が評価されやすい学習と評価の方法が原因で、最新のAIでも完全にはなくせません。

分からないときは分からないと答えてよいと伝え、根拠になる資料を渡し、主張ごとに根拠を示させると誤りを減らせます。あわせて、数字や固有名詞などの重要な内容は人が確かめる手順を、今日の業務から取り入れてみましょう。