ハルシネーション
ハルシネーションとは。生成AIがもっともらしい誤りを出す原因と対策
ハルシネーション（hallucination）とは、生成AIが事実と異なる内容や、根拠のない内容を、正しい情報のように自信を持って出力する現象です。英語で「幻覚」を意味します。原因、種類、実際の例、業務で防ぐための対策を整理します。
更新日：執筆・運営：Klang AI AB
ハルシネーションはなぜ起きるのか：主な原因
LLMは事実を検索して答えているのではなく、学習した傾向から「次に来るもっともらしい言葉」を予測して文章を作ります。この仕組みが、次のような原因と結びついて誤りを生みます。
知らないことでも答えを作る
学習データにほとんど出てこない事実（ある人の誕生日など）を聞かれても、LLMは「分からない」と答えるより、もっともらしい答えを作りがちです。
推測が有利になる評価のしかた
多くの評価では、正解なら得点、「分からない」は0点です。この採点では当て推量のほうが得点が高くなるため、モデルは推測して答えるように調整されやすいと指摘されています。
学習データの誤りと古さ
学習に使った文章の誤りや、学習した時点より後の変化は、そのまま回答に反映されます。
入力にない情報を求められる
渡した資料に答えがない質問をすると、資料の外の一般的な知識や推測で穴を埋めます。
あいまいな指示
「いい感じにまとめて」のように目的や範囲がはっきりしない指示では、AIが補う部分が増え、誤りが入り込みやすくなります。
長い入力と複数の話題
長い資料や話題が多い資料では、離れた箇所の情報を取り違えたり、途中の内容を見落としたりすることがあります。
ハルシネーションの種類：2つの分け方
研究では、ハルシネーションを「入力された資料との関係」で2つに分けるのが一般的です。業務で確認の手順を考えるときにも役立つ分け方です。
資料を渡さずに質問する使い方では、出力が世の中の事実と合っているかどうか（事実性）が問題になります。存在しない論文、判例、URL、統計の数字を作ってしまうのがこの例です。2023年には米国で、ChatGPTが作った実在しない判例を弁護士が裁判所への書面に引用し、同年6月に制裁を受けた事件（Mata v. Avianca）が広く報じられました。
| 種類 | 内容 | 例 | 確かめ方 |
|---|---|---|---|
| 内在的（intrinsic） | 入力された資料と矛盾する内容を出力する | 会議で「見送り」と決めたのに「実施が決まった」と要約する | 資料の該当箇所と照らし合わせる |
| 外在的（extrinsic） | 入力された資料からは確かめられない内容を付け足す | 会議で話していない理由や数字を書き足す | 資料に根拠があるかを探し、なければ削る |
ハルシネーションの実例：会議の記録に質問したときの3つの誤り
2回の会議の文字起こしをAIに渡し、倉庫の移転先について質問した例です。回答の3つの文すべてに、性質の違う誤りが含まれています。
元の発言（文字起こし）
9月4日の会議・鈴木
物流倉庫の移転先は、川口と草加の2案で比較しています。
9月4日の会議・高橋
草加のほうが賃料は月30万円ほど安いです。
9月25日の会議・鈴木
移転先は川口に決めます。草加は搬入口が狭く、大型車が入れないためです。
質問：「倉庫の移転先はどこに決まった？理由も教えて」
AIの回答と、3つの誤り
1移転先は草加に決まりました。
入力と矛盾する誤り
9月4日の比較の段階の発言を拾い、9月25日の決定を見落としています。
2賃料の差は年間360万円です。
入力から確かめられない誤り
「月30万円ほど」を12倍した推測で、会議では年額は話されていません。「ほど」という幅も消えています。
3決め手は高橋さんが示した交通の便でした。
入力から確かめられない誤り
理由（搬入口）も発言者（鈴木さん）も違います。もっともらしい理由が作られています。
3つの誤りに共通するのは、どれも文章としては自然で、会議に出ていない人には見抜けない点です。正しい回答は「9月25日の会議で川口に決まった。理由は草加の搬入口が狭く大型車が入れないため（鈴木さんの発言）」です。この例のように、日付の違う複数の会議をまたぐ質問、数字の計算、理由を尋ねる質問は、誤りが起きやすい典型です。
ハルシネーションの対策は？業務で使える6つの方法
対策は「起きにくくする」ものと「起きても見つける」ものの2種類があり、両方を組み合わせます。
RAGを使っても、検索で正しい資料が見つからなければ誤った回答になります。どの対策も誤りをゼロにするものではないため、出力をそのまま使わず、根拠に戻って確かめる工程を残すことが最も確実な対策です。
| 対策 | 何をするか | 効果 |
|---|---|---|
| 資料を渡して答えさせる（RAG） | 社内の文書や記録を検索し、該当箇所を渡して回答させる | 入力にない事実を作る余地が減る |
| 根拠の提示・引用を求める | 回答の文ごとに、根拠になった資料の箇所を示させる | 確認の手間が減り、根拠のない文が見つかりやすい |
| 「分からない」を許す指示 | 「資料にないことは書かず、不明と書く」と指示する | 推測で穴を埋めることが減る |
| 質問の範囲を絞る | 期間、会議、相手を指定し、1回に1つのことを聞く | 古い情報や別の話題との取り違えが減る |
| 数字と固有名詞を照合する | 金額・日付・人名・社名だけを拾い、元の資料と比べる | 影響の大きい誤りを短時間で見つけられる |
| 人が確認する工程を決める | 社外に出す前に誰が何を確かめるかを決める | 誤りが外に出るのを防ぐ |
AI議事録でのハルシネーションはどう確かめるか
会議の要約や議事録では、決定事項の取り違え、担当者の取り違え、話していない理由の付け足しが起きやすい誤りです。会議の記録に特有の起きやすい型と、共有前に15分で確かめる手順は、AI議事録の精度のガイドで具体的に扱っています。
Klangで回答の根拠を確かめるには
KlangのAIチャットは、会議の記録を参照して回答し、回答から根拠になった発言に戻って確かめられます。文字起こしの文をクリックすると元の音声を再生できるため、要約の数字や決定事項を録音そのもので確認できます。
聞き取りにくかった箇所は確認用にハイライトされます。Klangはお客様の会話データをAIモデルの学習に利用しません。
AIの回答から、元の発言と音声へ戻れる
Klangは会議を文字起こしし、要約・決定事項・タスクを作成します。AIチャットの回答は根拠の発言に戻って確かめられるので、もっともらしい誤りを共有前に見つけられます。
- 回答から根拠の発言に戻れます。
- 文をクリックして元の音声を再生できます。
- お客様の会話データをAIモデルの学習に利用しません。
よくある質問
ハルシネーションとは何ですか。
ハルシネーションとは、生成AIが事実と異なる内容や根拠のない内容を、正しい情報のようにもっともらしく出力する現象です。英語で「幻覚」を意味し、ChatGPTなどの大規模言語モデルで起きます。
ハルシネーションはなぜ起きるのですか。
大規模言語モデルが、事実を調べるのではなく、学習した傾向から確からしい言葉を予測して文章を作るためです。知らないことでも答えを作ってしまう性質や、推測が有利になる評価のしかた、あいまいな指示などが重なって起きます。
ハルシネーションを完全に防ぐ方法はありますか。
2026年10月時点で、完全に防ぐ方法はありません。資料を渡して答えさせる、根拠の引用を求める、「分からない」を許す指示を入れるといった対策で減らし、重要な内容は人が根拠に戻って確かめます。
RAGを使えばハルシネーションはなくなりますか。
なくなりはしませんが、減らす効果があります。検索で正しい資料が見つからない場合や、見つけた資料を誤って解釈した場合には、誤った回答が出ます。
ハルシネーションの具体例を教えてください。
存在しない論文や判例を引用する、会議で話していない理由や数字を付け足す、比較の段階の発言を決定事項として要約する、といった例があります。どれも文章が自然なため、元の資料を見ないと気づきにくいのが特徴です。