AIに調べ物を頼んだら、自信満々に事実と違う答えが返ってきて、あとで冷や汗をかいたことがあります。
存在しない関数を「これで動きます」と提示されたり、もっともらしい書名と著者名の“出典”をまるごとでっち上げられたりもしました。
この「もっともらしいのに間違っている」出力が、いわゆるハルシネーションです。
この記事では、ハルシネーションがなぜ起きるのかを仕組みから整理し、実務で減らすための対策までをまとめます。
ハルシネーションとは何か
ハルシネーション（hallucination＝幻覚）とは、AIが事実に基づかない情報を、いかにも正しそうな体裁で出力してしまう現象です。
厄介なのは、口ごもらずに堂々と答えてくる点にあります。
よく見かけるのは、次の三つのパターンです。
- 事実の誤り：日付や数値、人物などを取り違える
- でっち上げの出典：実在しない論文名やURL、書誌情報を生成する
- 存在しないAPIや関数：それらしい名前のメソッドを、標準機能のように提示する
どれにも共通するのは、文章として自然で、ぱっと見では嘘だと気づけないことです。
なぜ起きるのか
次のトークンを「それらしく」選んでいるだけ
大規模言語モデル（LLM）は、直前までの文脈から「次に来る確率が高い単語（トークン）」を選び続けて文章を作ります。
ここで最大化しているのは“もっともらしさ”であって、“事実かどうか”ではありません。
モデルの内部に真偽を照合する装置は無く、あるのは学習データから得た統計的なパターンだけです。
だから、それらしい流れさえできあがれば、中身が正しいかどうかとは無関係に、文章は成立してしまうのです。
学習の過程で事実が「平均化」されて欠ける
LLMは膨大なテキストを、重みという形に圧縮して覚えます。
この圧縮の過程で、細かな固有名詞や数値は平均化され、別の情報と混ざって輪郭がぼやけていくのです。
すると、はっきり覚えていない部分を、モデルは“それらしく”埋めにいこうとします。
でっち上げの出典が生まれるのも、これが理由です。
モデルは「論文には著者・雑誌・年が付くものだ」という型だけは知っているので、中身が空でも形式だけは整えてしまいます。
「わからない」より「言い切る」が得をする訓練
2025年9月に OpenAI が公開した論文「Why Language Models Hallucinate」は、別の角度からこの問題を説明しているのです。
要点は、モデルの学習や評価が「わからない」と認めることより「とりあえず答える」ことを優遇してきた、という指摘です。
多くのベンチマークは、正解には加点する一方で、「わかりません」には点を与えません。
これは、減点のない試験で空欄にするより、当てずっぽうでも埋めた方が得になる状況によく似ています。
自信を持って言い切るモデルほど評価では有利になり、結果としてハルシネーションが後押しされてしまう、という見立てです。
どう減らすか
ハルシネーションは仕組みに根ざしているので、完全にゼロにはできません。
それでも、起こりにくくする実務的な手当てはいくつもあります。
外部の情報に「地に足を付けさせる」
いちばん効果が大きいのは、RAG（検索拡張生成）。
回答を作る前に、信頼できる資料やデータベースを検索させ、その中身を根拠にして答えさせる方法です。
うろ覚えの記憶ではなく、目の前の資料を読ませることで、でたらめは大きく減ります。
ただし、引いてきた資料が曖昧だったり足りなかったりすると、それでも間違えるので、万能ではありません。
プロンプトで「わからない」を許可する
指示の段階で「確信が持てないときは答えず、わからないと述べてほしい」と伝えておくのも有効です。
私は事実確認が要る用途では、根拠の提示と、不明なときの“降参”を、はっきり頼むようにしています。
次の質問には、確実な根拠がある場合だけ答えてください。
根拠を示せないときは「わからない」と述べ、推測で埋めないでください。
回答の末尾には、参照した情報源を必ず挙げてください。こう頼んでおくと、少なくとも“それらしい断定”は目に見えて減ります。
出力を鵜呑みにしない
最終的な安全網は、やはり人の目による確認。
とくに出典・数値・コードのAPI名は、そのまま信じずに一次情報で裏を取るのが確実です。
事実重視のタスクでは、温度（temperature）を下げて出力のブレを抑えるのも役に立ちます。
AIが書いたコードをそのまま本番へ流せない理由の一つも、この“それらしい嘘”にあるのです。
最後に
ハルシネーションは、LLMが「事実」ではなく「もっともらしさ」を最大化する仕組みの、避けがたい副作用です。
だからこそ、消し去ろうとするより、起こる前提で織り込み、根拠で裏を取る運用に切り替えるのが現実的だと考えています。
AIを疑うためではなく、安心して使い倒すために、この仕組みは知っておいて損はないでしょう。
以上です。
コメントを残す