ハルシネーション

📖 もうちょい詳しく

何が新しいの？

ハルシネーション（幻覚）は、AIが事実と違う内容を、もっともらしい文章で言い切ってしまう現象です。
ChatGPTのような対話型AIが広まり、文章はとても自然なのに中身が間違っている、というズレが目立つようになりました。存在しない本のタイトル、間違った日付、ありもしない製品仕様などを、自信たっぷりに答えてしまうことがあります。AIを使ううえで最初に知っておきたい「クセ」です。

どうやって動いてるの？

中身で動くLLM（大規模言語モデル）は、文脈に「続きそうな言葉」を確率で選んで文章を作ります。正しさを照合するしくみではなく「自然さ」を頼りに進むので、手元に正しい根拠がなくても、それらしい文章ができあがってしまいます。
つまり、嘘をついているというより「知らないとは言えず、それっぽく埋めてしまう」のが正体に近いです。検索やRAG（外部資料を見せて答えさせる手法）で根拠を渡すと減らせますが、ゼロにはできません。

何ができるの？

ハルシネーションを「起こりうるリスク」として理解しておくと、AIの使い方が一段うまくなります。
具体的には、重要な情報は出典を確かめる、最新情報は公式ページで裏取りする、数字は自分で再計算する、といった運用につながります。「疑いすぎず、信じすぎず」の距離感が、AIと長く付き合うコツです。

🌱 身近なたとえ

会話で例えると、ハルシネーションは「よく知らない話題を、知っているかのように語ってしまう」状態に似ています。
口調は終始自信ありげでも、よく確かめると駅名も店名も日付も少しずつ違っている、という状態です。その情報をうのみにして予約や手配をすると、あとで食い違いに気づくことになります。
語り口の自信は、内容の正しさを保証しません。流暢さに引きずられないことが大切です。

✅ まず覚えるポイント

• ハルシネーションは、AIが事実と違うことを自然な文章で言い切る現象
• 嘘をつく意図ではなく、「自然な続き」を優先する仕組み上のクセ
• 語り口が自信満々でも、内容が正しいとは限らない
• 日付・価格・固有名詞・数字・法律・医療などは特に要注意
• RAGや検索で減らせるが、完全にはなくせない

🧭 よくある勘違い

AIがわざと嘘をついているの？

悪意ではありません。LLMには「ウソをつこう」という意図はなく、根拠がなくても自然な文章を続けてしまう、という仕組み上の性質です。
「知らない」と答える代わりに、それらしい続きを埋めてしまう——そう理解すると、裏取りが必要な理由が腑に落ちます。

プロンプトを工夫すれば完全に防げるの？

減らせますが、ゼロにはできません。「分からないときは分からないと言って」「根拠を示して」と指示すると改善はしますが、それでも紛れ込むことがあります。
プロンプト改善・RAG・人間の確認、この3つを重ねて「事故率を下げる」のが現実的な考え方です。

高性能なモデルなら起きないの？

性能が上がると頻度は下がる傾向がありますが、なくなりはしません。賢いモデルほど文章の「もっともらしさ」も上がるため、かえって間違いを見抜きにくいことがあります。
モデルの賢さに関係なく、重要な判断では裏取りする習慣を持っておくのが安全です。

🧩 関連して覚えると楽な言葉

• LLM: 「自然な続き」を優先する仕組みが、ハルシネーションの背景にある
• RAG: 外部資料を見せて答えさせ、間違いを減らす代表的な対策
• プロンプト: 「分からなければそう言って」と書くと、軽減に役立つ
• コンテキストウィンドウ: 一度に読める量を超えると根拠が抜け落ち、間違いやすくなる

🏁 ひとことでまとめ

ハルシネーションは、AIが知らないことまでもっともらしく語ってしまう「自信満々の間違い」です。
仕組み上ゼロにはできないので、大事な場面ではAIの答えを根拠つきで確認する——この一手間が、AIを安全に使いこなす分かれ目になります。