ハルシネーション（Hallucination）

なぜ「幻覚」と呼ばれるのか

人間の幻覚が実在しないものを知覚する現象であるように、AI のハルシネーションも「存在しない事実」を生成する。ただし人間の幻覚とは本質的に異なり、LLM は「事実かどうか」を判断する機構を持たない。次に来る確率の高いトークンを連鎖的に生成しているだけであり、その結果がたまたま事実と一致することもあれば、まったくの創作になることもある。

典型的なパターン

ハルシネーションにはいくつかの類型がある。存在しない論文の引用（架空の著者名と DOI を生成する）、実在する人物への虚偽の経歴付与、もっともらしい数値データの捏造などが代表的だ。

厄介なのは、ハルシネーションの出力が文法的に正しく、文脈にも自然に溶け込む点にある。明らかな誤りなら気づきやすいが、「9 割正しくて 1 割だけ嘘」というパターンが検出を難しくしている。

対策アプローチ

現時点で有力な対策は RAG（Retrieval-Augmented Generation）の導入だ。モデルが回答を生成する前に外部のナレッジベースから関連情報を検索し、その情報に基づいて回答させることで、事実に即した出力の確率を高める。

もう一つの方向性が HITL（Human-in-the-Loop）の組み込みである。AI の出力を人間がレビューするフローを設計することで、ハルシネーションが最終成果物に混入するリスクを下げる。医療や法務など、誤情報のコストが高い領域ではこの組み合わせが事実上の標準になりつつある。