ハルシネーション（AIの幻覚）とは？

理由は、大きく3つあります。「知らないことが、どうしても出てくる」「AIの中のしくみ」「テストの採点のしかた」です。1つめ。英単語のつづりのように、何度も出てくる決まりは覚えられます。でも、有名でない人の誕生日は、学ぶ文章に1回しか出てこないこともあり、ほかの事実から当てることもできません。

2つめ。Claude というAIを作っている会社 Anthropic が2025年、自分たちのAIの中を調べると、ふだんは、答えるのを止めるブレーキがかかっていました（仕上げの訓練で身につけたものです）。だから、まったく知らない名前の人のことを聞かれると、「答えるための情報が無い」と言います。よく知っている名前が出ると、AIの中に「この名前は知っている」という合図が出て、それがブレーキを外すので、答えます。ところが、名前に見覚えだけあって中身を知らないときにも、この合図がまちがって出てブレーキが外れ、もっともらしい作り話を始めることがある、と Anthropic は説明しています。

3つめ。AIは、正解だけに点をあげるテストで良い点を取るように仕上げられるので、当てずっぽうのクセが残る、というのが、1分で解説で紹介した論文の考えです。OpenAI が2025年に発表した、短い事実を答える問題集「SimpleQA」の結果（Web検索なし）では、「分かりません」をよく言うAIは、正解22%・まちがい26%・答えを控えた52%でした。ほとんど言わないAIは、正解24%・まちがい75%・控えた1%で、正解はほぼ同じなのに、まちがいは3倍近くでした。正解の割合だけで順位をつけると、まちがいの多いAIのほうが上になってしまいます。

OpenAI の ChatGPT の説明ページは、ハルシネーションの例として、言葉の意味・日付・事実のまちがい、無い研究や、言っていない言葉の引用を作ること、あいまいな質問やこみ入った質問に自信たっぷりに答えること、を挙げています。とくに、誕生日のように、決まりから当てられず、めったに書かれていない事実で起きやすくなります。

AIが学んだ後に起きた出来事も苦手です。AIの知識は学んだ時点で止まっているので、Web検索などを使わないと、その後のことは答えに入りません。昔は正しかった答えを出したり、作り話をしたりすることがあります。

渡した文章とちがうことを書くのも、ハルシネーションに入れることがあります。たとえば、資料のまとめを頼んだのに、資料に無いことが混ざる場合です。これまでの研究をまとめた論文では、本当の事実とちがうものと、頼んだことや渡した文章からずれたり、話のつじつまが合わなかったりするものの、大きく2つに分けています。

1つめ。誕生日のように答えが1つに決まる質問なら、同じ質問を何回か、別々に聞いてみます。AIが知っていることなら答えはそろいやすく、作り話なら聞くたびに食い違いやすい、という研究があります。ただし、そろっても正しい証拠にはなりません。おすすめや物語を頼むときのように、答えが毎回ちがってふつうの質問もあります。

2つめ。AIに「それ本当？」と聞き返しても、確かめたことにはなりません（下の裁判の例）。日付・数字・引用は、元の資料で確かめます。AIが「ここに書いてある」と資料を挙げたら、リンクを開いて、その資料が本当にあるか、本当にそう書いてあるかを見ます。OpenAI も Anthropic も、大事な情報は確かめるよう呼びかけています。

3つめ。頼み方を工夫します。「分からなければ、分からないと言っていい」と伝えると、まちがった情報を大きく減らせる、と Anthropic の説明書は書いています。長い資料について聞くときは、まず資料から言葉どおりに抜き出してもらい、それをもとに答えてもらうのも手です。それでも、ハルシネーションは完全にはなくならない、とも書いています。

起きています。2023年、アメリカのニューヨークの裁判で、弁護士が出した書類に、存在しない判決が、もっともらしい引用文ごと並んでいました。ChatGPT が作ったものでした。弁護士が ChatGPT に「これは本当にある判決か」と聞き返すと、ChatGPT は「実在する」と答え、法律の調べもの用のサービスで見られる、とまで言いました。

裁判所は2023年6月の命令で、弁護士たちが存在しない判決を出し、疑いを向けられた後もそれを支え続けた、として、弁護士たちと事務所に、合わせて5000ドルの支払いを命じました。命令は、信頼できるAIの道具を手助けに使うこと自体は、何も悪くないが、書類が正確かを確かめるのは弁護士の役目だ、と書いています。

まだ、なくせていません。OpenAI は、2025年の GPT-5 では、とくに考えてから答えるときにかなり減ったと発表していますが、まだ起きる、とも書いています。Web検索を使えば減らせますが、それも万能ではありません。検索で確かな答えが見つからないときも、正解だけに点をあげるテストでは、当てずっぽうが得なままだからです。

また OpenAI は、どんなにAIが賢くなっても、正解の割合は100%にはならない、と書いています。情報が無いなどの理由で、答えが決められない質問があるからです。でも、「ハルシネーションは、どうしても起きる」という考えには反対で、自信がないときに「分かりません」と答えれば、まちがいは防げる、としています。そのために、テストの採点のしかたを変えよう、と呼びかけています（会社の研究者の考えです）。

まちがいを、別のまちがいで支えてしまうことがあります。2023年の研究で、AIが「9677は素数（1とその数でしか割り切れない数）ですか」と聞かれ、本当は素数なのに「素数ではない」と答え、まちがった計算を理由として書いた例があります（「13×745＝9677」と書きましたが、13×745は9685です）。

同じAIに、その理由の部分だけを別の質問にして確かめさせると、3種類の問題で、87%のまちがいを見抜けました。別に聞かれれば分かることを、まちがえていたのです。研究者は、最初の答えとつじつまを合わせる形で起きる、と考えています。転がる雪玉が大きくなるように、1つのまちがいが次のまちがいを呼ぶので、「ハルシネーションの雪だるま」と呼んでいます。

もともと「幻覚（ハルシネーション）」は、医学や心理学の言葉で、そこに無いものが見えたり聞こえたりすることです。病気や薬のせいで起きることがあります。AIの話で出てくるハルシネーションは、これとは別の意味です。

AIの意味の「hallucinate」は、2023年、イギリスのケンブリッジ英語辞典に新しく加わり、その年の「今年の言葉」に選ばれました。辞典は「AIがハルシネーションを起こすとは、まちがった情報を作り出すこと」と説明しています。ただ、AIは何かを「見て」いるわけではなく、人の感じる幻覚とはまったくちがう、と、1分で解説で紹介した論文も書いています。英語では、作り話をするという意味の「confabulation」と呼ばれることもあります。