【ハルシネーション】AIがもっともらしい誤りを言う理由と、検索・引用・評価でどこまで減ったか

Google が10/13に一般提供を始めた Gemini 4 Argon は、知識を問う第三者の評価で、外したときに誤答を出す割合が低いモデルとして報じられました。The Batch（DeepLearning.AI）によれば、Artificial Analysis の測定で Argon は15%、OpenAI の GPT-6 Astra は51%です。The Next Web の報道では、正答率は Astra（63%）のほうが Argon（50%）より上でした。Argon は、知らないときに「分からない」と答えることが多かったということです。

AIの誤りは、法廷でも問題になり続けています。AIが作った架空の判例などを扱った裁判所の判断を集めているデータベースは、10/16時点で2,199件に達しました。この記事では、ハルシネーションがなぜ起きるのか、どう減らすのか、そしていまどこまで減ったのかを整理します。