NPB-TC-003 · STABLE

AIのハルシネーションは、単なる故障?

見出しの落とし穴流暢な誤答と、通信失敗やプログラム例外を同じ「エラー」で片づける。
AIのハルシネーションは、単なる故障?で混同しやすい二つの範囲を分けて表した図
見出しの言葉と、実際に確認すべき範囲を分けて読むための図です。

30秒で持ち帰る

ハルシネーションでは、回答が返ってきても内容が事実や与えた資料と食い違うことがあります。通信できたかの確認とは別に、内容の照合が必要です。

共有前に足す一行AIの誤答を共有するときは、生成の虚偽か、検索・連携・権限の失敗かを分ける。分からなければ「原因未確認」と添える。
一文定義
生成AIのハルシネーションは、誤った内容をもっともらしく生成・提示する現象です。
混同しない
内容の真偽の失敗/処理や通信の失敗
確認日
2026/10/24

BOUNDARY TABLE

見出しと実際の範囲を分ける

このカードで意味するもの生成AIのハルシネーションは、誤った内容をもっともらしく生成・提示する現象です。
同じものとして扱わない内容の真偽の失敗/処理や通信の失敗
共有する前に確認
  • 出力は完了したか
  • 主張を一次資料で検証できるか
  • 誤った場合の影響と承認者
3分で境界を理解する

定義、例、取り違えやすい理由、次のニュースで見る項目を順に確認します。

「AIのエラー」と一語で済ませると、直す場所まで誤ります。共有前に分けたいのは、「応答したか」「内容を根拠と照合できるか」「原因まで特定できたか」の三欄です。ミハルは、分からない原因を無理に名付けません。

先に答え:処理は成功しても、内容は失敗し得る

出力した紙と確認用の資料を見比べるミハル
出力の誤りと、その原因の特定を分けて考える場面です。

通信や処理の失敗は、停止や遅延、エラー表示などを手がかりに調べます。一方、ハルシネーションでは、誤った内容でも流暢な回答として返ってくることがあります。応答できたことを確認するだけでは、内容の正しさまで分かりません。

ハコは「応答した」と「正しかった」を別の欄に記録します。たとえば、回答がすぐ画面に表示されても、そこに書かれた日付や引用は間違っているかもしれません。

最初に見る欄 内容の誤り 処理や通信の失敗
応答 回答として完了することがある 停止、遅延、例外として現れることがある
確認 主張を一次資料と照合する エラーコードやログで発生箇所を調べる
原因 出力だけでは決めない 障害が見えても根本原因は別に確認する

この表は原因を決め打ちするためではなく、最初の切り分けです。同じ画面の裏で、生成、検索、外部連携、権限の問題が重なることもあります。

ハルシネーションと、依頼どおりの創作を分ける

存在しない文献、誤った日付、入力と矛盾する要約など形は様々です。創作では架空内容が目的に合う場合もあるため、同じ出力でも利用文脈でリスクが変わります。

架空の物語を作る依頼で架空人物を出すのは失敗ではありません。一方、実在論文の一覧で存在しない書誌情報を出せば問題です。判定には利用目的と、どの主張が検証可能であるべきかが要ります。

ここで「ハルシネーション」と呼んでいるのは、検証されるべき内容が根拠と食い違う現象です。どの段で起きたか、なぜ起きたかまでを、その名前だけで確定することはできません。

見出しで起きる取り違え

検索や外部ツールを接続しても誤りはゼロになりません。古い資料、取り違え、引用と主張の不一致もあります。出典らしいURLがあるだけでなく、資料が文を支えるか確認します。

そのため、誤った回答の画面だけを見て「モデルが作った」「検索が壊れた」と原因を選びません。まず誤っていた主張を特定し、使われた資料、入力、処理記録を順に確かめます。確認できない段階は「原因未確認」のまま残します。

モデルの大きさだけでも解消しません。「パラメータ数と性能」は設計情報であり、誤りの種類と頻度は同一条件で測ります。

AIは動いていたか、内容も確かめたか

サービスが応答できる状態を確かめる「稼働監視」と、返した内容を確かめる「内容評価」は、見る対象が違います。内容評価を組み込んだ仕組みなら、誤答を検出して記録することもできます。「誤答は監視できない」という意味ではありません。

ニュースで「監視していた」と書かれていたら、何を見ていたのかを確かめます。停止や遅延だけなのか、代表的な質問への回答を定期的に照合し、利用者から誤りの報告も受け付けていたのか。この違いで分かることが変わります。「ベンチマークと実務評価」を分けるのも同じ理由です。

次のAI誤答ニュースで、原因を言い切る前に

まず、どの主張が誤っていたのかを記事中で探します。原因の調査結果が載っていなければ、「回答の日付に誤りがあった。原因はまだ分からない」のように、分かったことまでを共有できます。

詳しく読むときは、次の五つを分けます。

  1. 処理は完了したか
  2. どの主張が誤っていたか
  3. 正しい根拠は何か
  4. 検索・ツール・人の確認はどこにあったか
  5. 同種の誤りを検知・訂正できるか

覚え方: 「回答が返った」だけでは、「正しい」とは言えない。

ミハルの共有前メモ

人へ渡すなら、この一行を足す

AIの誤答を共有するときは、生成の虚偽か、検索・連携・権限の失敗かを分ける。分からなければ「原因未確認」と添える。

SOURCE & REVIEW DATE

原典と確認日を確かめる

このカードは2026/10/24に確認しました。次回は2027/4/24を目安に見直します。

Generative AI Profile (NIST AI 600-1)NIST · 2026/10/24確認

よくある確認

ハルシネーションはシステム障害ですか?

通信の失敗や処理の停止とは区別して考えます。回答が返っていても内容は誤り得るため、応答や稼働状況だけを見て正しいとは判断できません。内容を確認する仕組みも必要です。

検索を接続すればゼロになりますか?

なりません。資料の選択、古さ、引用の取り違え、根拠が主張を支えない問題が残ります。

どう対策しますか?

重要主張を一次資料と照合し、不確実なら回答を保留し、高リスク用途では人の承認と訂正経路を設けます。

次にひらく前提

パラメータ数が多いAIほど高性能?

重みを公開したAIは、すべてオープンソース?