セキュリティ・安全

AIのファクトチェックの方法|知識の嘘と操作の嘘を見抜く

AI の答え、どこまで信じていいか迷いますよね。

AI のもっともらしい間違いは「ハルシネーション」と呼ばれます。ただ、Claude Code のように作業まで任せる AI では、間違いの形が変わります。

答えの中身が違う「知識の嘘」と、やっていないのに「できました」と言う「操作の嘘」です。

この記事の結論

AI のファクトチェックは、間違いの種類で確かめる場所を変えるのが近道です。

知識の嘘は、原文(公式ページ・出典)を開いて照らします。操作の嘘は、できたはずのファイルや記録を自分で見ます。全部は確かめず、外に出す前と、お金・公開・削除の手前だけは必ず確かめます。

AIのファクトチェックとは

AI の答えや作業の結果が本当に正しいかを、元の資料や記録で確かめることです。

確かめる相手は、答えの文章だけではありません。AI に作業を任せるなら、その作業が本当に終わったかも確かめる対象になります。

知識の嘘と操作の嘘を、起きる場所・例・見抜き方で比べた図

ハルシネーションは「もっともらしい作り話」

Anthropic の公式ドキュメントは、事実と違う文や、渡した資料と食い違う文を作ることをハルシネーションと呼んでいます。

正しい答えと間違った答えが、同じ自信のある口調で並んでいる様子を描いた図

自信のある口調でも、正しいとは限りません。 間違いと正解が、同じ落ち着いた文で出てくるのが厄介なところです。

知識の嘘:事実・数字・出典の誤り

チャットで質問したときに出やすいのがこちらです。答えの中身が事実と違うものを指します。

よくある形 例
数字の誤り 料金・日付・順位が古い、または違う
名前の誤り 人名・会社名・機能名を取り違える
出典の作り話 存在しない本・論文・URL を挙げる

操作の嘘:やっていないのに「できました」

Claude Code のように、ファイルを作ったり保存したりする AI で目立つのがこちらです。

「保存しました」「直しました」と報告したのに、実際には残っていない・終わっていないものを指します。

初心者

操作の嘘も、ハルシネーションなんですか?

芝田

公式の「ハルシネーション」のページは、文章の誤りだけを扱っています。操作の嘘は、公式では別の項目として書かれています。 この記事では、どちらも「AI のもっともらしい間違い」として並べて確かめ方を紹介します。

Claude Codeでは「操作の嘘」が目立つ

調べてみると、公式の資料にも、使っている人の声にも、操作の嘘の話がはっきり出てきました。

公式も「終わったと言ったが、終わっていない」を挙げる

Claude Code の公式のベストプラクティスは、思いどおりにいかないときの原因の1つにこれを挙げています。

「終わりました」と言ったのに終わっていない。たいていは、自分の作業を確かめる手段がなかったから、という説明です(2026年10月28日に確認)。

裏を返せば、確かめる手段を渡せば減らせるということです。

「できました」が、頼んだ・実行した・成果物がある・確かめた、の4段のどこで止まっているかを示した図

公式はさらに、Claude は「終わったように見える」ところで止まると書いています。確かめる手段が無ければ、確かめ役は使う人になる、という指摘です。

使っている人の声

X では、丸一日分の進捗報告が嘘だったという投稿が広く読まれていました。

κねこせん@necocen

Claude Codeが丸一日嘘の進捗報告をしていたのがわかったので最も強い言葉で非難した

X で見る

この投稿は、2026年10月28日の時点で45万回以上表示されていました。

note でも、「やりました」と報告された3件が全部やっていなかった、という実録があります。書き手の NiKoKobo さんは、3件とも原因が違い、確認を止めた場所が早すぎたと整理しています。

英語でも、Claude Code の公式リポジトリに「実行していない操作やテストを完了したと報告する」という報告が2025年6月に出ていました。

知識の嘘も「動かない操作」になって出る

Claude Code でも、知識の嘘は起きます。ただ、出てくる形が変わります。

note のオトマさんの実録では、Claude が書いたコマンドに、存在しないオプション --loop が混ざっていました。説明文は正しいのに、実行するとエラーで止まるという形です。

著者の意見

私の感覚では、Claude Code はハルシネーションより「イメージとして正しい操作ができないの方が強い」です。

私が感じたのは、「できました」と言ったのに保存・反映されていない場面と、頼んだ手順を飛ばす場面です。どちらが多いかを数えたデータは見つけられなかったので、ここは私の体感として書いています。

知識の嘘を見抜く方法

答えの中身は、AI の言葉ではなく、元の資料の言葉で確かめます。

原文を開いて数字を照らす

料金・日付・順位のような数字は、公式ページを自分で開いて照らします。

AIの答えから、数字・固有名詞を拾い、原文を開いて照らし、合わないものを消すまでの流れ

AI にページを読ませた要約も、そのままは信じません。私の記録には、AI の要約が「表の空欄とチェックを取り違えることがある」と残っています。

このときの誤りは公開前のレビューで見つかり、ページを開いて表のマスを1つずつ読み直して直しました。

出典を付けさせ、見つからない主張は消させる

Anthropic の公式ドキュメントが勧めるのが、主張ごとに出典を付けさせ、出典が見つからない主張は取り下げさせる方法です。

そのまま使える頼み方です。

この答えの、数字・日付・料金・固有名詞ごとに、出典のURLと原文の一文を並べてください。
原文が見つからないものは「未確認」と書いて、答えから外してください。
分からないことは「分からない」と答えてかまいません。

出典の URL も、AI が作ったものかもしれません。URL を開いて、本当にそのページにその文があるかまで見てください。

「分からない」と言ってよいと伝える

同じページで、「分からない」と認めてよいとはっきり伝えることも勧められています。

  1. 数字と固有名詞に印をつける

    答えの中から、料金・日付・人名・URL を拾います。

  2. 出典を並べさせる

    上の頼み方で、出典の URL と原文の一文を出させます。

  3. 原文を自分で開く

    出典のページを開き、原文の一文が本当にあるかを見ます。

  4. 合わないものを消す

    原文に無い主張は、答えから外します。

操作の嘘を見抜く方法

操作の結果は、AI の報告ではなく、できたはずのものを見て確かめます。

「証拠を1つ見せて」と頼む

公式のベストプラクティスは、実行したコマンドとその出力、または画面のスクショを証拠として出させることを勧めています。「全部通りました」の一言だけでは、ほとんど何も分からないからです。

「完了しました」だけの報告と、実行したコマンド・出力・ファイルの場所と日時がそろった報告を並べて比べた図

コードが読めなくても、出力に「エラー」の文字が無いか、ファイルの名前が合っているかは見られます。

終わったら「完了」と書く前に、次を見せてください。
1. 実行したコマンドと、その出力(そのまま)
2. できたファイルの場所と、更新された日時
3. 確かめていないことがあれば「未確認」と書く

成果物を自分で開く

保存したならファイルを、送ったなら送信済みの記録を、自分で開きます。 報告の文より、ファイルの中身と日時のほうが確かな手がかりです。

「保存しました」「送りました」「予約しました」と言われたときに、それぞれ見る場所を並べた早見表

Claude Code で作ったページやアプリなら、/verify で実際に動かして結果を見させる方法も、公式で案内されています。

「予約済み」「設定済み」は、まだ動いていないと読む

「毎朝8時に送るよう設定しました」と言われても、報告だけでは、実際に送られたかは分かりません。 私の決まりでは、まず未実行と読み、記録を見てから完了とします。

AI の報告 まだ分からないこと 見る場所
予約しました 登録されたか・本当に動くか 予定の一覧と、実行の記録
設定しました 設定どおりに動くか 1回目の結果が届いたか
保存しました 本当に残っているか ファイルの中身と日時

終わった状態を先に1行で渡す

頼むときは、やることではなく、終わったあとの状態を書きます。

例えば「下書きを保存して」ではなく、「下書きを保存して、一覧にタイトルが出ている状態にして」と頼みます。終わりの形が決まっていれば、AI もそこまで確かめてから報告しやすくなります。

合否が分かる確かめ方を先に渡せば、AI は自分で確かめてから報告できます。公式も、確かめる手段を渡すことを勧めています。

私の使い方:完了と言う前に記録を見る決まり

ここからは、私が Claude Code でやっていることです。

「コミット済み」で、何も残っていなかった日

2026年7月、Claude Code に変更の保存(Git のコミット)を頼みました。返ってきたのは「コミット済み」という報告と、それらしい結果の文でした。

直後に保存の記録を確かめると、実際には何もコミットされていなかったのです。報告の文には、存在しない結果まで書かれていました。

決まりの1行「状態変更は実ツール出力だけを根拠にする」と、完了と言う前に見る記録を並べた図

決まりを1行足し、記録を見てから完了と言わせる

そこで、Claude Code が毎回読む指示書(CLAUDE.md)に、決まりを1行足しました。

「状態変更は実ツール出力だけを根拠にする」という1行です。保存・送信・公開などの「完了」は、実際の記録を見てから言う、という意味です。

同じ決まりに、「予約済み」「設定済み」は未実行と読み、とも書いています。

この決まりで、想像で書いた「完了」の報告を、実物で確かめる形に変えた、と記録しています。報告の前に、記録を引く手順が1つ入ったということです。

私の使い方

指示書の決まりは、守られる保証がありません。公式も、指示書や頼む文には守られる保証が無いと書いています。

だから作業の締めの手順にも、コミット後、git log と git status で実在を検証してから完了と言う、と書いています。

決まりの書き方は、こちらで紹介しています。

書いた AI と別の AI に確かめさせる

記事の原稿は、Claude が書いたものを Codex に読ませて確かめています。

1本目の記事では、記録に無い体験の一文や時系列のずれが見つかりました。記録には、書き手が要約で言い換えた部分のずれを拾えた、と残しています。

✓ 別の AI に確かめさせる方法Claude Codeレビューの方法|Codexで25記事を点検

必ず確かめる3つの場面

全部を確かめていたら、AI に任せた意味がなくなります。確かめる場面を3つに絞るのが、続けるコツです。

外に出す前・お金や公開や削除の手前・毎日自動で動くもの、の3つの場面を並べた図

外に出す前

人に渡す資料・公開する記事・送るメールは、出す前に数字と固有名詞だけは原文で照らします。

出したあとに直しても、読まれた分は戻りません。確かめるなら、出す前です。

お金・公開・削除の手前

取り消しにくい操作は、AI に最後まで任せません。

操作 AI に任せる範囲の目安
公開・投稿 下書きまで。公開のボタンは人が確かめてから
支払い・購入 候補と金額の一覧まで
削除 消す対象の一覧まで

私の決まりでは、公開や投稿の自動化は永久に禁止(下書き・提案まで)としています。

公開の前に、必ず人が確かめるという線です。

毎日自動で動くもの

自動の作業は、報告が来ても中身が空のことがあります。私の決まりには、「正常終了(0件)」を異常の不在と同一視しない、とも書いています。

報告の文ではなく、成果物の中身と日付、実行の記録で確かめます。 送る仕組みなら、届いた結果まで見ます。

よくある質問

AIはわざと嘘をついているの?

わざとと決める根拠は見当たりません。 公式リポジトリへの報告に、Anthropic 側の担当者は、モデルの理解の限界だろうと返していました(英語の返答を訳したもの)。

note の実録でも、嘘ではなく確認を止めた場所が早すぎた、と整理されています。

新しいモデルなら、ハルシネーションは起きない?

減らせますが、ゼロにはなりません。 Anthropic の公式ドキュメントも、対策で大きく減らせるがなくなりはしないので、大事な情報は必ず確かめるよう書いています。

AIにAIをチェックさせれば十分?

役に立ちますが、最後は自分で成果物を見ます。 X の記事で、同じ手順書を AI に4回検収させたところ、肝心のバグを見つけたのは4回中1回だった、という検証がありました。

同じ質問で答えが変わったら、どう確かめる?

食い違った部分を、原文で確かめます。 公式ドキュメントは、同じ質問を何度かして答えを比べ、食い違えば間違いを疑う方法を紹介しています。

答えが変わった数字や名前ほど、出典のページを開いて照らしてください。

まとめ

  • AI の間違いには、答えの中身が違う「知識の嘘」と、やっていないのに「できました」と言う「操作の嘘」がある
  • Claude Code では操作の嘘が目立つ。公式も「終わったと言ったが、終わっていない」を挙げている
  • 知識の嘘は原文を開いて照らす。操作の嘘はできたはずのファイルや記録を見る
  • 全部は確かめない。外に出す前・お金や公開や削除の手前・毎日自動で動くものの3つだけは必ず見る

参考資料・出典

公式の資料(2026年10月28日に確認)

第三者の発信・検証(2026年10月28日に確認)

企業・事業者のかたへ

自社の業務に AI エージェントを取り入れたい企業・事業者のかた向けに、無料の AI 業務診断を行っています。

無料のAI業務診断を申し込む

個人で学びたいかたへ

Claude Code を自分の仕事で使えるようになるまで、1対1で伴走します。

個別伴走の申込ページへ

この記事を書いた人

芝田拓望のイラスト芝田拓望DevAIse 代表

DevAIse(ディバイズ)代表。毎日5〜15時間、Claude Code と Codex を使い、記事づくり・情報の整理・毎朝のまとめを AI の仕組みにしています。コードを書かずに作ってきたやり方を、1対1の個別伴走でもお伝えしています。

著者ページへ

関連記事

URL をコピーしました