AIハルシネーション

研究では、言語モデルが一般的な誤解を繰り返し、確実に訂正できないことが示されています。 Evidence for this claim TruthfulQA found that language models can reproduce common human misconceptions and that larger models were not automatically more truthful on its benchmark. Scope: TruthfulQA's benchmark, model set, and 2021 results; not a current cross-model error rate. Confidence: high · Verified: 2026-07-14 Lin et al.: TruthfulQA NISTは、自信を持って提示された誤った、または誤解を招くモデルの内容を「confabulation（作話）」と呼んでいます。 Evidence for this claim NIST's Generative AI Profile identifies confabulation—the confident presentation of false or erroneous content—as a generative-AI risk. Scope: NIST risk-management terminology and guidance; not a product-specific incidence estimate. Confidence: high · Verified: 2026-07-14 NIST: Generative AI Profile

TL;DR — AIハルシネーションとは、チャットボットがもっともらしいことを言うのに、実際には間違っている状態です。作られた事実、偽のソース、存在しないページへのリンクなどが該当します。グラウンディングされていない回答では、モデルはソースを確認せず、もっともらしく聞こえる語を予測します。グラウンディング（取得したソースをモデルに与えること）は役立ちますが、完全には直りません。ウェブサイトについて注意すべきなのは、AIが作ったことのないURLへ人を誘導することと、ブランドについての事実を間違えることです。

AIハルシネーションとは

グラウンディングされていない言語モデルの回答は、各文をソースと照合するのではなく、学習したパターンから続きとしてありそうな内容を予測します。検索・取得ツールは最新の証拠を加えられますが、統合の誤りをなくすわけではありません。生成された文が自信ありげなのに誤っている場合、一般にハルシネーションと呼ばれます。

考え方としては、モデルは次に来そうな種類の文を書くのが非常に得意です。その文が真実かどうかは確認していません。ニッチな細部、最近の変更、あまり知られていないブランドなど、実際には何かを「知らない」場合でも、学習したとおり、滑らかで自信ありげな回答を書き続けます。

研究者の中には、**confabulation（作話）**という語を好む人もいます。これは、人が記憶研究で、本人は誠実に空白を誤った細部で埋めることから借りた言葉です。AIは嘘をついたり、あなたをだまそうとしたりしているわけではないため、こちらのほうが適切です。AIはもっともらしく見える続きの文章を生成し、それがたまたま間違っていたのです。

ウェブサイトに影響する2種類

1. 作られたURL。 AIが、実在しないサイト内のページを推奨します。利用者がクリックすると404に到達します。AIアシスタントはGoogleよりもはるかに頻繁にこれを行います。Ahrefs独自のデータでは、AIからのトラフィックの3,6%がサイトに存在しないページへ向かいました。
2. ブランドについての間違った事実。 AIが見込み客に、誤った創業者、古い価格、終了した製品、または競合があなたについて言ったことを、「よく分かりません」と付けずに事実として伝えます。

実際にできること

• 作られたURLをリダイレクトする。 AIが作ったことのないページへ人を送り続けるなら、その偽URLから最も近い実在ページへのリダイレクトを設定します（まずは見つける必要があります。分析で存在しないページへのトラフィックを確認してください）。
• AIがあなたについて何と言っているか確認する。 顧客が尋ねるような質問を大手AIツールに投げ、回答が正しいか確認します。モデルの更新で回答は変わるため、定期的に行ってください。
• 明確で正しい事実を公開する。 公開情報（「About」ページ、構造化データ、プロフィール）が整理され、一貫しているほど、AIは推測ではなく真実をグラウンディングしやすくなります。

意外に思うかもしれませんが、AIクローラーをブロックしても、ブランドについてのハルシネーションは直りません。 モデルがすでにあなたについて間違ったことを学習している場合、再クロールをブロックしても、それを忘れさせることはできません。監視と明確な公開情報のほうが、ブロックより効果的です。

仕組み、つまり大きなモデルほど多くハルシネーションを起こしうる理由、研究が示すこと、グラウンディングが失敗する仕組みを知りたいなら、Advancedタブに切り替えてください。

TruthfulQAは、規模だけでは、ベンチマークでテストされたモデルの真実性が高まらないことを示しました。 Evidence for this claim TruthfulQA found that language models can reproduce common human misconceptions and that larger models were not automatically more truthful on its benchmark. Scope: TruthfulQA's benchmark, model set, and 2021 results; not a current cross-model error rate. Confidence: high · Verified: 2026-07-14 Lin et al.: TruthfulQA NISTは、作話を製品固有の固定的なエラー率ではなく、測定・管理すべきリスクとして扱っています。 Evidence for this claim NIST's Generative AI Profile identifies confabulation—the confident presentation of false or erroneous content—as a generative-AI risk. Scope: NIST risk-management terminology and guidance; not a product-specific incidence estimate. Confidence: high · Verified: 2026-07-14 NIST: Generative AI Profile

TL;DR — ハルシネーションは、修正できるバグではなく、次トークン予測の特性です。モデルは真実ではなく、もっともらしい続きに最適化されるため、学習シグナルが薄いと自信を持って誤った文を生成します。グラウンディングとRAGは低減させます（ベンチマークによっては73〜86%）が、なくすことはできません。最もよくグラウンディングされたモデルでもなお約10〜15%の割合で失敗し、TruthfulQAでは、より大きいモデルほど説得力のある誤りを多く生成しうることが示されました。SEOでは測定可能です。AIはGoogleより約2,87倍多くユーザーを存在しないページへ送り、AhrefsではAIトラフィックの3,6%が存在しないページに向かい、AI検索エンジン全体の引用エラー率は60%を超えます。対策は実務的です。ハルシネーションURLをリダイレクトし、ブランドについての回答を監視し、検証可能でエンティティが明確なコンテンツを公開します。

ハルシネーションの実態

AIハルシネーションとは、自信を持って述べられているものの、事実と異なる、捏造されている、またはどのソースにも裏付けられていない出力です。より正確な技術用語は**confabulation（作話）**です。これは神経心理学から借りた語で、だます意図なしに、心から確信して誤った説明を生み出すことを意味します。この区別は重要です。モデルは嘘をついているのではありません。嘘をつくための真実の概念を持っていないのです。学習した唯一の仕事、つまり次のトークンを予測することを実行しており、最も確率の高いトークンが誤っていることがあります。

このページで最も重要な捉え方は、ハルシネーションは、事実の正確さよりももっともらしさを優先する言語モデリングに固有の副産物だということです。これは実装の失敗ではなく、LLMが設計どおりに機能することで生じます。バグを直すようには直せません。低減するのです。

なぜ起こるのか — 仕組み

LLMは次トークン予測の目的で訓練されます。つまり、ある列が与えられたとき、最も確率の高い次のトークンを予測します。これは言語補完のタスクであり、事実検索のタスクではありません。モデルは、何が真実かではなく、どの文章が「次に続きそうか」に最適化します。特定の事実についての学習シグナルが薄い場合、つまり珍しい出来事、ニッチな話題、モデルの知識カットオフ後に変わったことなどでは、統計的にありそうな言葉で空白を埋めます。列が質問のように見えると、モデルが実際に知識を持っているかにかかわらず、確信のなさを認めるよりも「回答の形をした」応答を生成する方向へ確率が大きく偏ります。

Microsoft ResearchのEce Kamarは、この点を実証的に説明しています。モデルは、学習データにあまり登場しない事実について、より多くハルシネーションを起こします。作話が潜むのはロングテールです。あなたの知られざる製品SKU、最近の名称変更、前四半期に退任した創業者など、ウェブ上で最も少なくしか表現されていない事実こそ、モデルが自信を持って間違えやすいものです。

整理しておきたい種類

• 事実ハルシネーション — 述べられた事実が単純に間違っている。
• 引用／帰属ハルシネーション — モデルが使っていないソースを引用する、引用を誤って帰属させる、著者名を捏造する、またはURLを作る。SEOで最も直接的に測定できる形です。
• エンティティ／ブランド・ハルシネーション — 名前、日付、統計、価格、会社情報を、確信を持って間違える。
• 内在的 vs. 外在的（Jiらの分類）: 内在的な出力は提供されたソースと矛盾し、外在的な出力はソースから検証できないものです。確認も反証もできない、捏造された追加情報です。

ハルシネーションの主張を正しく読む

多くのハルシネーション解説では、このページの以前の草稿も含め、5つの区別が平坦化されています。これらは、ツールや主張を評価するときに「修正済み」「グラウンディング済み」「引用済み」が実際に何を意味するかを変えるため重要です。

• 参照先を明示する。 「Hallucination」は1つの失敗モードではありません。提供されたコンテキストとの矛盾、コンテキストが確認も否定もしていない裏付けのない追加、または世界に関する単純な事実誤りを意味し得ます。この3つは互換的ではありません（Jiらの調査 が分類の出典です）。3つのうち1つを検出するよう作られたチェッカーは、他の2つをひそかに見逃します。
• 事実性は忠実性ではない。 事実性は、外部の現実世界の参照先に照らして主張を検証します。それは真実か。忠実性は、実際に提供した証拠に照らして主張を検証します。その証拠に裏付けられているか。回答は一方に合格して他方に失敗することがあります。つまり、誤ったソースを忠実に要約する場合や、提供された証拠が裏付けていない真実を述べる場合です。FActScore の原子事実手法は、長い回答を個別に確認できる主張へ分解します。単一の全体スコアでは、この分離が隠れるからです。
• 引用が存在してもグラウンディングではない。 引用の品質には実際には3つの別々の確認があります。引用が存在して解決できるか、隣接する具体的な主張を実際に含意（裏付け）しているか、そもそも引用が必要だったすべての主張を回答がカバーしているかです（GaoらのALCE研究 が使う分解）。目に見えてクリックできる脚注は最初の確認に合格しても、残り2つに失敗することがあります。これが、上記の60%超の引用エラー率の背景にある隔たりです。
• RAGの失敗には、1つのラベルではなく名前の付いた段階がある。 RAGを使った回答が間違っているとき、原因は、証拠がコーパスに存在しなかった、必要な事実が境界で分割されるようチャンク化された、存在したが取得されなかった、取得されたが生成器に届くには順位が低すぎた、または生成器に届いた後で誤用された、のいずれかです（RAGTruth のRAGエラー分類）。「AIがハルシネーションを起こした」という言葉は、5つの異なる根本原因と異なる修正方法を1つにまとめてしまいます。
• ベンチマークの割合は持ち運べない。 このページのすべての割合（73〜86%、約85〜90%、58%対94%）は、特定のタスク、データセット、参照ポリシー、判定者、プロンプトセット、コーパス、モデル、モデルバージョン、テスト日に限定されています。ベンチマーク固有の評価契約の外で「モデルXの正確さはY%」と引用しないでください。別の判定者、コーパス、モデルバージョンでは、その数値が大幅に動く可能性があります。

研究が示すこと

• **TruthfulQA（Linら、2021年）は、逆スケーリング問題を確立しました。817の敵対的な質問全体で、当時最大のモデル（GPT-3-175B）の真実性は58%**に過ぎず、**人間の基準値94%**を下回りました。重要なのは、“larger models produce more imitative falsehoods because they are better at learning the training distribution.” (翻訳) 「より大きなモデルは、学習分布を学ぶことに長けているため、より多くの模倣的な虚偽を生成する」という点です。大きいほど安全とは限りません。大きなモデルはウェブテキストに埋め込まれた一般的な誤解を再現する能力が高いため、間違いをより自信ありげに述べることがあります。これはあなたのブランドに直接関係します。あなたについての誤情報がオンラインで広まっているなら、より高性能なモデルほど、それを吸収して再現するのが得意です。
• **Jiらの調査（2022／2023年）**は、要約、対話、QA、翻訳、LLMにまたがる内在的・外在的ハルシネーションについての、標準的な学術分類です。
• **Lanhamら（2023年）**はAnthropicの研究者として、Chain-of-Thought推論が常に忠実とは限らないことを発見しました。“as models become larger and more capable, they produce less faithful reasoning on most tasks.” (翻訳) 「モデルがより大きく高性能になるほど、ほとんどのタスクで忠実性の低い推論を生成する」のです。モデルが示す逐次的な説明は、実際にどのように回答へ到達したかを必ずしも反映せず、事後的な合理化である場合があります。したがって「AIが推論を説明した」ことは、回答がグラウンディングされている証拠ではありません。
• **FACTS Grounding（Google DeepMind、2024年12月）は、グラウンディング論争の基準となる数値です。明示的なソース文書を与えられても、最良のモデルのグラウンディング率は約85〜90%**にとどまりました。残る10〜15%は、取得した内容を読み違える、誤解する、または利用できないことによるもので、何もないところから作話したものではありません。

グラウンディング（RAG）で解決するか？ いいえ、低減するだけです

多くの解説が取り違えている微妙な点です。グラウンディング、つまり通常はRAGを使って推論時にシステムが取得する文書へ回答を結び付けることは、主要な緩和策であり、効果があります。ウェブ検索へのアクセスは、グラウンディング・ベンチマークでテストされたモデル全体のハルシネーションを**73〜86%**減らしました。しかしハルシネーションをなくすわけではなく、素のLLMとは異なる形で失敗します。

• 取得した文章を誤解釈する、
• 間違った文章を選ぶ、
• 複数のソースを誤って組み合わせる、または
• 敵対的または無意味なクエリを認識できない。

GoogleのElizabeth Reidは、AI Overviewsについてまさにこの線引きを示しました。AI Overviewsは、“generally don’t ‘hallucinate’ or make things up in the ways that other LLM products might” (翻訳) 「一般に、他のLLM製品のような形でハルシネーションを起こしたり、物事を作り出したりはしない」のです。なぜなら、“built to only show information that is backed up by top web results.” (翻訳) 「上位のウェブ結果で裏付けられた情報だけを表示するよう作られている」からです。間違える場合は、彼女によれば*“usually for other reasons: misinterpreting queries, misinterpreting a nuance of language on the web, or not having a lot of great information available.”* (翻訳) 「通常は別の理由、つまりクエリの誤解釈、ウェブ上の言葉のニュアンスの誤解釈、または十分な情報がないこと」です。これは実質的な区別です。グラウンディングされたシステムは、純粋な作話よりも取得と解釈で失敗しますが、正確さを保証するものではありません。RAGを多用する法律調査ツールでさえ、最大約33%のハルシネーション率を示し、ベンダーの「ハルシネーションなし」という主張と矛盾しています。Anthropicも自社の開発者ドキュメントで、“while these techniques significantly reduce hallucinations, they don’t eliminate them entirely. Always validate critical information.” (翻訳) 「これらの手法はハルシネーションを大幅に減らしますが、完全になくすわけではありません。重要な情報は必ず検証してください」と明言しています。

SEOへの影響 — 測定でき、対処できる

URLハルシネーション。 これは最も具体的で、私が定量化したものです。Ahrefs独自のAI参照トラフィックを分析し、AhrefsのAI検索トラフィックをページタイプ別に分析した記事 で、トラフィックの3,6%がハルシネーションページ、つまりahrefs.comに存在しないページへ向かったことを見つけました。AIシステム（主にChatGPT）は、作られたことのないURLを推奨していました。AIが引用した1 600万URLを対象にしたAhrefsのより広い調査（Ryan LawとXibeijia Guan）は、背景を示します。AIアシスタントがユーザーを404ページへ誘導する頻度は、Google検索の2,87倍です。ChatGPTのクリック後404率は1,01%で、Googleの0,15%という基準値を上回りました。実務的な修正は明快です。存在しないページへの参照トラフィックを監視し、しきい値（たとえば月10訪問）を超えるハルシネーションURLを特定して、最も近い実在ページへ301リダイレクトします。モデルが送ろうとしているトラフィックを、そのまま受け取れます。

帰属ハルシネーション。 Columbia／Tow Centerの調査（2025年）は8つのAI検索エンジンをテストし、記事のタイトル、日付、発行者、URLを特定するよう求めたところ、クエリの60%超で誤った回答を発見しました。ChatGPTは134件の記事を誤って特定しましたが、不確かさを示したのはわずか15回で、確信を持って間違えていました。一部のモデルの回答では、半数超が捏造URLを引用しました。SEOにとっての教訓は、AIの回答で引用されたからといって、正確に表現されたとは限らないことです。引用は理解ではありません。

分析の盲点。 これはURL問題を悪化させます。現在、AIトラフィックは適切に帰属されにくく、一部のプラットフォームはリファラーデータを渡しません。またGoogleのAI Modeはnoreferrerを使い、クリックを「Direct」／「Unknown」にまとめていました（私が報告した 後、Googleはこれをバグだと確認しました）。ハルシネーションURLのトラフィックが正しく帰属されなければ、それを一度も目にしない可能性があります。3,6%という発見が表面化したのは、確認するための分析アクセスがあったからです。まず帰属を直してください。そうしないと、盲目的に監視することになります。

ブランド・ハルシネーションと評判。 AIが見込み客に価格、リーダーシップ、歴史について間違った事実を伝えると、見込み客がサイトに到達する前に信頼を損なう可能性があります。さらに、これは負のSEOベクトルになっています。Ahrefsのブランド実験（Makosiewicz）は、1本の仕込み済みMedium記事によって、一部のモデルがブランドについての回答の37〜39%で誤情報を広める可能性を示しました。*「成長中のブランドなら、Mediumアカウントを持つ不満を抱えた人によって、AI検索結果の軌道を外される可能性がある」*のです。構築または否認するリンクはありません。インデックスされたプラットフォーム上の偽コンテンツだけです。

実際に行うこと

1. ハルシネーションURLをリダイレクトする（上記のURLハルシネーション対策）。
2. ブランドについてのAI回答を予定に沿って監視する。 モデルの更新や新しいコンテンツのインデックス化で回答は変わります。一度きりの監査は古くなります。
3. エンティティシグナルを構築する。 一貫したNAP、スキーマ、Wikidata、公式プロフィールを整え、グラウンディングされたシステムがクリーンで検証可能な事実を取得できるようにします。これは将来のブランド・ハルシネーションに対する最善の手段です。
4. AI生成コンテンツを公開前に検証する。 編集されていないハルシネーションがウェブに出るとインデックスされ、次のモデルの学習に入り得ます。モデル崩壊のフィードバックループに加担しないでください。
5. クローラーのブロックで直るとは考えない。 GPTBot／ClaudeBotをブロックしても、コンテンツについての将来の学習は止められますが、すでに重みに入った事実には何もしません。（この区別はAIクローラーの記事を参照してください。）

正直なまとめ: ハルシネーションは一時的なバグではなく、恒久的なインフラです。AIが作話をやめるようにはできません。あなた自身の事実を、AIがグラウンディングするための最も安価で明確な情報にすることはできます。そして、AIが作り出すURLを見つけてリダイレクトできます。

AI要約

Advanced版の要点をまとめると次のとおりです。

• ハルシネーション = 自信ありげで、誤っている、または裏付けのない出力。 これはバグではなく、もっともらしい文章に最適化する次トークン予測の特性です。そのため低減はできても、完全にはなくせません。より正確な用語は「Confabulation（作話）」で、モデルは嘘をついているわけではありません。
• ロングテールに集中する。 学習データにまれな事実、つまりニッチな製品、最近の変更、知られざるブランドの周辺で、モデルはより多くハルシネーションを起こします。
• 失敗を正確に命名することが重要。 コンテキストとの矛盾、裏付けのない追加、世界に関する事実誤りは同じではありません。事実性（真実か）と忠実性（与えた証拠に裏付けられているか）は、回答が一方に合格して他方に失敗し得る別のテストです。引用の存在は、隣接する主張を含意していることと同じではありません。RAGの回答も、証拠がない、チャンク化が悪い、取得されない、順位が低い、生成時に誤用される、という5つの異なる原因で失敗します。「ハルシネーションを起こした」という言葉はこれらを隠します。
• 大きいほど安全とは限らない。 TruthfulQAでは、より大きなモデルがより説得力のある模倣的な虚偽を生成しました（真実性は58%対人間94%）。Chain-of-Thought推論も忠実とは限りません（Lanhamら）。
• グラウンディング／RAGは大いに役立つが、直しきれない。 ウェブアクセスはハルシネーションを73〜86%減らしましたが、最良のグラウンディング済みモデルでも約10〜15%は失敗します（FACTS Grounding）。ソースの読み違えや選び間違いが原因です。Reidによれば、AI Overviewsはグラウンディングされているため「他のLLM製品のような形では一般にハルシネーションを起こさない」ものの、解釈を誤ってなお間違えます。Anthropicも、手法は「完全にはなくさない」と説明しています。
• SEOへの影響は測定できる。 AIがユーザーを存在しないページへ送る頻度はGoogleの約2,87倍、AhrefsのAIトラフィックの3,6%が存在しないページへ向かい、AI引用のエラー率は60%超です（Tow Center）。引用されたことと正しく表現されたことは別です。
• 帰属も壊れている。 そのためハルシネーションURLのトラフィックが見えない可能性があります。監視する前に計測を直してください。
• ブランドリスクは負のSEOベクトル。 1本の仕込み記事で、一部のモデルが回答の37〜39%で誤情報を繰り返しました。
• 対策: ハルシネーションURLをリダイレクトし、ブランド回答を定期的に監視し、エンティティシグナルを構築し、AIコンテンツを公開前に検証し、クローラーのブロックで重みに入った事実を取り消せるとは考えないことです。

公式ドキュメント

モデルメーカーと検索エンジンが、ハルシネーションについて自分たちの言葉で説明していること。

Google

• AI Overviewsで起きたことと次のステップ — Elizabeth Reid（2024年5月）が、グラウンディングされたAI OverviewsがスタンドアロンのLLMと異なる形で誤る理由を説明しています。
• GopherCite: 検証済みの引用で回答を支える — 「説得力のあるナンセンス」をハルシネーションするモデルと、証拠を引用し（そして「分かりません」と認めて）対抗する方法についてのDeepMindの説明です。
• FACTS Groundingベンチマーク — 約85〜90%というグラウンディングの上限を示す、DeepMindの事実性ベンチマークです。
• AI生成コンテンツに関するガイダンス — Search Central: AIコンテンツは制作方法ではなく、品質とE-E-A-Tで評価されます。

Anthropic

• ハルシネーションを減らす — Claude開発者ドキュメント。モデルに「分かりません」と言わせ、直接引用でグラウンディングし、引用で検証する方法と、手法がハルシネーションをなくさないという明示的な注意書きを説明しています。

OpenAI

• 言語モデルがハルシネーションを起こす理由 — 仕組みについてのOpenAIの解説です。
• ChatGPTは真実を語るか？ — Help Center: 「ハルシネーションとは、言語モデルが生成する、もっともらしいが誤った文です」。

Microsoft

• AIが間違えることがある理由 — 「グラウンディングされていない」コンテンツのMicrosoftによる技術的定義と、その緩和ツールです。

ソースからの引用

これらのシステムを構築する人々による、記録に残る発言です。各リンクは、ソースがその内容を裏付ける引用箇所へ直接移動するディープリンクです。

Google — Elizabeth Reid、検索担当VP／責任者（2024年5月）

• “This means that AI Overviews generally don’t ‘hallucinate’ or make things up in the ways that other LLM products might.” (翻訳) 「つまりAI Overviewsは、他のLLM製品のような形で一般にハルシネーションを起こしたり、物事を作り出したりはしません」 記事を読む
• “When AI Overviews get it wrong, it’s usually for other reasons: misinterpreting queries, misinterpreting a nuance of language on the web, or not having a lot of great information available.” (翻訳) 「AI Overviewsが間違えるときは、通常、クエリの誤解釈、ウェブ上の言葉のニュアンスの誤解釈、十分な情報がないことなど、別の理由によります」 引用箇所へ移動
• “Because accuracy is paramount in Search, AI Overviews are built to only show information that is backed up by top web results.” (翻訳) 「検索では正確さが最重要であるため、AI Overviewsは上位のウェブ結果で裏付けられた情報だけを表示するよう作られています」 記事を読む

Google DeepMind — GopherCite（2022年3月）

• “Language models like Gopher can ‘hallucinate’ facts that appear plausible but are actually fake.” (翻訳) 「Gopherのような言語モデルは、もっともらしく見えるが実際には偽物の事実をハルシネーションすることがあります」 記事を読む
• “Because language models can hallucinate convincing nonsense, GopherCite uses reinforcement learning from human preferences (RLHP) to train models that generate answers whilst also citing specific evidence for their claims.” (翻訳) 「言語モデルは説得力のあるナンセンスをハルシネーションすることがあるため、GopherCiteは人間の選好からの強化学習（RLHP）を使い、回答を生成すると同時に主張について具体的な証拠も引用するモデルを訓練します」 記事を読む

Anthropic — Claude開発者ドキュメント

• “Even the most advanced language models, like Claude, can sometimes generate text that is factually incorrect or inconsistent with the given context. This phenomenon, known as ‘hallucination,’ can undermine the reliability of your AI-driven solutions.” (翻訳) 「Claudeのような最先端の言語モデルでさえ、事実と異なる、または与えられたコンテキストと一貫しないテキストを生成することがあります。この現象は『ハルシネーション』と呼ばれ、AIを使ったソリューションの信頼性を損なう可能性があります」 ドキュメントを読む
• “Remember, while these techniques significantly reduce hallucinations, they don’t eliminate them entirely. Always validate critical information, especially for high-stakes decisions.” (翻訳) 「これらの手法はハルシネーションを大幅に減らしますが、完全になくすわけではありません。特に重大な意思決定では、重要な情報を必ず検証してください」 引用箇所へ移動

OpenAI — Help Center

• “Hallucinations are plausible but false statements generated by language models.” (翻訳) 「ハルシネーションとは、言語モデルが生成する、もっともらしいが誤った文です」 記事を読む
• “Like any language model, ChatGPT can produce incorrect or misleading outputs, and sometimes it might sound confident—even when it’s wrong.” (翻訳) 「他の言語モデルと同様、ChatGPTは誤った、または誤解を招く出力を生成することがあり、間違っているときでさえ自信ありげに聞こえる場合があります」 記事を読む

Linら — TruthfulQA（2021年）

• “Larger models produce more imitative falsehoods because they are better at learning the training distribution.” (翻訳) 「より大きなモデルは、学習分布を学ぶことに長けているため、より多くの模倣的な虚偽を生成します」 論文を読む

Lanhamら — Anthropicの研究者（2023年）

• “As models become larger and more capable, they produce less faithful reasoning on most tasks.” (翻訳) 「モデルがより大きく高性能になるほど、ほとんどのタスクで忠実性の低い推論を生成します」 論文を読む

Mark Howard、Time COO (Tow Center／CJR研究経由)

• “It’s critically important how our brand is represented, when and where we show up.” (翻訳) 「私たちのブランドが、いつ、どこで、どのように表現されるかは非常に重要です」 研究を読む

ハルシネーションの種類 — チートシート

出会うことになる4種類

覚えておくべき数字

• 3,6% — AhrefsのAI参照トラフィックのうち、存在しないページへ向かった割合（Patrick Stox、Ahrefs）。
• 2,87倍 — AIアシスタントがユーザーをGoogleより存在しないページへ送る頻度（Ahrefs、1 600万URL）。ChatGPTのクリック後404率は1,01%、Googleは**0,15%**です。
• 60%超 — 8つのエンジンを横断したAI検索の引用エラー率（Tow Center／CJR）。
• 約85〜90% — ソースを渡された場合でも、最良のモデルがどの程度グラウンディングされるか（FACTS Grounding）。つまり失敗の下限は10〜15%です。
• 73〜86% — モデルにウェブ検索／グラウンディングを与えた場合のハルシネーション低減率。
• 58%対94% — TruthfulQAにおける最良モデルと人間の真実性。
• 37〜39% — 1本の仕込み記事の後、一部のモデルがブランドの誤情報を繰り返した回答の割合（Ahrefsブランド実験）。

神話 → 現実

• 「RAGはハルシネーションをなくす」→ 低減します。グラウンディングされたモデルでも約10〜15%は失敗します。
• 「新しい／大きいモデルはハルシネーションが少ない」→ TruthfulQAでは、大きいほど説得力のある虚偽が増える場合があります。
• 「AI OverviewsはChatGPTと同じようにハルシネーションを起こす」→ グラウンディングされているため、エラーは純粋な作話より解釈の誤りに偏ります（Reid）。
• 「引用されたということは、正しく表現されたということ」→ 60%超の引用エラー率が、そうではないことを示します。
• 「AIクローラーをブロックすればブランドのハルシネーションは止まる」→ すでに重みに入った事実は残ります。
• 「不確かそうに聞こえるから間違いだと分かる」→ 自信こそが定義上の特徴です。ChatGPTが不確かさを示したのは、134件の誤った回答のうちわずか15件でした。

ハルシネーションを減らす方法 — プレイブック

これは、モデルメーカーと研究が実際に裏付けている内容から、効果の大きい順におおよそ並べた手段です。

1. 回答をグラウンディングする（上限を受け入れる）。 推論時にモデルへ実際のソースを与えます。これがRAG／グラウンディングです。最大の手段であり、73〜86%の低減につながります。しかし上限を理解してください。最良のグラウンディング済みモデルでも約10〜15%は失敗します（FACTS Grounding）。何もないところから捏造するのではなく、ソースを読み違えたり選び間違えたりするためです。グラウンディングは失敗の形を変えますが、なくしません。

2. モデルに「分かりません」と言わせる。 Anthropicの最初の推奨は、“explicitly give Claude permission to admit uncertainty… this simple technique can drastically reduce false information.” (翻訳) 「Claudeに不確かさを認める許可を明示的に与える。この単純な手法は誤情報を大幅に減らせる」ことです。GopherCiteも、回答を控えられるようになると大幅に改善しました。裏付けられない質問に対して回答の形をした応答を返すことが中心的な失敗であり、控える許可はそれを直接攻撃します。

3. 引用と逐語的な引用を求める。 出力を監査可能にします。モデルに各主張についてソースを引用させ、長い文書では推論前に逐語的な引用を抽出させます。引用を盲目的に信じる（60%超が誤り）わけではなく、主張を検証可能にするのです。

4. 推論の軌跡を証拠として信じない。 Chain-of-Thoughtは事後的な合理化である可能性があります（Lanhamら）。「推論を説明した」ことは「回答をグラウンディングした」ことではありません。語りではなく結論を検証してください。

SEO側の枠組み — エンティティを守る

モデルを変えることはできないため、3つの仕事だと考えてください。

1. 検出 — ブランドについてのAI回答を監視し、存在しないページへのトラフィックも分析で確認します（帰属を先に直さないと、ハルシネーションURLのトラフィックが見えません）。
2. リダイレクト — トラフィックのしきい値を超えるハルシネーションURLを、最も近い実在ページへ301リダイレクトします。モデルが誤って向けている意図を取り込みます。
3. 真実をグラウンディングする — クリーンで一貫した検証可能な公開情報（スキーマ、Wikidata、公式プロフィール、曖昧さのないAboutページ）を整え、グラウンディングされたシステムが競合の主張や風刺記事ではなく、あなたの事実を取得できるようにします。これはブランド・ハルシネーションへの唯一の持続的な防御です。クローラーのブロックではありません。重みにはすでに学習した内容が入っているからです。

定例ハルシネーションレビュー

1. 高リスクの主張を定義します。価格、法務または安全性に関する記述、製品機能、役員名、所在地、公式URLです。
2. それらの主張について安定したプロンプトを作り、プラットフォーム、モデル、モード、日付、ロケール、アカウント状態、ライブ検索が有効だったかを記録します。
3. 完全な回答、引用、ソースURLを保存します。後で比較するための証拠として、言い換えメモだけでは不十分です。
4. 管理している真実のソースと引用ソースを使い、各文を裏付けあり、反証あり、検証不能、古い、該当なしのいずれかに分類します。
5. リダイレクト、ページ公開、真の404維持のどれを選ぶか決める前に、ログ、バックリンク、分析を使って偽造URLを確認します。
6. 修正を管理下のコンテンツ、技術的ルーティング、第三者による訂正、プラットフォームへのフィードバックのいずれかに割り当て、日付を付けた再テストを予定します。

インシデント・プレイブック: AIの回答が有害な虚偽を述べた場合

1. 証拠を取得する。 完全な回答、プロンプト、ソース、製品／モデル、日付、アカウント状態を保存し、挙動が一時的なら画面録画も残します。
2. 影響と真実を検証する。 責任を持つ分野の担当者に、正確な虚偽の主張と権威ある事実を特定してもらいます。争いのある主張を、別の裏付けのない記述を公開して「訂正」しないでください。
3. 考えられるソースを追跡する。 引用されたページ、自分の現在およびアーカイブ済みのコンテンツ、構造化された事実、フィード、プロフィール、目立つ第三者の言及を確認します。
4. 管理下の証拠を直す。 矛盾する所有ページを修正し、エンティティの事実を統合し、日付を見た目だけ変えずに古いドキュメントを更新します。
5. URLを意図的に扱う。 実在する同等ページが意図を満たす場合に限り、捏造URLをリダイレクトします。それ以外では正しい欠落ページの応答を維持し、作られたパスがすべて解決すると思わせないでください。
6. 外部に報告する。 プラットフォームのフィードバック経路を使い、証拠が裏付ける場合は第三者に訂正を求めます。
7. 再テストして監視する。 記録した条件で同じプロンプトを繰り返し、回答が修正されるか、残存リスクを受け入れるまでインシデントを継続します。

プロンプト: 提供された証拠に照らしてAIの回答をファクトチェックする

Audit the AI answer below using only the supplied source-of-truth documents. Break the
answer into atomic factual claims. For each claim, label it supported, contradicted,
not found, stale, or opinion; quote the exact supporting or conflicting passage; and
state the smallest correction. Treat a citation as evidence only if its page supports
the adjacent claim. Do not fill gaps from memory or the open web.

AI answer:
[PASTE COMPLETE ANSWER AND CITATIONS]

Approved source-of-truth documents:
[PASTE DOCUMENT NAME, DATE, URL OR EXCERPT]

プロンプト: 偽造URLをトリアージする

Classify these AI-referred URLs using the supplied HTTP, backlink, analytics, and page
inventory evidence. For each URL, recommend one of: keep a true 404/410, redirect to a
genuinely equivalent page, restore a previously valid page, or investigate further.
Never recommend redirecting to the homepage just to remove a 404. Explain which user
intent and evidence make a destination equivalent.

Evidence:
[PASTE URL | STATUS | REFERRERS | BACKLINKS | VISITS | CLOSEST REAL PAGE]

DevTools Console: 回答ページから表示されている引用を抽出する

プラットフォームの規約を確認してから、保存済みまたはアクセス可能な回答ページで実行します。セレクターは意図的に汎用的にしているため、インターフェースに合わせた調整が必要になる場合があります。

copy(JSON.stringify([...document.querySelectorAll('a[href]')]
  .map(a => ({text: a.textContent.trim(), url: a.href}))
  .filter(x => /^https?:/.test(x.url)), null, 2));

Shell: 偽造の疑いがあるURLのリストを確認する

自分が所有している、またはテストを許可されているURLに対して実行します。

while IFS= read -r url; do
  curl -sS -o /dev/null -L --max-redirs 5 -w '%{http_code}\t%{url_effective}\t%{url}\n' "$url"
done < suspected-urls.txt

Regex: 主張らしい数値をレビュー対象としてフラグする

このレビュー用正規表現は、パーセンテージ、通貨額、複数桁の数値を検出します。主張が間違っているかどうかは判断しません。

(?:[$€£]\s?\d[\d,.]*|\b\d+(?:\.\d+)?%|\b\d{2,}(?:[,.]\d+)*\b)

ハルシネーションを調査するツール

• AI Brand Visibilityは、ラベル付きモデル回答を取得し、ローカル比較のために言及と引用を分けて保持します。
• Citation Gap Checkerは、管理下のコンテンツにある、裏付けのない数値および研究形式の主張をフラグします。これは真実エンジンではなく、レビューキューです。
• Redirect Checkerは、偽造または古いURLをどう扱うか決める前に、ステータスと最終宛先を示します。
• サーバー／CDNログは作られたパスへのリクエストを明らかにし、バックリンクと分析ツールは人や他サイトが実際にそれらを使っているかを示します。
• プラットフォームのフィードバック機能は直接報告する経路ですが、訂正の時期と持続性は保証されないため、自分の証拠を保持してください。

ハルシネーション回答を検証する

ハルシネーションの指標

自分をテスト: AIハルシネーション

時間を使う価値のあるリソース

私の関連執筆（Ahrefs）

• AI検索トラフィックの80%がホームページ、商品ページ、無料ツールへ向かう理由 — 3,6%のハルシネーションページという発見の出典です。
• AIアシスタントはウェブ分析を壊し、その将来を損なっている — ハルシネーション・トラフィックが見えなくなる理由です。
• GoogleはAI Modeからのクリックを追跡できなくした（部分修正済み） — 私が報告したnoreferrer帰属バグです。

他者によるもの

• AIアシスタントはどのくらいリンクをハルシネーションするのか（1,600万URLの調査） — Ryan LawとXibeijia Guan（Ahrefs）。2,87倍の404値です。
• AI誤情報の実験を行った。その結果はすべてのマーケターが見るべきだ — Makosiewicz（Ahrefs）。仕込み済みMedium記事によるブランド攻撃です。
• AI検索には引用の問題がある — Tow Center／Columbia Journalism Review（2025年）。60%超の引用エラー調査です。Nieman Labの要約。
• 自然言語生成におけるハルシネーションの調査 — Jiら。内在的 vs. 外在的の分類です。
• TruthfulQA — Linら。逆スケーリングの発見です。
• Chain-of-Thought推論の忠実性を測定する — Lanhamら（Anthropic）。
• Vectaraハルシネーション・リーダーボード — グラウンディングされた要約のハルシネーション率を継続的に掲載しています。
• AIハルシネーションとは何か — 仕組みと緩和戦略についてのGoogle Cloud公式解説です。
• ブランドに関するAIハルシネーションを特定・修正する方法 — AIブランドのエラーを監視・訂正する実務ガイドです。
• AIのフィードバックループ：AI生成コンテンツで学習するAIがモデル崩壊を招くとの研究者の警告 — モデル崩壊と、ハルシネーションコンテンツが学習サイクルで増幅する仕組みについてのVentureBeat記事です。

引用する価値のある統計

• AI参照トラフィックの3,6%が存在しないページへ向かった（ahrefs.com） — 主にChatGPTからのハルシネーションURLです。私のファーストパーティーの発見です。 ソース
• AIアシスタントがユーザーを存在しないページへ送る頻度はGoogle検索の約2,87倍 — 1 600万件のAI引用URL全体。ChatGPTのクリック後404率は1,01%、Googleは0,15%です。 ソース
• 8つのAI検索エンジン全体で引用エラー率60%超。ChatGPTが不確かさを示したのは、誤った134回答のうち15件だけでした（Tow Center／CJR、2025年）。 ソース
• ソースを与えられた場合でも、約85〜90%がグラウンディングの上限 — 失敗の下限は10〜15%です（FACTS Grounding、DeepMind、2024年）。 ソース
• ウェブ検索／グラウンディングへのアクセスによるハルシネーション低減は73〜86%。TruthfulQAでの最良モデルの真実性は58%、**人間は94%**でした。 ソース
• **回答の37〜39%**が、1つの仕込みソースの後にブランドの誤情報を繰り返しました（Ahrefsのブランド実験）。 ソース

変更履歴