KI-Halluzinationen

Untersuchungen haben gezeigt, dass Sprachmodelle häufige Fehlvorstellungen wiederholen können, statt sie zuverlässig zu korrigieren. Evidence for this claim TruthfulQA found that language models can reproduce common human misconceptions and that larger models were not automatically more truthful on its benchmark. Scope: TruthfulQA's benchmark, model set, and 2021 results; not a current cross-model error rate. Confidence: high · Verified: 2026-07-14 Lin et al.: TruthfulQA NIST bezeichnet selbstsicher präsentierte falsche oder fehlerhafte Modellinhalte als „Konfabulation“. Evidence for this claim NIST's Generative AI Profile identifies confabulation—the confident presentation of false or erroneous content—as a generative-AI risk. Scope: NIST risk-management terminology and guidance; not a product-specific incidence estimate. Confidence: high · Verified: 2026-07-14 NIST: Generative AI Profile

TL;DR — Eine KI-Halluzination liegt vor, wenn ein Chatbot etwas sagt, das richtig klingt, aber schlicht falsch ist — einen erfundenen Fakt, eine falsche Quelle oder einen Link zu einer nicht vorhandenen Seite. In einer nicht geerdeten Antwort sagt das Modell wahrscheinlich klingende Wörter voraus, statt eine Quelle zu prüfen. Grounding (dem Modell abgerufene Quellen zu geben) kann helfen, behebt das Problem aber nicht vollständig. Für Ihre Website sollten Sie vor allem darauf achten, dass KI Menschen auf URLs verweist, die Sie nie erstellt haben, und dass sie Fakten über Ihre Marke falsch wiedergibt.

Was eine KI-Halluzination ist

Eine nicht geerdete Antwort eines Sprachmodells sagt wahrscheinliche Fortsetzungen aus erlernten Mustern voraus, statt jede Aussage anhand einer Quelle zu verifizieren. Such- und Abruf-Tools können aktuelle Belege ergänzen, machen die Synthese aber nicht fehlerfrei. Wenn eine generierte Aussage selbstsicher klingt, aber falsch ist, wird sie gemeinhin als Halluzination bezeichnet.

Eine nützliche Vorstellung: Das Modell kann sehr gut den Satz schreiben, der normalerweise als Nächstes kommt. Es prüft nicht, ob dieser Satz wahr ist. Wenn es etwas nicht wirklich „weiß“ — ein Nischendetail, eine aktuelle Änderung oder eine unbekannte Marke — schreibt es trotzdem eine flüssige, selbstsicher klingende Antwort, weil es genau dafür trainiert wurde.

Einige Forscher bevorzugen den Begriff Konfabulation (aus der Gedächtnisforschung übernommen, wo er bedeutet, dass Menschen aufrichtig Lücken mit falschen Details füllen). Es ist ein besseres Wort, weil die KI nicht lügt und Sie nicht täuschen will. Sie hat lediglich die plausibelste Fortsetzung erzeugt, und diese Fortsetzung war zufällig falsch.

Die zwei Arten, die Ihre Website treffen

1. Erfundene URLs. Die KI empfiehlt eine Seite Ihrer Website, die nicht existiert. Ein Nutzer klickt und landet auf einer 404-Seite. KI-Assistenten tun dies sehr viel häufiger als Google. In Ahrefs’ eigenen Daten gingen 3,6 % des KI-Traffics auf Seiten, die auf der Website nicht existieren.
2. Falsche Fakten über Ihre Marke. Die KI nennt einem Interessenten den falschen Gründer, veraltete Preise, ein eingestelltes Produkt oder etwas, das ein Wettbewerber über Sie gesagt hat — als Fakt präsentiert und ohne ein „Ich bin mir nicht sicher“.

Was Sie tatsächlich tun können

• Leiten Sie erfundene URLs weiter. Wenn KI Menschen immer wieder auf eine Seite schickt, die Sie nie erstellt haben, richten Sie von dieser falschen URL eine Weiterleitung auf die nächstliegende echte Seite ein. (Zuerst müssen Sie diese finden — beobachten Sie Ihre Analytics auf Traffic zu nicht gefundenen Seiten.)
• Prüfen Sie, was KI über Sie sagt. Stellen Sie den großen KI-Tools die Fragen, die Ihre Kunden stellen, und prüfen Sie, ob die Antworten stimmen. Tun Sie dies regelmäßig — Antworten ändern sich, wenn Modelle aktualisiert werden.
• Veröffentlichen Sie klare, korrekte Fakten. Je sauberer und konsistenter Ihre öffentlichen Informationen sind (Ihre „Über uns“-Seite, strukturierte Daten und Profile), desto leichter kann KI die Wahrheit als Grundlage verwenden, statt zu raten.

Etwas, das viele überrascht: Das Blockieren von KI-Crawlern behebt keine Halluzinationen über Ihre Marke. Wenn ein Modell bereits etwas Falsches über Sie gelernt hat, verlernt es dies nicht dadurch, dass Sie ein erneutes Crawlen blockieren. Überwachung und klare öffentliche Fakten bewirken mehr als Blockieren.

Möchten Sie den Mechanismus verstehen — warum größere Modelle mehr halluzinieren können, was die Forschung zeigt und wie Grounding scheitert — wechseln Sie zum Tab Fortgeschritten.

TruthfulQA stellte fest, dass die Größe allein die getesteten Modelle in seinem Benchmark nicht wahrheitsgetreuer machte. Evidence for this claim TruthfulQA found that language models can reproduce common human misconceptions and that larger models were not automatically more truthful on its benchmark. Scope: TruthfulQA's benchmark, model set, and 2021 results; not a current cross-model error rate. Confidence: high · Verified: 2026-07-14 Lin et al.: TruthfulQA NIST behandelt Konfabulation als ein zu messendes und zu steuerndes Risiko, nicht als eine produktspezifische feste Fehlerquote. Evidence for this claim NIST's Generative AI Profile identifies confabulation—the confident presentation of false or erroneous content—as a generative-AI risk. Scope: NIST risk-management terminology and guidance; not a product-specific incidence estimate. Confidence: high · Verified: 2026-07-14 NIST: Generative AI Profile

TL;DR — Halluzination ist eine Eigenschaft der Vorhersage des nächsten Tokens, kein Fehler, den man herauspatchen kann. Modelle optimieren auf plausible Fortsetzungen, nicht auf Wahrheit, und erzeugen bei dünnem Trainingssignal selbstsicher falsche Aussagen. Grounding und RAG reduzieren dies (in manchen Benchmarks um 73–86 %), beseitigen es aber nicht — selbst die besten geerdeten Modelle scheitern noch etwa 10–15 % der Zeit, und TruthfulQA stellte fest, dass größere Modelle überzeugendere Falschaussagen erzeugen können. Für SEO ist das messbar: KI schickt Nutzer etwa 2,87-mal häufiger auf nicht vorhandene Seiten als Google, 3,6 % unseres KI-Traffics bei Ahrefs ging auf nicht vorhandene Seiten, und die Zitationsfehlerquoten in KI-Suchmaschinen liegen über 60 %. Die praktischen Maßnahmen sind klar: halluzinierte URLs weiterleiten, Markenantworten überwachen und überprüfbare, eindeutig entitätsbezogene Inhalte veröffentlichen.

Was Halluzination tatsächlich ist

Eine KI-Halluzination ist eine Ausgabe, die selbstsicher formuliert, aber faktisch falsch, erfunden oder durch keine Quelle gestützt ist. Der präzisere Fachbegriff ist Konfabulation — aus der Neuropsychologie übernommen, wo er das Erzeugen falscher Darstellungen mit echter Überzeugung und ohne Täuschungsabsicht bezeichnet. Diese Präzision ist wichtig: Das Modell lügt nicht. Es hat keinen Wahrheitsbegriff, über den es lügen könnte. Es erledigt die eine Aufgabe, für die es trainiert wurde — das nächste Token vorauszusagen — und manchmal ist das wahrscheinlichste Token falsch.

Dies ist der wichtigste Rahmen auf dieser Seite: Halluzination ist ein inhärentes Nebenprodukt von Sprachmodellierung, die Plausibilität gegenüber faktischer Genauigkeit priorisiert. Sie entsteht dadurch, dass LLMs wie vorgesehen funktionieren, nicht durch einen Implementierungsfehler. Sie beheben sie nicht wie einen Bug. Sie reduzieren sie.

Warum es passiert — der Mechanismus

LLMs werden auf ein Next-Token-Ziel trainiert: Bei einer Sequenz soll das wahrscheinlichste nächste Token vorhergesagt werden. Das ist eine Aufgabe der Sprachvervollständigung, keine Aufgabe des Faktenabrufs. Das Modell optimiert darauf, wie Text klingen sollte, nicht darauf, was wahr ist. Wenn das Trainingssignal für einen bestimmten Fakt dünn ist — seltene Ereignisse, Nischenthemen oder alles, was sich nach dem Knowledge Cutoff des Modells geändert hat — füllt das Modell die Lücke mit statistisch wahrscheinlicher Sprache. Wenn eine Sequenz wie eine Frage aussieht, begünstigt die Wahrscheinlichkeitsmasse überwältigend eine Antwort in Antwortform, statt Unsicherheit zuzugeben — unabhängig davon, ob das Modell das Wissen tatsächlich besitzt.

Ece Kamar von Microsoft Research formuliert die empirische Version dieses Punkts: Modelle halluzinieren häufiger bei Fakten, die in den Trainingsdaten weniger häufig vorkommen. In diesem langen Schwanz lebt die Konfabulation. Ihre obskure Produkt-SKU, eine kürzliche Umbenennung oder ein Gründer, der im letzten Quartal gegangen ist — genau die Fakten, die im Web am wenigsten vertreten sind, wird ein Modell am ehesten selbstsicher falsch wiedergeben.

Die Arten, die Sie auseinanderhalten sollten

• Faktische Halluzination — der genannte Fakt ist schlicht falsch.
• Zitations- / Zuordnungshalluzination — das Modell zitiert eine Quelle, die es nicht verwendet hat, ordnet ein Zitat falsch zu, erfindet eine Autorenzeile oder erfindet eine URL. Die am direktesten messbare SEO-Variante.
• Entitäts- / Markenhalluzination — falsche Namen, Daten, Statistiken, Preise oder Unternehmensfakten, selbstsicher formuliert.
• Intrinsisch vs. extrinsisch (die Taxonomie von Ji et al.): Eine intrinsische Ausgabe widerspricht der bereitgestellten Quelle; eine extrinsische Ausgabe kann anhand der Quelle nicht verifiziert werden — weder bestätigt noch widerlegt, sondern eine erfundene Ergänzung.

Halluzinationsbehauptungen richtig lesen

Fünf Unterscheidungen werden in den meisten Darstellungen von Halluzinationen, einschließlich früherer Entwürfe dieser Seite, eingeebnet. Sie sind wichtig, weil sie verändern, was „behoben“, „geerdet“ oder „zitiert“ tatsächlich bedeutet, wenn Sie ein Tool oder eine Behauptung bewerten.

• Benennen Sie den Bezugspunkt. „Halluzination“ ist kein einzelner Fehlermodus. Es kann einen Widerspruch zum bereitgestellten Kontext, eine nicht gestützte Ergänzung, die der Kontext weder bestätigt noch verneint, oder einen schlichten Weltfaktenfehler bedeuten — diese drei sind nicht austauschbar (die Übersicht von Ji et al. ist die Quellentaxonomie). Ein Prüfer, der für eine der drei Arten gebaut wurde, übersieht die anderen beiden unbemerkt.
• Faktizität ist nicht Faithfulness. Faktizität prüft eine Behauptung gegen einen externen Bezug zur realen Welt — ist sie wahr? Faithfulness prüft sie gegen die tatsächlich bereitgestellten Belege — wird sie von diesen Belegen gestützt? Eine Antwort kann den einen Test bestehen und den anderen nicht: eine falsche Quelle faithful zusammenfassen oder etwas Wahres sagen, das die bereitgestellten Belege nie stützen. Die Atomic-Fact-Methode von FActScore, bei der eine lange Antwort in einzeln prüfbare Behauptungen zerlegt wird, existiert, weil eine ganzheitliche Punktzahl diese Trennung verbirgt.
• Eine vorhandene Zitation ist kein Grounding. Zitationsqualität besteht aus drei getrennten Prüfungen: Existiert die Zitation und ist sie erreichbar, stützt sie tatsächlich die konkrete benachbarte Behauptung, und deckt die Antwort jede Behauptung ab, die überhaupt eine Zitation benötigte (die Aufschlüsselung aus der ALCE-Arbeit von Gao et al.)? Eine sichtbare, anklickbare Fußnote kann die erste Prüfung bestehen und an den anderen beiden scheitern — genau die Lücke hinter den Zitationsfehlerzahlen von über 60 %.
• RAG-Fehler haben benannte Stufen, nicht eine Bezeichnung. Wenn eine RAG-gestützte Antwort falsch ist, kann der Grund sein, dass der Beleg nie im Korpus war, beim Chunking über eine Grenze geteilt wurde, vorhanden aber nicht abgerufen wurde, abgerufen aber zu niedrig gerankt wurde, um den Generator zu erreichen, oder den Generator erreichte und dennoch falsch verwendet wurde (die Taxonomie der RAG-Fehler von RAGTruth). „Die KI hat halluziniert“ fasst fünf verschiedene Ursachen — und unterschiedliche Korrekturen — in einem Wort zusammen.
• Benchmark-Prozentsätze sind nicht übertragbar. Jede Rate auf dieser Seite — 73–86 %, etwa 85–90 % und 58 % gegenüber 94 % — ist auf eine bestimmte Aufgabe, einen Datensatz, eine Referenzrichtlinie, einen Prüfer, einen Prompt-Satz, ein Korpus, ein Modell, eine Modellversion und ein Testdatum begrenzt. Zitieren Sie nicht „Modell X ist zu Y % genau“ als übertragbaren Fakt außerhalb des Evaluationsvertrags dieses Benchmarks; ein anderer Prüfer, ein anderes Korpus oder eine andere Modellversion kann die Zahl deutlich verschieben.

Was die Forschung zeigt

• TruthfulQA (Lin et al., 2021) etablierte das Problem der inversen Skalierung. Über 817 adversariale Fragen war das größte Modell seiner Zeit (GPT-3-175B) nur zu 58 % wahrheitsgetreu, gegenüber einem menschlichen Basiswert von 94 % — und entscheidend: „Größere Modelle erzeugen mehr imitierte Falschaussagen, weil sie die Trainingsverteilung besser lernen.“ Größer ist nicht sicherer. Ein größeres Modell kann die in Webtext eingebetteten verbreiteten Fehlvorstellungen besser reproduzieren und dadurch selbstsicherer falsch liegen. (Das ist für Ihre Marke direkt relevant: Wenn sich falsche Informationen über Sie online verbreiten, können leistungsfähigere Modelle sie besser aufnehmen und reproduzieren.)
• Die Übersicht von Ji et al. (2022/2023) ist die maßgebliche akademische Taxonomie — intrinsische und extrinsische Halluzination in Zusammenfassung, Dialog, QA, Übersetzung und LLMs.
• Lanham et al. (2023) von Anthropic stellten fest, dass Chain-of-Thought-Reasoning nicht immer faithful ist: „Wenn Modelle größer und leistungsfähiger werden, erzeugen sie bei den meisten Aufgaben weniger faithful Reasoning.“ Die schrittweise Erklärung, die ein Modell Ihnen zeigt, spiegelt nicht unbedingt wider, wie es die Antwort tatsächlich erreicht hat — sie kann eine nachträgliche Rationalisierung sein. „Die KI hat ihre Überlegung erklärt“ ist daher kein Beweis dafür, dass die Antwort geerdet ist.
• FACTS Grounding (Google DeepMind, Dezember 2024) ist die Zahl, welche die Grounding-Debatte verankert: Selbst bei expliziten Quelldokumenten erreichten die besten Modelle nur etwa 85–90 % Grounding. Die verbleibenden 10–15 % sind Fehllektüre, Fehlinterpretation oder die Nichtverwendung des abgerufenen Inhalts — keine Konfabulation aus dem Nichts.

Löst Grounding (RAG) das Problem? Nein — es reduziert es

Das ist die Nuance, welche die meisten Darstellungen verfehlen. Grounding — die Verankerung einer Antwort in Dokumenten, die das System zur Laufzeit abruft, gewöhnlich über RAG — ist die wichtigste Gegenmaßnahme, und sie funktioniert: Zugriff auf die Websuche reduzierte Halluzinationen in Grounding-Benchmarks bei den getesteten Modellen um 73–86 %. Aber er beseitigt Halluzinationen nicht und scheitert auf andere Weise als ein ungeschütztes LLM:

• es kann die abgerufene Passage falsch interpretieren,
• die falsche Passage auswählen,
• mehrere Quellen falsch kombinieren oder
• eine adversariale oder unsinnige Anfrage nicht erkennen.

Elizabeth Reid von Google zog diese Linie für AI Overviews genau so: Sie würden “generally don’t ‘hallucinate’ or make things up in the ways that other LLM products might” (Übersetzung) „im Allgemeinen nicht auf die Weise halluzinieren oder Dinge erfinden, wie es andere LLM-Produkte tun könnten“, weil sie “built to only show information that is backed up by top web results.” (Übersetzung) „so entwickelt wurden, dass sie nur Informationen anzeigen, die durch die besten Web-Ergebnisse gestützt werden“. Wenn sie falsch liegen, liege es laut ihr “usually for other reasons: misinterpreting queries, misinterpreting a nuance of language on the web, or not having a lot of great information available.” (Übersetzung) „meist an anderen Gründen: falsch interpretierten Anfragen, einer falsch interpretierten sprachlichen Nuance im Web oder daran, dass nicht genügend gute Informationen verfügbar sind“. Das ist ein echter Unterschied — geerdete Systeme scheitern eher beim Abruf und bei der Interpretation als bei reiner Konfabulation — aber keine Genauigkeitsgarantie. Selbst RAG-lastige Tools für juristische Recherche zeigten Halluzinationsraten von bis zu etwa 33 % und widersprachen damit Anbieterbehauptungen „ohne Halluzinationen“. Anthropic spricht es in den eigenen Entwicklerdokumenten klar aus: “while these techniques significantly reduce hallucinations, they don’t eliminate them entirely. Always validate critical information.” (Übersetzung) „Auch wenn diese Techniken Halluzinationen deutlich reduzieren, beseitigen sie diese nicht vollständig. Prüfen Sie wichtige Informationen immer.“

Die SEO-Auswirkung — messbar und behandelbar

URL-Halluzination. Dies ist die greifbarste Variante, und ich kann sie quantifizieren. Bei der Analyse des eigenen KI-Referral-Traffics von Ahrefs stellte ich in meiner Analyse des KI-Suchtraffics nach Seitentyp fest, dass 3,6 % des Traffics auf halluzinierte Seiten ging — Seiten, die auf ahrefs.com nicht existieren. KI-Systeme (vor allem ChatGPT) empfahlen URLs, die nie erstellt wurden. Die umfassendere Ahrefs-Studie mit 16 Millionen von KI zitierten URLs (Ryan Law und Xibeijia Guan) ordnet dies ein: KI-Assistenten schicken Nutzer 2,87-mal häufiger auf 404-Seiten als die Google-Suche — die 404-Rate von ChatGPT bei angeklickten URLs lag bei 1,01 %, gegenüber Googles Basiswert von 0,15 %. Die praktische Korrektur ist einfach: Überwachen Sie Referral-Traffic zu 404-Seiten, identifizieren Sie halluzinierte URLs oberhalb eines Schwellenwerts (etwa zehn Besuche/Monat) und leiten Sie diese per 301 auf die nächstliegende echte Seite weiter. So erfassen Sie Traffic, den das Modell ohnehin zu Ihnen schicken will.

Zuordnungshalluzination. Die Columbia-/Tow-Center-Studie (2025) testete acht KI-Suchmaschinen und fand bei der Frage nach Artikeltitel, Datum, Herausgeber und URL in über 60 % der Anfragen falsche Antworten. ChatGPT ordnete 134 Artikel falsch zu, signalisierte aber nur 15-mal Unsicherheit — selbstsicher falsch. Über die Hälfte der Antworten mancher Modelle enthielt erfundene URLs. Die SEO-Lehre: In einer KI-Antwort zitiert zu werden bedeutet nicht, korrekt dargestellt worden zu sein. Eine Zitation ist kein Verständnis.

Der Analytics-Blindfleck. Das verschärft das URL-Problem. KI-Traffic wird heute schlecht zugeordnet — manche Plattformen übergeben keine Referrer-Daten, und Googles AI Mode verwendete noreferrer, wodurch Klicks unter „Direct“/„Unknown“ zusammengefasst wurden (Google bestätigte dies als Fehler, nachdem ich ihn gemeldet hatte). Wenn Traffic zu halluzinierten URLs nicht sauber zugeordnet wird, sehen Sie ihn möglicherweise nie — der Befund von 3,6 % wurde nur sichtbar, weil wir Zugriff auf Analytics hatten. Korrigieren Sie die Zuordnung zuerst, sonst überwachen Sie blind.

Markenhalluzination und Reputation. Wenn eine KI einem Interessenten falsche Fakten über Ihre Preise, Führung oder Geschichte nennt, kann dies das Vertrauen schädigen, bevor er Ihre Website überhaupt erreicht. Schlimmer noch: Es ist jetzt ein negativer SEO-Vektor. Das Markenexperiment von Ahrefs (Makosiewicz) zeigte, dass ein einziger platzierter Medium-Artikel manche Modelle dazu bringen konnte, Falschinformationen in 37–39 % der Antworten über eine Marke zu verbreiten. „Jede wachsende Marke kann in den KI-Suchergebnissen von einer verärgerten Person mit einem Medium-Konto aus der Bahn geworfen werden.“ Keine Links, die aufgebaut oder entwertet werden müssten — nur falscher Inhalt auf einer indexierten Plattform.

Was Sie tatsächlich tun sollten

1. Halluzinierte URLs weiterleiten (die oben beschriebene Korrektur für URL-Halluzinationen).
2. KI-Antworten über Ihre Marke planmäßig überwachen — Antworten ändern sich, wenn Modelle aktualisiert und neue Inhalte indexiert werden. Einmalige Audits veralten.
3. Entitätssignale aufbauen — konsistente NAP-Daten, Schema, Wikidata und offizielle Profile — damit geerdete Systeme saubere, überprüfbare Fakten abrufen können. Das ist der beste einzelne Hebel gegen künftige Markenhalluzinationen.
4. KI-generierte Inhalte vor der Veröffentlichung prüfen. Unbearbeitete Halluzinationen, die das Web erreichen, werden indexiert und können in das Training des nächsten Modells gelangen — der Feedbackkreislauf des Model Collapse. Seien Sie kein Knoten darin.
5. Erwarten Sie nicht, dass Crawler-Blockierung das Problem behebt. Das Blockieren von GPTBot/ClaudeBot verhindert künftiges Training mit Ihren Inhalten, ändert aber nichts an Fakten, die bereits in den Gewichten liegen. (Siehe den Artikel AI crawlers zu dieser Unterscheidung.)

Die ehrliche Zusammenfassung: Halluzination ist dauerhafte Infrastruktur, kein vorübergehender Bug. Sie können KI nicht dazu bringen, mit dem Konfabulieren aufzuhören. Sie können aber Ihre eigenen Fakten zum günstigsten und saubersten Anker für Grounding machen — und die von ihr erfundenen URLs erkennen und weiterleiten.

KI-Zusammenfassung

Eine komprimierte Fassung der Advanced-Version:

• Halluzination = selbstsichere, falsche oder nicht gestützte Ausgabe. Sie ist eine Eigenschaft der Vorhersage des nächsten Tokens (Optimierung auf plausiblen Text statt Wahrheit), kein Fehler — daher kann sie reduziert, aber nie vollständig beseitigt werden. „Konfabulation“ ist der präzisere Begriff; das Modell lügt nicht.
• Sie häuft sich im langen Schwanz. Modelle halluzinieren häufiger bei Fakten, die in den Trainingsdaten selten sind — Nischenprodukte, aktuelle Änderungen und unbekannte Marken.
• Die Fehlerart genau zu benennen ist wichtig. Kontextwiderspruch, nicht gestützte Ergänzung und Weltfaktenfehler sind nicht dasselbe; Faktizität (wahr?) und Belegtreue (durch die gegebenen Belege gestützt?) sind verschiedene Tests, von denen eine Antwort den einen bestehen und den anderen nicht bestehen kann; und eine RAG-Antwort kann scheitern, weil Belege fehlten, schlecht gechunkt, nicht abgerufen, zu niedrig gerankt oder bei der Generierung falsch verarbeitet wurden — fünf Ursachen, die „sie hat halluziniert“ verbirgt.
• Größer ist nicht sicherer. TruthfulQA: Größere Modelle erzeugen überzeugendere imitierte Falschaussagen (58 % wahrheitsgetreu gegenüber 94 % bei Menschen). Chain-of-Thought-Reasoning kann nicht faithful sein (Lanham et al.).
• Grounding/RAG hilft stark, behebt das Problem aber nicht. Webzugriff senkte Halluzinationen um 73–86 %, doch selbst die besten geerdeten Modelle scheitern noch etwa 10–15 % (FACTS Grounding) — durch Fehllektüre oder falsche Auswahl von Quellen. Reid: AI Overviews sind geerdet und “generally don’t hallucinate… in the ways that other LLM products might” (Übersetzung) „im Allgemeinen nicht auf die Weise halluzinieren … wie es andere LLM-Produkte tun könnten“, machen aber weiterhin Interpretationsfehler. Anthropic: Die Techniken “don’t eliminate them entirely.” (Übersetzung) „beseitigen sie nicht vollständig“
• Die SEO-Auswirkung ist messbar: KI schickt Nutzer etwa 2,87-mal häufiger auf nicht vorhandene Seiten als Google; 3,6 % des KI-Traffics von Ahrefs gingen auf nicht vorhandene Seiten; KI-Zitationsfehler liegen bei über 60 % (Tow Center). Zitiert zu werden bedeutet nicht, korrekt dargestellt zu werden.
• Auch die Zuordnung ist defekt, daher kann Traffic zu halluzinierten URLs unsichtbar sein — korrigieren Sie das Tracking, bevor Sie überwachen.
• Markenrisiko ist ein negativer SEO-Vektor: Ein platzierter Medium-Artikel brachte manche Modelle dazu, Falschinformationen in 37–39 % der Antworten zu wiederholen.
• Korrekturen: halluzinierte URLs weiterleiten, Markenantworten regelmäßig überwachen, Entitätssignale aufbauen, KI-Inhalte vor Veröffentlichung prüfen und nicht erwarten, dass Crawler-Blockierung Fakten aus den Gewichten entfernt.

Offizielle Dokumentation

Was Modellhersteller und Suchmaschinen in ihren eigenen Worten über Halluzinationen sagen.

Google

• Was mit AI Overviews geschah und wie es weitergeht — Elizabeth Reid (Mai 2024) darüber, warum geerdete AI Overviews anders scheitern als eigenständige LLMs.
• GopherCite: Antworten mit überprüften Zitaten unterstützen — DeepMind über Modelle, die “convincing nonsense” (Übersetzung) „überzeugenden Unsinn“ halluzinieren, und über das Zitieren von Belegen (sowie das Eingeständnis “I don’t know” (Übersetzung) „Ich weiß es nicht“) als Gegenmaßnahme.
• FACTS-Grounding-Benchmark — der Faktizitätsbenchmark von DeepMind; die Grounding-Obergrenze von etwa 85–90 %.
• Leitfaden zu KI-generierten Inhalten — Search Central: KI-Inhalte werden nach Qualität und E-E-A-T beurteilt, nicht nach der Produktionsmethode.

Anthropic

• Reduce hallucinations — Claude-Entwicklerdokumentation: dem Modell erlauben, „I don’t know“ zu sagen, mit direkten Zitaten zu erden, Zitationen zu verifizieren und der ausdrückliche Hinweis, dass die Techniken Halluzinationen nicht beseitigen.

OpenAI

• Why language models hallucinate — OpenAIs Erklärung des Mechanismus.
• Sagt ChatGPT die Wahrheit? — Help Center: “Hallucinations are plausible but false statements generated by language models.” (Übersetzung) „Halluzinationen sind plausible, aber falsche Aussagen, die von Sprachmodellen erzeugt werden.“

Microsoft

• Why AI sometimes gets it wrong — Microsofts technische Definition von „ungrounded“-Inhalten und die Werkzeuge zu ihrer Minderung.

Zitate aus der Quelle

Aussagen zu Protokoll von den Menschen, die diese Systeme entwickeln. Jeder Link ist ein Deep Link, der zur zitierten Passage springt, in der die Quelle die Aussage stützt.

Google — Elizabeth Reid, VP/Head of Search (Mai 2024)

• “This means that AI Overviews generally don’t ‘hallucinate’ or make things up in the ways that other LLM products might.” (Übersetzung) „Das bedeutet, dass AI Overviews im Allgemeinen nicht auf die Weise halluzinieren oder Dinge erfinden, wie es andere LLM-Produkte tun könnten.“ Beitrag lesen
• “When AI Overviews get it wrong, it’s usually for other reasons: misinterpreting queries, misinterpreting a nuance of language on the web, or not having a lot of great information available.” (Übersetzung) „Wenn AI Overviews falsch liegen, hat das meist andere Gründe: falsch interpretierte Anfragen, eine falsch interpretierte sprachliche Nuance im Web oder das Fehlen vieler guter Informationen.“ Zum Zitat springen
• “Because accuracy is paramount in Search, AI Overviews are built to only show information that is backed up by top web results.” (Übersetzung) „Weil Genauigkeit in der Suche von höchster Bedeutung ist, zeigen AI Overviews nur Informationen, die durch führende Web-Ergebnisse gestützt werden.“ Beitrag lesen

Google DeepMind — GopherCite (März 2022)

• “Language models like Gopher can ‘hallucinate’ facts that appear plausible but are actually fake.” (Übersetzung) „Sprachmodelle wie Gopher können Fakten halluzinieren, die plausibel erscheinen, aber tatsächlich erfunden sind.“ Beitrag lesen
• “Because language models can hallucinate convincing nonsense, GopherCite uses reinforcement learning from human preferences (RLHP) to train models that generate answers whilst also citing specific evidence for their claims.” (Übersetzung) „Weil Sprachmodelle überzeugenden Unsinn halluzinieren können, nutzt GopherCite Reinforcement Learning aus menschlichen Präferenzen (RLHP), um Modelle zu trainieren, die Antworten erzeugen und zugleich konkrete Belege für ihre Behauptungen zitieren.“ Beitrag lesen

Anthropic — Claude-Entwicklerdokumentation

• “Even the most advanced language models, like Claude, can sometimes generate text that is factually incorrect or inconsistent with the given context. This phenomenon, known as ‘hallucination,’ can undermine the reliability of your AI-driven solutions.” (Übersetzung) „Selbst die fortschrittlichsten Sprachmodelle wie Claude können manchmal Text erzeugen, der faktisch falsch oder mit dem gegebenen Kontext inkonsistent ist. Dieses als Halluzination bekannte Phänomen kann die Zuverlässigkeit Ihrer KI-gestützten Lösungen untergraben.“ Dokumentation lesen
• “Remember, while these techniques significantly reduce hallucinations, they don’t eliminate them entirely. Always validate critical information, especially for high-stakes decisions.” (Übersetzung) „Denken Sie daran: Auch wenn diese Techniken Halluzinationen deutlich reduzieren, beseitigen sie diese nicht vollständig. Prüfen Sie wichtige Informationen immer, besonders bei Entscheidungen mit hohem Risiko.“ Zum Zitat springen

OpenAI — Help Center

• “Hallucinations are plausible but false statements generated by language models.” (Übersetzung) „Halluzinationen sind plausible, aber falsche Aussagen, die von Sprachmodellen erzeugt werden.“ Artikel lesen
• “Like any language model, ChatGPT can produce incorrect or misleading outputs, and sometimes it might sound confident—even when it’s wrong.” (Übersetzung) „Wie jedes Sprachmodell kann ChatGPT falsche oder irreführende Ausgaben erzeugen und manchmal selbstsicher klingen — selbst wenn es falsch liegt.“ Artikel lesen

Lin et al.: TruthfulQA (2021)

• “Larger models produce more imitative falsehoods because they are better at learning the training distribution.” (Übersetzung) „Größere Modelle erzeugen mehr imitierte Falschaussagen, weil sie die Trainingsverteilung besser lernen.“ Arbeit lesen

Lanham et al. — Anthropic-Forscher (2023)

• “As models become larger and more capable, they produce less faithful reasoning on most tasks.” (Übersetzung) „Wenn Modelle größer und leistungsfähiger werden, erzeugen sie bei den meisten Aufgaben weniger belegtreues Schlussfolgern.“ Arbeit lesen

Mark Howard, COO, Time (über die Tow-Center-/CJR-Studie)

• “It’s critically important how our brand is represented, when and where we show up.” (Übersetzung) „Es ist entscheidend, wie unsere Marke dargestellt wird, wann und wo sie erscheint.“ Studie lesen

Halluzinationsarten — Spickzettel

Die vier Arten, denen Sie begegnen werden

Die Zahlen, die Sie sich merken sollten

• 3,6 % — Anteil des KI-Referral-Traffics von Ahrefs, der auf nicht vorhandene Seiten ging (Patrick Stox, Ahrefs).
• 2,87-mal — so viel häufiger schicken KI-Assistenten Nutzer auf 404-Seiten als Google (Ahrefs, 16 Millionen URLs). Die 404-Rate von ChatGPT bei angeklickten URLs beträgt 1,01 %, gegenüber 0,15 % bei Google.
• Über 60 % — Zitationsfehlerquote in der KI-Suche über acht Suchmaschinen (Tow Center / CJR).
• Etwa 85–90 % — Grounding der besten Modelle selbst bei bereitgestellten Quellen (FACTS Grounding), also eine Fehleruntergrenze von 10–15 %.
• 73–86 % — Reduktion von Halluzinationen durch Websuche/Grounding.
• 58 % gegenüber 94 % — Wahrheitsgetreue des besten Modells gegenüber Menschen bei TruthfulQA.
• 37–39 % — Antworten, in denen manche Modelle nach einer einzigen platzierten Quelle Falschinformationen über eine Marke wiederholten (Ahrefs-Markenexperiment).

Mythos → Realität

• „RAG beseitigt Halluzinationen.“ → Es reduziert sie; geerdete Modelle scheitern weiterhin in etwa 10–15 % der Fälle.
• „Neuere/größere Modelle halluzinieren weniger.“ → TruthfulQA: Größer kann überzeugendere Falschaussagen bedeuten.
• „AI Overviews halluzinieren wie ChatGPT.“ → Sie sind geerdet; Fehler gehen eher auf Fehlinterpretation als auf reine Konfabulation zurück (Reid).
• „Zitiert zu werden bedeutet, korrekt dargestellt zu werden.“ → Eine Zitationsfehlerquote von über 60 % sagt nein.
• „Das Blockieren von KI-Crawlern beendet Markenhalluzinationen.“ → Fakten, die bereits in den Gewichten liegen, bleiben dort.
• „Man erkennt den Fehler daran, dass die Antwort unsicher klingt.“ → Selbstsicherheit ist das definierende Merkmal; ChatGPT signalisierte nur bei 15 von 134 falschen Antworten Unsicherheit.

Halluzination reduzieren — das Playbook

Dies sind die Hebel, ungefähr nach ihrer Wirkung geordnet, abgeleitet aus dem, was die Modellhersteller und die Forschung tatsächlich stützen.

1. Die Antwort erden (und die Obergrenze akzeptieren). Geben Sie dem Modell zur Laufzeit echte Quellen — das ist RAG/Grounding. Es ist der größte einzelne Hebel (73–86 % Reduktion). Verinnerlichen Sie aber die Obergrenze: Selbst die besten geerdeten Modelle scheitern weiterhin in etwa 10–15 % der Fälle (FACTS Grounding), und sie scheitern durch Fehllektüre oder falsche Auswahl von Quellen, nicht durch Erfindungen aus dem Nichts. Grounding verändert den Fehlermodus, beseitigt ihn aber nicht.

2. Dem Modell erlauben, „Ich weiß es nicht“ zu sagen. Anthropics erste Empfehlung: “explicitly give Claude permission to admit uncertainty… this simple technique can drastically reduce false information.” (Übersetzung) „Claude ausdrücklich die Erlaubnis zu geben, Unsicherheit einzugestehen … diese einfache Technik kann falsche Informationen drastisch reduzieren.“ GopherCite verbesserte sich deutlich, sobald es sich enthalten konnte. Eine Antwort in Antwortform auf eine Frage, die es nicht stützen kann, ist der Kernfehler; die Erlaubnis, sich zu enthalten, greift ihn direkt an.

3. Zitationen und wortgetreue Zitate verlangen. Machen Sie die Ausgabe prüfbar: Lassen Sie das Modell für jede Behauptung Quellen zitieren und bei langen Dokumenten Wort-für-Wort-Zitate vor dem Reasoning extrahieren. Sie vertrauen der Zitation nicht blind (über 60 % sind falsch) — Sie machen die Behauptung prüfbar.

4. Der Reasoning-Spur nicht als Beweis vertrauen. Chain-of-Thought kann eine nachträgliche Rationalisierung sein (Lanham et al.). „Es hat seine Überlegung erklärt“ bedeutet nicht „es hat seine Antwort geerdet“. Prüfen Sie die Schlussfolgerung, nicht die Erzählung.

Das SEO-Framework — schützen Sie Ihre Entität

Stellen Sie es sich als drei Aufgaben vor, denn Sie können die Modelle nicht ändern:

1. Erkennen — überwachen Sie KI-Antworten über Ihre Marke und beobachten Sie Analytics auf Traffic zu nicht gefundenen Seiten. (Korrigieren Sie die Zuordnung zuerst, sonst bleibt Traffic zu halluzinierten URLs unsichtbar.)
2. Weiterleiten — leiten Sie halluzinierte URLs oberhalb eines Traffic-Schwellenwerts per 301 auf die nächstliegende echte Seite weiter. Erfassen Sie die Absicht, die das Modell fehlleitet.
3. Die Wahrheit für sie erden — saubere, konsistente, überprüfbare öffentliche Fakten (Schema, Wikidata, offizielle Profile und eine eindeutige „Über uns“-Seite), damit geerdete Systeme Ihre Fakten statt einer Behauptung des Wettbewerbers oder eines Satireartikels abrufen. Dies ist der einzige dauerhafte Schutz gegen Markenhalluzinationen — Crawler zu blockieren ist es nicht, weil die Gewichte bereits enthalten, was sie gelernt haben.

Routinemäßige Halluzinationsprüfung

1. Definieren Sie risikoreiche Behauptungen: Preise, rechtliche oder sicherheitsbezogene Aussagen, Produktfunktionen, Namen von Führungskräften, Standorte und offizielle URLs.
2. Erstellen Sie stabile Prompts für diese Behauptungen und protokollieren Sie Plattform, Modell, Modus, Datum, Gebietsschema, Kontostatus und ob die Live-Suche aktiviert war.
3. Speichern Sie die vollständige Antwort, Zitationen und Quell-URLs. Eine paraphrasierte Notiz ist für spätere Vergleiche kein ausreichender Beleg.
4. Klassifizieren Sie jede Aussage anhand einer eigenen Wahrheitsquelle und der zitierten Quellen als unterstützt, widerlegt, nicht verifizierbar, veraltet oder nicht anwendbar.
5. Prüfen Sie erfundene URLs anhand von Logs, Backlinks und Analytics, bevor Sie entscheiden, ob Sie weiterleiten, eine Seite veröffentlichen oder eine echte 404-Antwort bestehen lassen.
6. Weisen Sie die Korrektur eigenen Inhalten, technischer Weiterleitung, einer Korrektur durch Dritte oder Plattform-Feedback zu und planen Sie einen datierten Retest.

Incident-Playbook: Eine KI-Antwort enthält eine schädliche Falschaussage

1. Belege erfassen. Speichern Sie vollständige Antwort, Prompt, Quellen, Produkt/Modell, Datum, Kontostatus und bei vorübergehendem Verhalten eine Bildschirmaufzeichnung.
2. Auswirkung und Wahrheit prüfen. Lassen Sie den zuständigen Fachexperten die exakte falsche Behauptung und den maßgeblichen Fakt bestimmen. „Korrigieren“ Sie eine strittige Behauptung nicht, indem Sie eine weitere ungestützte Aussage veröffentlichen.
3. Wahrscheinliche Quellen zurückverfolgen. Prüfen Sie zitierte Seiten, Ihre aktuellen und archivierten Inhalte, strukturierte Fakten, Feeds, Profile und prominente Erwähnungen Dritter.
4. Kontrollierte Belege korrigieren. Korrigieren Sie widersprüchliche eigene Seiten, fassen Sie Entitätsfakten zusammen und aktualisieren Sie veraltete Dokumentation, ohne Daten kosmetisch zu ändern.
5. URLs bewusst behandeln. Leiten Sie eine erfundene URL nur weiter, wenn ein echtes Äquivalent die Absicht erfüllt. Bewahren Sie andernfalls die korrekte Antwort für eine fehlende Seite und bringen Sie Nutzern nicht bei, dass jeder erfundene Pfad aufgelöst wird.
6. Extern melden. Nutzen Sie den Feedbackkanal der Plattform und bitten Sie Dritte um Korrekturen, wenn die Belege dies stützen.
7. Erneut testen und überwachen. Wiederholen Sie denselben Prompt unter dokumentierten Bedingungen und halten Sie den Incident offen, bis die Antwort korrigiert oder das verbleibende Risiko akzeptiert wurde.

Prompt: Eine KI-Antwort anhand bereitgestellter Belege auf Fakten prüfen

Audit the AI answer below using only the supplied source-of-truth documents. Break the
answer into atomic factual claims. For each claim, label it supported, contradicted,
not found, stale, or opinion; quote the exact supporting or conflicting passage; and
state the smallest correction. Treat a citation as evidence only if its page supports
the adjacent claim. Do not fill gaps from memory or the open web.

AI answer:
[PASTE COMPLETE ANSWER AND CITATIONS]

Approved source-of-truth documents:
[PASTE DOCUMENT NAME, DATE, URL OR EXCERPT]

Prompt: Erfundene URLs priorisieren

Classify these AI-referred URLs using the supplied HTTP, backlink, analytics, and page
inventory evidence. For each URL, recommend one of: keep a true 404/410, redirect to a
genuinely equivalent page, restore a previously valid page, or investigate further.
Never recommend redirecting to the homepage just to remove a 404. Explain which user
intent and evidence make a destination equivalent.

Evidence:
[PASTE URL | STATUS | REFERRERS | BACKLINKS | VISITS | CLOSEST REAL PAGE]

DevTools-Konsole: Sichtbare Zitationen aus einer Antwortseite extrahieren

Führen Sie dies auf einer gespeicherten oder zugänglichen Antwortseite aus, nachdem Sie die Nutzungsbedingungen der Plattform geprüft haben. Die Selektoren sind bewusst allgemein gehalten und müssen möglicherweise an die Benutzeroberfläche angepasst werden.

copy(JSON.stringify([...document.querySelectorAll('a[href]')]
  .map(a => ({text: a.textContent.trim(), url: a.href}))
  .filter(x => /^https?:/.test(x.url)), null, 2));

Shell: Eine Liste vermuteter erfundener URLs prüfen

Führen Sie dies nur für URLs aus, die Ihnen gehören oder deren Prüfung Sie autorisiert durchführen dürfen.

while IFS= read -r url; do
  curl -sS -o /dev/null -L --max-redirs 5 -w '%{http_code}\t%{url_effective}\t%{url}\n' "$url"
done < suspected-urls.txt

Regex: Zahlen in Behauptungsform zur Prüfung markieren

Diese Prüf-Regex findet Prozentangaben, Währungsbeträge und mehrstellige Zahlen. Sie entscheidet nicht, ob eine Behauptung falsch ist.

(?:[$€£]\s?\d[\d,.]*|\b\d+(?:\.\d+)?%|\b\d{2,}(?:[,.]\d+)*\b)

Tools zur Untersuchung von Halluzinationen

• AI Brand Visibility erfasst eine gekennzeichnete Modellantwort und hält Erwähnungen für den lokalen Vergleich getrennt von Zitationen.
• Citation Gap Checker markiert nicht gestützte numerische und forschungsartige Behauptungen in Inhalten, die Sie kontrollieren. Es ist eine Prüfwarteschlange, keine Wahrheitsmaschine.
• Redirect Checker zeigt Status und endgültiges Ziel einer erfundenen oder veralteten URL, bevor Sie entscheiden, wie Sie diese behandeln.
• Server-/CDN-Logs zeigen Anfragen an erfundene Pfade, während Backlink- und Analytics-Tools zeigen, ob Menschen oder andere Websites sie tatsächlich verwenden.
• Plattform-Feedback-Steuerelemente sind der direkte Meldeweg. Bewahren Sie aber Ihre eigenen Belege auf, da Zeitpunkt und Dauer der Korrektur nicht garantiert sind.

Eine Halluzinationsantwort validieren

Halluzinationsmetriken

Testen Sie Ihr Wissen: KI-Halluzinationen

Ressourcen, die Ihre Zeit wert sind

Meine verwandten Texte (Ahrefs)

• 80 % unseres KI-Suchtraffics fließt auf unsere Startseite, Produktseiten und kostenlosen Tools — hierher stammt der Befund von 3,6 % halluzinierten Seiten.
• KI-Assistenten beschädigen Webanalysen und ihre eigene Zukunft — warum halluzinierter Traffic unsichtbar sein kann.
• Google hat die Verfolgung von Klicks aus dem KI-Modus erschwert (teilweise behoben) — der von mir gemeldete noreferrer-Zuordnungsfehler.

Von anderen

• Wie oft halluzinieren KI-Assistenten Links? (16 Millionen untersuchte URLs) — Ryan Law und Xibeijia Guan (Ahrefs); der 2,87-fache 404-Befund.
• Ich führte ein KI-Desinformationsexperiment durch. Jede Marketingfachkraft sollte die Ergebnisse sehen — Makosiewicz (Ahrefs); der Markenangriff mit dem platzierten Medium-Artikel.
• KI-Suche hat ein Zitationsproblem — Tow Center / Columbia Journalism Review (2025); die Studie mit über 60 % Zitationsfehlern. Zusammenfassung von Nieman Lab.
• Erhebung zu Halluzinationen bei der Erzeugung natürlicher Sprache — Ji et al.; die intrinsische vs. extrinsische Taxonomie.
• TruthfulQA — Lin et al.; der Befund zur inversen Skalierung.
• Belegtreue beim Chain-of-Thought-Schlussfolgern messen — Lanham et al. (Anthropic).
• Vectara-Rangliste zu Halluzinationen — fortlaufende Halluzinationsraten bei geerdeten Zusammenfassungen.
• Was sind KI-Halluzinationen? — Googles offizielle Erklärung des Mechanismus und der Gegenmaßnahmen in Google Cloud.
• KI-Halluzinationen über Ihre Marke erkennen und beheben — der praktische Leitfaden von Search Engine Land zur Überwachung und Korrektur von KI-Markenfehlern.
• Die KI-Feedbackschleife: Forschende warnen vor Modellkollaps, wenn KI mit KI-Inhalten trainiert wird — VentureBeat über Model Collapse und die Verstärkung halluzinierter Inhalte über Trainingszyklen hinweg.

Zitierfähige Statistiken

• 3,6 % des KI-Referral-Traffics gingen auf nicht vorhandene Seiten auf ahrefs.com — halluzinierte URLs, hauptsächlich von ChatGPT. Mein Befund aus erster Hand. Quelle
• KI-Assistenten schicken Nutzer etwa 2,87-mal häufiger auf 404-Seiten als die Google-Suche — über 16 Millionen von KI zitierten URLs. Die 404-Rate von ChatGPT bei angeklickten URLs betrug 1,01 %, gegenüber 0,15 % bei Google. Quelle
• Über 60 % Zitationsfehlerquote über acht KI-Suchmaschinen; ChatGPT signalisierte nur bei 15 von 134 falschen Antworten Unsicherheit (Tow Center / CJR, 2025). Quelle
• Etwa 85–90 % geerdet ist die Obergrenze der besten Modelle bei gegebenen Quellen — eine Fehleruntergrenze von 10–15 % (FACTS Grounding, DeepMind, 2024). Quelle
• 73–86 % Halluzinationsreduktion durch Websuche-/Grounding-Zugriff; 58 % Wahrheitsgetreue des besten Modells gegenüber 94 % bei Menschen in TruthfulQA. Quelle
• 37–39 % der Antworten wiederholten nach einer einzigen platzierten Quelle Falschinformationen über eine Marke (Ahrefs-Markenexperiment). Quelle

Änderungsprotokoll