Hallucinations IA

Des recherches ont montré que les modèles de langage peuvent répéter des idées reçues courantes au lieu de les corriger de manière fiable. Evidence for this claim TruthfulQA found that language models can reproduce common human misconceptions and that larger models were not automatically more truthful on its benchmark. Scope: TruthfulQA's benchmark, model set, and 2021 results; not a current cross-model error rate. Confidence: high · Verified: 2026-07-14 Lin et al.: TruthfulQA Le NIST appelle « confabulation » le contenu faux ou erroné présenté avec assurance. Evidence for this claim NIST's Generative AI Profile identifies confabulation—the confident presentation of false or erroneous content—as a generative-AI risk. Scope: NIST risk-management terminology and guidance; not a product-specific incidence estimate. Confidence: high · Verified: 2026-07-14 NIST: Generative AI Profile

TL;DR — Une hallucination IA survient lorsqu’un chatbot dit quelque chose qui semble juste mais qui est faux — un fait inventé, une source fictive ou un lien vers une page qui n’existe pas. Dans une réponse non ancrée, le modèle prédit des mots qui semblent probables au lieu de consulter une source. L’ancrage (fournir au modèle des sources récupérées) peut aider, mais ne résout pas entièrement le problème. Pour votre site, surveillez surtout deux choses : l’IA qui envoie les visiteurs vers des URL que vous n’avez jamais créées et l’IA qui se trompe sur les faits concernant votre marque.

Qu’est-ce qu’une hallucination IA ?

Une réponse de modèle de langage non ancrée prédit des suites probables à partir de motifs appris au lieu de vérifier chaque affirmation contre une source. Les outils de recherche et de récupération peuvent ajouter des preuves actuelles, mais ne rendent pas la synthèse infaillible. Lorsqu’une affirmation générée semble assurée mais est fausse, on parle généralement d’hallucination.

Une image utile : le modèle sait très bien écrire le type de phrase qui vient habituellement ensuite. Il ne vérifie pas si cette phrase est vraie. Lorsqu’il ne « sait » pas vraiment quelque chose — un détail de niche, un changement récent, une marque peu connue — il produit tout de même une réponse fluide et assurée, parce que c’est ce pour quoi il a été entraîné.

Certains chercheurs préfèrent le mot confabulation (emprunté aux recherches sur la mémoire, où il désigne le fait de combler sincèrement des lacunes par de faux détails). Le terme est plus précis, car l’IA ne ment pas et ne cherche pas à vous tromper. Elle a simplement produit la suite qui semblait la plus plausible, et cette suite s’est trouvée fausse.

Les deux types qui touchent votre site

1. URL inventées. L’IA recommande une page de votre site qui n’existe pas. Un utilisateur clique et arrive sur une 404. Les assistants IA font cela bien plus souvent que Google. Dans les propres données d’Ahrefs, 3,6 % du trafic issu de l’IA est allé vers des pages qui n’existent pas sur le site.
2. Faits erronés sur votre marque. L’IA donne à un prospect le mauvais fondateur, un ancien tarif, un produit abandonné ou quelque chose qu’un concurrent a dit de vous — présenté comme un fait, sans ajouter « je ne suis pas sûr ».

Ce que vous pouvez réellement faire

• Redirigez les URL inventées. Si l’IA envoie régulièrement des visiteurs vers une page que vous n’avez jamais créée, mettez en place une redirection de cette fausse URL vers la page réelle la plus proche. (Vous devez d’abord les trouver : surveillez vos statistiques pour repérer le trafic vers les 404.)
• Vérifiez ce que l’IA dit de vous. Posez aux grands outils IA les questions que vos clients posent et vérifiez les réponses. Faites-le régulièrement : les réponses changent lorsque les modèles sont mis à jour.
• Publiez des faits clairs et exacts. Plus vos informations publiques sont propres et cohérentes (page « À propos », données structurées, profils), plus il est facile pour l’IA de s’ancrer dans la vérité plutôt que de deviner.

Un point surprend souvent : bloquer les robots d’exploration IA ne corrige pas les hallucinations sur votre marque. Si un modèle a déjà appris quelque chose de faux sur vous, l’empêcher de l’explorer à nouveau ne lui fait pas « désapprendre » ce fait. La surveillance et des faits publics clairs sont plus efficaces que le blocage.

Vous voulez comprendre le mécanisme — pourquoi les modèles plus grands peuvent halluciner davantage, ce que montrent les recherches et comment l’ancrage échoue — passez à l’onglet Advanced.

TruthfulQA a montré que la simple mise à l’échelle ne rendait pas les modèles testés plus véridiques sur son benchmark. Evidence for this claim TruthfulQA found that language models can reproduce common human misconceptions and that larger models were not automatically more truthful on its benchmark. Scope: TruthfulQA's benchmark, model set, and 2021 results; not a current cross-model error rate. Confidence: high · Verified: 2026-07-14 Lin et al.: TruthfulQA Le NIST considère la confabulation comme un risque à mesurer et à gérer, et non comme un taux d’erreur fixe propre à un produit. Evidence for this claim NIST's Generative AI Profile identifies confabulation—the confident presentation of false or erroneous content—as a generative-AI risk. Scope: NIST risk-management terminology and guidance; not a product-specific incidence estimate. Confidence: high · Verified: 2026-07-14 NIST: Generative AI Profile

TL;DR — L’hallucination est une caractéristique de la prédiction du prochain token, et non un bug que l’on peut corriger par un patch. Les modèles optimisent les suites plausibles, pas la vérité, et produisent donc avec assurance des affirmations fausses lorsque le signal d’entraînement est faible. L’ancrage et le RAG réduisent le phénomène (73 à 86 % dans certains benchmarks), mais ne l’éliminent pas : les meilleurs modèles ancrés échouent encore environ 10 à 15 % du temps, et TruthfulQA a montré que les modèles plus grands peuvent produire des faussetés plus convaincantes. Pour le SEO, le phénomène est mesurable : l’IA envoie les utilisateurs vers des 404s environ 2,87 fois plus que Google, 3,6 % de notre trafic IA chez Ahrefs est allé vers des pages inexistantes, et les taux d’erreur de citation dépassent 60 % dans les moteurs de recherche IA. Les correctifs sont tactiques : rediriger les URL hallucinées, surveiller les réponses sur la marque et publier un contenu vérifiable, aux entités claires.

Qu’est-ce qu’une hallucination, au juste ?

Une hallucination IA est une sortie énoncée avec assurance mais factuellement incorrecte, fabriquée ou non étayée par une source. Le terme technique plus précis est confabulation — emprunté à la neuropsychologie, où il désigne la production de récits faux avec une véritable assurance et sans intention de tromper. Cette précision compte : le modèle ne ment pas. Il n’a pas de notion de vérité à propos de laquelle il pourrait mentir. Il exécute la seule tâche pour laquelle il a été entraîné — prédire le token suivant — et il arrive que le token le plus probable soit faux.

C’est le cadrage le plus important de cette page : l’hallucination est un sous-produit inhérent de la modélisation du langage qui privilégie la plausibilité à l’exactitude factuelle. Elle apparaît parce que les LLM fonctionnent comme prévu, et non à cause d’une défaillance d’implémentation. On ne la corrige pas comme un bug ; on la réduit.

Pourquoi cela arrive — le mécanisme

Les LLM sont entraînés avec un objectif de prédiction du prochain token : étant donné une séquence, prédire le token suivant le plus probable. C’est une tâche de complétion linguistique, pas de récupération de faits. Le modèle optimise ce qui semble devoir suivre dans un texte, pas ce qui est vrai. Lorsque le signal d’entraînement concernant un fait précis est faible — événements rares, sujets de niche, tout ce qui a changé après la date limite des connaissances du modèle — il comble la lacune par un langage statistiquement probable. Lorsqu’une séquence ressemble à une question, la masse de probabilité favorise largement la production d’une réponse « en forme de réponse » plutôt que l’aveu d’incertitude, que le modèle possède ou non réellement la connaissance.

La chercheuse Ece Kamar, de Microsoft Research, formule ce point de manière empirique : les modèles hallucinent davantage autour des faits moins courants dans les données d’entraînement. C’est dans la longue traîne que vit la confabulation. Le SKU obscur de votre produit, un changement de nom récent, un fondateur parti le trimestre dernier — précisément les faits les moins représentés sur le Web — sont ceux que le modèle risque le plus de présenter avec assurance et à tort.

Les types à distinguer

• Hallucination factuelle — le fait énoncé est tout simplement faux.
• Hallucination de citation ou d’attribution — le modèle cite une source qu’il n’a pas utilisée, attribue mal une citation, invente un nom d’auteur ou crée une URL. C’est la version SEO la plus directement mesurable.
• Hallucination d’entité ou de marque — noms, dates, statistiques, tarifs ou faits d’entreprise erronés, énoncés avec assurance.
• Intrinsèque contre extrinsèque (taxonomie de Ji et al.) : la sortie intrinsèque contredit la source fournie ; la sortie extrinsèque ne peut pas être vérifiée à partir de la source — elle n’est ni confirmée ni contredite, mais constitue un ajout fabriqué.

Lire correctement les affirmations sur les hallucinations

Cinq distinctions sont aplaties dans la plupart des contenus sur les hallucinations, y compris dans les versions antérieures de cette page. Elles comptent, car elles changent la signification de « corrigé », « ancré » ou « cité » lorsque vous évaluez un outil ou une affirmation.

• Nommez la référence. « Hallucination » ne désigne pas un seul mode d’échec. Cela peut être une contradiction du contexte fourni, un ajout non étayé que le contexte ne confirme ni ne réfute, ou une erreur factuelle sur le monde — ces trois cas ne sont pas interchangeables (la synthèse de Ji et al. en est la taxonomie source). Un vérificateur conçu pour détecter l’un des trois manquera discrètement les deux autres.
• La factualité n’est pas la fidélité. La factualité confronte une affirmation à une référence externe et réelle — est-elle vraie ? La fidélité confronte une affirmation aux preuves que vous avez effectivement fournies — ces preuves l’étayent-elles ? Une réponse peut réussir l’un de ces tests et échouer l’autre : résumer fidèlement une mauvaise source ou énoncer quelque chose de vrai que les preuves fournies n’étayent jamais. La méthode des faits atomiques de FActScore — découper une longue réponse en affirmations vérifiables individuellement — existe parce qu’un score holistique unique masque cette différence.
• L’existence d’une citation n’est pas un ancrage. La qualité d’une citation correspond en réalité à trois vérifications distinctes : la citation existe-t-elle et résout-elle correctement, étaye-t-elle effectivement l’affirmation précise qui l’accompagne, et la réponse couvre-t-elle chaque affirmation qui nécessitait une citation (la décomposition utilisée par les travaux ALCE de Gao et al.) ? Une note de bas de page visible et cliquable peut réussir le premier test et échouer les deux autres — c’est exactement l’écart qui se cache derrière les taux d’erreur de citation supérieurs à 60 % mentionnés plus haut.
• Les échecs du RAG ont des étapes nommées, pas une seule étiquette. Lorsqu’une réponse fondée sur le RAG est fausse, la cause peut être que la preuve n’était jamais dans le corpus, qu’elle a été découpée de sorte que le fait nécessaire a été séparé par une frontière, qu’elle existait mais n’a pas été récupérée, qu’elle a été récupérée mais classée trop bas pour parvenir au générateur, ou qu’elle est parvenue au générateur mais a été mal utilisée malgré tout (la taxonomie des erreurs RAG de RAGTruth). « L’IA a halluciné » réduit cinq causes profondes — et cinq correctifs différents — à un seul mot.
• Les pourcentages de benchmark ne se transportent pas. Chaque taux de cette page — 73 à 86 %, environ 85 à 90 %, 58 % contre 94 % — est lié à une tâche, un jeu de données, une politique de référence, un évaluateur, un ensemble de prompts, un corpus, un modèle, une version de modèle et une date de test précis. Ne citez pas « le modèle X est fiable à Y % » comme un fait transposable en dehors du contrat d’évaluation de ce benchmark ; un autre évaluateur, corpus ou version peut déplacer fortement le nombre.

Ce que montrent les recherches

• TruthfulQA (Lin et al., 2021) a établi le problème de la mise à l’échelle inverse. Sur 817 questions adversariales, le plus grand modèle de l’époque (GPT-3-175B) n’était véridique qu’à 58 %, contre une référence humaine de 94 % — et, surtout, “larger models produce more imitative falsehoods because they are better at learning the training distribution.” (traduction) « les modèles plus grands produisent davantage de faussetés imitatives parce qu’ils apprennent mieux la distribution d’entraînement ». Plus grand ne signifie pas plus sûr. Un modèle plus grand reproduit mieux les idées reçues populaires intégrées au texte Web ; il peut donc être plus convaincant dans l’erreur, et non moins. (Cela concerne directement votre marque : si de fausses informations circulent sur vous en ligne, les modèles plus capables sont meilleurs pour les absorber et les reproduire.)
• La synthèse de Ji et al. (2022/2023) est la taxonomie universitaire de référence — hallucinations intrinsèques et extrinsèques dans la synthèse, le dialogue, les questions-réponses, la traduction et les LLM.
• Lanham et al. (2023), chez Anthropic, ont montré que le raisonnement en chaîne de pensée n’est pas toujours fidèle : “as models become larger and more capable, they produce less faithful reasoning on most tasks.” (traduction) « à mesure que les modèles deviennent plus grands et plus capables, leur raisonnement devient moins fidèle sur la plupart des tâches ». L’explication détaillée affichée par un modèle ne reflète pas nécessairement la manière dont il est réellement parvenu à la réponse : elle peut être une rationalisation a posteriori. Ainsi, « l’IA a expliqué son raisonnement » ne prouve pas que la réponse est ancrée.
• FACTS Grounding (Google DeepMind, décembre 2024) fournit le chiffre qui ancre le débat sur l’ancrage : même lorsqu’on leur donne des documents source explicites, les meilleurs modèles n’atteignent qu’environ 85 à 90 % d’ancrage. Les 10 à 15 % restants correspondent à une mauvaise lecture, une mauvaise interprétation ou une incapacité à utiliser le contenu récupéré — et non à une confabulation sortie de nulle part.

L’ancrage (RAG) résout-il le problème ? Non — il le réduit

C’est la nuance que la plupart des contenus déforment. L’ancrage — rattacher une réponse aux documents récupérés par le système au moment de l’inférence, généralement avec le RAG — est la principale mesure d’atténuation, et elle fonctionne : l’accès à la recherche Web a réduit les hallucinations de 73 à 86 % selon les modèles testés dans les benchmarks d’ancrage. Mais il ne les élimine pas et échoue de façons différentes de celles d’un LLM nu :

• il peut mal interpréter le passage récupéré ;
• sélectionner le mauvais passage ;
• combiner incorrectement plusieurs sources ; ou
• ne pas reconnaître une requête adversariale ou absurde.

Elizabeth Reid, de Google, a précisément établi cette distinction à propos d’AI Overviews : “generally don’t ‘hallucinate’ or make things up in the ways that other LLM products might” (traduction) « ne “hallucinent” généralement pas et n’inventent pas les choses de la même manière que d’autres produits LLM pourraient le faire », car ils sont “built to only show information that is backed up by top web results.” (traduction) « conçus pour n’afficher que des informations étayées par les principaux résultats Web ». Lorsqu’ils se trompent, elle explique que c’est “usually for other reasons: misinterpreting queries, misinterpreting a nuance of language on the web, or not having a lot of great information available.” (traduction) « généralement pour d’autres raisons : mauvaise interprétation des requêtes, mauvaise interprétation d’une nuance de la langue sur le Web ou manque d’informations de qualité ». C’est une distinction réelle : les systèmes ancrés échouent davantage dans la récupération et l’interprétation que dans la confabulation pure — mais ce n’est pas une garantie d’exactitude. Même des outils de recherche juridique très dépendants du RAG ont affiché des taux d’hallucination allant jusqu’à environ 33 %, ce qui contredit les promesses de fournisseurs « sans hallucination ». Anthropic le dit clairement dans sa propre documentation développeur : “while these techniques significantly reduce hallucinations, they don’t eliminate them entirely. Always validate critical information.” (traduction) « même si ces techniques réduisent fortement les hallucinations, elles ne les éliminent pas entièrement. Validez toujours les informations critiques. »

L’impact SEO — mesurable et corrigeable

Hallucination d’URL. C’est le cas le plus concret, et c’est moi qui l’ai quantifié. En analysant le trafic de référence IA d’Ahrefs, j’ai constaté (dans mon analyse du trafic de recherche IA d’Ahrefs par type de page) que 3,6 % du trafic est allé vers des pages hallucinées — des pages qui n’existent pas sur ahrefs.com. Les systèmes IA (principalement ChatGPT) recommandaient des URL qui n’avaient jamais été créées. L’étude Ahrefs plus large portant sur 16 millions d’URL citées par l’IA (Ryan Law et Xibeijia Guan) met ce chiffre en contexte : les assistants IA envoient les utilisateurs vers des pages 404 2,87 fois plus souvent que Google Search — le taux de 404 cliquées de ChatGPT était de 1,01 %, contre 0,15 % pour Google. Le correctif tactique est simple : surveillez le trafic de référence vers les 404, repérez les URL hallucinées au-dessus d’un seuil (par exemple 10 visites/mois) et redirigez-les en 301 vers la page réelle la plus proche. Vous récupérez le trafic que le modèle essayait déjà de vous envoyer.

Hallucination d’attribution. L’étude Columbia/Tow Center (2025) a testé 8 moteurs de recherche IA et trouvé des réponses incorrectes à plus de 60 % des requêtes leur demandant d’identifier le titre, la date, l’éditeur et l’URL d’un article. ChatGPT a mal identifié 134 articles, mais n’a signalé son incertitude que 15 fois — une erreur assurée. Plus de la moitié des réponses de certains modèles citaient des URL fabriquées. La leçon SEO : être cité dans une réponse IA ne signifie pas être représenté correctement. Une citation n’est pas une compréhension.

L’angle mort des statistiques. Cela aggrave le problème des URL. Le trafic IA est mal attribué aujourd’hui — certaines plateformes ne transmettent pas les données de référent, et AI Mode de Google utilisait noreferrer, regroupant les clics sous « Direct »/« Unknown » (Google l’a confirmé comme un bug après mon signalement). Si le trafic vers des URL hallucinées n’est pas correctement attribué, vous ne le verrez peut-être jamais — la découverte de 3,6 % n’a été possible que parce que nous avions accès aux statistiques pour l’examiner. Corrigez d’abord l’attribution, sinon vous surveillez à l’aveugle.

Hallucination de marque et réputation. Une IA qui donne à un prospect de fausses informations sur vos tarifs, vos dirigeants ou votre histoire peut détériorer la confiance avant même qu’il n’arrive sur votre site. Pire encore, il s’agit désormais d’un vecteur de SEO négatif : l’expérience de marque d’Ahrefs (Makosiewicz) a montré qu’un seul article Medium amorcé pouvait pousser certains modèles à propager une désinformation dans 37 à 39 % des réponses sur une marque. “Any growing brand can be knocked off course in AI search results by an upset person with a Medium account.” (traduction) « N’importe quelle marque en croissance peut être déviée de sa trajectoire dans les résultats de recherche IA par une personne mécontente possédant un compte Medium. » Aucun lien à créer ni à désavouer : seulement un contenu faux sur une plateforme indexée.

Que faire concrètement

1. Redirigez les URL hallucinées (le correctif des hallucinations d’URL ci-dessus).
2. Surveillez régulièrement les réponses IA sur votre marque — les réponses changent quand les modèles sont mis à jour et quand de nouveaux contenus sont indexés. Les audits ponctuels deviennent obsolètes.
3. Construisez des signaux d’entité — NAP cohérent, données structurées, Wikidata, profils officiels — afin que les systèmes ancrés disposent de faits propres et vérifiables à récupérer. C’est le meilleur levier contre les futures hallucinations de marque.
4. Vérifiez le contenu généré par l’IA avant de le publier. Les hallucinations non retouchées qui atteignent le Web sont indexées et peuvent alimenter l’entraînement du modèle suivant — la boucle de rétroaction de l’effondrement des modèles. Ne devenez pas un nœud de cette boucle.
5. N’attendez pas du blocage des robots qu’il corrige le problème. Bloquer GPTBot/ClaudeBot empêche un futur entraînement sur votre contenu ; cela ne change rien aux faits déjà présents dans les poids. (Voir l’article AI crawlers pour cette distinction.)

Le résumé honnête : l’hallucination est une infrastructure permanente, pas un bug passager. Vous ne pouvez pas empêcher l’IA de confabuler. Vous pouvez en revanche faire de vos propres faits l’élément le moins coûteux et le plus propre sur lequel elle peut s’ancrer — et repérer puis rediriger les URL qu’elle invente.

Résumé IA

Une synthèse condensée de la version Advanced :

• Hallucination = sortie assurée, fausse ou non étayée. C’est une caractéristique de la prédiction du prochain token (optimiser un texte plausible, pas la vérité), et non un bug : on peut donc la réduire sans jamais l’éliminer complètement. « Confabulation » est le terme le plus précis ; le modèle ne ment pas.
• Le phénomène se concentre dans la longue traîne. Les modèles hallucinent davantage autour de faits rares dans les données d’entraînement — produits de niche, changements récents, marques peu connues.
• Nommer précisément l’échec compte. La contradiction du contexte, l’ajout non étayé et l’erreur factuelle sur le monde ne sont pas la même chose ; la factualité (vrai ?) et la fidélité (étayé par les preuves fournies ?) sont deux tests différents qu’une réponse peut réussir l’un et échouer l’autre ; l’existence d’une citation ne signifie pas qu’elle étaye la proposition voisine ; et une réponse RAG peut échouer parce que la preuve manquait, a été mal découpée, n’a pas été récupérée, a été sous-classée ou a été mal utilisée lors de la génération — cinq causes distinctes que « l’IA a halluciné » dissimule.
• Plus grand ne signifie pas plus sûr. TruthfulQA : les modèles plus grands produisent des faussetés imitatives plus convaincantes (58 % de véracité contre 94 % pour les humains). Le raisonnement en chaîne de pensée peut manquer de fidélité (Lanham et al.).
• L’ancrage/RAG aide beaucoup sans résoudre le problème. L’accès au Web a réduit les hallucinations de 73 à 86 %, mais les meilleurs modèles ancrés échouent encore environ 10 à 15 % du temps (FACTS Grounding), en lisant ou en sélectionnant mal les sources. Reid : AI Overviews sont ancrées et “generally don’t hallucinate… in the ways other LLM products might” (traduction) « n’hallucinent généralement pas… de la manière dont d’autres produits LLM pourraient le faire », mais elles peuvent tout de même se tromper par mauvaise interprétation. Anthropic : ces techniques “don’t eliminate them entirely.” (traduction) « ne les éliminent pas entièrement. »
• L’impact SEO est mesurable : l’IA envoie les utilisateurs vers des 404s environ 2,87 fois plus que Google ; 3,6 % du trafic IA d’Ahrefs est allé vers des pages inexistantes ; les taux d’erreur de citation dépassent 60 % (Tow Center). Être cité ≠ être représenté correctement.
• L’attribution est elle aussi défaillante, si bien que le trafic provenant d’URL hallucinées peut rester invisible : corrigez le suivi avant de surveiller.
• Le risque de marque est un vecteur de SEO négatif : un seul article Medium amorcé a poussé certains modèles à répéter une désinformation dans 37 à 39 % des réponses.
• Correctifs : rediriger les URL hallucinées, surveiller régulièrement les réponses sur la marque, construire des signaux d’entité, vérifier le contenu IA avant publication et ne pas attendre du blocage des robots qu’il annule les faits déjà présents dans les poids.

Documentation officielle

Ce que les fabricants de modèles et les moteurs de recherche disent eux-mêmes sur les hallucinations.

Google

• Ce qui s’est passé avec AI Overviews et les prochaines étapes — Elizabeth Reid (mai 2024) explique pourquoi les erreurs d’AI Overviews ancrées diffèrent de celles des LLM autonomes.
• GopherCite : étayer les réponses par des citations vérifiées — DeepMind décrit les modèles qui hallucinent du « convincing nonsense » (traduction) « non-sens convaincant », ainsi que la citation de preuves (et l’aveu « I don’t know » (traduction) « Je ne sais pas ») pour y remédier.
• Benchmark FACTS Grounding — benchmark de factualité de DeepMind, avec un plafond d’ancrage d’environ 85 à 90 %.
• Conseils sur le contenu généré par l’IA — Search Central : le contenu IA est évalué selon sa qualité et son E-E-A-T, et non selon sa méthode de production.

Anthropic

• Réduire les hallucinations — documentation développeur de Claude : permettre au modèle de dire « I don’t know » (traduction) « Je ne sais pas », ancrer les réponses avec des citations directes, vérifier avec des citations, et rappeler explicitement que les techniques n’éliminent pas les hallucinations.

OpenAI

• Pourquoi les modèles de langage hallucinent — explication d’OpenAI sur le mécanisme.
• ChatGPT dit-il la vérité ? — Centre d’aide : « Hallucinations are plausible but false statements generated by language models. » (traduction) « Les hallucinations sont des affirmations plausibles mais fausses générées par des modèles de langage. »

Microsoft

• Pourquoi l’IA se trompe parfois — définition technique par Microsoft du contenu « ungrounded » (traduction) « non ancré » et de ses outils d’atténuation.

Citations de la source

Déclarations enregistrées des personnes qui construisent ces systèmes. Chaque lien est un lien profond qui mène au passage cité où la source étaye l’affirmation.

Google — Elizabeth Reid, vice-présidente/directrice de la recherche (mai 2024)

• “This means that AI Overviews generally don’t ‘hallucinate’ or make things up in the ways that other LLM products might.” (traduction) « Cela signifie qu’AI Overviews n’“hallucine” généralement pas et n’invente pas les choses de la manière dont d’autres produits LLM pourraient le faire. » Lire le billet
• “When AI Overviews get it wrong, it’s usually for other reasons: misinterpreting queries, misinterpreting a nuance of language on the web, or not having a lot of great information available.” (traduction) « Lorsqu’AI Overviews se trompe, c’est généralement pour d’autres raisons : mauvaise interprétation des requêtes, mauvaise interprétation d’une nuance de la langue sur le Web ou manque d’informations de qualité. » Aller à la citation
• “Because accuracy is paramount in Search, AI Overviews are built to only show information that is backed up by top web results.” (traduction) « Comme l’exactitude est primordiale dans la recherche, AI Overviews est conçue pour n’afficher que des informations étayées par les principaux résultats Web. » Lire le billet

Google DeepMind — GopherCite (mars 2022)

• “Language models like Gopher can ‘hallucinate’ facts that appear plausible but are actually fake.” (traduction) « Les modèles de langage comme Gopher peuvent “halluciner” des faits qui semblent plausibles mais sont en réalité faux. » Lire le billet
• “Because language models can hallucinate convincing nonsense, GopherCite uses reinforcement learning from human preferences (RLHP) to train models that generate answers whilst also citing specific evidence for their claims.” (traduction) « Comme les modèles de langage peuvent halluciner un non-sens convaincant, GopherCite utilise l’apprentissage par renforcement à partir de préférences humaines (RLHP) pour entraîner des modèles qui génèrent des réponses tout en citant des preuves précises pour leurs affirmations. » Lire le billet

Anthropic — documentation développeur de Claude

• “Even the most advanced language models, like Claude, can sometimes generate text that is factually incorrect or inconsistent with the given context. This phenomenon, known as ‘hallucination,’ can undermine the reliability of your AI-driven solutions.” (traduction) « Même les modèles de langage les plus avancés, comme Claude, peuvent parfois générer un texte factuellement incorrect ou incohérent avec le contexte fourni. Ce phénomène, appelé “hallucination”, peut compromettre la fiabilité de vos solutions pilotées par l’IA. » Lire la documentation
• “Remember, while these techniques significantly reduce hallucinations, they don’t eliminate them entirely. Always validate critical information, especially for high-stakes decisions.” (traduction) « Souvenez-vous que, même si ces techniques réduisent fortement les hallucinations, elles ne les éliminent pas entièrement. Validez toujours les informations critiques, en particulier pour les décisions à forts enjeux. » Aller à la citation

OpenAI — Centre d’aide

• “Hallucinations are plausible but false statements generated by language models.” (traduction) « Les hallucinations sont des affirmations plausibles mais fausses générées par des modèles de langage. » Lire l’article
• “Like any language model, ChatGPT can produce incorrect or misleading outputs, and sometimes it might sound confident—even when it’s wrong.” (traduction) « Comme tout modèle de langage, ChatGPT peut produire des sorties incorrectes ou trompeuses et sembler parfois sûr de lui — même lorsqu’il se trompe. » Lire l’article

Lin et al. — TruthfulQA (2021)

• “Larger models produce more imitative falsehoods because they are better at learning the training distribution.” (traduction) « Les modèles plus grands produisent davantage de faussetés imitatives parce qu’ils apprennent mieux la distribution d’entraînement. » Lire l’article

Lanham et al. — chercheurs d’Anthropic (2023)

• “As models become larger and more capable, they produce less faithful reasoning on most tasks.” (traduction) « À mesure que les modèles deviennent plus grands et plus capables, leur raisonnement devient moins fidèle sur la plupart des tâches. » Lire l’article

Mark Howard, directeur des opérations de Time (via l’étude Tow Center / CJR)

• “It’s critically important how our brand is represented, when and where we show up.” (traduction) « La manière dont notre marque est représentée, ainsi que le moment et l’endroit où elle apparaît, sont d’une importance cruciale. » Lire l’étude

Les types d’hallucinations — aide-mémoire

Les quatre types que vous rencontrerez

Les chiffres à retenir

• 3,6 % — part du trafic de référence IA d’Ahrefs allé vers des pages inexistantes (Patrick Stox, Ahrefs).
• 2,87 fois — fréquence à laquelle les assistants IA envoient les utilisateurs vers des 404s par rapport à Google (Ahrefs, 16 millions d’URL). Pour les clics de ChatGPT, le taux de 404 s’établissait à 1,01 %, contre 0,15 % pour Google.
• Plus de 60 % — taux d’erreur des citations dans la recherche IA, sur 8 moteurs (Tow Center / CJR).
• Environ 85 à 90 % — degré d’ancrage des meilleurs modèles même lorsqu’on leur fournit les sources (FACTS Grounding), soit un plancher d’échec de 10 à 15 %.
• 73 à 86 % — réduction des hallucinations en donnant aux modèles l’accès à la recherche Web et à l’ancrage.
• 58 % contre 94 % — véracité du meilleur modèle contre celle des humains dans TruthfulQA.
• 37 à 39 % — réponses dans lesquelles certains modèles ont répété une désinformation sur une marque après un seul article amorcé (expérience de marque d’Ahrefs).

Mythe → réalité

• « Le RAG élimine les hallucinations. » → Il les réduit ; les modèles ancrés échouent encore environ 10 à 15 % du temps.
• « Les modèles plus récents ou plus grands hallucinent moins. » → TruthfulQA : plus grand peut signifier des faussetés plus convaincantes.
• « AI Overviews hallucine comme ChatGPT. » → AI Overviews est ancrée ; ses erreurs relèvent davantage de la mauvaise interprétation que de la confabulation pure (Reid).
• « Être cité signifie être correctement représenté. » → Le taux d’erreur des citations, supérieur à 60 %, dit le contraire.
• « Bloquer les robots IA arrête les hallucinations de marque. » → Les faits déjà présents dans les poids y restent.
• « On peut voir que c’est faux parce que le modèle semble hésiter. » → L’assurance est précisément la caractéristique du phénomène ; ChatGPT n’a signalé son incertitude que dans 15 de ses 134 réponses erronées.

Réduire les hallucinations — le playbook

Voici les leviers, à peu près dans l’ordre de leur impact, que soutiennent réellement les fabricants de modèles et les recherches.

1. Ancrez la réponse (et acceptez le plafond). Fournissez au modèle de vraies sources au moment de l’inférence : c’est le RAG / ancrage. C’est le levier le plus important (réduction de 73 à 86 %). Mais gardez à l’esprit le plafond : les meilleurs modèles ancrés échouent encore environ 10 à 15 % du temps (FACTS Grounding), en lisant mal ou en sélectionnant mal les sources, plutôt qu’en inventant à partir de rien. L’ancrage change le mode d’échec ; il ne le supprime pas.

2. Autorisez le modèle à dire « je ne sais pas ». Première recommandation d’Anthropic : “explicitly give Claude permission to admit uncertainty… this simple technique can drastically reduce false information.” (traduction) « donnez explicitement à Claude la permission d’admettre son incertitude… cette technique simple peut réduire considérablement les fausses informations ». GopherCite s’est nettement amélioré lorsqu’il a pu s’abstenir. Une réponse en forme de réponse à une question qu’il ne peut pas étayer est l’échec central ; l’autorisation de s’abstenir l’attaque directement.

3. Exigez des citations et des citations verbatim. Rendez la sortie auditable : demandez au modèle de citer les sources pour chaque affirmation et, pour les documents longs, d’extraire des citations mot à mot avant de raisonner. Vous ne faites pas aveuglément confiance à la citation (plus de 60 % sont erronées) : vous rendez l’affirmation vérifiable.

4. Ne prenez pas la trace de raisonnement pour une preuve. La chaîne de pensée peut être une rationalisation a posteriori (Lanham et al.). « Il a expliqué son raisonnement » ne signifie pas « il a ancré sa réponse ». Vérifiez la conclusion, pas le récit.

Le framework SEO — protéger votre entité

Pensez à trois tâches, puisque vous ne pouvez pas modifier les modèles :

1. Détecter — surveiller les réponses IA sur votre marque et les statistiques pour repérer le trafic vers les 404s. (Corrigez d’abord l’attribution, sinon le trafic provenant d’URL hallucinées est invisible.)
2. Rediriger — rediriger en 301 les URL hallucinées qui dépassent un seuil de trafic vers la page réelle la plus proche. Capturez l’intention que le modèle détourne.
3. Ancrer la vérité pour eux — des faits publics propres, cohérents et vérifiables (données structurées, Wikidata, profils officiels, page « À propos » sans ambiguïté) afin que les systèmes ancrés récupèrent vos faits plutôt que l’affirmation d’un concurrent ou un article satirique. C’est la seule défense durable contre les hallucinations de marque : le blocage des robots ne l’est pas, car les poids contiennent déjà ce qu’ils ont appris.

Revue courante des hallucinations

1. Définissez les affirmations à haut risque : prix, déclarations juridiques ou de sécurité, fonctionnalités des produits, noms des dirigeants, lieux et URL officielles.
2. Créez des prompts stables pour ces affirmations et consignez la plateforme, le modèle, le mode, la date, la langue, l’état du compte et l’activation éventuelle de la recherche en direct.
3. Enregistrez la réponse complète, les citations et les URL sources. Une note paraphrasée ne constitue pas une preuve suffisante pour une comparaison ultérieure.
4. Classez chaque affirmation comme étayée, contredite, invérifiable, obsolète ou non applicable, en utilisant une source de vérité détenue et des sources citées.
5. Vérifiez les URL fabriquées dans les journaux, les backlinks et les statistiques avant de décider de rediriger, de publier une page ou de laisser une vraie 404.
6. Attribuez le correctif au contenu détenu, au routage technique, à la correction d’un tiers ou au retour à la plateforme, puis planifiez un nouveau test daté.

Playbook d’incident : une réponse IA énonce une fausseté préjudiciable

1. Conservez les preuves. Enregistrez la réponse complète, le prompt, les sources, le produit/modèle, la date, l’état du compte et un enregistrement d’écran si le comportement est transitoire.
2. Vérifiez l’impact et la vérité. Demandez au responsable du domaine concerné d’identifier l’affirmation fausse exacte et le fait faisant autorité. Ne « corrigez » pas une affirmation contestée en publiant une autre affirmation non étayée.
3. Retracez les sources probables. Examinez les pages citées, vos contenus actuels et archivés, les faits structurés, les flux, les profils et les mentions tierces importantes.
4. Corrigez les preuves contrôlées. Corrigez les pages détenues contradictoires, consolidez les faits d’entité et mettez à jour la documentation obsolète sans modifier artificiellement les dates.
5. Gérez les URL délibérément. Ne redirigez une URL fabriquée que lorsqu’un équivalent réel répond à la même intention. Sinon, conservez la bonne réponse de page manquante et évitez d’apprendre aux utilisateurs que tout chemin inventé se résout.
6. Signalez le problème à l’extérieur. Utilisez le canal de retour de la plateforme et demandez des corrections aux tiers lorsque les preuves les étayent.
7. Retestez et surveillez. Répétez le même prompt dans des conditions documentées et laissez l’incident ouvert jusqu’à ce que la réponse soit corrigée ou que le risque résiduel soit accepté.

Prompt : vérifier une réponse IA par rapport aux preuves fournies

Audit the AI answer below using only the supplied source-of-truth documents. Break the
answer into atomic factual claims. For each claim, label it supported, contradicted,
not found, stale, or opinion; quote the exact supporting or conflicting passage; and
state the smallest correction. Treat a citation as evidence only if its page supports
the adjacent claim. Do not fill gaps from memory or the open web.

AI answer:
[PASTE COMPLETE ANSWER AND CITATIONS]

Approved source-of-truth documents:
[PASTE DOCUMENT NAME, DATE, URL OR EXCERPT]

Prompt : trier les URL fabriquées

Classify these AI-referred URLs using the supplied HTTP, backlink, analytics, and page
inventory evidence. For each URL, recommend one of: keep a true 404/410, redirect to a
genuinely equivalent page, restore a previously valid page, or investigate further.
Never recommend redirecting to the homepage just to remove a 404. Explain which user
intent and evidence make a destination equivalent.

Evidence:
[PASTE URL | STATUS | REFERRERS | BACKLINKS | VISITS | CLOSEST REAL PAGE]

Console DevTools : extraire les citations visibles d’une page de réponse

Exécutez ce script sur une page de réponse enregistrée ou accessible après avoir vérifié les conditions d’utilisation de la plateforme. Les sélecteurs sont intentionnellement génériques et peuvent nécessiter une adaptation à l’interface.

copy(JSON.stringify([...document.querySelectorAll('a[href]')]
  .map(a => ({text: a.textContent.trim(), url: a.href}))
  .filter(x => /^https?:/.test(x.url)), null, 2));

Shell : vérifier une liste d’URL potentiellement fabriquées

Exécutez cette commande uniquement sur des URL que vous possédez ou que vous êtes autorisé à tester.

while IFS= read -r url; do
  curl -sS -o /dev/null -L --max-redirs 5 -w '%{http_code}\t%{url_effective}\t%{url}\n' "$url"
done < suspected-urls.txt

Regex : signaler les nombres en forme d’affirmation à revoir

Cette regex de revue repère les pourcentages, les montants monétaires et les nombres à plusieurs chiffres. Elle ne détermine pas si une affirmation est fausse.

(?:[$€£]\s?\d[\d,.]*|\b\d+(?:\.\d+)?%|\b\d{2,}(?:[,.]\d+)*\b)

Outils pour enquêter sur les hallucinations

• AI Brand Visibility capture une réponse de modèle étiquetée et sépare les mentions des citations pour une comparaison locale.
• Citation Gap Checker signale les affirmations numériques et de type recherche non étayées dans le contenu que vous contrôlez. Il s’agit d’une file de revue, pas d’un moteur de vérité.
• Redirect Checker affiche le statut et la destination finale d’une URL fabriquée ou obsolète avant que vous décidiez quoi en faire.
• Les journaux du serveur/CDN révèlent les requêtes vers des chemins inventés, tandis que les outils de backlinks et de statistiques indiquent si des personnes ou d’autres sites les utilisent réellement.
• Les contrôles de retour des plateformes sont la voie directe pour signaler un problème, mais conservez vos propres preuves : les délais et la persistance des corrections ne sont pas garantis.

Valider une réponse hallucinée

Mesures des hallucinations

Testez-vous : hallucinations IA

Des ressources qui valent votre temps

Mes articles connexes (Ahrefs)

• 80 % de notre trafic de recherche IA va vers notre page d’accueil, nos pages produit et nos outils gratuits — origine de la découverte des 3,6 % de pages hallucinées.
• Les assistants IA perturbent l’analyse Web et nuisent à son avenir — pourquoi le trafic halluciné peut rester invisible.
• Google a rendu impossible le suivi des clics depuis AI Mode (partiellement corrigé) — le bug d’attribution noreferrer que j’ai signalé.

D’autres auteurs

• À quelle fréquence les assistants IA hallucinent-ils des liens ? (16 millions d’URL étudiées) — Ryan Law et Xibeijia Guan (Ahrefs) ; le chiffre de 2,87 fois pour les 404.
• J’ai mené une expérience de désinformation IA. Tous les marketeurs devraient voir les résultats — Makosiewicz (Ahrefs) ; l’attaque de marque par un article Medium amorcé.
• La recherche IA a un problème de citations — Tow Center / Columbia Journalism Review (2025) ; l’étude sur le taux d’erreur de citation supérieur à 60 %. Résumé de Nieman Lab.
• Enquête sur les hallucinations dans la génération de langage naturel — Ji et al. ; la taxonomie intrinsèque contre extrinsèque.
• TruthfulQA — Lin et al. ; la mise à l’échelle inverse.
• Mesurer la fidélité du raisonnement en chaîne de pensée — Lanham et al. (Anthropic).
• Classement des hallucinations Vectara — taux continus d’hallucinations dans la synthèse ancrée.
• Que sont les hallucinations IA ? — explication officielle de Google Cloud sur le mécanisme et les stratégies d’atténuation.
• Comment identifier et corriger les hallucinations IA à propos de votre marque — guide pratique de Search Engine Land pour surveiller et corriger les erreurs IA sur les marques.
• La boucle de rétroaction de l’IA : des chercheurs alertent sur l’effondrement des modèles lorsque l’IA s’entraîne sur du contenu généré par l’IA — VentureBeat sur l’effondrement des modèles et la façon dont le contenu halluciné se propage au fil des cycles d’entraînement.

Des statistiques à citer

• 3,6 % du trafic de référence IA est allé vers des pages qui n’existent pas sur ahrefs.com — des URL hallucinées, principalement depuis ChatGPT. Ma découverte de première partie. Source
• Les assistants IA envoient les utilisateurs vers des 404s environ 2,87 fois plus souvent que Google Search — sur 16 millions d’URL citées par l’IA. Pour les clics de ChatGPT, le taux de 404 était de 1,01 %, contre 0,15 % pour Google. Source
• Plus de 60 % de taux d’erreur des citations sur 8 moteurs de recherche IA ; ChatGPT n’a signalé son incertitude que dans 15 de ses 134 réponses erronées (Tow Center / CJR, 2025). Source
• Environ 85 à 90 % d’ancrage est le plafond pour les meilleurs modèles lorsqu’on leur donne les sources — un plancher d’échec de 10 à 15 % (FACTS Grounding, DeepMind, 2024). Source
• Réduction de 73 à 86 % des hallucinations grâce à l’accès à la recherche Web et à l’ancrage ; 58 % de véracité pour le meilleur modèle contre 94 % pour les humains dans TruthfulQA. Source
• 37 à 39 % des réponses ont répété une désinformation sur une marque après une seule source amorcée (expérience de marque d’Ahrefs). Source

Journal des modifications