Guide : llms.txt
llms.txt est a proposed Markdown fichier à /llms.txt pour guiding AI systèmes. Google ignores il, 97% de fichiers obtenir zero requêtes, et Claude Code est le réel lecteur.
1 indice probant sur cette page
- Outil en ligne associéllms.txt Generator + Validator
llms.txt est a proposal par Jeremy Howard (Réponse.AI) pour helping AI agents navigate sites — 97% de publié fichiers obtenir zero requêtes, Google ignores il, et Claude Code est le principal consumer, pas recherche bots.
llms.txt is a community proposal pour a Markdown fichier at /llms.txt, pas an adopted web standard. Preuve à l’appui de cette affirmation llms.txt is a community proposal for a Markdown file at /llms.txt that offers LLM-friendly site information; it is not a web standard. Portée : The proposal's own specification and stated purpose. Niveau de confiance : élevé · Vérifié : llms.txt proposal OpenAI’s publié robot d’exploration contrôle utiliser robots.txt and ne faites pas document llms.txt as a contrôler. Preuve à l’appui de cette affirmation OpenAI documents robots.txt controls for its declared crawlers and does not list llms.txt as a crawler control. Portée : OpenAI's published crawler controls; absence is not proof that no internal system ever fetches the file. Niveau de confiance : élevé · Vérifié : OpenAI: Crawlers
TL;DR — llms.txt est a Markdown fichier vous put à
/llms.txtque hands AI systèmes a court, curated liste de votre la plupart pages importantes. A developer named Jeremy Howard proposed il dans 2024. c’est a nice idea, mais En pratique presque nobody lit il — Google ignores il outright, et le principal chose que fait lire il est AI coding assistants, pas le recherche bots la plupart personnes sont hoping à reach. Il coûts little à ajouter et probably ne va pas déplacer votre AI visibility.
Ce que llms.txt is
llms.txt est a plain Markdown fichier vous placer à le root de votre site —
yoursite.com/llms.txt. À l’intérieur, vous écrire votre site’s nom, a un-line
description, et alors a court liste de liens à votre la plupart pages importantes, chaque
avec a rapide remarque à propos de ce que il covers. Le idea est que an AI système peut lire
que un fichier et immédiatement comprendre ce que votre site est et où le bon
stuff lives, au lieu de having à explorer et parse chaque page.
Il était proposed par Jeremy Howard — le person behind rapide.ai (a popular deep learning course) et Réponse.AI — back dans September 2024.
Ce que it’s supposed to do vs. ce que it en réalité fait
Le pitch: AI outils ont limited “context windows” (ils peut seulement lire donc beaucoup à une fois), et turning messy HTML dans clean texte est difficile. Donc pourquoi pas let le site owner hand le model a tidy, pre-written map?
Le reality est plus sobering. Le major AI recherche providers haven’t adopted il. Google a flatly said il ne fait pas utiliser il. Et quand Ahrefs studied 137 000 sites, 97% de le publié llms.txt fichiers obtenu zero requêtes dans a month — as dans, rien récupéré les à tout.
«The one place it genuinely gets used is AI coding assistants — tools like Claude Code that developers use to write software. Those read llms.txt to find their way around technical documentation quickly. That’s the original use case, and it works. It’s just very different from “this will get my business cited in ChatGPT.” » (Traduction) (Résumé en français de la section onze, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
Is it comme robots.txt?
A lot of personnes assume llms.txt is “robots.txt for AI.” It isn’t.
- robots.txt contrôle accès — il indique robots d’exploration ce que ils sont allowed à récupérer, et well-behaved bots obey il.
- llms.txt offers guidance — il suggests qu’est-ce que worth reading, et rien est obligated à listen. Il ne peut pas bloquer n’importe quoi.
Si votre goal est à garder AI bots out, llms.txt ne fait pashing — c’est a job pour robots.txt et votre CDN.
Devrait vous bother?
Si vous exécuter developer documentation que coding agents lire, certain — c’est cheap et il aide les. Si vous êtes a normal entreprise hoping llms.txt va boost votre visibility dans AI réponses, le honest réponse aujourd’hui est: ne pas expect résultats. Spend que temps on clair contenu et structure à la place.
Vouloir le spec, le provider-par-provider breakdown, le adoption données, et le security angle? Switch à le Avancé tab.
Le specification décrit a voluntary LLM-friendly site summary; il ne fait pas establish robot d’exploration compliance or indexation behavior. Preuve à l’appui de cette affirmation llms.txt is a community proposal for a Markdown file at /llms.txt that offers LLM-friendly site information; it is not a web standard. Portée : The proposal's own specification and stated purpose. Niveau de confiance : élevé · Vérifié : llms.txt proposal OpenAI currently documents named bots et independent robots.txt paramètres à la place. Preuve à l’appui de cette affirmation OpenAI documents robots.txt controls for its declared crawlers and does not list llms.txt as a crawler control. Portée : OpenAI's published crawler controls; absence is not proof that no internal system ever fetches the file. Niveau de confiance : élevé · Vérifié : OpenAI: Crawlers
TL;DR — llms.txt est a proposal (Jeremy Howard, Réponse.AI, Sept 3, 2024), pas an adopted standard. c’est a curated Markdown indexer à
/llms.txt, avec an optional complet-contenu/llms-full.txt. Le bots personnes hope sont reading il pour AI recherche — OAI-SearchBot, PerplexityBot — barely register; le dominant consumer est Claude Code et autre coding agents. Google ignores il (Illyes confirmed; Mueller comparé il à le mots-clés meta balise). Dans Ahrefs’ 137K-site study, 97% de fichiers obtenu zero requêtes, et SE Classement trouvé que removing llms.txt depuis a citation model improved son accuracy. c’est worth ajout pour developer docs consumed par coding agents; pour GEO/AEO on a normal site, le données ne fait pas prise en charge il. il y a aussi a réel prompt-injection risque.
«## What llms.txt actually is » (Traduction) (Résumé en français de la section vingt-trois, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«llms.txt is a proposal — I want to lead with that word because it’s the whole story. There’s no RFC, no W3C blessing, no IETF process. It’s one well-reasoned suggestion from Jeremy Howard (co-founder of Answer.AI and fast.ai), published September 3, 2024, that caught on hard in the developer-documentation world and got grafted onto SEO by a community hungry for an AI-visibility shortcut. » (Traduction) (Résumé en français de la section vingt-quatre, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«The design problem it targets is legitimate. As the spec puts it, “Large language models increasingly rely on website information, but face a critical limitation: context windows are too small to handle most websites in their entirety.” And converting HTML to clean, LLM-friendly text is, in the spec’s words, “difficult and imprecise.” Howard’s fix is to let the site author pre-flatten the content they want models to see into curated Markdown. » (Traduction) (Résumé en français de la section vingt-cinq, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«## The format » (Traduction) (Résumé en français de la section vingt-six, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«/llms.txt is an ordered Markdown document:
» (Traduction) (Résumé en français de la section vingt-sept, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«1. H1 (required) — project or site name.
2. Blockquote — a short summary with the key information.
3. Optional prose/lists — paragraphs or bullets, but no headings here.
4. H2-delimited link lists — - [name](url): optional notes.
5. An ## Optional section — secondary links a model can skip when context
is tight.
» (Traduction) (Résumé en français de la section vingt-huit, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«A minimal example, from the spec: » (Traduction) (Résumé en français de la section vingt-neuf, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
# FastHTML
> FastHTML is a python library which brings together Starlette, Uvicorn, HTMX,
> and fastcore's FT...
## Docs
- [FastHTML quick start](url): A brief overview of many features
## Optional
- [Starlette documentation](url): A subset useful for FastHTML development.«Two companion conventions exist: » (Traduction) (Résumé en français de la section trente et un, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
/llms-full.txt— le entier site contenu flattened dans un Markdown fichier. Anthropic, Perplexity, et Stripe publish les deux ce et le court formulaire.- Le
.mdURL convention — offeringpage.mdversions de individual pages donc ils sont LLM-ready sans le complet dump.
A newer variant skips le static fichiers entirely: edge-servi Markdown via contenu
negotiation. Cloudflare’s Markdown pour Agents
converts quelconque HTML page à clean Markdown on le fly quand a client sends
Accept: text/markdown — aucun per-page .md fichiers, aucun /llms-full.txt à regenerate,
aucun template changements, parce que le CDN fait le conversion à le edge (Cloudflare
cites ~80% fewer tokens pour le agent). c’est a payant fonctionnalité — Pro plan et up, pas
le gratuit tier — donc on ce site c’est un Cloudflare upgrade away depuis étant switched
on plutôt que quelque chose j’ai hand-built. Si c’est worth switching on est le
même ouvrir question que hangs over llms.txt itself: diffusion robots d’exploration a parallel
Markdown copy de chaque page est convenient, mais c’est un autre representation à garder dans
sync, et Bing’s Fabrice Canel a flagged le doubled explorer charger et
cloaking-adjacent risque de edge-servi alternate contenu. Vérifier votre logs pour réel
agent demand avant flipping il.
llms.txt vs robots.txt — ils ne sont pas the même chose
Le unique la plupart courant misconception est que llms.txt est “robots.txt pour AI.” Il n’est pas, et conflating les leads à mauvais decisions.
| robots.txt | llms.txt | |
|---|---|---|
| Objectif | Accès contrôler — ce que robots d’exploration peut récupérer | Content guidance — what’s utile to lire |
| Format | Directives (User-agent:, Disallow:) | Markdown liens + descriptions |
| Enforced? | Yes, by compliant robots d’exploration | Aucun — advisory seulement |
| Timing | Explorer temps, avant fetching | Inference temps, assembling context |
| A standard? | Yes, decades old, universal | Aucun — a proposal |
| Peut it block? | Yes | Aucun |
robots.txt is a réel, enforced standard. llms.txt is a suggestion box que la plupart systems aren’t reading yet. Si vous vouloir to contrôler AI robot d’exploration accès — qui is a separate, legitimate goal — que lives in robots.txt and AI robots d’exploration, pas ici.
Who en réalité reads it
Ce est le section que matters, parce que c’est où le données diverges hardest depuis le hype. Dans Ahrefs’ study de 137 210 domains (Peut 2026 trafic):
- 97% de publié llms.txt fichiers reçu zero requêtes. Seulement ~3% (à propos de 1 100 domains) saw quelconque trafic à tout.
- De le fichiers que a fait obtenir requested: 96% de requêtes came depuis bots, 4% depuis humans.
- De le bot requêtes, 77% came depuis non-AI outils — SEO auditors (Ahrefs itself parmi les), anonymous robots d’exploration, tech-profiling bots. Le SEO irony écrit itself.
- Seulement ~19,5% came depuis AI outils, et une fois vous break que bas il obtient pire pour
le GEO theory:
- AI agents & infrastructure (coding agents): ~10,5%
- Training robots d’exploration (GPTBot led à 4,51%): ~5,3%
- AI assistants: ~2,5%
- AI retrieval bots — le ones que construire citation indexes: 1,1%.
Lire que dernier line twice. Le bots la plupart personnes ajouter llms.txt pour — OAI-SearchBot, PerplexityBot — “barely registered.” Le dominant AI consumer est Claude Code, Anthropic’s coding agent, qui le study trouvé “outfetched chaque AI retrieval bot, assistant, et training robot d’exploration except GPTBot.” Et GPTBot est a training robot d’exploration que explore tout regardless — son presence n’est pas evidence de intentional llms.txt parsing.
Autre independent measurements land in the même placer. OtterlyAI watched un site
pour 90 days: of 62 100+ AI bot visits, exactly 84 hit /llms.txt — à propos de 0,1%,
performing “3x worse than average pages.” A separate analysis of 515M+ LLM bot
events over 90 days trouvé 408 requêtes total targeting /llms.txt —
“statistically negligible.”
«The takeaway is the developer-docs-vs-GEO split: llms.txt works for what Howard built it for (coding agents navigating API docs), and it largely doesn’t get touched by the search-citation bots the SEO community wants it to reach. » (Traduction) (Résumé en français de la section quarante-trois, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«## What the providers have said » (Traduction) (Résumé en français de la section quarante-quatre, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«Google — no, and no plans. Gary Illyes confirmed at Search Central Live (July 2025) that Google doesn’t support llms.txt and isn’t planning to. John Mueller, the most-quoted voice here, compared it to the keywords meta tag (April 2025) and called it a “temporary crutch, perhaps to save some tokens” for AI coding tools — explicitly not a search-visibility mechanism. Google’s May 2026 guidance stated machine-readable files like llms.txt aren’t necessary for AI Overviews or AI Mode, which “continue to rely on traditional SEO signals.” (Google did briefly publish an llms.txt on its dev docs on December 3, 2025, then pulled it the same day — later attributed to a CMS update, not a strategy shift.) » (Traduction) (Résumé en français de la section quarante-cinq, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«OpenAI — nothing. No announcement that ChatGPT, GPTBot, or OAI-SearchBot parse it. Server logs contradict meaningful usage; OAI-SearchBot “barely registered.” OpenAI points people to robots.txt for crawler control. » (Traduction) (Résumé en français de la section quarante-six, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
Anthropic — le interesting un. Anthropic publishes les deux llms.txt et
llms-full.txt à docs.anthropic.com/llms.txt, et Claude Code demonstrably
récupère autre sites’ llms.txt fichiers — c’est le largest AI consumer dans le données. Mais
c’est a coding-outil story. il y a aucun confirmation que Claude.ai’s recherche or
citation couche honors llms.txt. “Anthropic’s coding agent reads it” et “Anthropic’s
search index trusts it” sont différent claims, et seulement le premier est pris en charge.
Perplexity — claims oui, données dit rarely. Perplexity a stated il retrieves llms.txt et utilise il à “prioritize page selection.” Mais proactive fetching est le catch: PerplexityBot “barely registered” dans la requête données, et il y a “presque zero activity depuis PerplexityBot requesting llms.txt fichiers proactively.” Paste an llms.txt URL dans Perplexity et il lit il fine; autonomous, proactive utiliser est le gap entre policy et pratique.
Bing/Microsoft, Apple, Meta — aucun public position. Treat as unconfirmed.
«## Does it move AI citations? » (Traduction) (Résumé en français de la section cinquante, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«No demonstrated benefit. SE Ranking modeled 300,000 domains with an XGBoost regression + SHAP analysis and found that removing llms.txt from the model improved its accuracy — their conclusion: “LLMs.txt doesn’t seem to directly impact AI citation frequency. At least not yet.” A Search Engine Land 10-site, 180-day study saw 8 of 10 sites show no measurable change, and the two “winners” had confounding changes (PR coverage, new FAQ pages, technical fixes) you can’t separate from the llms.txt itself. » (Traduction) (Résumé en français de la section cinquante et un, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«## The meta-keywords comparison — fair or not? » (Traduction) (Résumé en français de la section cinquante-deux, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«Mueller’s keywords-meta-tag analogy holds on the points that matter: both are site-owner self-descriptions, neither is verified, and both are open to gaming/cloaking — you could show one thing in llms.txt and another on the page. That manipulability is exactly why a serious AI search product won’t trust a self-description over the actual pages. The counter-argument (Carolyn Shelby) is that llms.txt at least points to real URLs that have to deliver — it’s “a spotlight, not a wish list.” Both are right, and the practical result is the same: AI search systems don’t lean on it. » (Traduction) (Résumé en français de la section cinquante-trois, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
Quand it’s worth ajout — and quand to skip it
Ajouter il si vous exécuter developer documentation or an API référence whose principal public est AI coding agents (Claude Code, Cursor, Copilot, Codeium). c’est le utiliser cas il était construit pour, et il fonctionne.
Skip il — or au moins ne pas expect AI-visibility renvoie — pour contenu sites, media, ecommerce, et ordinary entreprise sites. Le coût est ~20 minutes; le GEO avantage aujourd’hui est near-zero; et que 20 minutes est meilleur spent on contenu structure, FAQ coverage, et le AI recherche optimization fundamentals que en réalité déplacer AI visibility. Le élevé adoption headlines (BuiltWith’s 844K+ figure) sont inflated par plateforme auto-deployment — Mintlify rolled llms.txt out à tout son hosted docs sites à une fois. Adoption n’est pas usage; 97% de fichiers obtenir zero requêtes.
The security angle
Ce est underreported et réel: parce que AI agents sont designed à confiance qu’est-ce que dans llms.txt, le fichier est a natural attack surface. Le Ahrefs study flagged mauvais actors probing llms.txt fichiers pour prompt-injection vulnerabilities. Si vous faire publish un, treat il as security-sensitive: garder il dans version contrôler, alert on unauthorized changements, et jamais put n’importe quoi dans il vous ne ferait pas montrer publicly.
Implementing it (si vous decide to)
- Placement:
/llms.txtà le domain root, servi astext/plainortext/markdown, HTTP 200. - Curate, ne pas dump: 20–50 de votre la plupart important liens. Si vous liste tout, a model pourrait as bien explorer directement — curation est le entier point.
- Optionally servir
/llms-full.txtpour contexts que vouloir tout votre contenu. - Valider: charger le fichier dans Claude, ChatGPT, or Perplexity et demander il à summarize votre site; alors vérifier serveur logs après a quelques weeks pour réel requêtes.
- Generators exist pour VitePress (
vitepress-plugin-llms), Docusaurus (docusaurus-plugin-llms), WordPress (“Website LLMs.txt”), Drupal, plus a Python CLI (llms_txt2ctx).
L’essentiel: faible coût, currently near-zero GEO avantage, genuinely utile pour le coding-agent utiliser cas il était born pour. Vérifier votre propre serveur logs avant vous decide — si vous êtes seeing Claude-Code/Cursor trafic, llms.txt peut aider les; si vous êtes chasing OAI-SearchBot et PerplexityBot, il n’est pas le lever.
AI summary
A condensed prendre on the Avancé version:
- llms.txt est a proposal, pas a standard — Jeremy Howard (Réponse.AI/rapide.ai),
Sept 3, 2024. A curated Markdown indexer à
/llms.txt; optional complet-contenu/llms-full.txt. - Il n’est pas robots.txt pour AI. robots.txt contrôle accès et est enforced; llms.txt est advisory et ne peut pas bloquer n’importe quoi.
- Presque nobody lit il. Ahrefs (137K sites): 97% de fichiers obtenu zero requêtes. De fichiers que étaient requested, 77% de bot hits étaient non-AI outils (SEO auditors), et AI retrieval bots — le citation-builders — étaient simplement 1,1%.
- Claude Code est le dominant AI consumer, pas recherche bots. OAI-SearchBot et PerplexityBot “barely registered.”
- Google ignores il. Illyes confirmed aucun prise en charge/plans; Mueller comparé il à le mots-clés meta balise. OpenAI: rien. Perplexity: claims prise en charge, mais proactive fetching est minimal. Anthropic publishes son propre + Claude Code lit il, mais recherche-layer utiliser est unconfirmed.
- Aucun citation avantage affiché. SE Classement (300K domains): removing llms.txt depuis le model improved accuracy.
- Worth il pour developer docs consumed par coding agents; skip il as a GEO play pour normal sites. Prompt-injection risque — treat il as security-sensitive.
«## Official documentation » (Traduction) (Résumé en français de la section soixante-dix, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«Primary-source material — the spec, the proposal, and the providers’ own files and statements. » (Traduction) (Résumé en français de la section soixante-onze, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«The spec & proposal
» (Traduction) (Résumé en français de la section soixante-douze, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«- llmstxt.org — the specification: file format, /llms.txt
vs /llms-full.txt, and the inference-time rationale.
» (Traduction) (Résumé en français de la section soixante-douze, sous-partie deux : le texte source est conservé pour vérification lors de la relecture francophone.)
«- The original proposal (Jeremy Howard, Sept 3, 2024) —
Answer.AI’s announcement post.
» (Traduction) (Résumé en français de la section soixante-douze, sous-partie trois : le texte source est conservé pour vérification lors de la relecture francophone.)
«- AnswerDotAI/llms-txt on GitHub — the
repo, tooling, and llms_txt2ctx CLI.
» (Traduction) (Résumé en français de la section soixante-douze, sous-partie quatre : le texte source est conservé pour vérification lors de la relecture francophone.)
«Providers’ own files
» (Traduction) (Résumé en français de la section soixante-treize, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«- Anthropic’s llms.txt — a live example
(Anthropic also publishes llms-full.txt).
» (Traduction) (Résumé en français de la section soixante-treize, sous-partie deux : le texte source est conservé pour vérification lors de la relecture francophone.)
«- Perplexity’s llms.txt — another live
example.
» (Traduction) (Résumé en français de la section soixante-treize, sous-partie trois : le texte source est conservé pour vérification lors de la relecture francophone.)
«Google’s official position » (Traduction) (Résumé en français de la section soixante-quatorze, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.) «- Google has stated machine-readable files like llms.txt are not necessary for AI Overviews or AI Mode, which rely on traditional SEO signals (May 2026 guidance); Gary Illyes confirmed no support and no plans at Search Central Live (July 2025). See the Search Engine Journal coverage of John Mueller’s statement for the most-cited articulation. » (Traduction) (Résumé en français de la section soixante-quatorze, sous-partie deux : le texte source est conservé pour vérification lors de la relecture francophone.)
«## Quotes from the source » (Traduction) (Résumé en français de la section soixante-dix-sept, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
On-le-record statements on llms.txt — depuis Google, le spec’s creator, et le researchers qui mesuré il.
John Mueller, Recherche Google Advocate (April 17, 2025)
- “AFAIK none de le AI services ont said ils sont en utilisant LLMs.TXT (et vous pouvez tell quand vous regarder à votre serveur logs que ils ne pas même vérifier pour il). À me, c’est comparable à le mots-clés meta balise – ce est ce que a site-owner claims leur site est à propos de … (Est le site vraiment comme que? bien, vous pouvez vérifier il. À que point, pourquoi pas simplement vérifier le site directement?)” Coverage
Gary Illyes, Recherche Google Central (Search Central Live, July 2025)
- Confirmed Google ne fait pas prise en charge llms.txt et a aucun plans à. (Reported depuis le event; aucun principal transcript URL identified — confirmer avant treating as final.)
Jeremy Howard, creator (Réponse.AI)
«- “A proposal to standardise on using an /llms.txt file to provide information to
help LLMs use a website at inference time.”
llmstxt.org
» (Traduction) (Résumé en français de la section quatre-vingt-quatre, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«- From the spec, on the core problem: “Large language models increasingly rely on
website information, but face a critical limitation: context windows are too small
to handle most websites in their entirety.”
llmstxt.org
» (Traduction) (Résumé en français de la section quatre-vingt-quatre, sous-partie deux : le texte source est conservé pour vérification lors de la relecture francophone.)
«Brett Tabke, Pubcon / WebmasterWorld (March 2025) » (Traduction) (Résumé en français de la section quatre-vingt-cinq, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«- “we just don’t need people thinking they are different from any other spider.” Search Engine Land » (Traduction) (Résumé en français de la section quatre-vingt-six, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«Carolyn Shelby, Search Engine Land (July 9, 2025 — the dissenting view) » (Traduction) (Résumé en français de la section quatre-vingt-sept, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«- “Llms.txt curates a list of real URLs, and the content has to exist – and deliver – when the model gets there.” and “Think of llms.txt like a treasure map for AI systems – one you draw yourself. It’s not a wish list. It’s a spotlight.” Search Engine Land » (Traduction) (Résumé en français de la section quatre-vingt-huit, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
Devrait vous implement llms.txt? — a decision checklist
Fonctionner top to bottom. The premier “yes” que fits usually settles it.
- Est votre principal public AI coding agents (Claude Code, Cursor, Copilot, Codeium) reading developer docs / an API référence? → Oui, ajouter il. Ce est le utiliser cas il était construit pour et il fonctionne.
- Sont vous ajout il purely à améliorer AI recherche citations pour a contenu, media, ecommerce, or general entreprise site? → ne pas expect résultats. Le données montre aucun citation avantage; spend le temps on contenu structure à la place.
- Ont vous vérifié votre serveur logs premier? Regarder pour
Claude-Code/Cursortrafic (llms.txt peut aider les) vsOAI-SearchBot/PerplexityBot(il ne va pas déplacer que needle). - Sont vous treating il as robots.txt pour AI? → Arrêter. Il bloque rien. Utiliser robots.txt + votre CDN pour accès contrôler.
Si vous do publish un:
- Placer il à
/llms.txt(root), servirtext/plain/text/markdown, HTTP 200. - Curate 20–50 de votre la plupart important URLs — ne pas dump le sitemap.
- Garder il dans version contrôler et alert on unauthorized changements (prompt-injection risque — agents sont construit à confiance il).
- Put rien dans il vous ne ferait pas montrer publicly.
- Optionally servir
/llms-full.txtpour complet-contenu contexts. - Valider: charger l’URL dans Claude/ChatGPT/Perplexity, demander pour a site summary; recheck serveur logs après a quelques weeks pour réel requêtes.
Provider prise en charge — cheat sheet
Who en réalité supports llms.txt (as of mid-2026)
«| Provider | Search/citation support? | Reality | | --- | --- | --- | | Google (Gemini / AI Overviews) | No | Illyes confirmed no support/plans; Mueller compared it to the keywords meta tag; AI Overviews rely on traditional signals | | OpenAI (ChatGPT / OAI-SearchBot) | No meaningful support | No announcement; OAI-SearchBot “barely registered” in request data | | Anthropic (Claude Code) | Yes — for the coding agent | Claude Code is the top AI consumer of llms.txt; Claude.ai search-layer use unconfirmed | | Perplexity | Claims yes, weak in practice | States it prioritizes page selection, but proactive PerplexityBot fetching is near-zero | | Apple (Applebot) | No statement | No public position, no evidence of crawling | | Bing / Microsoft | No statement | No public position found | » (Traduction) (Résumé en français de la section cent, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
Fast facts
- Proposed: Jeremy Howard (Réponse.AI/rapide.ai), Sept 3, 2024. A proposal, pas an adopted standard.
- Fichiers:
/llms.txt(court, curated) et optional/llms-full.txt(complet contenu flattened à Markdown). - Format: H1 nom → blockquote summary → H2 lien listes (
- [name](url): note) →## Optionalsection. - vs robots.txt: robots.txt = accès contrôler, enforced. llms.txt = guidance, advisory, bloque rien.
- Le number: 97% de publié fichiers obtenir zero requêtes (Ahrefs, 137K sites).
- Dominant AI lecteur: Claude Code, pas recherche bots.
- Citation avantage: none demonstrated (SE Classement: removing il improved model accuracy).
- Security: prompt-injection risque — version-contrôle il, alert on changements.
llms.txt mistakes to éviter
Treating the fichier as an access-control standard
llms.txt ne fait pas autoriser or block exploration. Utiliser robots.txt, authentication, and
autre réel accès contrôle pour que job.
Promising an AI-visibility lift
Provider prise en charge et observed fetching sont limited. Décrire le fichier as an optional navigation aid, pas a classement or citation lever.
Publishing sensitive or privé URLs
Le fichier est public et facile à découvrir. Inclure seulement resources prévu pour public consumption; jamais utiliser obscurity as protection.
Generating an uncurated sitemap dans Markdown
The proposal is la plupart utile as a short, human-readable guide to important resources. A huge dump adds maintenance cost sans clarifying qui pages matter.
Courant llms.txt problems
The fichier renvoie HTML au lieu de Markdown
Symptom: /llms.txt montre an application shell, branded 404, or redirection cible.
Probable causer: A catch-tous route or CDN règle intercepts le texte chemin. Corriger: Servir
le fichier directement à le root avec a successful réponse et plain texte or Markdown
contenu, alors requête il sans cookies.
Liens in the fichier échouer or redirection repeatedly
Symptom: A lecteur ne peut pas retrieve listed resources à leur URL canoniques. Probable causer: Le fichier était generated depuis stale navigation or relative paths. Corriger: valider chaque URL, remplacer retired locations, et préférer stable canonical HTTPS URLs.
Aucun bots requête the fichier
Symptom: Logs montrer aucun trafic à /llms.txt. Probable causer: Le systèmes vous care
à propos de ne faites pas prise en charge or découvrir le proposal. Corriger: Confirmer log coverage et laisser
le fichier as a faible-coût experiment; ne faites pas ajouter robot-spécifique tricks or infer a site
problème depuis zero requêtes.
Prompts pour curating llms.txt
Build a proposed llms.txt outline from this public URL inventory. Keep only canonical,
durable resources that help an agent understand the site or complete a task. Group them
under short Markdown headings, write one factual description per link, and flag URLs
that redirect, duplicate another page, require authentication, or may expose sensitive
information. Do not claim the file affects rankings or citations.
[paste inventory]Review this llms.txt file against the supplied crawl results. Report broken or
redirecting URLs, non-canonical links, descriptions unsupported by the destination,
missing high-value documentation, and sections that are too broad to be useful. Return
a corrected draft using only public URLs from the inputs.
[paste file and crawl results] «## Frameworks for deciding whether to use llms.txt » (Traduction) (Résumé en français de la section cent trente, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«### The cost–consumer–content test » (Traduction) (Résumé en français de la section cent trente et un, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«1. Cost: Can the team generate and maintain the file with little ongoing work? 2. Consumer: Is there an identified agent or workflow that actually reads it? 3. Content: Does the site have stable public documentation worth curating? » (Traduction) (Résumé en français de la section cent trente-deux, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
Implement quand tout three sont credible. Si le consumer est hypothetical, treat le fichier as an experiment et cap le maintenance budget.
Garder the roles separate
robots.txt: robot d’exploration accès guidance.- XML sitemap: URL discovery pour moteur de recherches.
llms.txt: proposed curated reading guide pour AI systems.- MCP: runtime protocol via qui an agent peut découvrir and invoke resources or outils.
Un fichier ne doit pas be evaluated as si it performs un autre system’s job.
Outils pour llms.txt
- llms.txt Generator + Validator: Draft a curated fichier et vérifier son structure et lié resources avant publishing.
- AI-Robot Accès Checker: Audit réel robot d’exploration
accès contrôle séparément;
llms.txtn’est pas a substitute pour ce vérifier. curl: Vérifier status, redirections, contenu type, et corps à le exact root chemin.- Serveur or CDN logs: Determine si named utilisateur agents requête le fichier; absence est an observation, pas proof de a classement problème.
- A lien checker: Revalidate chaque curated destination on a schedule donc le guide ne fait pas decay.
Valider an llms.txt release
Tester the root réponse
Tester à exécuter: Requête /llms.txt directement sans cookies et suivre aucun redirections.
Attendu résultat: A successful réponse contient le prévu Markdown à le root
chemin. Échec interpretation: Routing or deployment ne fait pas expose le fichier.
Monitoring window: Immediate. Rollback trigger: Le chemin sert an HTML shell,
erreur document, or unrelated redirection.
Tester every listed resource
Tester à exécuter: Explorer l’URLs dans le fichier et comparer chaque destination avec son description. Attendu résultat: Public canonical resources resolve successfully et match le stated objectif. Échec interpretation: Le guide est stale or misleading. Monitoring window: Immediate, alors on le documentation mettre à jour cadence. Rollback trigger: A listed URL exposes privé material or consistently fails.
Tester le stated experiment résultat honestly
Tester à exécuter: Requête serveur logs pour /llms.txt par utilisateur agent après publication.
Attendu résultat: Requêtes, si quelconque, sont recorded et attributable; zero est aussi a
valide résultat. Échec interpretation: Logging peut être incomplete or consumers peut
pas prise en charge le proposal. Monitoring window: Plusieurs normal explorer cycles.
Rollback trigger: None pour zero trafic alone; supprimer seulement quand maintenance or
exposure risque exceeds le fichier’s valeur.
Testez vos connaissances: llms.txt
Ressources utiles
Le original source
- llmstxt.org — le spec.
- Jeremy Howard’s proposal post (Sept 3, 2024) — le rationale, straight depuis le creator.
- AnswerDotAI/llms-txt — le repo et tooling.
Le données (lire ces avant vous implement n’importe quoi)
- Ce que Est llms.txt, et Devrait Vous Care À propos de Il? — Ahrefs — Ryan Law’s overview; le 28%-publish / 97%-zero-requêtes framing.
- Le llms.txt adoption study — Ahrefs — Louise Linehan & Xibeijia Guan, 137 210 domains: qui’s en réalité requesting le fichiers (Claude Code dominates AI; retrieval bots barely register) et le prompt-injection finding.
- Fait llms.txt matter? Nous tracked 10 sites — Moteur de recherche Land — 180-day study; 8/10 sites showed aucun measurable modifier.
- Le llms.txt experiment — OtterlyAI —
90 days, un site: 84 de 62 100+ AI bot visits hit
/llms.txt.
Le debate
- Aucun, llms.txt n’est pas le “new meta keywords” — Carolyn Shelby, Moteur de recherche Land — le strongest defense de llms.txt.
- Meet llms.txt, a proposed standard — Moteur de recherche Land — le pro/con summary et Brett Tabke’s critique.
Mon connexe writing on ce site
- AI robots d’exploration — controlling le bots (qui est ce que llms.txt est pas pour), et où le access-contrôle story en réalité lives.
Depuis autour le industry
- SE Classement: Le State de llms.txt — 300 000-domain XGBoost/SHAP study finding que removing llms.txt depuis le citation model improved accuracy; aussi a adoption-rate breakdown par trafic tier.
- Wix AI Recherche Lab — llms.txt myths (Crystal Carter, June 2026) — plus optimistic lire; 1 400+ fichiers reviewed, argues llms.txt fichiers themselves surface dans AI résultats même si adoption est patchy.
- Google Dit LLMs.Txt Comparable À Mots-clés Meta Balise — Moteur de recherche Journal — complet John Mueller citation et context depuis April 2025.
- presenc.ai: State de llms.txt 2026 — provider-par-provider prise en charge matrix; treat Anthropic/Perplexity “confirmed” claims avec care (principal sources pas toujours cited).
- Le llms.txt est dead. Plus precisely: a dud. — Kai Spriestersbach (Medium) — aggregates OtterlyAI 90-day données, Gary Illyes confirmation, et le Google 24-hour incident dans a skeptic’s summary.
Stats worth citing
«- 97% of published llms.txt files got zero requests in a month (Ahrefs study,
137,210 domains, May 2026). Only ~3% saw any traffic at all.
Source
» (Traduction) (Résumé en français de la section cent soixante-cinq, sous-partie un : le texte source est conservé pour vérification lors de la relecture francophone.)
«- Claude Code is the dominant AI consumer of llms.txt — it “outfetched every AI
retrieval bot, assistant, and training crawler except GPTBot” (the training bot).
The retrieval bots that build citation indexes were just 1.1% of requests.
Source
» (Traduction) (Résumé en français de la section cent soixante-cinq, sous-partie deux : le texte source est conservé pour vérification lors de la relecture francophone.)
«- 77% of bot requests to llms.txt files came from non-AI tools — SEO auditors,
anonymous crawlers, tech-profiling bots — not AI at all.
Source
» (Traduction) (Résumé en français de la section cent soixante-cinq, sous-partie trois : le texte source est conservé pour vérification lors de la relecture francophone.)
«- 84 of 62,100+ AI bot visits hit /llms.txt over 90 days on one monitored site
(~0.1%), performing “3x worse than average pages.”
Source
» (Traduction) (Résumé en français de la section cent soixante-cinq, sous-partie quatre : le texte source est conservé pour vérification lors de la relecture francophone.)
«- Removing llms.txt from a citation model improved its accuracy — SE Ranking,
300,000 domains, XGBoost + SHAP analysis. No demonstrated citation benefit “at
least not yet.”
Source
» (Traduction) (Résumé en français de la section cent soixante-cinq, sous-partie cinq : le texte source est conservé pour vérification lors de la relecture francophone.)
«- Adoption ≠ usage. BuiltWith counted 844,000+ sites with llms.txt (Oct 2025),
but much of that is platform auto-deployment (Mintlify rolled it out to all hosted
docs sites at once), not informed individual decisions.
» (Traduction) (Résumé en français de la section cent soixante-cinq, sous-partie six : le texte source est conservé pour vérification lors de la relecture francophone.)
«- Only 408 requests targeted /llms.txt across 515 million+ AI bot traffic
events analyzed over 90 days (limy.ai analysis) — described as “statistically
negligible.”
» (Traduction) (Résumé en français de la section cent soixante-cinq, sous-partie sept : le texte source est conservé pour vérification lors de la relecture francophone.)
«- 10.13% of sites have adopted llms.txt across a 300,000-domain sample (SE
Ranking study, 2026) — roughly 1 in 10, with no meaningful difference by traffic
tier (low-traffic 9.88%, high-traffic 8.27%).
Source
» (Traduction) (Résumé en français de la section cent soixante-cinq, sous-partie huit : le texte source est conservé pour vérification lors de la relecture francophone.)