llms.txt ファイル
llms.txtは、AIシステムを導くための提案されたMarkdownファイル(/llms.txt)です。Googleはこれを無視し、ファイルの97%はリクエストがゼロで、実際に読むのはClaude Codeです。
言語
このページには証拠シグナルが1件あります
- 関連するライブツールllms.txt Generator + Validator
llms.txtは、Jeremy Howard(Answer.AI)による提案で、AIエージェントがサイトをナビゲートするのを助けるためのものです。公開されたファイルの97%はリクエストがゼロで、Googleは無視し、主な利用者は検索ボットではなくClaude Codeです。
llms.txt は、/llms.txt にある Markdown ファイルに関するコミュニティ提案であり、採用されたウェブ標準ではありません。 Evidence for this claim llms.txt is a community proposal for a Markdown file at /llms.txt that offers LLM-friendly site information; it is not a web standard. Scope: The proposal's own specification and stated purpose. Confidence: high · Verified: llms.txt proposal OpenAI が公開しているクローラー制御は robots.txt を使用しており、llms.txt を制御として文書化していません。 Evidence for this claim OpenAI documents robots.txt controls for its declared crawlers and does not list llms.txt as a crawler control. Scope: OpenAI's published crawler controls; absence is not proof that no internal system ever fetches the file. Confidence: high · Verified: OpenAI: Crawlers
TL;DR — llms.txt は、
/llms.txtに置く Markdown ファイルで、AI システムに、あなたのサイトの最も重要なページの短い厳選リストを渡します。 開発者の Jeremy Howard 氏が 2024 年に提案しました。良いアイデアですが、実際には ほとんど誰も読んでいません — Google は完全に無視しており、実際に読む主なものは AI コーディングアシスタントであり、多くの人が期待する検索ボットではありません。 追加コストはほとんどかからず、AI での可視性を動かす可能性はおそらく低いでしょう。
llms.txt とは
llms.txt は、サイトのルートに置くプレーンな Markdown ファイルです —
yoursite.com/llms.txt。中には、サイト名、1 行の説明、そして最も重要なページへのリンクの短いリストを、それぞれのページが何をカバーしているかの簡単なメモとともに書きます。アイデアは、AI システムがその 1 つのファイルを読めば、サイトが何であるか、良いコンテンツがどこにあるかをすぐに理解できるようにすることです。すべてのページをクロールして解析する必要はありません。
これは Jeremy Howard 氏 — fast.ai(人気のディープラーニングコース)と Answer.AI の背後にいる人物 — によって 2024 年 9 月 に提案されました。
想定された目的と実際の動作
売り込み: AI ツールには限られた「コンテキストウィンドウ」(一度に読める量が限られている)があり、乱雑な HTML をクリーンなテキストに変換するのは難しい。だから、サイト所有者がモデルに整然とした事前作成のマップを渡せばよいのでは?
現実はもっと厳しいものです。主要な AI 検索プロバイダーはこれを採用していません。Google は使用しないと明確に述べています。 そして、Ahrefs が 137 000 サイトを調査したところ、公開された llms.txt ファイルの 97% が 1 か月間でゼロリクエスト でした — つまり、何もそれらを取得しなかったのです。
実際に利用されている主な場面は、開発者がソフトウェアを書く際に使う Claude Code などの AI コーディングアシスタント です。こうしたツールは llms.txt を読み、技術文書内をすばやくたどります。これは当初想定された用途であり、実際に機能しています。ただし、“this will get my business cited in ChatGPT.” (日本語訳: 「これで自社が ChatGPT に引用される」) という期待とは大きく異なります。
robots.txt のようなものですか?
多くの人が llms.txt は「AI のための robots.txt」だと思っていますが、そうではありません。
- robots.txt は アクセスを制御 します — クローラーが何を取得できるかを指示し、行儀の良いボットはそれに従います。
- llms.txt は ガイダンスを提供 します — 何を読む価値があるかを提案しますが、誰も従う義務はありません。何もブロックできません。
AI ボットを締め出すことが目的なら、llms.txt は何もしません — それは robots.txt と CDN の仕事です。
導入すべきでしょうか?
コーディングエージェントが読む 開発者向けドキュメント を運営しているなら、もちろん — 安価で役立ちます。通常のビジネスで、llms.txt が AI 回答での可視性を高めることを期待しているなら、今日の正直な答えは: 結果を期待しないでください。その時間を明確なコンテンツと構造に費やしてください。
仕様、プロバイダー別の内訳、採用データ、セキュリティの観点が必要ですか? Advanced タブに切り替えてください。
仕様は、自発的な LLM 向けサイト概要を説明していますが、クローラーの準拠やインデックス動作を確立するものではありません。 Evidence for this claim llms.txt is a community proposal for a Markdown file at /llms.txt that offers LLM-friendly site information; it is not a web standard. Scope: The proposal's own specification and stated purpose. Confidence: high · Verified: llms.txt proposal OpenAI は現在、名前付きボットと独立した robots.txt 設定を文書化しています。 Evidence for this claim OpenAI documents robots.txt controls for its declared crawlers and does not list llms.txt as a crawler control. Scope: OpenAI's published crawler controls; absence is not proof that no internal system ever fetches the file. Confidence: high · Verified: OpenAI: Crawlers
TL;DR — llms.txt は 提案(Jeremy Howard、Answer.AI、2024年9月3日)であり、 採用された標準ではありません。これは
/llms.txtにあるキュレーションされた Markdown インデックスで、 オプションで全コンテンツを含む/llms-full.txtもあります。AI検索のためにこれを読んでくれると人々が期待するボット — OAI-SearchBot、PerplexityBot — はほとんど利用しておらず、 主要な利用者は Claude Code やその他のコーディングエージェントです。Google はこれを無視しています(Illyes が確認済み、Mueller は keywords メタタグに例えました)。Ahrefs の137 000サイト調査では、97%のファイルがゼロリクエストで、SE Ranking は引用モデルから llms.txt を 削除 すると精度が 向上 することを発見しました。コーディングエージェントが利用する開発者向けドキュメントには追加する価値がありますが、通常のサイトの GEO/AEO に関しては、データはそれを支持していません。また、実際のプロンプトインジェクションのリスクもあります。
llms.txt が実際に何であるか
llms.txt は 提案 です — この言葉を最初に述べたいのは、それがすべてを物語っているからです。RFC も、W3C の承認も、IETF のプロセスもありません。これは、2024年9月3日に公開された Jeremy Howard(Answer.AI と fast.ai の共同創設者)による、よく考え抜かれた一つの提案であり、開発者向けドキュメントの世界で強く支持され、AI可視性の近道を求めるコミュニティによって SEO に移植されました。
それが対象とする設計上の問題は正当です。仕様書が述べるように、“Large language models increasingly rely on website information, but face a critical limitation: context windows are too small to handle most websites in their entirety.” (日本語訳) 「大規模言語モデルはウェブサイトの情報への依存を強めていますが、重大な制約があります。コンテキストウィンドウが小さすぎて、大半のウェブサイトを全体として処理できません。」 そして、HTML をクリーンで LLM に適したテキストに変換することは、仕様書の言葉を借りれば「困難で不正確」です。Howard の解決策は、サイトの作成者がモデルに見せたいコンテンツを、キュレーションされた Markdown にあらかじめフラット化できるようにすることです。
形式
/llms.txt は順序付けられた Markdown ドキュメントです:
- H1(必須)— プロジェクト名またはサイト名。
- 引用ブロック — 重要な情報をまとめた短い要約。
- 任意の本文やリスト — 段落または箇条書き。ただし、ここには見出しを置きません。
- H2 ごとのリンクリスト —
- [name](url): optional notes。 ## Optionalセクション — コンテキストが限られるときにモデルが省略できる補足リンク。
仕様書からの最小限の例:
# FastHTML
> FastHTML is a python library which brings together Starlette, Uvicorn, HTMX,
> and fastcore's FT...
## Docs
- [FastHTML quick start](url): A brief overview of many features
## Optional
- [Starlette documentation](url): A subset useful for FastHTML development.2つの付随する慣例があります:
/llms-full.txt— サイト全体のコンテンツを1つの Markdown ファイルにフラット化したもの。 Anthropic、Perplexity、Stripe は、この短い形式と両方を公開しています。.mdURL の慣例 — 個々のページのpage.mdバージョンを提供し、完全なダンプなしで LLM 対応にします。
新しいバリアントは静的ファイルを完全にスキップします:コンテンツネゴシエーションによるエッジ配信の Markdown。 Cloudflare の Markdown for Agents は、クライアントが Accept: text/markdown を送信すると、任意の HTML ページをその場でクリーンな Markdown に変換します — ページごとの .md ファイルも、再生成する /llms-full.txt も、テンプレートの変更も不要です。CDN がエッジで変換を行うためです(Cloudflare はエージェントのトークンを約80%削減すると述べています)。これは有料機能です — Pro プラン以上で、無料ティアではありません — そのため、このサイトでは、私が手作りしたものではなく、Cloudflare のアップグレード1つでオンにできる状態です。オンにする 価値 があるかどうかは、llms.txt 自体に付きまとう同じ未解決の疑問です:クローラーにすべてのページの並行した Markdown コピーを提供することは便利ですが、同期を保つ別の表現であり、Bing の Fabrice Canel は、エッジ配信の代替コンテンツによるクロール負荷の倍増とクローキングに近いリスクを指摘しています。切り替える前に、ログで実際のエージェント需要を確認してください。
llms.txt と robots.txt — これらは同じものではありません
最も一般的な誤解は、llms.txt が「AI のための robots.txt」であるということです。それは違います。この2つを混同すると、誤った判断につながります。
| robots.txt | llms.txt | |
|---|---|---|
| 目的 | アクセス制御 — クローラーが取得できるもの | コンテンツのガイダンス — 役立つ読み物 |
| 形式 | ディレクティブ(User-agent:、Disallow:) | Markdownリンク+説明 |
| 強制される? | はい、準拠するクローラーによる | いいえ — 助言のみ |
| タイミング | クロール時、取得前 | 推論時、コンテキスト組み立て時 |
| 標準? | はい、数十年の歴史があり、普遍的 | いいえ — 提案 |
| ブロックできる? | はい | いいえ |
robots.txtは実際に強制される標準です。llms.txtは、ほとんどのシステムがまだ読んでいない提案箱です。AIクローラーのアクセスを制御したい場合 — これは別の正当な目標ですが — それは robots.txtとAIクローラー にあり、ここではありません。
実際に誰が読んでいるのか
ここが重要なセクションです。なぜなら、データが誇大広告から最も乖離している場所だからです。Ahrefsの137 210ドメインを対象とした調査(2026年5月のトラフィック)によると:
- 公開されたllms.txtファイルの97%がゼロリクエストでした。 約3%(約 1 100ドメイン)だけが何らかのトラフィックを見ました。
- 実際にリクエストされたファイルのうち:リクエストの96%はボットから、4%は 人間からでした。
- ボットリクエストのうち、77%は非AIツールから — SEO監査ツール(Ahrefs 自身も含む)、匿名クローラー、技術プロファイリングボット。SEOの皮肉は 自ずと明らかです。
- AIツールからのリクエストは約19,5%のみで、さらに分解するとGEO理論にとって
悪化します:
- AIエージェント&インフラ(コーディングエージェント):約10,5%
- トレーニングクローラー(GPTBotが4,51%でトップ):約5,3%
- AIアシスタント:約2,5%
- AI検索ボット — 引用インデックスを構築するもの:1,1%。
最後の行を二度読んでください。ほとんどの人がllms.txtを追加する目的のボット — OAI-SearchBot、PerplexityBot — は「かろうじて記録された」だけでした。主要なAI消費者は Claude Code、Anthropicのコーディングエージェントで、調査によると「すべての AI検索ボット、アシスタント、トレーニングクローラーをGPTBotを除いて上回って 取得しました」。そしてGPTBotは、何であれすべてをクロールするトレーニング クローラーです — その存在は意図的なllms.txt解析の証拠ではありません。
他の独立した測定も同じ結論です。OtterlyAIが1サイトを90日間監視したところ、62 100件を超えるAIボット訪問のうち、84件が /llms.txt にアクセスしました。約0,1%で、「平均的なページより3倍悪い」結果です。別の分析では、90日間に5億1 500万件を超えるLLMボット通信があったにもかかわらず、/llms.txt を対象としたリクエストは合計408件で、「統計的に無視できる」とされました。
要点は、開発者ドキュメントとGEOの分裂です:llms.txtはHowardが構築した目的 (APIドキュメントをナビゲートするコーディングエージェント)には機能し、 SEOコミュニティが到達させたい検索引用ボットにはほとんど触れられていません。
プロバイダーが述べたこと
Google — いいえ、そして計画もありません。 Gary IllyesはSearch Central Live(2025年 7月)で、Googleはllms.txtをサポートしておらず、計画もないと確認しました。 最も引用される声であるJohn Muellerは、これをキーワードmetaタグ(2025年4月)に例え、 AIコーディングツールにとっての「一時的な支え、おそらくトークンを節約するためのもの」 と呼びました — 明示的に検索可視性メカニズムではないと。Googleの2026年5月のガイダンスでは、 llms.txtのような機械可読ファイルはAI OverviewsやAI Modeに必要ではなく、 それらは「従来のSEOシグナルに依存し続ける」と述べられました。(Googleは2025年12月3日に 開発者ドキュメントにllms.txtを一時的に公開しましたが、同日に削除しました — 後に CMSアップデートによるもので、戦略転換ではないとされました。)
OpenAI — 何もありません。 ChatGPT、GPTBot、またはOAI-SearchBotがそれを解析するという 発表はありません。サーバーログは意味のある使用と矛盾しています。OAI-SearchBotは 「かろうじて記録された」だけでした。OpenAIはクローラー制御についてrobots.txtを 指し示しています。
Anthropic — 注目すべき事例。 Anthropic は llms.txt と llms-full.txt の両方を docs.anthropic.com/llms.txt で公開しています。また、Claude Code が他サイトの llms.txt を実際に取得することも確認されており、調査データでは最大のAI利用者です。ただし、これはコーディングツールの話です。Claude.ai の検索・引用レイヤーが llms.txt に従うという確認はありません。「Anthropic のコーディングエージェントが読む」ことと「Anthropic の検索インデックスが信頼する」ことは別の主張であり、裏付けがあるのは前者だけです。
Perplexity — 主張はあるが、データはほとんど使われていないことを示す。 Perplexity は llms.txt を取得し、「ページ選択を優先する」ために使用すると述べています。しかし、問題はプロアクティブな取得です。リクエストデータでは PerplexityBot は「ほとんど記録されておらず」、PerplexityBot が llms.txt ファイルをプロアクティブに要求する「アクティビティはほぼゼロ」です。llms.txt の URL を Perplexity に貼り付けると正常に読み取りますが、自律的でプロアクティブな使用がポリシーと実践の間のギャップです。
Bing/Microsoft、Apple、Meta — 公式の立場なし。 未確認として扱ってください。
AI の引用に影響するか?
実証された効果はありません。SE Ranking は300 000ドメインを XGBoost 回帰と SHAP で分析し、モデルから llms.txt を除くと精度が向上することを確認しました。結論は “LLMs.txt doesn’t seem to directly impact AI citation frequency. At least not yet.” (日本語訳: 「LLMs.txt がAIの引用頻度に直接影響しているようには見えない。少なくとも現時点では」) というものです。Search Engine Land が10サイトを180日間追跡した調査では、8サイトに測定可能な変化がなく、残る2サイトにもPR掲載、新しいFAQページ、技術修正という交絡要因がありました。llms.txt だけの効果とは切り分けられません。
メタキーワードとの比較 — 公平か?
Mueller のキーワードメタタグの類推は、重要な点で成り立ちます。両方ともサイト所有者の自己記述であり、どちらも検証されておらず、どちらもゲーミング/クローキングに対して開かれています — llms.txt で一つのことを示し、ページでは別のことを示すことができます。その操作可能性こそが、真面目な AI 検索製品が実際のページよりも自己記述を信頼しない理由です。反論(Carolyn Shelby)は、llms.txt は少なくとも 配信しなければならない実際の URL を指している — 「願望リストではなくスポットライト」であるというものです。両方とも正しく、実際の結果は同じです。AI 検索システムはそれに依存していません。
追加する価値がある場合 — そしてスキップすべき場合
追加する — 開発者向けドキュメントや API リファレンスを運営しており、主な対象読者が AI コーディングエージェント(Claude Code、Cursor、Copilot、Codeium)である場合。それがこのファイルが作られたユースケースであり、機能します。
スキップする — または少なくとも AI 可視性への効果を期待しない — コンテンツサイト、メディア、Eコマース、一般的なビジネスサイトの場合。コストは約 20 分です。今日の GEO の効果はほぼゼロです。その 20 分は、コンテンツ構造、FAQ カバレッジ、そして実際に AI の可視性を動かす AI 検索最適化 の基本に費やす方が良いでしょう。高い導入率の見出し(BuiltWith の 84 万以上の数字)は、プラットフォームの自動デプロイによって水増しされています — Mintlify はホストされているすべてのドキュメントサイトに llms.txt を一度に展開しました。導入は使用ではありません。ファイルの 97% はリクエストがゼロです。
セキュリティの観点
これは過小報告されており、現実的です。AI エージェントは llms.txt の内容を 信頼するように設計されている ため、このファイルは自然な攻撃対象です。Ahrefs の調査では、悪意のある行為者が プロンプトインジェクション の脆弱性を探して llms.txt ファイルを調べていることが指摘されました。公開する場合は、セキュリティ上重要として扱ってください。バージョン管理に保持し、不正な変更を警告し、公に公開したくないものは絶対に含めないでください。
実装する場合(実装すると決めたら)
- 配置:
/llms.txtをドメインルートに置き、text/plainまたはtext/markdownとして配信し、HTTP 200 を返します。 - 精選する、ダンプしない: 最も重要なリンクを20〜50個に絞ります。すべてを列挙すると、モデルが直接クロールするのと同じになり、精選こそが要点です。
- 必要に応じて
/llms-full.txtを提供 し、すべてのコンテンツを必要とするコンテキストに対応します。 - 検証: ファイルを Claude、ChatGPT、Perplexity に読み込ませ、サイトの要約を依頼します。数週間後にサーバーログを確認し、実際のリクエストを確認します。
- ジェネレーターが存在します: VitePress (
vitepress-plugin-llms)、Docusaurus (docusaurus-plugin-llms)、WordPress (“Website LLMs.txt”)、Drupal、さらに Python CLI (llms_txt2ctx) があります。
結論: 低コスト、現時点ではGEO効果はほぼゼロ、生まれた目的であるコーディングエージェントのユースケースには真に有用です。決定する前に自分のサーバーログを確認してください — Claude-Code/Cursor のトラフィックが見られるなら、llms.txt は役立つかもしれません。OAI-SearchBot や PerplexityBot を追っているなら、それはレバーではありません。
AIまとめ
Advancedバージョンの簡潔な見解:
- llms.txt は提案であり、標準ではありません — Jeremy Howard (Answer.AI/fast.ai)、
2024年9月3日。
/llms.txtにある精選された Markdown インデックス。オプションで全コンテンツの/llms-full.txt。 - これは AI 向けの robots.txt ではありません。 robots.txt はアクセスを制御し、強制されます。 llms.txt は助言であり、何もブロックできません。
- ほとんど誰も読んでいません。 Ahrefs (137Kサイト): 97%のファイルがゼロリクエストでした。 リクエストされたファイルのうち、ボットヒットの77%は 非AI ツール (SEO監査ツール) であり、AI 検索 ボット — 引用ビルダー — はわずか1,1%でした。
- Claude Code が主要な AI 消費者です、検索ボットではありません。OAI-SearchBot と PerplexityBot は「ほとんど記録されませんでした」。
- Google は無視しています。 Illyes はサポートも計画もないことを確認しました。Mueller は keywords メタタグに例えました。OpenAI: 何もなし。Perplexity: サポートを主張していますが、 プロアクティブな取得は最小限です。Anthropic は自社のものを公開し、Claude Code はそれを読みますが、 検索レイヤーでの使用は未確認です。
- 引用の利点は示されていません。 SE Ranking (300Kドメイン): モデルから llms.txt を削除すると 精度が 向上 しました。
- 開発者向けドキュメントには価値があります コーディングエージェントが消費するため。通常のサイトでは GEO 戦略としてはスキップしてください。プロンプトインジェクションのリスク — セキュリティ上重要として扱ってください。
公式ドキュメント
一次情報源 — 仕様、提案、およびプロバイダー自身のファイルと声明。
仕様と提案
- llmstxt.org — 仕様: ファイル形式、
/llms.txtと/llms-full.txtの比較、および推論時の根拠。 - 元の提案 (Jeremy Howard、2024年9月3日) — Answer.AI の発表記事。
- GitHub の AnswerDotAI/llms-txt —
リポジトリ、ツール、および
llms_txt2ctxCLI。
プロバイダー自身のファイル
- Anthropic の llms.txt — 実際の例
(Anthropic は
llms-full.txtも公開しています)。 - Perplexity の llms.txt — もう一つの実際の例。
Google の公式見解
- Google は、llms.txt のような機械可読ファイルは、従来の SEO シグナルに依存する AI Overviews や AI Mode には必要ないと述べています (2026年5月のガイダンス)。Gary Illyes は Search Central Live (2025年7月) でサポートも計画もないことを確認しました。John Mueller の声明に関する Search Engine Journal の報道 を参照してください。最も引用されている説明です。
ソースからの引用
llms.txt に関する公式の声明 — Google、仕様の作成者、およびそれを測定した研究者から。
John Mueller、Google 検索アドボケイト (2025年4月17日)
- “AFAIK none of the AI services have said they’re using LLMs.TXT (and you can tell when you look at your server logs that they don’t even check for it). To me, it’s comparable to the keywords meta tag – this is what a site-owner claims their site is about … (Is the site really like that? well, you can check it. At that point, why not just check the site directly?)” (翻訳) 「私の知る限り、どのAIサービスもLLMs.TXTを使用しているとは言っていません(サーバーログを見れば、彼らがそれをチェックさえしていないことがわかります)。私にとって、これはキーワードメタタグに匹敵します – これはサイト所有者が自分のサイトについて主張していることです…(サイトが本当にそうなのか?まあ、確認はできます。だったら、サイトを直接確認すればいいのでは?)」 Coverage
Gary Illyes(Google Search Central) (Search Central Live、2025年7月)
- Googleがllms.txtをサポートしておらず、サポートする予定もないことを確認。(イベントからの報告;一次トランスクリプトのURLは特定されていない — 最終的なものとして扱う前に確認すること。)
Jeremy Howard(作成者、Answer.AI)
- “A proposal to standardise on using an
/llms.txtfile to provide information to help LLMs use a website at inference time.” (日本語訳) 「推論時にLLMがウェブサイトを利用できるよう、/llms.txtファイルで情報を提供する方式を標準化する提案。」 llmstxt.org - 仕様が説明する中心的な課題:“Large language models increasingly rely on website information, but face a critical limitation: context windows are too small to handle most websites in their entirety.” (日本語訳) 「大規模言語モデルはウェブサイトの情報への依存を強めているが、重大な制約がある。コンテキストウィンドウが小さすぎて、大半のウェブサイトを全体として処理できない。」 llmstxt.org
Brett Tabke(Pubcon / WebmasterWorld) (2025年3月)
- “we just don’t need people thinking they are different from any other spider.” (翻訳) 「他のスパイダーと違うと思われたくないだけだ。」 Search Engine Land
Carolyn Shelby(Search Engine Land) (2025年7月9日 — 反対意見)
- “Llms.txt curates a list of real URLs, and the content has to exist – and deliver – when the model gets there.” and “Think of llms.txt like a treasure map for AI systems – one you draw yourself. It’s not a wish list. It’s a spotlight.” (翻訳) 「Llms.txtは実際のURLのリストを厳選し、モデルがそこに到達したときにコンテンツが存在し、配信されなければなりません。」および「llms.txtを、自分で描くAIシステムのための宝の地図と考えてください。それは願望リストではなく、スポットライトです。」 Search Engine Land
llms.txtを実装すべきか? — 判断チェックリスト
上から順に確認してください。最初に当てはまる「はい」で通常は決まります。
- 主な対象読者がAIコーディングエージェント(Claude Code、Cursor、Copilot、 Codeium)で、開発者ドキュメント/APIリファレンスを読む場合ですか? → はい、追加してください。 これはこのために作られたユースケースであり、機能します。
- コンテンツ、メディア、Eコマース、または一般的なビジネスサイトのAI検索引用を改善するためだけに追加していますか? → 結果を期待しないでください。 データは引用の利点を示していません。代わりにコンテンツ構造に時間を費やしてください。
- 最初にサーバーログを確認しましたか?
Claude-Code/Cursorのトラフィック(llms.txtが役立つ可能性があります)とOAI-SearchBot/PerplexityBot(それは効果がありません)を探してください。 - AI用のrobots.txtとして扱っていますか? → やめてください。何もブロックしません。アクセス制御には robots.txt + あなたのCDN を使用してください。
公開する場合は:
-
/llms.txt(ルート)に配置し、text/plain/text/markdown、HTTP 200で配信します。 - 最も重要なURLを20〜50個厳選します — サイトマップをダンプしないでください。
- バージョン管理に保持し、不正な変更を警告します (プロンプトインジェクションのリスク — エージェントはそれを信頼するように作られています)。
- 公に公開しないものは何も入れないでください。
- オプションで、フルコンテンツコンテキスト用に
/llms-full.txtを配信します。 - 検証:URLをClaude/ChatGPT/Perplexityに読み込ませ、サイトの 概要を尋ねます。数週間後にサーバーログを再確認して、実際のリクエストを確認します。
プロバイダーサポート — 早見表
実際にllms.txtをサポートしているプロバイダー(2026年半ば時点)
| プロバイダー | 検索/引用サポート? | 現実 |
|---|---|---|
| Google (Gemini / AI Overviews) | なし | Illyes氏はサポート/計画がないことを確認; Mueller氏はこれをkeywordsメタタグに例えた; AI Overviewsは従来のシグナルに依存 |
| OpenAI (ChatGPT / OAI-SearchBot) | 実質的なサポートなし | 発表なし; OAI-SearchBotはリクエストデータで「ほとんど記録されていない」 |
| Anthropic (Claude Code) | あり — コーディングエージェント向け | Claude Codeはllms.txtの最大のAI消費者; Claude.aiの検索レイヤーでの使用は未確認 |
| Perplexity | 主張はあるが、実際は弱い | ページ選択を優先すると述べているが、先制的なPerplexityBotのフェッチはほぼゼロ |
| Apple (Applebot) | 声明なし | 公的な立場なし、クロールの証拠なし |
| Bing / Microsoft | 声明なし | 公的な立場は見つからず |
クイックファクト
- 提案者: Jeremy Howard(Answer.AI/fast.ai)、2024年9月3日。採用済みの標準ではなく、あくまで提案です。
- ファイル: 短く厳選した
/llms.txtと、全コンテンツを Markdown にまとめる任意の/llms-full.txt。 - 形式: H1 の名称 → 引用ブロックの要約 → H2 ごとのリンクリスト(
- [name](url): note)→## Optionalセクション。 - robots.txt との違い: robots.txt はアクセス制御であり、準拠するクローラーに強制されます。llms.txt は助言にすぎず、何もブロックできません。
- 重要な数字: Ahrefs が調べた137Kサイトでは、公開済みファイルの97%がリクエストゼロでした。
- 主な AI 利用者: 検索ボットではなく Claude Code。
- 引用への効果: 実証されていません。SE Ranking のモデルでは、llms.txt を除外すると精度が向上しました。
- セキュリティ: プロンプトインジェクションのリスクがあるため、バージョン管理し、変更を検知してください。
避けるべきllms.txtの間違い
ファイルをアクセス制御標準として扱うこと
llms.txtはクロールを許可もブロックもしない。その仕事にはrobots.txt、認証、および
その他の実際のアクセス制御を使用すること。
AI可視性の向上を約束すること
プロバイダーのサポートと観測されるフェッチは限られている。このファイルを、ランキングや引用の レバーではなく、オプションのナビゲーション補助として説明すること。
機密または非公開のURLを公開すること
このファイルは公開されており、発見されやすい。公開を意図したリソースのみを含めること。 保護として難読化を決して使用しないこと。
厳選されていないサイトマップをMarkdownで生成すること
この提案は、重要なリソースへの短く人間が読めるガイドとして最も有用である。 巨大なダンプは、どのページが重要かを明確にせずに、メンテナンスコストを増加させる。
一般的なllms.txtの問題
ファイルがMarkdownではなくHTMLを返す
症状: /llms.txtがアプリケーションシェル、ブランド化された404、またはリダイレクト先を表示する。
考えられる原因: キャッチオールルートまたはCDNルールがテキストパスをインターセプトしている。修正: ルートで
ファイルを直接、成功レスポンスとプレーンテキストまたはMarkdownコンテンツで提供し、
その後クッキーなしでリクエストする。
ファイル内のリンクが失敗するか、繰り返しリダイレクトされる
症状: リーダーがリストされたリソースを正規URLで取得できない。 考えられる原因: ファイルが古いナビゲーションまたは相対パスから生成された。 修正: すべてのURLを検証し、廃止された場所を置き換え、安定した正規の HTTPS URLを優先する。
ボットがファイルをリクエストしない
症状: ログに/llms.txtへのトラフィックが表示されない。考えられる原因: 関心のあるシステムが
この提案をサポートまたは発見していない。修正: ログのカバレッジを確認し、ファイルを
低コストの実験として残す。クローラー固有のトリックを追加したり、ゼロリクエストからサイトの問題を
推測したりしないこと。
llms.txtを厳選するためのプロンプト
Build a proposed llms.txt outline from this public URL inventory. Keep only canonical,
durable resources that help an agent understand the site or complete a task. Group them
under short Markdown headings, write one factual description per link, and flag URLs
that redirect, duplicate another page, require authentication, or may expose sensitive
information. Do not claim the file affects rankings or citations.
[paste inventory]Review this llms.txt file against the supplied crawl results. Report broken or
redirecting URLs, non-canonical links, descriptions unsupported by the destination,
missing high-value documentation, and sections that are too broad to be useful. Return
a corrected draft using only public URLs from the inputs.
[paste file and crawl results] llms.txtを使用するかどうかを決定するためのフレームワーク
コスト・消費者・コンテンツテスト
- コスト: チームは少ない継続作業でファイルを生成・維持できるか?
- 消費者: 実際にそれを読む特定のエージェントまたはワークフローが存在するか?
- コンテンツ: サイトに厳選する価値のある安定した公開ドキュメントがあるか?
3つすべてが信頼できる場合に実装する。消費者が仮説的なものである場合は、ファイルを 実験として扱い、メンテナンス予算に上限を設ける。
役割を分離しておく
robots.txt: クローラーアクセスに関するガイダンス。- XMLサイトマップ: 検索エンジン向けのURL発見。
llms.txt: AIシステム向けの厳選された閲覧ガイドの提案。- MCP: エージェントがリソースやツールを発見・呼び出しできるようにするランタイムプロトコル。
あるファイルを、別のシステムの役割を果たすものとして評価すべきではありません。
llms.txt用ツール
- llms.txt Generator + Validator: 公開前に厳選されたファイルを作成し、その構造とリンクされたリソースを確認します。
- AI-Crawler Access Checker: 実際のクローラーアクセス制御を別途監査します。
llms.txtはこのチェックの代わりにはなりません。 curl: 正確なルートパスでステータス、リダイレクト、コンテンツタイプ、本文を確認します。- サーバーまたはCDNログ: 指定されたユーザーエージェントがファイルを要求するかどうかを判断します。存在しないことは観察結果であり、ランキングの問題の証明ではありません。
- リンクチェッカー: ガイドが劣化しないように、スケジュールに従って厳選されたすべての宛先を再検証します。
llms.txtリリースの検証
ルートレスポンスのテスト
実行するテスト: クッキーなしで /llms.txt を直接要求し、リダイレクトをたどらない。
期待される結果: 成功したレスポンスには、ルートパスに意図したMarkdownが含まれている。
失敗の解釈: ルーティングまたはデプロイがファイルを公開していない。
監視期間: 即時。
ロールバックのトリガー: パスがHTMLシェル、エラードキュメント、または無関係なリダイレクトを提供する場合。
リストされたすべてのリソースのテスト
実行するテスト: ファイル内のURLをクロールし、各宛先をその説明と比較する。 期待される結果: 公開された正規リソースが正常に解決され、記載された目的と一致する。 失敗の解釈: ガイドが古いか誤解を招く。 監視期間: 即時、その後はドキュメント更新サイクルに合わせる。 ロールバックのトリガー: リストされたURLがプライベートな資料を公開するか、一貫して失敗する場合。
記載された実験結果を正直にテストする
実行するテスト: 公開後にユーザーエージェントごとに /llms.txt のサーバーログを照会する。
期待される結果: リクエストがあれば記録され、属性を特定できる。ゼロも有効な結果である。
失敗の解釈: ログが不完全であるか、コンシューマーが提案をサポートしていない可能性がある。
監視期間: 数回の通常のクロールサイクル。
ロールバックのトリガー: トラフィックがゼロだけではトリガーしない。メンテナンスや露出のリスクがファイルの価値を超える場合にのみ削除する。
自分でテスト: llms.txt
時間をかける価値のあるリソース
元のソース
- llmstxt.org — 仕様。
- Jeremy Howardの提案投稿(2024年9月3日) — 作成者自身による根拠。
- AnswerDotAI/llms-txt — リポジトリとツール。
データ(実装前に確認すべき資料)
- llms.txt とは何か、気にする必要はあるのか — Ahrefs — Ryan Law による概要。公開率28%、リクエストゼロ97%という全体像を説明しています。
- llms.txt の採用実態調査 — Ahrefs — Louise Linehan と Xibeijia Guan が137 210ドメインを調査。実際の取得元(AIでは Claude Code が最多で、検索取得ボットはごくわずか)とプロンプトインジェクションの問題を扱っています。
- llms.txt は重要か:10サイトを追跡 — Search Engine Land — 180日間の調査で、10サイト中8サイトに測定可能な変化はありませんでした。
- llms.txt の実験 — OtterlyAI —
1サイトを90日間追跡し、62 100件を超えるAIボット訪問のうち
/llms.txtへのアクセスは84件でした。
議論
- llms.txt は「新しい meta keywords」ではない — Carolyn Shelby、Search Engine Land — llms.txt を最も強く擁護する記事です。
- 提案中の標準 llms.txt を知る — Search Engine Land — 賛否両論の要約と Brett Tabke の批判を紹介しています。
このサイトでの関連記事
- AIクローラー — ボットの制御(llms.txtが目的としていないもの)、およびアクセス制御の実際の所在について。
業界の資料
- SE Ranking:llms.txt の現状 — 300 000ドメインを対象とした XGBoost/SHAP 調査。引用モデルから llms.txt を除くと精度が向上し、トラフィック層別の採用率も示されています。
- Wix AI Search Lab:llms.txt をめぐる通説(Crystal Carter、2026年6月) — より肯定的な見方です。1 400件を超えるファイルを調べ、採用が不完全でも llms.txt 自体がAI検索結果に現れると論じています。
- Google、LLMs.txt は keywords meta タグに相当すると説明 — Search Engine Journal — 2025年4月の John Mueller 氏の発言全文と文脈。
- presenc.ai:2026年版 llms.txt の現状 — プロバイダー別の対応表です。Anthropic と Perplexity の「確認済み」という主張は、一次情報が常に示されているわけではないため慎重に扱ってください。
- llms.txt は終わった。正確には不発だった — Kai Spriestersbach(Medium) — OtterlyAI の90日間データ、Gary Illyes 氏の確認、Google の24時間だけの掲載事例を懐疑的な視点でまとめています。
引用に値する統計
- 公開された llms.txt ファイルの97%は、1か月間にリクエストがゼロでした(Ahrefs 調査、137 210ドメイン、2026年5月)。何らかのトラフィックがあったのは約3%だけです。 出典
- Claude Code は llms.txt の主な AI 利用者で、GPTBot(学習用ボット)を除くすべてのAI取得ボット、アシスタント、学習用クローラーより多く取得しました。引用インデックスを作る取得ボットはリクエストの**1,1%**にすぎません。 出典
- llms.txt へのボットリクエストの77%は非AIツールからでした。SEO監査ツール、匿名クローラー、技術調査ボットなどであり、AIではありません。 出典
- 1サイトを90日間監視したところ、62 100件を超えるAIボット訪問のうち84件が
/llms.txtにアクセスしました(約0,1%)。「平均的なページより3倍悪い」結果です。 出典 - SE Ranking が300 000ドメインを XGBoost と SHAP で分析したところ、引用モデルから llms.txt を除くと精度が向上しました。「少なくとも現時点では」引用効果は実証されていません。 出典
- 採用と利用は同じではありません。 BuiltWith は llms.txt を持つサイトを844 000件以上と数えました(2025年10月)が、その多くは Mintlify が全ホスト型ドキュメントサイトへ一斉導入したような、プラットフォームによる自動展開です。個々の運営者が情報を比較して選んだ結果ではありません。
- limy.ai が90日間に分析した5億1 500万件超のAIボット通信では、
/llms.txtを対象としたリクエストは408件だけで、「統計的に無視できる」と説明されています。 - SE Ranking の300 000ドメイン調査(2026年)では、llms.txt の採用率は10,13%、およそ10サイトに1サイトでした。トラフィック層による大きな差はなく、低トラフィック層は9,88%、高トラフィック層は8,27%でした。 出典
変更履歴
2026年8月20日に更新。
編集概要と記録された変更の詳細。変更の詳細
-
変更の詳細な注記は現在英語でのみ提供されています。
完全な比較は利用できません — この改訂の以前のスナップショットがアーカイブされていません。
2026年8月20日に更新。
編集概要と記録された変更の詳細。変更の詳細
-
変更の詳細な注記は現在英語でのみ提供されています。
完全な比較は利用できません — この改訂の以前のスナップショットがアーカイブされていません。
2026年8月20日に更新。
編集概要と記録された変更の詳細。変更の詳細
-
変更の詳細な注記は現在英語でのみ提供されています。
完全な比較は利用できません — この改訂の以前のスナップショットがアーカイブされていません。
2026年8月20日に更新。
編集概要と記録された変更の詳細。変更の詳細
-
変更の詳細な注記は現在英語でのみ提供されています。
完全な比較は利用できません — この改訂の以前のスナップショットがアーカイブされていません。