Bingbotのクロールと確認

Bingbotとは何か、Bing以外で何を支えるか、逆引きDNSで確認する方法、robots.txt、Crawl Control、IndexNowでクロールを制御する方法を説明します。

初回公開:2026年6月24日 · 最終更新:2026年8月8日 · Advanced
言語
このページには証拠シグナルが 2 件あります

BingbotはMicrosoft Bingのウェブクローラーで、Bingのインデックスのためにページを発見、取得、レンダリングします。robots.txtのトークンはbingbotで、ChromiumベースのEdgeエンジン上で常に更新され、現代のJavaScriptをレンダリングします。見落とされがちな点は、同じインデックスがYahoo、DuckDuckGo、Ecosia、Edgeの既定検索、Microsoft Copilotも支えることです。bingbotをブロックすると、Bingの小さな市場シェア以上のものを失います。確認は偽装可能なユーザーエージェントや変化する公開IPリストではなく、2段階の逆引きDNSで行います。robots.txt、Bing Webmaster ToolsのCrawl Control、IndexNow(BingとYandexが共同作成したプッシュプロトコル)で制御します。

TL;DR — BingbotはMicrosoft Bingのクローラーです(robots.txtのトークン:bingbot)。MSNBotに代わった2010年10月1日から稼働しています。ChromiumベースのEdgeエンジンで常に更新されるため、現代のJavaScriptをレンダリングできます。実際の到達範囲はbing.comに直接帰属するトラフィックより広く、Microsoftは製品やパートナーシップ全体で検索インフラを使っています。ユーザーエージェント文字列を信頼せず、Bingが文書化した確認方法で検証してください。クロールはrobots.txt、Bing Webmaster ToolsのCrawl Control、そしてIndexNow(Yandexと共同作成したBingのプッシュプロトコル)で管理します。

Evidence for this claim Bingbot is Microsoft's crawler for Bing search services and identifies itself with documented user-agent strings. Scope: Current Microsoft Bingbot documentation. Confidence: high · Verified: Microsoft Bing Webmaster Tools: Bingbot Evidence for this claim Microsoft recommends verifying Bingbot through reverse and forward DNS rather than trusting the user-agent string alone. Scope: Current Bingbot verification method. Confidence: high · Verified: Microsoft Bing Webmaster Tools: Verify Bingbot

MSNBotからBingbotへ

BingbotはMicrosoftの主要なウェブクローラーです。Bingのインデックスを構築・更新するためにページを発見し、取得し、処理するプログラムです。2010年10月1日に稼働し、従来のMSNBotに取って代わりました。この移行には、古いディレクティブが残っている場合にも意味を持つrobots.txtルールが伴いました。Microsoftの発表は、“as of October 1st, if we detect separate sets of custom directives for both MSNBot and BingBot in your robots.txt file, the BingBot directives will take precedence.” (翻訳)(10月1日以降、robots.txtにMSNBotとBingBotのカスタムディレクティブが別々にある場合、BingBotのディレクティブが優先される)と述べています。つまりMSNBotのルールがBingbotのルールをひそかに上書きするのではなく、逆です。

Bingbotが支えるのはBingだけではない

このページで最も重要な位置付けの変更です。Bingの直接的な検索市場シェアは小さいため、多くのSEO担当者はBingを飛ばします。しかしBingbotが構築するインデックスは、Yahoo Search、DuckDuckGo、Ecosia、Edgeの既定の検索、Microsoft Copilotにも供給され、歴史的にはChatGPT Searchも支えていました。Yahooとの依存関係は2010年の開始時までさかのぼります。当時Microsoftはサイト所有者に、“To keep your content in the Bing index, please ensure that BingBot has the same access to your site as given to MSNBot.” (翻訳)(コンテンツをBingのインデックスに残すには、BingBotにMSNBotと同じサイトアクセスを与えてください)と警告しました。

実務上の帰結は、bingbotに対するDisallowが「Bingだけ」の損失ではないことです。エコシステム全体に一度に波及します。Bingを特に重視するかどうかにかかわらず、Bingbotは検索可能なウェブのかなりの部分、そして次第にAI回答へ通じる入口です。

ユーザーエージェント文字列(常に更新される理由)

Bingbotのユーザーエージェントにはbingbot/2.0トークンと、ChromiumベースのChrome/W.X.Y.Zバージョン番号が含まれます。W.X.Y.ZはMicrosoft Edgeの現在の安定版ビルドに置き換えられるため、文字列が常に更新されます。Microsoft自身の例は100.0.4896.127です。Microsoftが2022年4月に最終版の文字列を発表した内容によれば、デスクトップUAは Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) Chrome/W.X.Y.Z Safari/537.36 モバイルUAは Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) です。Microsoftが2019年12月にプレビューした初期の文字列には末尾のEdg/W.X.Y.Z断片も提案されていましたが、2022年に公開され、2023年2月に完全稼働が確認された最終文字列には含まれません。コードでBingbotのUAを照合するなら、これを必須にしないでください。古いレガシー文字列は、Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)だけでした。

「常に更新される」とは、バージョン番号が最新の安定版Edgeを自動的に追うという意味です。実際には、古い2層のクロール/レンダリング格差をなくしました。Bingbotは現代のEdgeやChromeと同じChromiumエンジンファミリーで動くため、現在のブラウザーと同じようにJavaScriptをレンダリングします。Bingは、JavaScriptの多いサイトで善意に行う動的レンダリングも正当な選択肢として扱います。Bingの見解ではクローキングではありません。

Bingbotを確認する — ユーザーエージェントだけでは不十分

ユーザーエージェント文字列は簡単に偽装できるため、Bingbotを名乗るリクエストだけでは何も証明できません。信頼できる確認は2段階の逆引きDNSです。

  1. ログにあるクロール元IPを**逆引き(PTR)**します。本物のBingbotのIPはsearch.msn.comで終わるホスト名に解決され、パターンはmsnbot-<ip-with-dashes>.search.msn.comです(157.55.39.1msnbot-157-55-39-1.search.msn.com)。
  2. そのホスト名を**正引き(A)**します。元のIPへ戻って解決されなければなりません。

どちらか一方でも失敗したら、Bingbotではありません。Microsoftはbing.com/toolbox/bingbot.jsonにIPリストを公開しています(IPv4プレフィックス28件、最終生成は2024年1月)。しかし同社自身の案内は、IPアドレスがいつでも変わり得るため、IPリストより逆引きDNSを優先することです。JSONは大まかな参考情報であり、ファイアウォールの許可リストではありません。(同じ逆引きDNS優先の考え方はGooglebotにも適用されます。確認スクリプトはScriptsタブを参照してください。)

Bingbotが発見とクロールを行う方法

発見はリンク主導です。Microsoftで長くBingbotを率いてきたFabrice Canelは、次のように説明しています。“We are guided by key pages that are important on the internet and we follow links to understand what’s next.” (翻訳)(インターネット上で重要な主要ページを手がかりにし、次に何があるかを理解するためリンクをたどる)。規模は桁違いです。2019年のインタビューでCanelは、“Every day, my team discovers more than 100 billion new URLs never seen before, while useless URLs parameters are ignored.” (翻訳)(毎日、チームはこれまで見たことのない新しいURLを1 000億件以上発見し、役に立たないURLパラメーターは無視する)と述べました。(2020年の数字は1日約700億件でした。どちらも異なる時点の実数なので、引用するときは年を付ける価値があります。)

Googleが自らのクローラーについて説明する方法と、Bingbotを分ける動作が2つあります。

  • 取得前の事前フィルタリング。 BingbotはURLをダウンロードする前に、コストと価値を判断します。Bingの説明では、“Pages that are deemed to have absolutely no potential for being useful in satisfying a user’s search query in Bing results are not retained.” (翻訳)(Bingの検索結果でユーザーの検索クエリを満たすのに役立つ可能性がまったくないと判断されたページは保持されない)ということです。
  • URLの記憶。 BingbotはURLを本質的に永久に記憶します。“Bingbot retains every URL in memory and comes back and recrawls intermittently, even if all links to it have been removed.” (翻訳)(BingbotはすべてのURLをメモリに保持し、そこへのリンクがすべて削除されても、ときどき戻って再クロールする)ためです。内部リンクをすべて外した後もBingbotのアクセスが残ることがあるのは、このためです。

その根底にあるのは、礼儀正しさを優先する姿勢です。Canelは、“Our default crawl policy is to be as polite as possible when crawling the web.” (翻訳)(既定のクロールポリシーは、ウェブをクロールするときできる限り礼儀正しくすること)と述べています。そして問題そのものについては、“Crawling right is a fascinating engineering problem that hasn’t fully been solved yet.” (翻訳)(正しくクロールすることは、まだ完全には解決されていない魅力的なエンジニアリング問題)と率直に話しています。

その他のMicrosoftクローラー

目にするMicrosoftのボットはBingbotだけではありません。

  • AdIdxBotadidxbot)— Bing Adsの品質管理クローラー。知っておくべき点は、Bingbotとクロールバジェットを共有するため、広告の激しいクロールがオーガニックページの予算を食いつぶす可能性があることです。
  • BingPreview — ページのスナップショットとプレビューサムネイルを生成します。
  • MicrosoftPreview — TeamsとOfficeのリンクプレビューを生成します。
  • BingVideoPreview — Bingだけに表示する動画プレビューを生成します。他と同様にデスクトップ版とモバイル版があり、古いクローラーが使うbingbot.htm URLではなく+https://aka.ms/microsoftbotsを名乗ります。
  • MSNBot/MSNBot-Media — 2010年10月1日に引退したレガシークローラーです。

Bingbotのクロールを制御する

大まかなものから精密なものへ、3つの手段があります。

  • robots.txtbingbotトークンがクロールを制御します。価値の低い領域からボットを締め出すために使いますが、インデックスから削除するツールではありません。
  • Crawl Control(Bing Webmaster Tools) — Bingbotの時間ごとのクロール速度を設定できます。ピークトラフィック時は遅くし、オフピーク時は速くできます。これはGoogleとBingの本当の違いです。GoogleはSearch Consoleのクロール速度スライダーを廃止しましたが、Bingにはまだ有効な制御があります。
  • IndexNow — 再クロールを待つ代わりに、変更をプッシュします。これは、“created by Microsoft Bing and Yandex, allowing websites to easily notify search engines whenever their website content is created, updated, or deleted.” (翻訳)(Microsoft BingとYandexが作成し、ウェブサイトのコンテンツが作成、更新、削除されたときに検索エンジンへ簡単に知らせられるようにする)プロトコルです。1回の通知ですべての参加エンジンに届きます。ここでは詳しく扱いません。設定、キーのファイル、リクエストあたり10 000 URLの上限はIndexNowの詳しい記事を参照してください。

私が繰り返し戻る戦略上の要点は、Bingが効率的になることで攻撃的なクロールという評判を修正し、その中心にIndexNowがあることです。AIと検索エンジンのボットクロールに関する分析で書いたように、“It’s estimated that 53% of crawler traffic is wasted effort, and IndexNow can help cut that number down to almost nothing.” (翻訳)(クローラートラフィックの53%は無駄な作業だと推定され、IndexNowはその数をほぼゼロまで減らすのに役立つ)。より多くの探索クロールを促そうとするより、変更をプッシュする方が有効です。

Bingbot、Copilot、AIオプトアウトの空白

BingのインデックスがMicrosoft Copilotに供給されるため、Bingbotは実質的にAIクローラーでもあります。Canelがそこにうまく表示されるために示す指針は具体的です。“schema markup helps Microsoft’s LLMs understand your content,” (翻訳)(スキーママークアップはMicrosoftのLLMがコンテンツを理解するのに役立つ)そして、“Gen AIs value fresh content in particular, partly as a reference check of their LLM training data. Use the API at indexnow.org to push that information as it’s published or updated.” (翻訳)(生成AIは特に新鮮なコンテンツを重視する。LLMのトレーニングデータとの参照確認の一部でもある。公開または更新したらindexnow.orgのAPIでその情報をプッシュする)というものです。

競合記事が省きがちな注意点があります。Googleには、検索インデックス登録に影響を与えずAIトレーニングからオプトアウトできるGoogle-Extendedトークンがあります。第三者による多くの解釈では、Bingには別個の同等オプトアウトがありません。つまり、Copilotのトレーニングから外れるためにbingbotをブロックすると、Bing検索とその下流のすべてからも外れることになります。これは確定したMicrosoftポリシーではなく、現在の制御の対応関係に関する観察として扱い、実行前に最新文書を確認します。

Bingbotを大きな文脈に置くなら、クローラーの一族、Googlebot、ユーザーエージェントの概念、AIクローラー、robots.txt、IndexNowをクロールハブがすべて結び付けます。

Add an expert note

Pin an expert quote

New person? Create their unclaimed profile at /admin/experts/ → Pin a quote first.