クロール頻度

検索エンジンが既知のページを再クロールする頻度、その決定要因、正確な測定方法を解説します。

初回公開:2026年6月22日 · 最終更新:2026年8月22日 · Advanced
言語

クロール頻度は、検索エンジンが既知のページを再取得する頻度です。主にページの重要性と実際の変更頻度で決まり、直接設定はできません。正確なlastmod、実質的な更新、健全なサーバーで間接的に改善できますが、頻度そのものは順位要因ではありません。

要点 — クロール頻度は、既知のURLを再クロールする間隔です。スケジューラは主に、重要性(人気度、PageRank、リンク)と陳腐化度(ページが実際に変わる頻度)から決定します。Googleは推定インベントリやサイト全体の出来事も需要要因に挙げています。Googleはページごとの更新パターンを学び、安定したページでは3日、10日、30日、100日というように間隔を広げます。changefreqpriority は無視され、実質的な変更と結び付いた検証可能な lastmod だけが利用されます。頻度は直接設定できません。重要性、実質的な変更、正確な lastmod、サーバーの健全性を改善し、個別URLについて再クロールをリクエストします。クロール増加は順位を上げません。クロール速度や、需要と処理能力からなるクロールバジェットとは別の概念です。

クロール頻度の正確な意味

クロール頻度は、検索エンジンが既知のURLを再取得し、変更を確認する頻度です。クロールスケジューラがURL単位で決める再訪間隔ともいえます。主な入力はページの重要性と実際の変更頻度で、Googleの文書では人気度陳腐化度と表現されています。 Evidence for this claim Google's crawl-demand guidance says popular URLs tend to be crawled more often and systems seek to recrawl often enough to detect changes. Scope: Adaptive Google recrawling; no fixed per-page cadence is promised. Confidence: high · Verified: Google: Large site crawl budget guide

クロールに関する近い概念と混同されやすいため、違いを明確にしておきます。

クロール頻度、クロールバジェット、クロール速度の違い

この3つは同じ意味で使われがちですが、区別が必要です。

用語測るもの決定要因
クロール頻度既知URLを再取得する間隔スケジューラ(人気度と陳腐化度)
クロール速度(処理能力)取得の速さや並列接続数サーバーの健全性(高速なら増え、エラーなら減る)
クロールバジェット需要と処理能力、つまり「Googleがクロールでき、かつクロールしたいURLの集合」上記2要素の組み合わせ

Googleの定義はこれらを結び付けています。“Google defines a site’s crawl budget as the set of URLs that Google can and wants to crawl.” (翻訳)「Googleはサイトのクロールバジェットを、クロールでき、かつクロールしたいURLの集合と定義しています。」頻度はそのバジェット内にあるURL単位の間隔で、速度は処理量を絞る弁です。私のクロールバジェット解説では、“Crawl budget is the amount of time and resources a search engine allows for crawling a website. It is made up [of] crawl demand which is how many pages a search engine wants to crawl on your site and crawl rate which is how fast they can crawl.” (翻訳)「クロールバジェットとは、検索エンジンがサイトのクロールに割り当てる時間とリソースです。サイト内で何ページをクロールしたいかというクロール需要と、どれだけ速くクロールできるかというクロール速度で構成されます。」と説明しています。

発見クロールと更新クロール

頻度が問題になるのは主に更新クロールです。John Muellerは違いを明快に説明しています。“One is a discovery crawl where we try to discover new pages on your website. And the other is a refresh crawl where we update existing pages that we know about.” (翻訳)「1つはウェブサイト上の新しいページを見つけようとする発見クロールで、もう1つは既知のページを更新する更新クロールです。」

更新間隔はページによって大きく異なります。Muellerは、“We would refresh crawl the homepage, I don’t know, once a day, or every couple of hours, or something like that.” (翻訳)「ホームページなら、1日1回、数時間おきなどの頻度で更新クロールするでしょう。」と述べています。反対に、“If we recognize that individual pages change very rarely, then we realize we don’t have to crawl them all the time.” (翻訳)「個々のページがめったに変わらないと分かれば、常にクロールする必要はないと判断します。」とも説明しています。

要点は、Googleがページごとのパターンを学習することです。“If you have a news website and you update it hourly, then we should learn that we need to crawl it hourly. Whereas if it’s a news website that updates once a month, then we should learn that we don’t need to crawl every hour.” (翻訳)「ニュースサイトを毎時更新するなら毎時クロールする必要があると学習し、月1回の更新なら毎時クロールする必要はないと学習します。」

Googleがページを再クロールする頻度の決定要因

私のHow Search Works資料 では、再クロールを左右するクロール需要の要因として、PageRank、ページの変更頻度、前回クロールからの経過時間、大規模なサイト変更を挙げています。これはGoogleが説明する人気度と陳腐化度のモデルを私なりに整理したもので、網羅的な一覧ではありません。Googleの文書は、サイトに存在すると認識したURL数である推定インベントリや、ドメイン・URL構造の移行などのサイト全体の出来事も、需要を変える要因に挙げています。直接働きかけやすいのは人気度と陳腐化度なので、以下で詳しく見ます。

人気度、PageRank、リンク

“URLs that are more popular on the Internet tend to be crawled more often to keep them fresher in our systems.” (翻訳)「インターネット上で人気の高いURLほど、システム内の情報を新鮮に保つため頻繁にクロールされる傾向があります。」ページへの内部・外部リンクが多いほど重要性が高いと認識され、再クロールも増えやすくなります。私のクロールバジェット記事でも、“Popular pages, or those with more links and PageRank, will generally receive priority over other pages.” (翻訳)「人気のあるページや、リンクとPageRankが多いページは、通常ほかのページより優先されます。」と説明しています。

陳腐化度と間隔の拡大

Googleのシステムは、“want to recrawl documents frequently enough to pick up any changes.” (翻訳)「変更を検出できる十分な頻度で文書を再クロールしたい」と考えます。逆に、変わらないページの頻度は徐々に下がります。私の解説にある “If Google sees that a page isn’t changing, they will crawl the page less frequently.” (翻訳)「ページが変わっていないとGoogleが判断すれば、そのページのクロール頻度は下がります。」ということです。固定間隔ではなく、“if they crawl a page and see no changes after a day, they may wait three days before crawling again, ten days the next time, 30 days, 100 days, etc.” (翻訳)「1日後にクロールして変化がなければ、次は3日、その次は10日、30日、100日と待つことがあります。」という後退方式です。

品質と検索需要

Gary Illyesは、スケジューラを納得させる必要があると表現しています。“If you want to increase how much we crawl, then you somehow have to convince search that your stuff is worth fetching, which is basically what the scheduler is listening to.” (翻訳)「クロール量を増やしたいなら、コンテンツに取得する価値があると検索システムに納得させる必要があり、スケジューラは基本的にその信号を聞いています。」また、“Scheduling is very dynamic. As soon as we get the signals back from search indexing that the quality of the content has increased across this many URLs, we would just start turning up demand.” (翻訳)「スケジューリングは非常に動的で、多数のURLでコンテンツ品質が上がったという信号が検索インデックスから返れば、需要を引き上げ始めます。」と述べています。一方、“If search demand goes down, then that also correlates to the crawl limit going down.” (翻訳)「検索需要が下がれば、クロール上限の低下とも連動します。」

Googleは効率化のため、安定したページのクロールを積極的に減らそうとしている点も重要です。Illyesは通信量を減らし「さらに少なくクロールする」意向を公に説明しています。変化のないページをスケジューラが過剰にクロールすると期待すべきではありません。

サーバーの健全性(速度が頻度を可能にする)

頻度はクロール速度が許す範囲までしか上がりません。クロール処理能力の上限は、おおむねGoogleが同時に使える並列接続数です。高速でエラーのないサーバーは上限を引き上げ、遅いサイトや 5xx429 を返すサイトではクロールが減ります。サーバーの健全性自体が需要を増やすのではなく、ボトルネックを取り除きます。

サイトマップと lastmod の役割

まず大きな誤解を解きましょう。サイトマップの設定でクロール間隔を制御できると思われがちですが、ほとんど制御できません。

changefreqpriority は無視される

Googleのサイトマップ文書には、“Google ignores <priority> and <changefreq> values.” (翻訳)「Googleは <priority><changefreq> の値を無視します。」と明記されています。<changefreq>hourly</changefreq> と設定しても効果はありません。 Evidence for this claim Google ignores sitemap priority and changefreq values and may use accurate lastmod values. Scope: Google sitemap processing. Confidence: high · Verified: Google: Build and submit a sitemap これらの項目を最適化する必要はありません。

lastmod は正確な場合に限り使われる

Googleがサイトマップから利用する更新情報は lastmod ですが、条件があります。“Google uses the <lastmod> value if it’s consistently and verifiably (for example by comparing to the last modification of the page) accurate.” (翻訳)<lastmod> の値が一貫しており、たとえばページの最終変更と比較して検証可能なほど正確であれば、Googleはその値を利用します。」虚偽の値を入れると検出され、信頼されなくなります。

さらに、実質的な変更を表す必要があります。“The <lastmod> value should reflect the date and time of the last significant update to the page. For example, an update to the main content, the structured data, or links on the page is generally considered significant, however an update to the copyright date is not.” (翻訳)<lastmod> はページに対する最後の重要な更新日時を反映すべきです。本文、構造化データ、ページ上のリンクの更新は一般に重要ですが、著作権表示の日付変更は重要とは見なされません。」フッターの年を変えただけで値を更新しても効果はなく、信号への信頼を損ないます。

クロールを強制したり速めたりできるか

正直にいえば、頻度を操作するダイヤルはありません。実際に使える手段は次のとおりです。

  • 入力要因を改善する。 リンクや内部リンクによる重要性、実質的な内容変更、正確な lastmod、高速で健全なサーバーを整えます。
  • 個別URLをリクエストする。 Google Search ConsoleのURL検査には、1ページずつ「インデックス登録をリクエスト」する機能があります。これは依頼であって保証ではなく、継続的な間隔も変えません。同じURLを繰り返し送信してもクロールは速まりません。
  • 変更をプッシュ通知する。 Bingなどでは次節の方法を使えます。
Evidence for this claim Requesting a recrawl repeatedly for the same URL does not make Google crawl it faster. Scope: owned URLs Confidence: high · Verified: Ask Google to recrawl your URLs

できないことは、頻度の指定、毎日公開することによる日次クロールの強制、廃止された旧Search Consoleのクロール速度スライダーの使用です。BingにはCrawl Controlの時間帯設定がありますが、制御するのは頻度ではなく速度です。

Bingの適応型クロールとIndexNow

Bingはクロール頻度をコストの問題として捉えています。同社の記事では、間隔は “depends on the frequency of which the content is edited and updated,” (翻訳)「コンテンツが編集・更新される頻度によって決まり」、“Defining when to fetch the web page next is the hard problem we are looking to optimize.” (翻訳)「次にウェブページをいつ取得するかを決めることが、最適化すべき難題です。」と説明しています。適応型の対応として、“What we learned was that we could optimize our system to avoid fetching the same content over and over, and instead check periodically for major changes” (翻訳)「同じ内容を繰り返し取得せず、大きな変更を定期的に確認するようシステムを最適化できると分かりました」とし、ある事例では “about 40% crawl saving on this site!” (翻訳)「このサイトで約40%のクロール削減」を実現しました。

Bingで変更を知らせる仕組みがIndexNowです。スケジューラを待たずに変更を通知します。“Whether you’re adding, updating, or deleting content, IndexNow notifies multiple search engines of your content changes as soon as they happen,” (翻訳)「コンテンツの追加、更新、削除のいずれでも、IndexNowは変更が起きるとすぐ複数の検索エンジンに通知します。」これは “limiting the need for costly exploratory crawls.” (翻訳)「高コストな探索クロールの必要性を抑える」ためのものです。ただし、Googleは一般的な再クロールにIndexNowを利用しません

クロール頻度の確認方法

  • GSC → クロールの統計情報。 時系列の総リクエスト数を、レスポンスコード、ファイル形式、Googlebotの種類別に確認できます。サイト全体の間隔を見るもので、URL単位の最終クロール記録ではありません。
  • GSC → URL検査。 個別URLの「前回のクロール」日を確認します。特定ページの最終取得日時を見る場所はこちらです。
  • Bing Webmaster Tools。 Crawl Control(速度)とIndexNow Insightsを確認できます。
  • サーバーログ分析。 ボットがいつ、どのURLへアクセスしたかを示す確実な記録です。

クロール頻度に関するよくある誤解

  • 「毎日公開すればクロールが速くなる」。 いいえ。Googleが学習するのは公開量ではなく、重要性と実質的な変更です。
  • changefreqpriority で間隔を制御できる」。 いいえ。どちらも無視されます。
  • lastmod を更新すれば再クロールされる」。 検証可能で重要な変更と結び付く場合に限られます。操作すれば信頼を失います。
  • 「クロールが増えれば順位も上がる」。 いいえ。私のクロールバジェット解説 にも、“The rate of crawling isn’t going to impact your rankings.” (翻訳)「クロール速度は順位に影響しません。」と記しています。クロールは前提条件であって加点ではありません。“More crawling doesn’t mean you’ll rank better, but if your pages aren’t crawled and indexed they aren’t going to rank at all.” (翻訳)「クロールが増えても順位が上がるわけではありませんが、ページがクロールされインデックスされなければ、そもそも順位には載りません。」
  • 「固定スケジュールがある」。 いいえ。URL単位で動的に適応します。
  • 「Search Consoleで頻度を設定できる」。 いいえ。速度スライダーは廃止され、頻度の設定機能もありません。

Add an expert note

Pin an expert quote

New person? Create their unclaimed profile at /admin/experts/ → Pin a quote first.