Hướng dẫn về Crawl Frequency
Cách thường các công cụ tìm kiếm recrawl một trang they đã know về — điều gì drives điều này (popularity, staleness, an honest lastmod), điều gì không (changefreq, priority, xuất bản daily), và vì sao bạn không thể force điều này.
Ngôn ngữ
Crawl frequency là cách thường một công cụ tìm kiếm re-fetches một trang điều này đã knows về. đây là driven mainly by một trang importance (popularity, PageRank, links) và cách thường điều này genuinely thay đổi (staleness), though Google names other demand inputs cũng — Google learns của bạn theo-trang cập nhật pattern và adjusts. Bạn influence điều này indirectly qua importance, real thay đổi, an chính xác lastmod, và một healthy máy chủ, nhưng bạn không thể set điều này. changefreq và priority là đã bỏ qua; bumping lastmod cosmetically backfires; và crawling hơn thường không improve thứ hạng.
Tóm tắt — Crawl frequency là Cách thường công cụ tìm kiếm xuất hiện back để re-kiểm tra trang nó đã knows về. các trang đó là popular và thay đổi lot nhận re-checked constantly; các trang đó không bao giờ thay đổi nhận re-checked rarely — những điều đó là hai biggest factors, though không chỉ ones. Bạn có thể’t đặt nó — bạn nudge nó by đang làm trang nhiều hơn quan trọng và thực ra updating nó.
Điều gì crawl frequency có nghĩ là
Khi Google hoặc Bing tìm thấy trang cho đầu tiên time, đó discovery crawl. nhưng web thay đổi, so các công cụ tìm kiếm come back sau đó để see nếu trang là khác — đó refresh crawl. Crawl frequency là Cách thường đó re-kiểm tra happens. Evidence for this claim Google's crawl-demand guidance says popular URLs tend to be crawled more often and systems seek to recrawl often enough to detect changes. Scope: Adaptive Google recrawling; no fixed per-page cadence is promised. Confidence: high · Verified: Google: Large site crawl budget guide
nó không giống nhau cho mỗi trang. busy news homepage có thể nhận re-được crawl mỗi couple của hours. nhỏ business “Về” trang đó hasn’t changed trong hai năm có thể go months giữa crawl. những điều đó là illustrative các ví dụ, không published schedule — Google không publish fixed hour/day/week intervals by trang loại. công cụ tìm kiếm decides theo trang, dynamically.
Điều gì làm trang nhận được crawl nhiều hơn thường
Hai điều quan trọng phần lớn:
- Cách quan trọng trang là. Popular các trang — ones với lots của links pointing tại them — nhận re-được crawl nhiều hơn thường so Google giữ them fresh.
- Cách thường trang thực ra thay đổi. các công cụ tìm kiếm learn của bạn pattern. nếu trang cập nhật mỗi day, họ’ll bắt đầu kiểm tra nó daily. nếu nó không bao giờ thay đổi, họ back off và kiểm tra nó ít hơn và ít hơn.
những điều đó hai là biggest levers, nhưng họ’re không toàn bộ list. Google own tài liệu cũng names điều như Cách nhiều các URL nó thinks bạn có (perceived inventory) và trang web-wide events — trang web migration, ví dụ — as inputs đó có thể shift crawl demand up hoặc xuống.
Điều gì làm không làm Google crawl nhiều hơn
Đây là nơi mọi người nhận tripped up:
- Xuất bản mỗi day không force nhanh hơn crawling by itself. Google crawl nhiều hơn Khi của bạn các trang là quan trọng và genuinely thay đổi — không chỉ vì bạn hit publish lot.
- Tags trong của bạn sitemap không control nó. có old settings được gọi là
changefreqvàpriority— Google bỏ qua cả hai completely. Evidence for this claim Google ignores sitemap priority and changefreq values and may use accurate lastmod values. Scope: Google sitemap processing. Confidence: high · Verified: Google: Build and submit a sitemap - Crawling nhiều hơn thường không help của bạn thứ hạng. trang có để là được crawl để xếp hạng tại all, nhưng getting được crawl nhiều hơn sẽ không move bạn up.
Đó honest câu trả lời to “how do I get crawled more?” (bản dịch) «cách làm I nhận được crawl hơn?»
có không button. Điều gì thực ra helps: link để trang từ của bạn quan trọng các trang, giữ của bạn trang web fast và lỗi-free, và làm thực, có ý nghĩa cập nhật (không chỉ thay đổi năm trong của bạn footer). nếu bạn’ve changed điều gì đó quan trọng và muốn Google để take fresh xem xét một cụ thể trang, Bạn có thể yêu cầu nó trong Google Search Console’s URL Inspection tool.
Muốn version với Google và Bing quotes, lastmod details, và Cách
điều này differs từ ngân sách crawl và tốc độ crawl? Switch để Nâng cao tab.
Tóm tắt — Crawl frequency là cadence của recrawl cho known URL, đặt by scheduler mainly từ hai inputs: importance (popularity / PageRank / links) và staleness (Cách thường trang genuinely thay đổi) — tài liệu củ Google names khác demand inputs cũng, chẳng hạn như perceived inventory và trang web-wide events. Google learns của bạn theo-trang cập nhật pattern và adapts — even backing off on ổn định các trang (3 → 10 → 30 → 100 days).
changefreqvàprioritylà đã bỏ qua; chỉ verifiablelastmodtied để significant thay đổi là honored. Bạn có thể’t đặt frequency trực tiếp — bạn improve inputs (importance, thực thay đổi, chính xáclastmod, máy chủ health) và, cho single URL, yêu cầu recrawl. nhiều hơn crawling không improve thứ hạng. Distinct từ crawl rate (speed) và crawl budget (demand + capacity).
Điều gì crawl frequency thực ra là
Crawl frequency là Cách thường công cụ tìm kiếm re-fetches URL nó đã knows về, để kiểm tra liệu nó changed. nó cadence của recrawl, decided theo URL by crawl scheduler. hai big inputs là Cách quan trọng trang là và Cách thường nó thực sự thay đổi — tài liệu củ Google calls những điều này popularity và staleness. Evidence for this claim Google's crawl-demand guidance says popular URLs tend to be crawled more often and systems seek to recrawl often enough to detect changes. Scope: Adaptive Google recrawling; no fixed per-page cadence is promised. Confidence: high · Verified: Google: Large site crawl budget guide
Đây là piece của crawling story đó easiest để blur vào của nó siblings, so let me draw lines rõ ràng.
Crawl frequency so với. ngân sách crawl so với. tốc độ crawl
những điều này three nhận được sử dụng interchangeably và họ không nên:
| Term | Điều gì điều này measures | Set by |
|---|---|---|
| Crawl frequency | Cách thường một known URL là re-fetched (cadence) | Đó scheduler — popularity + staleness |
| Tốc độ crawl (capacity) | Cách fast / cách nhiều parallel connections | Máy chủ của bạn health (fast = hơn, các lỗi = ít hơn) |
| Ngân sách crawl | Demand + capacity — “the set of URLs that Google can and wants to crawl” (bản dịch) «đó set of URLs đó Google có thể và wants to crawl» | Cả hai of đó trên, combined |
Google own definition ties điều này together: “Google defines a site’s crawl budget as the set of URLs that Google can and wants to crawl.” (bản dịch) «Google defines một site ngân sách crawl as đó set of URLs đó Google có thể và wants to crawl.» Frequency là một theo-URL cadence đó lives bên trong đó budget. Rate là đó throttle on đó pipe. As I put điều này trong my crawl-budget hướng dẫn, “Crawl budget is the amount of time and resources a search engine allows for crawling a website. It is made up [of] crawl demand which is how many pages a search engine wants to crawl on your site and crawl rate which is how fast they can crawl.” (bản dịch) «Ngân sách crawl là đó amount of time và các tài nguyên một công cụ tìm kiếm cho phép cho crawling một website. Điều này là đã làm up [of] crawl demand mà là cách nhiều các trang một công cụ tìm kiếm wants to crawl trên trang web của bạn và tốc độ crawl mà là cách fast they có thể crawl.»
Discovery crawl so với. refresh crawl
Frequency là thực sự về refresh crawling. John Mueller laid out đó split plainly: “One is a discovery crawl where we try to discover new pages on your website. And the other is a refresh crawl where we update existing pages that we know about.” (bản dịch) «Một là một discovery crawl nơi we try to discover new các trang on của bạn website. Và đó other là một refresh crawl nơi we cập nhật existing các trang đó we know về.»
Refresh cadence varies enormously by trang. Mueller again: “We would refresh crawl the homepage, I don’t know, once a day, or every couple of hours, or something like that.” (bản dịch) «We sẽ refresh crawl đó homepage, I không know, khi một day, hoặc mỗi couple of hours, hoặc điều gì đó như đó.» Và on đó other end: “If we recognize that individual pages change very rarely, then we realize we don’t have to crawl them all the time.” (bản dịch) «Nếu we recognize đó individual các trang thay đổi very rarely, thì we realize we không có to crawl them all đó time.»
Đó key insight là đó Google learns của bạn pattern theo trang: “If you have a news website and you update it hourly, then we should learn that we need to crawl it hourly. Whereas if it’s a news website that updates once a month, then we should learn that we don’t need to crawl every hour.” (bản dịch) «Nếu bạn có một news website và bạn cập nhật điều này hourly, thì we nên learn đó we cần to crawl điều này hourly. Whereas nếu đây là một news website đó cập nhật khi một month, thì we nên learn đó we không cần to crawl mỗi hour.»
Điều gì determines Cách thường Google recrawls trang
Trong my Cách Tìm kiếm Hoạt động deck I list crawl-demand factors đó drive recrawl: PageRank, Cách frequently trang thay đổi, time since nó là cuối cùng được crawl, và major trang web thay đổi. đó giống nhau popularity + staleness model Google documents, chỉ từ my own framing — và nó không exhaustive list either. tài liệu củ Google cũng names perceived inventory (Cách nhiều các URL nó thinks của bạn trang web có) và trang web-wide events, chẳng hạn như domain hoặc URL-structure migration, as điều đó có thể move crawl demand up hoặc xuống. Popularity và staleness là hai Bạn có thể influence phần lớn trực tiếp, so họ’re ones worth phần lớn attention. Breaking những điều đó xuống:
Popularity, PageRank, và links
“URLs that are more popular on the Internet tend to be crawled more often to keep them fresher in our systems.” (bản dịch) «URLs đó là hơn popular on đó Internet tend to là được crawl hơn thường to giữ them fresher trong của chúng ta các hệ thống.» Hơn internal và liên kết bên ngoài to một trang → hơn perceived importance → hơn frequent recrawls. Trong my crawl-budget post I say điều này đó giống nhau way: “Popular pages, or those with more links and PageRank, will generally receive priority over other pages.” (bản dịch) «Popular các trang, hoặc những với hơn links và PageRank, sẽ generally nhận priority over other các trang.»
Staleness — và backoff
Google các hệ thống “want to recrawl documents frequently enough to pick up any changes.” (bản dịch) «muốn to recrawl documents frequently đủ to pick up any thay đổi.» Đó flip side là đó các trang mà không thay đổi nhận được crawl ít hơn và ít hơn. Từ my crawl-budget hướng dẫn: “If Google sees that a page isn’t changing, they will crawl the page less frequently.” (bản dịch) «Nếu Google sees đó một trang không thay đổi, they sẽ crawl trang ít hơn frequently.» có không fixed interval — đây là một backoff: “if they crawl a page and see no changes after a day, they may wait three days before crawling again, ten days the next time, 30 days, 100 days, etc.” (bản dịch) «nếu they crawl một trang và see không thay đổi sau một day, they có thể chờ three days trước crawling again, ten days đó tiếp theo time, 30 days, 100 days, etc.»
Quality và tìm kiếm demand
Gary Illyes frames đó scheduler as điều gì đó bạn có to convince: “If you want to increase how much we crawl, then you somehow have to convince search that your stuff is worth fetching, which is basically what the scheduler is listening to.” (bản dịch) «Nếu bạn muốn to increase cách nhiều we crawl, thì bạn somehow có to convince tìm kiếm đó của bạn stuff là worth fetching, mà là basically điều gì đó scheduler là listening to.» đây là dynamic: “Scheduling is very dynamic. As soon as we get the signals back from search indexing that the quality of the content has increased across this many URLs, we would just start turning up demand.” (bản dịch) «Scheduling là very dynamic. As soon as we nhận đó các tín hiệu back từ tìm kiếm lập chỉ mục đó đó quality of đó nội dung có increased across này nhiều URLs, we sẽ chỉ bắt đầu chuyển thành up demand.» Điều này cuts cả hai ways — “If search demand goes down, then that also correlates to the crawl limit going down.” (bản dịch) «Nếu tìm kiếm demand goes xuống, thì đó cũng correlates to đó crawl limit going xuống.»
Worth knowing: Google là actively trying to crawl ổn định các trang ít hơn cho efficiency reasons. Illyes có publicly described wanting to “crawl even less” (bản dịch) «crawl even ít hơn» và reduce bytes on đó wire. So không expect đó scheduler to err toward over-crawling của bạn unchanging các trang.
máy chủ health (rate enables frequency)
Frequency có thể chỉ go as cao as của bạn rate cho phép. crawl capacity limit là
roughly maximum number của simultaneous parallel connections Google sẽ sử dụng;
fast, lỗi-free máy chủ raises đó ceiling, trong khi chậm trang web hoặc một returning
5xx/429 nhận được crawl ít hơn. máy chủ health không increase frequency — nó chỉ
dừng là bottleneck.
role của sitemaps và lastmod
Ở đây biggest myth để bust. Mọi người think sitemap settings control cadence. họ mostly không.
changefreq và priority là đã bỏ qua
Straight từ Google sitemap tài liệu: “Google ignores <priority> and
<changefreq> values.” (bản dịch) «Google bỏ qua <priority> và
<changefreq> các giá trị.» Setting <changefreq>hourly</changefreq> làm không có gì. Evidence for this claim Google ignores sitemap priority and changefreq values and may use accurate lastmod values. Scope: Google sitemap processing. Confidence: high · Verified: Google: Build and submit a sitemap
Dừng optimizing những các trường.
lastmod là một tín hiệu — nếu nó honest
Đó single freshness tín hiệu Google honors từ một sitemap là lastmod, và chỉ
conditionally: “Google uses the <lastmod> value if it’s consistently and
verifiably (for example by comparing to the last modification of the page)
accurate.” (bản dịch) «Google dùng đó <lastmod> giá trị nếu đây là consistently và
verifiably (ví dụ by comparing to đó cuối cùng modification of đó trang)
chính xác.» Nếu bạn lie về điều này, Google notices và dừng trusting điều này.
Và điều này có to reflect một real thay đổi: “The <lastmod> value should reflect the
date and time of the last significant update to the page. For example, an update to
the main content, the structured data, or links on the page is generally considered
significant, however an update to the copyright date is not.” (bản dịch) «Đó <lastmod> giá trị nên reflect đó
date và time of đó cuối cùng significant cập nhật to đó trang. Ví dụ, an cập nhật to
đó main nội dung, đó dữ liệu có cấu trúc, hoặc links on đó trang là generally considered
significant, tuy nhiên an cập nhật to đó copyright date không phải.» Bumping lastmod
vì bạn changed đó footer năm sẽ không help — và erodes đó trust đó làm
lastmod hoạt động tại all.
có thể bạn force hoặc speed up crawling?
honest câu trả lời: có không dial cho frequency. Điều gì bạn thực ra có:
- Improve đó inputs — importance (links, liên kết nội bộ), genuine nội dung
thay đổi, an chính xác
lastmod, và một fast, healthy máy chủ. - Yêu cầu một single URL — Google Search Console’s URL Inspection có một “Request indexing” (bản dịch) «Yêu cầu lập chỉ mục» action cho một trang tại một time. đây là một yêu cầu, không phải là bảo đảm, và điều này không thay đổi ongoing cadence. Google là rõ ràng đó mashing đó button không help either: requesting đó giống nhau URL repeatedly sẽ không nhận điều này được crawl nhanh hơn.
- Push một thay đổi (on Bing và others) — see dưới.
Điều gì bạn có thể’t làm: đặt frequency, force daily crawl by xuất bản daily, hoặc sử dụng old GSC crawl-rate slider (nó là retired). Bing có Crawl Control grid, nhưng đó controls rate, không frequency.
Bing: adaptive crawling và IndexNow
Bing thinks of crawl frequency as một cost vấn đề. Từ của họ crawl-frequency post, đó cadence “depends on the frequency of which the content is edited and updated,” (bản dịch) «phụ thuộc vào đó frequency of mà đó nội dung là edited và đã cập nhật,» và “Defining when to fetch the web page next is the hard problem we are looking to optimize.” (bản dịch) «Defining khi nào nên fetch đó web trang tiếp theo là đó hard vấn đề we là looking to optimize.» Của họ adaptive câu trả lời: “What we learned was that we could optimize our system to avoid fetching the same content over and over, and instead check periodically for major changes” (bản dịch) «Điều gì we learned đã là đó we có thể optimize của chúng ta hệ thống to tránh fetching đó giống nhau nội dung over và over, và thay vì kiểm tra periodically cho major thay đổi» — mà trong một case yielded “about 40% crawl saving on this site!” (bản dịch) «về 40% crawl saving on này site!»
Bing “you can nudge it” (bản dịch) «bạn có thể nudge điều này» mechanism là IndexNow: thay vì đang chờ cho đó scheduler, bạn tín hiệu một thay đổi. “Whether you’re adding, updating, or deleting content, IndexNow notifies multiple search engines of your content changes as soon as they happen,” (bản dịch) «Liệu bạn là thêm, updating, hoặc deleting nội dung, IndexNow notifies multiple các công cụ tìm kiếm of nội dung của bạn thay đổi as soon as they happen,» mà là về “limiting the need for costly exploratory crawls.” (bản dịch) «limiting đó cần cho costly exploratory crawl.» Note đó asymmetry: Google không dùng IndexNow cho chung recrawling.
Cách kiểm tra của bạn crawl frequency
- GSC → Crawl Số liệu — total các yêu cầu theo thời gian, hỏng xuống by phản hồi code, file loại, và Googlebot loại. Đây là Cách bạn observe cadence tại trang web level; nó không theo-URL cuối cùng-báo cáo crawl.
- GSC → URL Inspection — “cuối cùng crawl” date cho single URL. điều này, không Crawl Số liệu, là nơi bạn kiểm tra Khi cụ thể trang là cuối cùng fetched.
- Bing Quản trị viên web Tools — Crawl Control (rate) và IndexNow Insights.
- máy chủ log analysis — ground truth: chính xác mà các URL bots hit và Cách thường.
phổ biến myths về crawl frequency
- “Publishing daily forces faster crawling.” (bản dịch) «Xuất bản daily forces nhanh hơn crawling.» Không — Google learns của bạn pattern và crawl hơn cho importance và genuine thay đổi, không xuất bản volume.
- “
changefreq/prioritycontrol cadence.” (bản dịch) «changefreq/prioritycontrol cadence.» Không — cả hai là đã bỏ qua. - “Just bump
lastmodto get recrawled.” (bản dịch) «Chỉ bumplastmodto nhận recrawled.» Chỉ hoạt động nếu đây là verifiable và tied to một significant thay đổi; gaming điều này làm Google distrust điều này. - “More crawling means better rankings.” (bản dịch) «Hơn crawling có nghĩa là tốt hơn thứ hạng.» Không. As I’ve được viết trong my ngân sách crawl hướng dẫn, “The rate of crawling isn’t going to impact your rankings.” (bản dịch) «Đó rate of crawling không going to impact của bạn thứ hạng.» Crawling là một prerequisite, không một boost — “More crawling doesn’t mean you’ll rank better, but if your pages aren’t crawled and indexed they aren’t going to rank at all.” (bản dịch) «Hơn crawling không có nghĩa là bạn’ll xếp hạng tốt hơn, nhưng nếu của bạn các trang không được crawl và được lập chỉ mục they không going to xếp hạng tại all.»
- “There’s a fixed schedule.” (bản dịch) «có một fixed schedule.» Không — đây là dynamic, theo-URL, và adaptive.
- “I can set crawl frequency in Search Console.” (bản dịch) «I có thể set crawl frequency trong Search Console.» Không — đó rate slider là đã biến mất, và có không frequency control.
AI summary
condensed take on Nâng cao version:
- Crawl frequency = cadence of recrawl cho một URL Google đã knows. Driven mainly by popularity (links / PageRank) và staleness (cách thường đó trang thực sự thay đổi) — Google tài liệu cũng names perceived inventory và site-wide events as demand inputs.
- Google learns của bạn theo-trang pattern và adapts — hourly cho một busy homepage, rarely cho một static trang, backing off (3 → 10 → 30 → 100 days) on các trang đó không thay đổi.
- Distinct từ siblings: rate = cách fast (máy chủ-throttled), budget = demand + capacity (“URLs Google can and wants to crawl” (bản dịch) «URLs Google có thể và wants to crawl»). Frequency lives bên trong budget.
- Sitemap reality:
changefreqvàprioritylà đã bỏ qua; chỉ một verifiablelastmodtied to một significant thay đổi là honored. - Bạn không thể set frequency. Improve đó inputs (importance, genuine thay đổi,
honest
lastmod, máy chủ health); yêu cầu một single URL qua GSC URL Inspection; push thay đổi qua IndexNow on Bing (không Google). - Hơn crawling ≠ tốt hơn thứ hạng. Crawling là bắt buộc to xếp hạng, không một xếp hạng tín hiệu.
- Observe điều này trong GSC Crawl Số liệu (site-level các yêu cầu theo thời gian — không một theo-URL log), URL Inspection cuối cùng-crawl date (đó theo-URL kiểm tra), Bing Quản trị viên web Tools, hoặc máy chủ logs.
Tài liệu chính thức
Chính-nguồn tài liệu on recrawl cadence.
- Optimize của bạn ngân sách crawl — crawl demand (perceived inventory, popularity, staleness) và crawl capacity; đó model behind recrawl frequency.
- Xây dựng và submit một sitemap — vì sao
changefreq/prioritylà đã bỏ qua và cáchlastmodlà thực ra dùng. - Trong-Depth Hướng dẫn to Cách Google Search Hoạt động — đó algorithmic crawl scheduler (“which sites to crawl, how often, and how many pages” (bản dịch) «mà các trang to crawl, cách thường, và cách nhiều các trang»).
Bing / Microsoft
- bingbot Series: Optimizing Crawl Frequency — Bing framing của frequency as nội dung-thay đổi-driven scheduling vấn đề.
- Bing Quản trị viên web Tools — Crawl Control — đặt Bingbot’s hourly rate (rate, không frequency).
- IndexNow — push giao thức cho signaling changed các URL thay vì đang chờ cho recrawl.
Quotes từ nguồn
On—record statements từ Google và Bing. mỗi link là deep link đó jumps để quoted passage on nguồn trang.
Google — Điều gì drives recrawl cadence
- “URLs that are more popular on the Internet tend to be crawled more often to keep them fresher in our systems.” (bản dịch) «URLs đó là hơn popular on đó Internet tend to là được crawl hơn thường to giữ them fresher trong của chúng ta các hệ thống.» — Google Search Central tài liệu. Jump to quote
- “Our systems want to recrawl documents frequently enough to pick up any changes.” (bản dịch) «Của chúng ta các hệ thống muốn to recrawl documents frequently đủ to pick up any thay đổi.» Jump to quote
- “Google defines a site’s crawl budget as the set of URLs that Google can and wants to crawl.” (bản dịch) «Google defines một site ngân sách crawl as đó set of URLs đó Google có thể và wants to crawl.» Jump to quote
Google — sitemaps, changefreq, lastmod
- “Google ignores
<priority>and<changefreq>values.” (bản dịch) «Google bỏ qua<priority>và<changefreq>các giá trị.» Jump to quote - “Google uses the
<lastmod>value if it’s consistently and verifiably (for example by comparing to the last modification of the page) accurate.” (bản dịch) «Google dùng đó<lastmod>giá trị nếu đây là consistently và verifiably (ví dụ by comparing to đó cuối cùng modification of đó trang) chính xác.» Jump to quote - “The
<lastmod>value should reflect the date and time of the last significant update to the page. For example, an update to the main content, the structured data, or links on the page is generally considered significant, however an update to the copyright date is not.” (bản dịch) «Đó<lastmod>giá trị nên reflect đó date và time of đó cuối cùng significant cập nhật to đó trang. Ví dụ, an cập nhật to đó main nội dung, đó dữ liệu có cấu trúc, hoặc links on đó trang là generally considered significant, tuy nhiên an cập nhật to đó copyright date không phải.» Jump to quote
John Mueller, Google (SEO office-hours, Jan 2022)
- “One is a discovery crawl where we try to discover new pages on your website. And the other is a refresh crawl where we update existing pages that we know about.” (bản dịch) «Một là một discovery crawl nơi we try to discover new các trang on của bạn website. Và đó other là một refresh crawl nơi we cập nhật existing các trang đó we know về.» Jump to quote
- “We would refresh crawl the homepage, I don’t know, once a day, or every couple of hours, or something like that.” (bản dịch) «We sẽ refresh crawl đó homepage, I không know, khi một day, hoặc mỗi couple of hours, hoặc điều gì đó như đó.» Jump to quote
- “If you have a news website and you update it hourly, then we should learn that we need to crawl it hourly. Whereas if it’s a news website that updates once a month, then we should learn that we don’t need to crawl every hour.” (bản dịch) «Nếu bạn có một news website và bạn cập nhật điều này hourly, thì we nên learn đó we cần to crawl điều này hourly. Whereas nếu đây là một news website đó cập nhật khi một month, thì we nên learn đó we không cần to crawl mỗi hour.» Jump to quote
Gary Illyes, Google (crawling priorities)
- “If you want to increase how much we crawl, then you somehow have to convince search that your stuff is worth fetching, which is basically what the scheduler is listening to.” (bản dịch) «Nếu bạn muốn to increase cách nhiều we crawl, thì bạn somehow có to convince tìm kiếm đó của bạn stuff là worth fetching, mà là basically điều gì đó scheduler là listening to.» Jump to quote
- “Scheduling is very dynamic. As soon as we get the signals back from search indexing that the quality of the content has increased across this many URLs, we would just start turning up demand.” (bản dịch) «Scheduling là very dynamic. As soon as we nhận đó các tín hiệu back từ tìm kiếm lập chỉ mục đó đó quality of đó nội dung có increased across này nhiều URLs, we sẽ chỉ bắt đầu chuyển thành up demand.» Jump to quote
Microsoft Bing — Optimizing Crawl Frequency
- “The answer depends on the frequency of which the content is edited and updated.” (bản dịch) «Đó câu trả lời phụ thuộc vào đó frequency of mà đó nội dung là edited và đã cập nhật.» Jump to quote
- “Defining when to fetch the web page next is the hard problem we are looking to optimize with your help.” (bản dịch) «Defining khi nào nên fetch đó web trang tiếp theo là đó hard vấn đề we là looking to optimize với của bạn help.» Jump to quote
- “Whether you’re adding, updating, or deleting content, IndexNow notifies multiple search engines of your content changes as soon as they happen.” (bản dịch) «Liệu bạn là thêm, updating, hoặc deleting nội dung, IndexNow notifies multiple các công cụ tìm kiếm of nội dung của bạn thay đổi as soon as they happen.» — IndexNow. Jump to quote
mental models
1. Frequency = popularity × staleness. Hai inputs drive Cách thường known URL nhận refreshed: Cách quan trọng nó là (popularity / PageRank / links) và Cách thường nó genuinely thay đổi (staleness). trang đó cả hai quan trọng và thay đổi thường nhận được crawl phần lớn; một đó neither nhận được crawl least. Mọi thứ khác là downstream lever on những điều này hai.
2. Discovery crawl so với. refresh crawl. MỘT discovery crawl tìm thấy một new URL khi. MỘT refresh crawl re-kiểm tra một known URL — và frequency là hoàn toàn về refresh. Nếu một trang không getting recrawled, ask liệu đây là an importance vấn đề hoặc một “Google thinks nothing changes here” (bản dịch) «Google thinks không có gì thay đổi ở đây» vấn đề; đó cách sửa là khác nhau cho mỗi.
3. Frequency ≠ rate ≠ budget. Frequency là cadence (Cách thường). Rate là speed (Cách fast, máy chủ-throttled). Budget là demand + capacity ( URL đặt Google có thể và wants để crawl). Frequency lives bên trong budget; rate caps Cách nhiều frequency là even có thể.
4. scheduler learns của bạn pattern. Google adapts theo trang để của bạn thực cập nhật cadence và backs off on ổn định các trang (3 → 10 → 30 → 100 days). bạn không beat scheduler by xuất bản nhiều hơn — bạn thay đổi Điều gì nó learns by thực ra là quan trọng và thực ra thay đổi.
5. một honest sitemap tín hiệu.
changefreq và priority làm không có gì. verifiable lastmod tied để
significant thay đổi là chỉ freshness tín hiệu đó được tính — và chỉ miễn là
bạn không lie về nó.
Điều gì thực ra increases recrawl frequency
truyền over levers đó move cadence — và traps đó không:
- Làm trang nhiều hơn quan trọng. Thêm liên kết nội bộ từ mạnh các trang; earn liên kết bên ngoài. Popularity là biggest frequency lever.
- Làm thực thay đổi. Cập nhật main nội dung, dữ liệu có cấu trúc, hoặc links — không cosmetic edits. Google learns liệu trang genuinely thay đổi.
- giữ
lastmodchính xác và verifiable. nó phải reflect cuối cùng significant cập nhật; copyright-năm bump không count và erodes trust. - không bother với
changefreq/priority— Google bỏ qua cả hai. - giữ máy chủ fast và lỗi-free.
5xx/429/timeouts thấp hơn của bạn crawl capacity, mà caps frequency. - yêu cầu single URL Khi nó matters — GSC URL Inspection → yêu cầu lập chỉ mục cho một trang sau khi có ý nghĩa cập nhật.
- On Bing/Yandex, sử dụng IndexNow để push thay đổi notifications thay vì đang chờ cho scheduler (Google không sử dụng nó).
- không expect xuất bản volume alone để help — frequency follows importance và genuine thay đổi, không Cách thường bạn hit publish.
- kiểm tra Crawl Số liệu cho cuối cùng-crawl dates và discovery-so với-refresh split trước khi assuming frequency vấn đề tồn tại.
Tools cho seeing crawl frequency
- Google Search Console — Crawl Số liệu báo cáo — các yêu cầu theo thời gian, by phản hồi code, file loại, và Googlebot loại. sạch nhất trang web-level view của Cách thường Google xuất hiện back overall — không theo-URL log.
- URL Inspection (GSC) — “cuối cùng crawl” date cho single URL, plus yêu cầu lập chỉ mục action Khi bạn’ve đã làm có ý nghĩa thay đổi. Repeated các yêu cầu cho giống nhau URL không speed nó up.
- Bing Quản trị viên web Tools — Crawl Control (đặt Bingbot’s hourly rate) và IndexNow Insights cho push side.
- máy chủ log file analysis — ground truth on chính xác mà các URL bots hit và Cách thường. Tools: Screaming Frog Log File Analyser, hoặc pipe nhật ký vào BigQuery / log nền tảng. (See log file analysis.)
- Ahrefs trang web Audit / Quản trị viên web Tools — simulate crawl và surface importance các tín hiệu (liên kết nội bộ, depth) đó feed frequency.
Crawl-frequency mistakes
- Thay đổi sitemap
lastmodkhông có thay đổi trang. Sai dates làm tín hiệu ít hơn hữu ích. Cập nhậtlastmodchỉ cho có ý nghĩa nội dung thay đổi. - Relying on
changefreqhoặcpriority. Google bỏ qua những điều đó sitemap hints. sử dụng mạnh discovery, importance, và honest modification các tín hiệu thay vì. - Requesting lập chỉ mục repeatedly cho unchanged trang. một fetch không tạo giá trị hoặc force lập chỉ mục. Improve trang hoặc của nó các tín hiệu đầu tiên.
- Treating frequent crawling as xếp hạng win. Crawl frequency mô tả fetching, không quality hoặc position. Đo lường liệu quan trọng thay đổi là picked up trong time.
- Forcing cosmetic edits on schedule. các công cụ tìm kiếm learn thực thay đổi patterns. Làm hữu ích cập nhật thay vì thay đổi dates hoặc whitespace.
Crawl-frequency tín hiệu bảng tra nhanh
| Tín hiệu hoặc action | có khả năng role |
|---|---|
| Mạnh internal/liên kết bên ngoài | Communicates importance và hỗ trợ nhiều hơn frequent recrawling |
| Có ý nghĩa nội dung thay đổi | Cho crawler reason để trả về |
Chính xác sitemap lastmod | Helps communicate Khi URL materially changed |
| Healthy, fast các phản hồi | Cho phép crawling nhưng không tạo demand by itself |
Sitemap changefreq / priority | Đã bỏ qua by Google |
| Repeated URL Inspection các yêu cầu | spot yêu cầu, không sustainable frequency control |
| IndexNow | thay đổi notification để participating engines, không guaranteed crawl hoặc chỉ mục |
Các chỉ số cho crawl frequency
Median recrawl interval by template
Chỉ số: median time giữa verified crawler fetches cho giống nhau URL. Điều gì nó tells bạn: learned revisit cadence. Cách pull nó: sort access-log các yêu cầu by normalized URL và timestamp, sau đó segment by template. Benchmark / realistic range: so sánh với mỗi template thực tế thay đổi cadence; không sitewide đích fits cả hai news và evergreen các trang. Cadence: monthly.
Thay đổi-để-recrawl lag
Chỉ số: time giữa có ý nghĩa publish/cập nhật event và tiếp theo fetch. Điều gì nó tells bạn: liệu quan trọng thay đổi là discovered promptly. Cách pull nó: join CMS hoặc deployment timestamps với access nhật ký. Benchmark / realistic range: establish theo-template baseline và investigate regressions. Cadence: monthly và sau khi sitemap/internal-link thay đổi.
Honest-lastmod rate
Chỉ số: sitemap lastmod thay đổi đó correspond để có ý nghĩa trang thay đổi. Điều gì nó tells bạn: liệu freshness tín hiệu vẫn trustworthy. Cách pull nó: so sánh sitemap history với nội dung hashes hoặc phát hành records. Benchmark / realistic range: mỗi changed date nên là explainable by có ý nghĩa cập nhật. Cadence: mỗi sitemap phát hành hoặc weekly sampling.
Tự kiểm tra: Crawl frequency
các tài nguyên worth của bạn time
My related writing
- Khi nên bạn Worry về Ngân sách crawl? — closest companion piece: demand, rate, staleness backoff, và Vì sao frequency không phải xếp hạng factor.
- Điều gì là Googlebot & Cách Làm nó Hoạt động? — crawler mechanics behind scheduler.
- Crawl Me Maybe? Cách trang web Các crawler Hoạt động — chung crawler primer.
- Người mới bắt đầu Hướng dẫn để kỹ thuật SEO — nơi crawling fits trong bigger picture.
My speaking
- Cách Tìm kiếm Hoạt động (SlideShare) — my walkthrough of đó crawl-demand factors (PageRank, thay đổi frequency, time since cuối cùng crawl, major site thay đổi). (My standing disclaimer áp dụng: “This is my understanding of systems… not going to be 100% complete or accurate.” (bản dịch) «Này là my understanding of các hệ thống… không going to là 100% hoàn tất hoặc chính xác.»)
từ others
- Google Crawling December series — best concentrated đặt của chính thức crawl explainers.
- Google có Hai Types của Crawling – Discovery & Refresh (công cụ tìm kiếm Journal) — John Mueller verbatim quotes on discovery so với. refresh crawl và Cách Google learns theo-trang cập nhật patterns.
- Google Crawling Priorities: Insights từ Analyst Gary Illyes (công cụ tìm kiếm Journal) — Gary Illyes on dynamic scheduler, quality các tín hiệu driving crawl demand, và convincing Google của bạn nội dung là worth fetching.
- Google Considers Reducing Webpage Tốc độ crawl (công cụ tìm kiếm Journal) — coverage của Google stated goal để crawl ổn định các trang ít hơn, corroborating backoff pattern.
- bingbot Series: Maximizing Hiệu quả crawl (Bing Quản trị viên web Blog) — Bing companion piece on hiệu quả crawl; pairs với Optimizing Crawl Frequency post trong Tài liệu chính thức tab.
- r/TechSEO — community cho crawl/chỉ mục gỡ lỗi.
Nhật ký thay đổi
Đã cập nhật 8 thg 8, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.
Đã cập nhật 17 thg 7, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.