Hướng dẫn về Bingbot
Bingbot là gì, chỉ mục này hỗ trợ những bề mặt nào ngoài Bing, cách xác minh bot bằng reverse DNS và cách kiểm soát crawl bằng robots.txt, Crawl Control cùng IndexNow.
Ngôn ngữ
2 tín hiệu bằng chứng trên trang này
- Dữ liệu nguồn được liên kếtDanh sách IP Bingbot — bingbot.json
- Công cụ trực tuyến liên quanGooglebot Verifier
Bingbot là crawler web của Microsoft Bing, dùng để phát hiện, tải và kết xuất trang cho chỉ mục Bing. Token robots.txt là bingbot; từ khi chuyển sang engine Edge dựa trên Chromium, bot này hoạt động theo mô hình evergreen và kết xuất JavaScript hiện đại. Điểm nhiều chuyên gia SEO bỏ lỡ là cùng chỉ mục đó còn hỗ trợ Yahoo, DuckDuckGo, Ecosia và Copilot, nên chặn bingbot gây tác động lớn hơn thị phần riêng của Bing. Hãy xác minh bằng reverse DNS hai bước — user-agent có thể giả mạo — thay vì chỉ dựa vào danh sách IP. Kiểm soát bằng robots.txt, Crawl Control trong Bing Webmaster Tools và IndexNow — giao thức push thay vì chờ của Bing.
Evidence for this claim Bingbot is Microsoft's crawler for Bing search services and identifies itself with documented user-agent strings. Scope: Current Microsoft Bingbot documentation. Confidence: high · Verified: Microsoft Bing Webmaster Tools: Bingbot Evidence for this claim Microsoft recommends verifying Bingbot through reverse and forward DNS rather than trusting the user-agent string alone. Scope: Current Bingbot verification method. Confidence: high · Verified: Microsoft Bing Webmaster Tools: Verify BingbotTóm tắt — Bingbot là trình thu thập dữ liệu của Microsoft Bing — bot truy cập, tải trang và đưa trang vào chỉ mục tìm kiếm Bing. Cách hoạt động khá giống Googlebot. Chặn Bingbot khiến Bing không thể crawl các URL bị ảnh hưởng và cũng có thể tác động đến sản phẩm hoặc đối tác dùng hạ tầng tìm kiếm Bing; hãy xác minh tác động theo tài liệu Microsoft hiện hành.
Bingbot là gì
Khi thấy bingbot trong log máy chủ, đó là trình thu thập dữ liệu của Microsoft đang truy cập website. Tương tự Googlebot đối với Google, Bingbot đi theo liên kết, đọc sitemap, tải trang rồi chuyển nội dung để đưa vào chỉ mục Bing — cơ sở dữ liệu Bing dùng khi có người tìm kiếm.
Bingbot ra mắt ngày 1 tháng 10 năm 2010, thay thế bot cũ MSNBot. Tên xuất hiện trong robots.txt và log chỉ đơn giản là bingbot.
Vì sao Bingbot quan trọng hơn bạn tưởng
Điều khiến nhiều người ngạc nhiên là thị phần tìm kiếm trực tiếp của Bing nhỏ, nên rất dễ bỏ qua Bingbot. Tuy nhiên, chỉ mục Bing do Bingbot xây dựng không chỉ phục vụ Bing mà còn hỗ trợ:
- Yahoo Search
- DuckDuckGo
- Ecosia
- Công cụ tìm kiếm mặc định của Microsoft Edge
- Microsoft Copilot
Vì vậy, chặn Bingbot không chỉ làm bạn biến mất khỏi Bing mà còn cắt quyền tiếp cận tất cả các bề mặt đó cùng lúc. Tác động lớn hơn nhiều so với cách cụm “3% thị phần” gợi ra.
Bingbot có đọc được JavaScript không?
Có. Trước đây từng có lo ngại Bing không xử lý tốt website phụ thuộc nhiều vào JavaScript, nhưng Bingbot hiện chạy trên cùng engine Chromium dùng cho Microsoft Edge, nên kết xuất trang như trình duyệt hiện đại. Nếu nội dung xuất hiện trong phiên bản Edge hoặc Chrome hiện hành, thông thường Bingbot cũng thấy được.
Cách hỗ trợ — hoặc ngăn — Bingbot
- Cho phép truy cập: bảo đảm trang quan trọng có liên kết, gửi sitemap trong Bing Webmaster Tools và không vô tình chặn trang trong
robots.txt. - Giảm tốc độ: tính năng Crawl Control trong Bing Webmaster Tools cho phép đặt tốc độ Bingbot crawl theo từng giờ.
- Tăng tốc: tùy chọn “push” IndexNow cho phép thông báo cho Bing ngay khi trang thay đổi thay vì chờ lần crawl tiếp theo.
Muốn xem phiên bản kỹ thuật — chuỗi user-agent, cách xác minh request thực sự là Bingbot, các trình thu thập dữ liệu Microsoft khác và cách Bingbot cung cấp dữ liệu cho Copilot? Hãy chuyển sang tab Advanced.
Evidence for this claim Bingbot is Microsoft's crawler for Bing search services and identifies itself with documented user-agent strings. Scope: Current Microsoft Bingbot documentation. Confidence: high · Verified: Microsoft Bing Webmaster Tools: Bingbot Evidence for this claim Microsoft recommends verifying Bingbot through reverse and forward DNS rather than trusting the user-agent string alone. Scope: Current Bingbot verification method. Confidence: high · Verified: Microsoft Bing Webmaster Tools: Verify BingbotTóm tắt — Bingbot là trình thu thập dữ liệu của Microsoft Bing — token trong
robots.txt:bingbot— hoạt động từ ngày 1 tháng 10 năm 2010, khi thay thế MSNBot. Đây là crawler evergreen trên engine Edge dựa trên Chromium nên có thể kết xuất JavaScript hiện đại. Phạm vi thực tế rộng hơn lưu lượng được quy trực tiếp cho bing.com vì Microsoft dùng hạ tầng tìm kiếm này trong nhiều sản phẩm và quan hệ đối tác. Hãy xác minh bằng phương pháp Microsoft công bố thay vì tin chuỗi user-agent. Quản lý crawl bằngrobots.txt, Crawl Control trong Bing Webmaster Tools và IndexNow — giao thức push Bing đồng phát triển với Yandex.
Từ MSNBot đến Bingbot
Bingbot là trình thu thập dữ liệu web chính của Microsoft — chương trình phát hiện, tải và xử lý trang để xây dựng, làm mới chỉ mục Bing. Bingbot bắt đầu hoạt động ngày 1 tháng 10 năm 2010, thay thế MSNBot cũ. Quá trình chuyển đổi kèm một quy tắc robots.txt vẫn quan trọng nếu bạn còn directive cũ: thông báo của Microsoft nêu “as of October 1st, if we detect separate sets of custom directives for both MSNBot and BingBot in your robots.txt file, the BingBot directives will take precedence.” (bản dịch) “kể từ ngày 1 tháng 10, nếu phát hiện các bộ directive tùy chỉnh riêng cho cả MSNBot và BingBot trong tệp robots.txt, directive BingBot sẽ được ưu tiên.” Vì vậy, quy tắc MSNBot không âm thầm ghi đè Bingbot; thứ tự ưu tiên ngược lại.
Bingbot hỗ trợ nhiều bề mặt ngoài Bing
Đây là cách nhìn lại quan trọng nhất của bài. Thị phần tìm kiếm trực tiếp của Bing nhỏ nên nhiều chuyên gia SEO bỏ qua nó. Nhưng chỉ mục Bingbot xây dựng còn cung cấp dữ liệu cho Yahoo Search, DuckDuckGo, Ecosia, tìm kiếm mặc định của Edge và Microsoft Copilot — trước đây cũng từng hỗ trợ ChatGPT Search. Quan hệ với Yahoo có từ lần ra mắt năm 2010, khi Microsoft cảnh báo chủ website: “To keep your content in the Bing index, please ensure that BingBot has the same access to your site as given to MSNBot.” (bản dịch) “Để giữ nội dung trong chỉ mục Bing, hãy bảo đảm BingBot có quyền truy cập website tương đương MSNBot.”
Hệ quả thực tế: một directive Disallow dành cho bingbot không chỉ làm mất Bing mà lan xuống toàn bộ hệ sinh thái đó. Dù có quan tâm riêng đến Bing hay không, Bingbot là cổng vào một phần đáng kể của web có thể tìm kiếm — và ngày càng nhiều câu trả lời AI.
Chuỗi user-agent — và lý do đây là crawler evergreen
User-agent của Bingbot chứa token bingbot/2.0 cùng số phiên bản Chrome/W.X.Y.Z dựa trên Chromium, trong đó W.X.Y.Z được thay bằng build Microsoft Edge ổn định hiện tại — ví dụ chính Microsoft đưa ra: 100.0.4896.127. Sự thay thế này làm chuỗi trở thành evergreen. Theo thông báo tháng 4 năm 2022 của Microsoft về chuỗi cuối cùng, UA desktop là Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) Chrome/W.X.Y.Z Safari/537.36, còn UA mobile là Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm). Bản xem trước tháng 12 năm 2019 từng đề xuất thêm đoạn Edg/W.X.Y.Z ở cuối, nhưng đoạn này không có trong chuỗi cuối cùng Microsoft công bố năm 2022 và xác nhận triển khai đầy đủ tháng 2 năm 2023; nếu khớp UA Bingbot trong mã, đừng bắt buộc đoạn đó. Chuỗi cũ là Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm).
“Evergreen” nghĩa là số phiên bản tự động bám theo Edge ổn định mới nhất. Trên thực tế, điều này loại bỏ khoảng cách crawl/kết xuất hai tầng cũ: vì Bingbot chạy cùng họ engine Chromium với Edge và Chrome hiện đại, nó kết xuất JavaScript như trình duyệt hiện hành. Bing cũng coi dynamic rendering thiện chí là lựa chọn hợp lệ cho website JavaScript nặng — theo quan điểm của Bing, đó không phải cloaking.
Xác minh Bingbot — chỉ user-agent là chưa đủ
Chuỗi user-agent rất dễ bị giả mạo, nên request tự nhận là Bingbot không tự chứng minh điều gì. Cách kiểm tra đáng tin cậy là reverse DNS hai bước:
- Tra cứu ngược — PTR IP crawl trong log. IP Bingbot thật phân giải thành hostname kết thúc bằng
search.msn.com, theo mẫumsnbot-<ip-with-dashes>.search.msn.com— ví dụ157.55.39.1→msnbot-157-55-39-1.search.msn.com. - Tra cứu xuôi — A hostname đó. Kết quả phải phân giải ngược lại đúng IP ban đầu.
Nếu một trong hai bước thất bại, request không phải Bingbot. Microsoft có công bố danh sách IP tại bing.com/toolbox/bingbot.json — 28 prefix IPv4, tạo lần cuối tháng 1 năm 2024 — nhưng hướng dẫn của chính công ty là ưu tiên reverse DNS hơn danh sách IP vì địa chỉ có thể thay đổi bất cứ lúc nào. Hãy coi JSON là tài liệu tham khảo gần đúng, không phải allowlist firewall. Cùng logic ưu tiên reverse DNS hơn danh sách IP áp dụng cho Googlebot; xem script xác minh trong tab Scripts.
Cách Bingbot phát hiện và crawl
Việc phát hiện dựa trên liên kết. Fabrice Canel, người phụ trách Bingbot lâu năm tại Microsoft, mô tả cách tiếp cận theo độ quan trọng: “We are guided by key pages that are important on the internet and we follow links to understand what’s next.” (bản dịch) “Chúng tôi được dẫn dắt bởi các trang chủ chốt quan trọng trên internet và đi theo liên kết để hiểu điều gì tiếp theo.” Quy mô rất lớn: trong phỏng vấn năm 2019, Canel nói “Every day, my team discovers more than 100 billion new URLs never seen before, while useless URLs parameters are ignored.” (bản dịch) “Mỗi ngày, nhóm của tôi phát hiện hơn 100 tỷ URL mới chưa từng thấy, đồng thời bỏ qua tham số URL vô ích.” Một số liệu năm 2020 đặt mức phát hiện URL mới khoảng 70 tỷ/ngày; cả hai đều là số thật ở các thời điểm khác nhau, nên phải gắn năm khi trích dẫn.
Hai hành vi khiến Bingbot khác với cách Google mô tả crawler của họ:
- Lọc trước khi tải. Bingbot đánh giá chi phí/giá trị trước cả khi tải URL. Bing từng nêu: “Pages that are deemed to have absolutely no potential for being useful in satisfying a user’s search query in Bing results are not retained.” (bản dịch) “Các trang bị đánh giá hoàn toàn không có tiềm năng hữu ích để đáp ứng truy vấn tìm kiếm của người dùng trong kết quả Bing sẽ không được giữ lại.”
- Bộ nhớ URL. Bingbot về cơ bản ghi nhớ URL vĩnh viễn: “Bingbot retains every URL in memory and comes back and recrawls intermittently, even if all links to it have been removed.” (bản dịch) “Bingbot giữ mọi URL trong bộ nhớ và thỉnh thoảng quay lại crawl, ngay cả khi mọi liên kết tới URL đã bị xóa.” Vì vậy, trang vẫn có thể nhận lượt truy cập Bingbot rất lâu sau khi mọi liên kết nội bộ đã bị gỡ.
Nền tảng của toàn bộ cách làm là ưu tiên lịch sự. Canel nói: “Our default crawl policy is to be as polite as possible when crawling the web.” (bản dịch) “Chính sách crawl mặc định của chúng tôi là lịch sự nhất có thể khi crawl web.” Ông cũng thẳng thắn nhận xét về bài toán: “Crawling right is a fascinating engineering problem that hasn’t fully been solved yet.” (bản dịch) “Crawl đúng là một bài toán kỹ thuật hấp dẫn vẫn chưa được giải quyết hoàn toàn.”
Các trình thu thập dữ liệu Microsoft khác
Bingbot không phải bot Microsoft duy nhất bạn thấy:
- AdIdxBot —
adidxbot— crawler kiểm soát chất lượng Bing Ads. Điểm cần biết: bot này dùng chung crawl budget với Bingbot, nên crawl quảng cáo nhiều có thể chiếm ngân sách dành cho trang organic. - BingPreview — tạo ảnh chụp trang và thumbnail xem trước.
- MicrosoftPreview — tạo bản xem trước liên kết trong Teams và Office.
- BingVideoPreview — tạo bản xem trước video chỉ hiển thị trong Bing. Bot có biến thể desktop và mobile, đồng thời tự nhận diện bằng
+https://aka.ms/microsoftbotsthay vì URLbingbot.htmmà crawler cũ dùng. - MSNBot / MSNBot-Media — crawler cũ, ngừng hoạt động ngày 1 tháng 10 năm 2010.
Kiểm soát hoạt động crawl của Bingbot
Ba đòn bẩy, từ thô đến chính xác:
robots.txt— tokenbingbotkiểm soát crawl. Dùng để ngăn bot vào vùng giá trị thấp; đây không phải công cụ deindex.- Crawl Control — Bing Webmaster Tools — cho phép đặt tốc độ crawl theo giờ của Bingbot, nhờ đó giảm tốc vào giờ cao điểm và tăng vào giờ thấp điểm. Đây là khác biệt thật giữa Google và Bing: Google đã bỏ thanh trượt crawl rate trong Search Console, còn Bing vẫn cung cấp điều khiển chủ động.
- IndexNow — thay vì chờ crawl lại, bạn push thay đổi. Đây là giao thức “created by Microsoft Bing and Yandex, allowing websites to easily notify search engines whenever their website content is created, updated, or deleted.” (bản dịch) “do Microsoft Bing và Yandex tạo ra, cho phép website dễ dàng thông báo cho công cụ tìm kiếm mỗi khi nội dung được tạo, cập nhật hoặc xóa.” Một lần ping tới mọi công cụ tham gia. Phần hướng dẫn đầy đủ nằm trong bài IndexNow, gồm thiết lập, key file và giới hạn 10 000 URL mỗi request.
Điểm chiến lược tôi liên tục quay lại: Bing khắc phục danh tiếng crawl quá mạnh bằng cách tăng hiệu quả, và IndexNow là trung tâm của thay đổi đó. Như tôi viết trong phân tích về hoạt động crawl của bot AI và công cụ tìm kiếm: “It’s estimated that 53% of crawler traffic is wasted effort, and IndexNow can help cut that number down to almost nothing.” (bản dịch) “Ước tính 53% lưu lượng crawler là công sức lãng phí và IndexNow có thể giúp giảm con số đó xuống gần như bằng không.” Push thay đổi hiệu quả hơn cố khuyến khích thêm crawl thăm dò.
Bingbot, Copilot và khoảng trống opt-out AI
Vì chỉ mục Bing cung cấp dữ liệu cho Microsoft Copilot, Bingbot trên thực tế cũng là crawler AI. Hướng dẫn của Canel để xuất hiện tốt là cụ thể: “schema markup helps Microsoft’s LLMs understand your content,” (bản dịch) “schema markup giúp LLM của Microsoft hiểu nội dung,” và “Gen AIs value fresh content in particular, partly as a reference check of their LLM training data. Use the API at indexnow.org to push that information as it’s published or updated.” (bản dịch) “AI tạo sinh đặc biệt coi trọng nội dung mới, một phần để đối chiếu dữ liệu huấn luyện LLM. Hãy dùng API tại indexnow.org để push thông tin khi được xuất bản hoặc cập nhật.”
Có một điểm mà bài của đối thủ thường bỏ qua. Google cung cấp token Google-Extended để opt out khỏi huấn luyện AI mà không ảnh hưởng lập chỉ mục tìm kiếm. Theo phần lớn đánh giá bên thứ ba, Bing chưa có cơ chế opt-out riêng tương đương; nghĩa là chặn bingbot để tránh huấn luyện Copilot cũng làm bạn biến mất khỏi tìm kiếm Bing và mọi bề mặt phụ thuộc. Tôi coi đây là quan sát về cách các biện pháp kiểm soát hiện được sắp xếp, không phải chính sách Microsoft đã ổn định; hãy kiểm tra tài liệu hiện hành trước khi hành động.
Để hiểu vị trí của Bingbot trong bức tranh lớn hơn — họ crawler, Googlebot, khái niệm user-agent, crawler AI, robots.txt và IndexNow — hub crawling kết nối tất cả.
Tóm tắt AI
Bản tóm lược nội dung Advanced:
- Bingbot là crawler Microsoft Bing. Token
robots.txtlàbingbot; hoạt động từ ngày 1 tháng 10 năm 2010 khi thay MSNBot — directive BingBot ưu tiên hơn directive MSNBot còn sót. - Phạm vi lớn hơn thị phần. Chỉ mục Bingbot xây dựng còn hỗ trợ Yahoo, DuckDuckGo, Ecosia, tìm kiếm mặc định Edge và Copilot; chặn
bingbotgây tác động dây chuyền vượt xa Bing. - Kết xuất evergreen. Chạy trên engine Edge dựa trên Chromium; UA có token
bingbot/2.0cùng số phiên bảnChrome/W.X.Y.Zđược thay bằng build Edge ổn định hiện tại — không có đoạnEdg/riêng trong chuỗi cuối cùng năm 2022. Bingbot kết xuất JavaScript hiện đại; dynamic rendering thiện chí không phải cloaking. - Xác minh bằng reverse DNS hai bước: PTR tới
msnbot-*.search.msn.com, sau đó tra cứu xuôi và đối chiếu IP. User-agent có thể giả mạo; ưu tiên reverse DNS hơn danh sách IPbingbot.json, vốn thay đổi. - Cách crawl: đi theo “trang chủ chốt” và liên kết; phát hiện khoảng 100 tỷ URL mới/ngày — số liệu 2019, so với khoảng 70 tỷ năm 2020; lọc trước URL “không có tiềm năng” rồi mới tải; lưu mọi URL trong bộ nhớ và crawl lại ngay cả khi mọi liên kết đã bị xóa.
- Bot Microsoft khác: AdIdxBot — dùng chung crawl budget Bingbot, BingPreview, MicrosoftPreview, BingVideoPreview; MSNBot đã ngừng hoạt động.
- Kiểm soát bằng
robots.txt, Crawl Control — tốc độ theo giờ, chức năng Google đã bỏ — và IndexNow — push, đồng phát triển với Yandex. Cách nhìn của Patrick: khoảng 53% lưu lượng crawler bị lãng phí và IndexNow giảm số đó gần về không. - Góc AI: Bingbot cung cấp dữ liệu cho Copilot; schema và nội dung mới giúp ích; chưa có cơ chế Bing rõ ràng tương đương Google-Extended, nên chặn vì huấn luyện AI cũng làm mất tìm kiếm — hãy coi là quan sát và xác minh tài liệu hiện hành.
Tài liệu chính thức
Tài liệu nguồn sơ cấp, chủ yếu từ Microsoft/Bing, kèm một liên kết đối chiếu Google. Lưu ý: nhiều bài blogs.bing.com và trang bing.com/webmasters/help được kết xuất bằng JavaScript hoặc redirect; hãy xác nhận trong trình duyệt nếu liên kết không mở đúng.
Bing / Microsoft
- Bing dùng những crawler nào? — danh sách chính thức bot Microsoft và token user-agent, gồm Bingbot, AdIdxBot cùng crawler xem trước.
- Thông báo thay đổi user-agent cho crawler Bingbot — chuỗi UA desktop và mobile cuối cùng do Microsoft công bố, xác nhận triển khai đầy đủ tháng 2 năm 2023; đây là nguồn cho chuỗi nguyên văn phía trên.
- Danh sách IP Bingbot — bingbot.json — các prefix IPv4 công bố. Chỉ dùng tham khảo; Microsoft khuyến nghị reverse DNS.
- Công cụ Verify Bingbot — tra cứu trực tuyến của Microsoft để xác nhận IP crawl thực sự là Bingbot.
- Bing Webmaster Tools — Crawl Control — đặt tốc độ crawl Bingbot theo giờ.
- IndexNow / indexnow.org — giao thức push để báo ngay URL được tạo, cập nhật hoặc xóa.
- Loạt bài bingbot: Tối đa hóa hiệu quả crawl — triết lý “hiệu quả crawl” của Bing.
Google — để đối chiếu
- Tổng quan crawler và fetcher của Google — user-agent và dải IP Googlebot, tương ứng thiết lập của Bing. Khác biệt: Google đã bỏ điều khiển crawl rate thủ công, không dùng IndexNow cho trang nói chung và cung cấp
Google-Extendedđể opt out khỏi huấn luyện AI tách biệt với tìm kiếm.
Trích dẫn từ nguồn
Các phát biểu công khai về Bingbot — phần lớn từ Fabrice Canel, người phụ trách Bingbot tại Microsoft. Mỗi liên kết dẫn sâu tới đoạn được trích.
Fabrice Canel, Microsoft Bing — phát hiện và quy mô
- “We are guided by key pages that are important on the internet and we follow links to understand what’s next.” (bản dịch) “Chúng tôi được dẫn dắt bởi các trang chủ chốt quan trọng trên internet và đi theo liên kết để hiểu điều gì tiếp theo.” Đi tới trích dẫn
- “Every day, my team discovers more than 100 billion new URLs never seen before, while useless URLs parameters are ignored.” (bản dịch) “Mỗi ngày, nhóm của tôi phát hiện hơn 100 tỷ URL mới chưa từng thấy, đồng thời bỏ qua tham số URL vô ích.” — phỏng vấn Search Engine Journal, 2019. Đi tới trích dẫn
- “Crawling right is a fascinating engineering problem that hasn’t fully been solved yet.” (bản dịch) “Crawl đúng là bài toán kỹ thuật hấp dẫn vẫn chưa được giải quyết hoàn toàn.” — SEJ, 2019. Đi tới trích dẫn
- “Our default crawl policy is to be as polite as possible when crawling the web.” (bản dịch) “Chính sách crawl mặc định của chúng tôi là lịch sự nhất có thể khi crawl web.” — SEJ, 2019. Đi tới trích dẫn
Microsoft Bing — cách Bingbot xử lý URL
- “Bingbot retains every URL in memory and comes back and recrawls intermittently, even if all links to it have been removed.” (bản dịch) “Bingbot giữ mọi URL trong bộ nhớ và thỉnh thoảng quay lại crawl, ngay cả khi mọi liên kết tới URL đã bị xóa.” Đi tới trích dẫn
- “Pages that are deemed to have absolutely no potential for being useful in satisfying a user’s search query in Bing results are not retained.” (bản dịch) “Các trang bị đánh giá hoàn toàn không có tiềm năng hữu ích để đáp ứng truy vấn tìm kiếm của người dùng trong kết quả Bing sẽ không được giữ lại.” Đi tới trích dẫn
Fabrice Canel, Microsoft Bing — hiệu quả, schema và AI
- “Less is more for SEO. Never forget that. Less URLs to crawl, better for SEO.” (bản dịch) “Ít hơn là tốt hơn cho SEO. Đừng bao giờ quên điều đó. Ít URL phải crawl hơn thì tốt hơn cho SEO.” Đi tới trích dẫn
- “schema markup helps Microsoft’s LLMs understand your content.” (bản dịch) “schema markup giúp LLM của Microsoft hiểu nội dung.” — SMX Munich, 2025. Đi tới trích dẫn
- “Gen AIs value fresh content in particular, partly as a reference check of their LLM training data. Use the API at indexnow.org to push that information as it’s published or updated.” (bản dịch) “AI tạo sinh đặc biệt coi trọng nội dung mới, một phần để đối chiếu dữ liệu huấn luyện LLM. Hãy dùng API tại indexnow.org để push thông tin khi được xuất bản hoặc cập nhật.” Đi tới trích dẫn
Microsoft Bing — lần ra mắt năm 2010 và IndexNow
- “as of October 1st, if we detect separate sets of custom directives for both MSNBot and BingBot in your robots.txt file, the BingBot directives will take precedence.” (bản dịch) “Kể từ ngày 1 tháng 10, nếu phát hiện các bộ directive tùy chỉnh riêng cho cả MSNBot và BingBot trong tệp robots.txt, directive BingBot sẽ được ưu tiên.” — blog Bing Webmaster, 2010.
- “To keep your content in the Bing index, please ensure that BingBot has the same access to your site as given to MSNBot.” (bản dịch) “Để giữ nội dung trong chỉ mục Bing, hãy bảo đảm BingBot có quyền truy cập website tương đương MSNBot.” — blog Bing Webmaster, 2010.
- “IndexNow is a new protocol created by Microsoft Bing and Yandex, allowing websites to easily notify search engines whenever their website content is created, updated, or deleted.” (bản dịch) “IndexNow là giao thức mới do Microsoft Bing và Yandex tạo ra, cho phép website dễ dàng thông báo cho công cụ tìm kiếm mỗi khi nội dung được tạo, cập nhật hoặc xóa.” — blog Bing Webmaster, 2021.
Patrick Stox — tôi — bước ngoặt hiệu quả của Bing
- “There was a lot of blowback on Bing in the past because of their aggressive crawling.” (bản dịch) “Trước đây Bing hứng nhiều phản ứng vì crawl quá mạnh.” Đi tới trích dẫn
- “It’s estimated that 53% of crawler traffic is wasted effort, and IndexNow can help cut that number down to almost nothing.” (bản dịch) “Ước tính 53% lưu lượng crawler là công sức lãng phí và IndexNow có thể giúp giảm con số đó xuống gần như bằng không.” Đi tới trích dẫn
blogs.bing.com hiện redirect tới trang chủ blog hoặc kết xuất bằng JavaScript, và một số nguồn ngành chặn kiểm tra tự động. Các dòng về lần ra mắt năm 2010 và IndexNow phía trên đã được xác thực với văn bản blog gốc nhưng URL bài đang hoạt động có thể redirect; hãy xác nhận trong trình duyệt — hoặc Wayback Machine — trước khi coi là cuối cùng, đồng thời ưu tiên liên kết sâu SEJ/SEL/Kalicube đã xác minh khi cần nguồn ổn định. Tôi nên làm gì với Bingbot?
Quyết định về Bingbot phân nhánh theo hai yếu tố: request có thực sự là Bingbot không, và bạn muốn giảm tốc, tăng tốc hay chặn hoàn toàn. Hãy đi qua cây quyết định.
Deciding what to do about Bingbot
Bingbot và crawler Microsoft — cheat sheet
Chuỗi user-agent
| Biến thể | Chuỗi — hiện tại |
|---|---|
| Desktop | Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) Chrome/W.X.Y.Z Safari/537.36 |
| Mobile | Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) |
| Cũ — trước Chromium | Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) |
W.X.Y.Z là phiên bản Microsoft Edge ổn định hiện tại, được thay vào token Chrome/ — evergreen, tự cập nhật. Đây là chuỗi cuối cùng Microsoft công bố tháng 4 năm 2022 và xác nhận triển khai đầy đủ tháng 2 năm 2023; bản xem trước tháng 12 năm 2019 từng đề xuất thêm đoạn Edg/W.X.Y.Z ở cuối, nhưng đoạn đó không thuộc UA cuối cùng — đừng bắt buộc nó trong mã khớp bot.
Họ crawler Microsoft
| Crawler | Token robots.txt | Chức năng |
|---|---|---|
| Bingbot | bingbot | Crawler web chính cho chỉ mục Bing |
| AdIdxBot | adidxbot | Kiểm soát chất lượng Bing Ads — dùng chung crawl budget Bingbot |
| BingPreview | — | Ảnh chụp trang / thumbnail xem trước |
| MicrosoftPreview | — | Bản xem trước liên kết Teams / Office |
| BingVideoPreview | — | Bản xem trước video chỉ trong Bing — aka.ms/microsoftbots |
| MSNBot, MSNBot-Media | msnbot | Cũ — ngừng hoạt động ngày 1 tháng 10 năm 2010 |
Thông tin nhanh
- Ra mắt ngày 1 tháng 10 năm 2010, thay thế MSNBot.
- Nếu cả directive MSNBot và BingBot cùng có trong
robots.txt, BingBot được ưu tiên. - Xác minh bằng reverse DNS tới
*.search.msn.com, không dựa vào user-agent hay danh sách IP — IP thay đổi. - Danh sách IP:
bing.com/toolbox/bingbot.json— 28 prefix IPv4, tạo tháng 1 năm 2024. - Crawl Control trong Bing Webmaster Tools đặt tốc độ crawl theo giờ — Google đã bỏ chức năng tương đương.
- IndexNow là push URL thay đổi; đồng phát triển với Yandex.
Xác minh một bot thực sự là Bingbot
Request tự nhận là Bingbot không chứng minh điều gì vì chuỗi user-agent rất dễ bị giả mạo. Theo cách Microsoft diễn đạt, việc bot dùng đúng user-agent Bingbot không biến nó thành Bingbot. Hãy xác nhận bằng kiểm tra DNS ngược + xuôi hai bước. IP Bingbot thật reverse-resolve thành hostname kết thúc bằng search.msn.com — mẫu msnbot-<ip-with-dashes>.search.msn.com — và hostname đó phải forward-resolve về đúng IP.
macOS / Linux
# 1) Reverse DNS the IP from your logs — it should end in search.msn.com
host 157.55.39.1
# → 1.39.55.157.in-addr.arpa domain name pointer msnbot-157-55-39-1.search.msn.com
# 2) Forward DNS that hostname back — it must resolve to the same IP
host msnbot-157-55-39-1.search.msn.com
# → msnbot-157-55-39-1.search.msn.com has address 157.55.39.1Windows
nslookup 157.55.39.1
nslookup msnbot-157-55-39-1.search.msn.comNếu tra cứu ngược không kết thúc bằng search.msn.com, hoặc tra cứu xuôi không trả lại IP ban đầu, request không phải Bingbot — hãy loại bỏ hoặc giới hạn tốc độ. Bạn cũng có thể dùng công cụ Verify Bingbot trực tuyến của Microsoft và danh sách IP bingbot.json để kiểm tra chéo gần đúng. Tuy nhiên, Microsoft nói rõ IP có thể thay đổi, nên DNS là nguồn sự thật, không phải allowlist hardcode. Cách tiếp cận giống xác minh Googlebot; xem tab Scripts trong hub crawling để biết phiên bản Google.
Checklist mức sẵn sàng cho Bingbot
Kiểm tra nhanh để bảo đảm bạn đang làm việc cùng Bingbot, không chống lại nó:
-
robots.txtkhông chặnbingbotkhỏi nội dung bạn muốn có trong Bing — nhớ rằng điều này còn kiểm soát Yahoo, DuckDuckGo, Ecosia và Copilot. - Không còn directive MSNBot cũ xung đột với quy tắc Bingbot — BingBot được ưu tiên, nhưng vẫn nên dọn sạch.
- XML sitemap đã gửi trong Bing Webmaster Tools, chỉ liệt kê URL canonical có thể lập chỉ mục với
lastmodchính xác. - Xác minh bot dùng reverse + forward DNS, không dựa vào user-agent hoặc danh sách IP hardcode.
- Nếu firewall hoặc allowlist bot, bạn xác minh qua DNS, không ghim IP từ
bingbot.jsonvì chúng thay đổi. - Đã xem lại Crawl Control nếu lưu lượng Bingbot gây áp lực cho máy chủ vào giờ cao điểm.
- Đã tích hợp IndexNow để push URL được tạo/cập nhật/xóa thay vì chờ crawl.
- Nội dung phụ thuộc JavaScript có thể truy cập và kết xuất — Bingbot là evergreen, nhưng liên kết
<a href>thật vẫn tốt hơn điều hướng chỉ bằng click. - Biết rằng AdIdxBot dùng chung crawl budget Bingbot nếu chạy Bing Ads.
- Trước khi chặn
bingbotvì lý do AI, đã xác nhận chưa có opt-out Copilot riêng — hiện tại chặn bot cũng làm mất tìm kiếm Bing.
Các mô hình tư duy
1. Phạm vi tiếp cận, không phải thị phần. Thị phần tìm kiếm trực tiếp của Bing nhỏ nên dễ đánh giá Bingbot chỉ bằng con số đó. Cách nhìn quan trọng: chỉ mục Bingbot xây dựng là backend cho Yahoo Search, DuckDuckGo, Ecosia, tìm kiếm mặc định Edge và Microsoft Copilot. Quy tắc Disallow: bingbot không chỉ làm mất “3% tìm kiếm” mà làm mất mọi bề mặt đó cùng lúc. Hãy đánh giá quyết định Bingbot theo phạm vi hệ sinh thái, không theo riêng số liệu Bing.
2. Xác minh bằng DNS, không bằng user-agent. Chuỗi user-agent của request chỉ là header do client đặt; bất kỳ ai cũng có thể gõ bingbot/2.0 vào lệnh curl. Tuyên bố duy nhất khó giả mạo với chi phí thấp là bản ghi DNS trỏ ngược về domain search.msn.com của Microsoft, được kiểm tra theo cả hai hướng — ngược rồi xuôi. Coi mọi tín hiệu khác — user-agent, danh sách IP công bố — là gợi ý, không phải bằng chứng.
3. Ba đòn bẩy, từ thô đến chính xác. robots.txt là công cụ thô: ngăn Bingbot hoàn toàn khỏi một đường dẫn, nhưng đây là kiểm soát crawl, không phải deindex. Crawl Control trong Bing Webmaster Tools là núm điều chỉnh: định hình thời điểm Bingbot truy cập mạnh nhất theo từng giờ mà không chặn nội dung. IndexNow là dao mổ: không chờ Bingbot quay lại mà push một URL ngay khi thay đổi. Chọn đòn bẩy ít thô nhất giải quyết đúng vấn đề.
4. Google bỏ núm điều chỉnh; Bing giữ lại. Google đã bỏ bộ giới hạn crawl rate khỏi Search Console. Crawl Control của Bing vẫn cho phép chủ động điều khiển tốc độ theo giờ. Nếu bạn quen coi quản lý crawl rate là “việc không còn thực sự làm được”, điều đó đúng với Googlebot nhưng không đúng với Bingbot; đây là đòn bẩy thật, hiện hành và đáng dùng khi lưu lượng Bingbot gây áp lực máy chủ vào giờ cao điểm.
KPI thường trực: tổng lưu lượng giới thiệu từ hệ sinh thái Bing
Số thị phần riêng của Bing đánh giá thấp giá trị Bingbot vì chỉ mục này còn hỗ trợ Yahoo Search, DuckDuckGo, Ecosia và Microsoft Copilot. KPI trung thực không phải riêng “lưu lượng Bing” mà là tổng lưu lượng referral của toàn bộ hệ sinh thái, theo dõi theo thời gian.
Phân đoạn lưu lượng referral theo toàn bộ họ chỉ mục Bing
- Chỉ số — Session/click trong công cụ phân tích có referrer là
bing.com,search.yahoo.com,duckduckgo.com,ecosia.orghoặccopilot.microsoft.com; cộng thành một nhóm để theo dõi bên cạnh — không thay thế — số liệu Google. - Ý nghĩa — Cho biết việc chặn hoặc phục vụ Bingbot kém có thực sự làm mất lưu lượng ngoài Bing hay không. Mức giảm đồng thời ở cả năm referrer là vấn đề truy cập Bingbot, không phải vấn đề xếp hạng riêng một công cụ.
- Cách lấy — Phân đoạn công cụ phân tích hiện có — GA4, log máy chủ hoặc công cụ bạn dùng — theo domain referrer của năm nguồn trên, rồi ghép với Bing Webmaster Tools — Search Performance, nơi báo cáo trực tiếp click và impression của Bing. BWT không thấy số liệu Yahoo/DuckDuckGo/Ecosia phía hạ nguồn, nên dữ liệu referrer analytics là nơi duy nhất có góc nhìn tổng hợp.
- Benchmark / khoảng thực tế — Không có con số toàn ngành trung thực để nhắm tới; tỷ trọng hệ sinh thái thay đổi rất lớn theo đối tượng và địa lý. Hãy thiết lập baseline riêng từ vài tháng dữ liệu referrer trước khi đánh giá biến động một tháng.
- Nhịp đo — Hằng tháng là đủ cho xu hướng; kiểm tra hằng tuần ngay sau thay đổi
robots.txt, triển khai IndexNow hoặc thay đổi khác ảnh hưởng quyền truy cập Bingbot.
Công cụ xác minh và kiểm soát Bingbot
- Googlebot Verifier — công cụ của tôi. Dán IP tự nhận là Bingbot; công cụ chạy forward-confirmed reverse DNS và nêu chủ sở hữu mạng thật nếu đó là kẻ giả mạo. Đây là phiên bản thực tế của kiểm tra DNS hai bước trong tab Scripts mà không cần terminal.
- robots.txt Tester — công cụ của tôi. Kiểm tra một URL cụ thể được phép hay bị chặn riêng cho token
bingbot— phân biệt với*hoặc Googlebot — xem chính xác quy tắc nào thắng và phát hiện directivemsnbotcũ xung đột trước khi phát hành. - Công cụ Verify Bingbot — tra cứu IP trực tuyến của Microsoft, hữu ích để kiểm tra chéo với Googlebot Verifier.
- Bing Webmaster Tools — Crawl Control — đặt trực tiếp tốc độ crawl theo giờ của Bingbot; cơ chế chủ động mà Google đã bỏ chức năng tương đương.
- IndexNow —
indexnow.org— push URL được tạo/cập nhật/xóa thay vì chờ lần truy cập Bingbot tiếp theo; một lần ping tới mọi công cụ tham gia.
Tài nguyên đáng dành thời gian
Bài viết liên quan của tôi
- Gặp các crawler web mới: bot AI đang tiến sát bot công cụ tìm kiếm — nơi tôi trình bày quá khứ crawl mạnh của Bing, bước ngoặt IndexNow và số liệu 53% lưu lượng bị lãng phí.
- Khi nào nên lo về crawl budget? — gồm cách Bing nhìn “hiệu quả crawl” và lưu ý “Bing also has an Indexing API that’s available to everyone.” (bản dịch) “Bing cũng có Indexing API dành cho mọi người.”
- Bingbot — glossary SEO Ahrefs — bản tham khảo ngắn.
- Hướng dẫn nhập môn Technical SEO — vị trí crawler trong bức tranh lớn.
Bài thuyết trình của tôi
- Cách tìm kiếm hoạt động — SlideShare — phần trình bày về crawl, kết xuất, lập chỉ mục và xếp hạng. Tuyên bố miễn trừ thường trực vẫn áp dụng: “This is my understanding of systems… not going to be 100% complete or accurate.” (bản dịch) “Đây là cách tôi hiểu các hệ thống… sẽ không đầy đủ hoặc chính xác 100%.”
Từ nguồn khác
- Cách Bingbot hoạt động: phát hiện, crawl, trích xuất và lập chỉ mục — SEJ — phần trình bày chi tiết của Fabrice Canel làm nền cho các điểm về bộ nhớ URL và lọc trước.
- Vì sao và cách Bing dự định cải thiện crawler Bingbot — SEJ, 2019 — phỏng vấn Canel với số liệu 100 tỷ URL mới/ngày, trích dẫn chính sách crawl lịch sự và nhận xét “bài toán kỹ thuật hấp dẫn”.
- Microsoft Bing / Copilot: dùng schema cho LLM — Search Engine Land, 2025 — Canel tại SMX Munich về schema markup giúp LLM Microsoft và nội dung mới là tín hiệu xếp hạng Copilot.
- Năm cổng hạ tầng phía sau crawl, kết xuất và lập chỉ mục — Search Engine Land — khung hiệu quả crawl “ít hơn là tốt hơn cho SEO” của Canel, giải thích theo từng cổng.
- Cách Bingbot và Googlebot chọn trang — Kalicube — trích dẫn “được dẫn dắt bởi trang chủ chốt” của Canel về triết lý phát hiện URL, kèm so sánh Googlebot.
- r/TechSEO — cộng đồng gỡ lỗi crawl/lập chỉ mục.
Số liệu đáng trích dẫn
- Khoảng 100 tỷ URL mới được phát hiện mỗi ngày — số liệu năm 2019 của Fabrice Canel về số URL Bingbot tìm thấy mà chưa từng thấy trước đây: “more than 100 billion new URLs never seen before” (bản dịch) “hơn 100 tỷ URL mới chưa từng thấy.” Một số liệu riêng năm 2020 đặt mức khoảng 70 tỷ; hãy gắn ngày khi trích dẫn. Nguồn
- Khoảng 53% lưu lượng crawler là công sức lãng phí — ước tính của tôi và lập luận cho IndexNow: push thay đổi “can help cut that number down to almost nothing.” (bản dịch) “có thể giúp giảm con số đó xuống gần như bằng không.” Nguồn
- 28 prefix IPv4 được công bố — quy mô danh sách IP Bingbot chính thức của Microsoft —
bingbot.json, tạo tháng 1 năm 2024. Đây là ngữ cảnh hữu ích, nhưng Microsoft cảnh báo địa chỉ thay đổi nên phải xác minh bằng reverse DNS. Nguồn
Tự kiểm tra: Bingbot
Năm câu hỏi nhanh về Bingbot, cách xác minh và phạm vi tiếp cận. Chọn đáp án cho từng câu rồi kiểm tra.
Nhật ký thay đổi
Đã cập nhật 9 thg 8, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.
Đã cập nhật 8 thg 8, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.
Đã cập nhật 18 thg 7, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.