Cách Xóa Các trang từ Google Chỉ mục (Deindexing)
Đó decision-tree hướng dẫn để deindexing — noindex, 404/410, đó Removals tool, password protection, và canonicals. Vì sao robots.txt không xóa các trang.
Ngôn ngữ
1 tín hiệu bằng chứng trên trang này
- Công cụ trực tuyến liên quanrobots.txt Tester
Deindexing là getting một URL out of Google kết quả, và có không single delete button — đó phương thức phụ thuộc vào liệu bạn own đó trang, liệu removal là tạm thời hoặc vĩnh viễn, và liệu đó nội dung nên vẫn exist. Đó một điều mọi người nhận sai: một robots.txt Disallow không deindex một trang (điều này chặn crawling, không lập chỉ mục — đó URL có thể vẫn nhận được lập chỉ mục qua links, và Google không thể see một noindex rule on một trang điều này không thể crawl), và combining robots.txt với noindex actively backfires. Đó GSC Removals tool là emergency triage chỉ (~6 months) — pair điều này với một vĩnh viễn phương thức: noindex (giữ đó trang trực tiếp, hide từ tìm kiếm), 404/410 (delete điều này), password protection (block access), hoặc một canonical (consolidate duplicates). Robots.txt LÀ đó sanctioned way để xóa images. Nếu bạn không own đó trang, Google splits điều này trong hai: stale/đã xóa nội dung goes qua đó Refresh Outdated Nội dung tool, trong khi personal hoặc sensitive information goes qua Google tách biệt 'Xóa của bạn personal information từ Google' troubleshooter. Này hub links xuống để noindex, đó removals tool, robots.txt, và đó 404/410 các mã trạng thái.
TL;DR — Deindexing có nghĩa là getting một trang out of Google kết quả tìm kiếm. có không single “delete from Google” (bản dịch) «delete từ Google» button — bạn pick một phương thức dựa trên của bạn situation. Và đó big trap: blocking một trang trong
robots.txtlàm không xóa điều này từ Google. Để thực ra xóa một trang, bạn thường let Google crawl điều này và thêm mộtnoindextag.
Điều gì deindexing là
Deindexing là đó opposite of getting được tìm thấy: đây là đang làm một URL dừng cho thấy lên trong Google kết quả tìm kiếm. Mọi người cần điều này cho all kinds of reasons — an outdated trang, một duplicate, một thin hoặc embarrassing trang, một staging URL đó leaked, hoặc điều gì đó với sensitive information on điều này.
Đó catch là có không một button. Đó right tool phụ thuộc vào three các câu hỏi:
- Làm bạn own đó trang? (Nếu không, bạn có một cụ thể tool; nếu bạn làm, bạn có several.)
- Làm bạn muốn điều này đã biến mất temporarily hoặc permanently?
- Nên đó nội dung vẫn exist cho real khách truy cập, hoặc nên điều này là deleted?
Đó trap gần như mọi người falls vào
Đó single hầu hết phổ biến mistake là thinking bạn có thể xóa một trang by blocking điều này trong
robots.txt. Bạn không thể. Ở đây vì sao, trong đơn giản terms: robots.txt controls
crawling (liệu Google là được phép để đọc đó trang), không lập chỉ mục (liệu
đó URL cho thấy lên trong kết quả). Những là hai khác nhau các hệ thống. Evidence for this claim Blocking crawling with robots.txt is not a reliable way to remove a URL from Google Search. Scope: Google Search; a blocked URL can still be indexed without content when Google discovers it elsewhere. Confidence: high · Verified: Google Search Central: Introduction to robots.txt
Nếu bạn block một trang trong robots.txt, Google có thể vẫn list đó URL trong tìm kiếm
kết quả — điều này chỉ sẽ không có đó nội dung, vì điều này không bao giờ đọc đó trang. Tệ hơn:
nếu bạn cũng thêm một noindex tag để đó trang, Google có thể không bao giờ see điều này, vì
bạn blocked Google từ reading đó trang ngay từ đầu. As I put điều này trong my
Ahrefs ghi-lên, “Indexed, though blocked by robots.txt” (bản dịch) «Được lập chỉ mục, though blocked by robots.txt» Có thể Là Hơn MỘT
Robots.txt Block:
crawling và lập chỉ mục là hai khác nhau điều.
Đó các phương thức, trong một breath
noindex— một tag đó tells các công cụ tìm kiếm “don’t list this.” (bản dịch) «không list này.» Đó trang vẫn giữ trực tiếp cho khách truy cập nhưng drops từ kết quả. Phải stay crawlable so Google có thể see đó tag.- Delete điều này (404/410) — xóa đó nội dung hoàn toàn và điều này drops từ đó chỉ mục khi Google recrawls.
- Password-bảo vệ điều này — lock điều này behind một login và không crawler có thể reach điều này.
- Đó Removals tool trong Google Search Console — fast, nhưng chỉ tạm thời (về six months). Emergency lever, không một cách sửa. Evidence for this claim Search Console's Removals tool temporarily blocks a URL from Google Search and is not a permanent removal method. Scope: Google Search Console verified properties; permanent removal requires a separate lasting method. Confidence: high · Verified: Google Search Console Help: Removals tool and SafeSearch Reporting Tool
- Canonical tag — cho duplicate các trang, points Google tại đó version bạn muốn kept. Này là consolidation, không thực sự “removal.”
Đó nhanh rules of thumb
- Muốn một trang đã biến mất nhưng vẫn usable cho khách truy cập? Cho phép crawling +
noindex. - Muốn điều này đã biến mất forever và điều này nên dừng existing? Delete điều này (trả về 404 hoặc 410).
- Điều gì đó leaked và bạn cần điều này hidden hôm nay? Removals tool — thì apply một vĩnh viễn phương thức during đó six-month window.
- không own đó trang? Nếu đây là chỉ stale/đã xóa nội dung, dùng Google Refresh Outdated Nội dung tool. Nếu đây là personal hoặc sensitive information về bạn, Google hiện tại points mọi người để của nó tách biệt “Remove your personal information from Google” (bản dịch) «Xóa của bạn personal information từ Google» troubleshooter thay vì — see Advanced cho đó split.
- Không bao giờ block một trang trong
robots.txtđể try để xóa điều này, và không bao giờ combinerobots.txtdisallow vớinoindex.
Muốn đó đầy đủ decision framework, đó chính xác Google quotes, image removal (nơi
robots.txt thực ra là đó right tool), và cách dài mỗi phương thức thực sự takes?
Chuyển để đó Advanced tab.
TL;DR — Deindexing có không single button — đó phương thức phụ thuộc vào quyền sở hữu, tạm thời so với. vĩnh viễn, và liệu đó nội dung nên survive. Đó độ chính xác spine: một
robots.txtDisallow làm không deindex một trang (điều này chặn crawling, không lập chỉ mục; đó URL có thể vẫn là được lập chỉ mục qua links, và Google không thể see mộtnoindexon một trang điều này không thể crawl), và combining robots.txt vớinoindexbackfires. Đó GSC Removals tool là emergency triage chỉ (~6 months) — pair điều này với một vĩnh viễn phương thức:noindex(giữ trực tiếp, hide từ tìm kiếm), 404/410 (delete), password protection (block access), hoặc một canonical (consolidate duplicates). Robots.txt là đó sanctioned way để xóa images. Non-owners split vào hai tools depending on đó vấn đề: stale/đã xóa nội dung dùng Refresh Outdated Nội dung; personal hoặc sensitive information dùng Google tách biệt “Remove your personal information from Google” (bản dịch) «Xóa của bạn personal information từ Google» troubleshooter. Không có gì nhưng đó Removals tool là instant — mỗi vĩnh viễn phương thức chờ on một recrawl.
Điều gì “deindexing” thực ra có nghĩa là (và điều gì điều này không)
có không “delete from Google” (bản dịch) «delete từ Google» button, và đó là đó đầu tiên điều để internalize. Deindexing là một situation-phụ thuộc task, và đó situation là được định nghĩa by three các câu hỏi: làm bạn own đó trang, làm bạn muốn điều này đã biến mất temporarily hoặc permanently, và nên đó nội dung itself vẫn exist cho người dùng. Nhận những three straight và đó right phương thức thường falls out on của nó own.
đây là cũng worth separating hai tracks lên front:
- Emergency track — bạn cần điều gì đó hidden fast (một leaked URL, exposed personal info). Đó Removals tool (nếu bạn own đó thuộc tính) hoặc đó Refresh Outdated Nội dung tool (nếu bạn không) buys bạn time.
- Vĩnh viễn track — đó thực tế cách sửa:
noindex, delete (404/410), password- bảo vệ, hoặc canonicalize. Này là điều gì có để là applied during hoặc immediately sau đó emergency step, vì đó emergency tools all expire.
Đó cốt lõi myth: robots.txt không xóa các trang từ Google
Both paths start with a page that contains a noindex directive. When crawling is allowed, the crawler fetches the page, reads noindex, and can remove the URL from results after processing. When robots.txt blocks crawling, the crawler cannot see noindex, so the URL may remain in search results.
© Patrick Stox LLC · CC BY 4.0 ·
Này là đó load-bearing teaching point of đó entire topic, so điều này nhận đó hầu hết space.
Crawling và lập chỉ mục là khác nhau các hệ thống
robots.txt là một crawling directive. noindex là an lập chỉ mục directive.
Đó hai là decoupled, và đó decoupling là đó toàn bộ story. Google có thể chỉ mục một
URL điều này không bao giờ được crawl (nếu đó URL là discoverable qua links), và điều này có thể không bao giờ
see một noindex rule on một URL đây là blocked từ crawling. Evidence for this claim Blocking crawling with robots.txt is not a reliable way to remove a URL from Google Search. Scope: Google Search; a blocked URL can still be indexed without content when Google discovers it elsewhere. Confidence: high · Verified: Google Search Central: Introduction to robots.txt
Google own tài liệu on noindex state điều này flatly: “If the page is blocked by a
robots.txt file or the crawler can’t access the page, the crawler will never see
the noindex rule, and the page can still appear in search results, for example if
other pages link to it.” (bản dịch) «Nếu đó trang là blocked by một robots.txt file hoặc đó crawler không thể access đó trang, đó crawler sẽ không bao giờ see đó noindex rule, và đó trang có thể vẫn xuất hiện trong kết quả tìm kiếm, ví dụ nếu other các trang link để điều này.» Và đó reason: “We have to crawl your page in order to
see <meta> tags and HTTP headers.” (bản dịch) «We có để crawl trang của bạn trong order để see thẻ meta tags và HTTP các header.»
I’ve được viết này giống nhau point trong my own words trong đó
Được lập chỉ mục, though blocked by robots.txt
piece: nếu bạn block một trang từ đang được crawl, Google có thể vẫn chỉ mục điều này vì
crawling và lập chỉ mục là hai khác nhau điều — và trừ khi Google có thể crawl một trang,
điều này sẽ không see đó noindex meta tag và có thể vẫn chỉ mục điều này vì điều này có links.
Điều gì Google removal tài liệu chẳng hạn, verbatim
Google “Remove a page hosted on your site from Google” (bản dịch) «Xóa một trang hosted trên trang web của bạn từ Google»
doc là unambiguous. Của nó hướng dẫn cho vĩnh viễn removal lists three sanctioned
các phương thức — xóa/cập nhật đó nội dung, password-bảo vệ đó trang, hoặc thêm một noindex
tag — và thì says trực tiếp: “Don’t use robots.txt as a way to block your page.” (bản dịch) «không dùng robots.txt as một way để block trang của bạn.»
”Indexed, though blocked by robots.txt” (bản dịch) «Được lập chỉ mục, though blocked by robots.txt» — đó Search Console symptom
Nếu bạn đã tried đó robots.txt approach, bạn đã probably seen đó Search Console status “Indexed, though blocked by robots.txt.” (bản dịch) «Được lập chỉ mục, though blocked by robots.txt.» Đó label mô tả chính xác này phenomenon: một URL Google có được lập chỉ mục (thường vì điều này được tìm thấy đó URL qua links) despite đang disallowed từ crawling điều này. Trong my Ahrefs ghi-lên I break xuống four distinct gây ra of đó status — một genuine robots.txt crawl block, an intermittent/bộ nhớ đệm block, một người dùng-agent-cụ thể block, và an IP-based block — so đây là worth diagnosing thay vì assuming. (Xác nhận đó chính xác hiện tại label wording trong một trực tiếp Search Console thuộc tính trước quoting điều này — Google occasionally adjusts đó UI text.)
Vì sao combining robots.txt disallow với noindex backfires
Này là đó single hầu hết phổ biến self-inflicted failure. Nếu bạn muốn một trang đã biến mất và
bạn thêm một noindex tag và một robots.txt disallow, bạn đã guaranteed đó noindex
không bao giờ hoạt động. Google robots meta tag tài liệu
là rõ ràng: “If a page is disallowed from crawling through the robots.txt file,
then any information about indexing or serving rules will not be found and will
therefore be ignored. If indexing or serving rules must be followed, the URLs
containing those rules cannot be disallowed from crawling.” (bản dịch) «Nếu một trang là disallowed từ crawling qua đó robots.txt file, thì bất kỳ information về lập chỉ mục hoặc serving rules sẽ không là được tìm thấy và sẽ do đó là đã bỏ qua. Nếu lập chỉ mục hoặc serving rules phải được followed, đó URLs containing những rules không thể là disallowed từ crawling.»
Đó rule of thumb: nếu bạn muốn một trang đã xóa, leave điều này crawlable và thêm
noindex. Chỉ consider blocking điều này trong robots.txt sau đây là confirmed dropped
— và ngay cả thì, robots.txt sẽ không dừng điều này resurfacing qua link-based lập chỉ mục.
MỘT nhanh history lesson: đó 2019 noindex-trong-robots.txt deprecation
Ở đó được dùng để là an không chính thức noindex: directive bạn có thể put bên trong
robots.txt. Điều này đã là không bao giờ an chính thức tiêu chuẩn, đã là inconsistently honored, và
Google formally retired ngay cả của nó không chính thức xử lý. Từ Google
note on unsupported rules trong robots.txt
(Gary Illyes, July 2019): “we’re retiring all code that handles unsupported and
unpublished rules (such as noindex) on September 1, 2019.” (bản dịch) «chúng ta là retiring all code đó xử lý unsupported và unpublished rules (such as noindex) on September 1, 2019.» Trong my own Ahrefs
coverage I’ve đã làm đó giống nhau point: trong khi Google được dùng để unofficially hỗ trợ noindex
trong robots.txt, điều này đã là không bao giờ an chính thức tiêu chuẩn và họ đã hiện tại formally đã xóa
hỗ trợ. Gary đã là characteristically blunt về đó directive on đó way out,
calling điều này điều gì đó
“sticks out like a nun in a mosh pit.” (bản dịch) «sticks out như một nun trong một mosh pit.»
Emergency removal: đó Search Console Removals tool
Khi điều gì đó cần để là hidden hiện tại, đó Removals tool là đó fast lever. Google: “For quick removals, use the Removals tool to remove a page hosted on your site from Google’s search results within a day.” (bản dịch) «Cho nhanh removals, dùng đó Removals tool để xóa một trang hosted trên trang web của bạn từ Google kết quả tìm kiếm trong một day.» John Mueller có confirmed đó cho verified owners “it works very quickly.” (bản dịch) «điều này hoạt động very quickly.»
Nhưng điều này là emergency triage, không một cách sửa, và đó tài liệu là blunt về của nó hai limits:
- đây là tạm thời. “Requests made in the Removals tool last for about 6 months.” (bản dịch) «Các yêu cầu đã làm trong đó Removals tool cuối cùng cho về 6 months.» Đó Search Console Help version says đó giống nhau: “A successful request lasts only about six months.” (bản dịch) «MỘT successful yêu cầu lasts chỉ về six months.» Evidence for this claim Search Console's Removals tool temporarily blocks a URL from Google Search and is not a permanent removal method. Scope: Google Search Console verified properties; permanent removal requires a separate lasting method. Confidence: high · Verified: Google Search Console Help: Removals tool and SafeSearch Reporting Tool
- Điều này không dừng crawling hoặc truly xóa bất cứ điều gì. “Blocking a URL does not prevent Google from crawling your page, only from showing it in Search results.” (bản dịch) «Blocking một URL không ngăn Google từ crawling trang của bạn, chỉ từ cho thấy điều này trong Kết quả tìm kiếm.»
So không có một vĩnh viễn phương thức applied trong parallel, đó trang có thể trả về khi đó
window expires. Dùng đó Removals tool để buy time, thì apply noindex, delete đó
trang, hoặc password-bảo vệ điều này during đó window.
Bing tương đương
Bing có một parallel Block URLs tool, và này time đó chính xác wording là confirmed. Bing Quản trị viên web Tools’ own interface text cho đó feature: “This feature allows you to block a URL from appearing in the Bing search results. This block will remain in place for maximum of 90 days. If the URL still returns a 200 OK code when visited by our crawler after 90 days, it will reappear in our search results.” (bản dịch) «Tính năng này cho phép bạn chặn một URL khỏi xuất hiện trong kết quả tìm kiếm Bing. Lệnh chặn này sẽ có hiệu lực tối đa 90 ngày. Nếu đó URL vẫn trả về mã 200 OK khi crawler của chúng tôi truy cập sau 90 ngày, URL đó sẽ xuất hiện lại trong kết quả tìm kiếm của chúng tôi.» Bing cũng warns bạn 8 days ahead of một block expiring so bạn có thể renew điều này, và có không cap on cách nhiều times bạn có thể re-block đó giống nhau URL. Trong my own Ahrefs piece I noted đó so sánh trong my own words: đó tạm thời effect lasts về six months trong Google, trong khi Bing tương đương lasts về three months (90 days). Bing tách biệt help bài viết on vĩnh viễn removal (delete + mã trạng thái, hoặc NOINDEX) là một client-được kết xuất trang I vẫn không thể extract verbatim text từ, so của nó IndexNow-submission khuyến nghị vẫn giữ paraphrased dưới.
Vĩnh viễn phương thức #1 — noindex (meta tag / X-Robots-Tag)
noindex là đó hầu hết effective way để xóa một URL từ đó chỉ mục khi crawling là
được phép. Điều này tells các công cụ tìm kiếm không để list đó trang trong khi đó trang vẫn giữ trực tiếp cho
người dùng và trực tiếp khách truy cập. As I’ve put điều này: một noindex meta robots tag hoặc
X-Robots-Tag header phản hồi sẽ tell các công cụ tìm kiếm để xóa một trang từ đó
chỉ mục.
Hai implementations:
- Meta tag trong đó HTML
<head>:<meta name="robots" content="noindex">. X-Robots-TagHTTP header — cho non-HTML files như PDFs nơi có không<head>. Google: “Any rule that can be used in a robots meta tag can also be specified as an X-Robots-Tag.” (bản dịch) «Bất kỳ rule đó có thể là dùng trong một robots meta tag có thể cũng là specified as an X-Robots-Tag.»
Đó một requirement đó trips mọi người lên: đó trang phải stay crawlable. Nếu đây là blocked trong robots.txt, Google không bao giờ sees đó tag. Mueller hai-step model qua Search Engine Journal là đó sạch mental frame: đầu tiên hãy bảo đảm Google có thể access đó trang (nếu đây là blocked by robots.txt, đó noindex sẽ không là seen), thì thêm đó noindex tag.
Dùng điều này khi: đó trang nên stay trực tiếp cho người dùng (hoặc trực tiếp/logged-trong access) nhưng không nên xuất hiện trong tìm kiếm — thank-bạn các trang, internal kết quả tìm kiếm, filtered/faceted variants, thin archive các trang.
Vĩnh viễn phương thức #2 — delete đó nội dung (404/410)
Nếu đó nội dung genuinely không nên exist anymore, delete điều này và trả về một 404 (Không Được tìm thấy) hoặc 410 (Đã biến mất). Google: cả hai các mã trạng thái “mean that the page does not exist, which will drop such URLs from Google’s index once they’re crawled and processed.” (bản dịch) «có nghĩa là đó trang không exist, mà sẽ drop such URLs từ Google chỉ mục khi họ là được crawl và processed.» Trong my own words: đó trang sẽ bị gỡ bỏ từ đó chỉ mục shortly sau đây là re-được crawl.
404 so với 410: cả hai hoạt động. 410 là một marginally hơn rõ ràng, slightly nhanh hơn “gone
forever” (bản dịch) «đã biến mất forever» tín hiệu, nhưng đó practical khác biệt là nhỏ — see đó dedicated
404-so với-410 so sánh cho đó nuance. Đó catch với này phương thức: bạn không thể giữ đó
trang trực tiếp cho người dùng trong khi returning một 410. Nếu mọi người vẫn cần đó trang, đó là một
noindex job, không một delete job.
Dùng điều này khi: đó nội dung là genuinely retired và không một cần điều này anymore.
Vĩnh viễn phương thức #3 — password protection / login walls
Locking một trang behind authentication là đó hầu hết airtight removal. Google: “Password-protect your page. Limiting access to your page enables the right users to view your page, while preventing Googlebot and other web crawlers from accessing it.” (bản dịch) «Password-bảo vệ trang của bạn. Limiting access để trang của bạn enables đó right người dùng để view trang của bạn, trong khi preventing Googlebot và other web các crawler từ accessing điều này.» Từ đó 2019 blog post: hiding một trang behind một login sẽ generally xóa điều này từ Google chỉ mục (trừ khi bạn dùng subscription/paywall markup).
Của nó hai advantages: điều này chặn all các crawler trên all các công cụ tìm kiếm (không chỉ Google), và đây là không link-defeatable đó way một robots.txt block là. Của nó trade-off: điều này chặn all người dùng không có credentials cũng — so đây là cho genuinely riêng tư nội dung, không các trang bạn vẫn muốn đó công khai để reach.
Dùng điều này khi: đó nội dung là sensitive/riêng tư và chỉ authenticated người dùng nên bao giờ see điều này.
Canonical consolidation — related, nhưng không removal
MỘT canonical tag là không một removal tool, và conflating đó hai gây ra real damage.
Canonicalization là consolidation: khi bạn có genuine duplicate hoặc
near-duplicate URLs, rel="canonical" tells Google mà một để treat as đó
representative version và folds các tín hiệu xếp hạng onto điều này. Cả hai URLs stay trực tiếp và
crawlable.
Critically, Google cụ thể advises so với dùng noindex để manage mà
duplicate là canonical trong một site: “We don’t recommend using noindex to
prevent selection of a canonical page within a single site, because it will
completely block the page from Search.” (bản dịch) «We không khuyến nghị dùng noindex để ngăn selection of một canonical trang trong một single site, vì điều này sẽ completely block đó trang từ Tìm kiếm.» Nói cách khác: nếu đó vấn đề là “two URLs
for the same content, keep one,” (bản dịch) «hai URLs cho đó giống nhau nội dung, giữ một,» dùng một canonical. Nếu đó vấn đề là “this page
shouldn’t be in search at all,” (bản dịch) «này trang không nên là trong tìm kiếm tại all,» dùng noindex. Khác nhau các vấn đề, khác nhau tools.
Dùng điều này khi: bạn có real duplicate URLs và muốn các tín hiệu consolidated onto một
— không as một substitute cho noindex on một trang bạn đơn giản không muốn được lập chỉ mục.
Removing images cụ thể — đó exception để đó myth
Ở đây đó một place đó robots.txt myth flips: cho images, robots.txt genuinely là Google sanctioned removal phương thức. Google image removal tài liệu: “To prevent images from your site appearing in Google’s search results, add a robots.txt file to the root of the site that hosts the image.” (bản dịch) «Để ngăn images từ trang web của bạn appearing trong Google kết quả tìm kiếm, thêm một robots.txt file để đó root of đó site đó hosts đó image.» Đó ví dụ:
User-agent: Googlebot-Image
Disallow: /images/dogs.jpgVì sao làm này hoạt động cho images khi điều này fails cho các trang? Vì Google Images
lập chỉ mục phụ thuộc primarily on crawling đó image file itself, mà robots.txt
trực tiếp chặn — whereas ordinary web-trang lập chỉ mục có thể happen từ link phát hiện
alone, không có crawling. đó là đó resolution để điều gì looks như một contradiction:
đó myth là cụ thể về các trang, không images. Dùng đó Googlebot-Image
người dùng-agent để xóa an image từ Google Images cụ thể, hoặc đó chung
Googlebot người dùng-agent để xóa điều này từ all Google surfaces.
có cũng an X-Robots-Tag alternative cho images: “Alternatively, you can remove images hosted on your site from Google’s search results by adding the noindex X-Robots-Tag to the HTTP response headers of the images you want to remove” (bản dịch) «Alternatively, bạn có thể xóa images hosted trên trang web của bạn từ Google kết quả tìm kiếm by thêm đó noindex X-Robots-Tag để đó HTTP các header phản hồi of đó images bạn muốn để xóa» — nhưng trong trường hợp đó bạn phải cho phép crawling đó image URLs so Googlebot có thể extract đó rule (giống nhau crawl-để-see-đó-rule logic as các trang). Google notes đó hai các phương thức có đó giống nhau effect, so implementing cả hai không làm hợp lý — pick một.
Nếu bạn không own đó trang — hai khác nhau tools, cho hai khác nhau các vấn đề
Mọi thứ trên assumes bạn control đó trang. Nếu bạn không, Google splits này vào hai tách biệt paths depending on điều gì là sai — và picking đó sai một wastes đó emergency-track time bạn không có.
Đó trang nội dung là stale hoặc đã biến mất, nhưng Google snapshot hasn’t caught lên. Dùng đó Refresh Outdated Nội dung tool. Google: “Use the Refresh Outdated Content tool to have Google update search results for pages or images that no longer exist, or pages that have deleted important (sensitive or critical) content.” (bản dịch) «Dùng đó Refresh Outdated Nội dung tool để có Google cập nhật kết quả tìm kiếm cho các trang hoặc images đó không lâu hơn exist, hoặc các trang đó có deleted quan trọng (sensitive hoặc cốt yếu) nội dung.» Đó key constraint: điều này chỉ hoạt động nếu đó nội dung là đã đã biến mất hoặc significantly changed on đó trực tiếp trang. Điều này không thể force removal of nội dung một site owner vẫn wants trực tiếp — điều này chỉ prompts Google để cập nhật của nó kết quả để match đó hiện tại reality of một trang. Điều này requires một login nhưng không Search Console verification.
Đó vấn đề là personal hoặc sensitive information, và đó trang có thể vẫn là trực tiếp. Google own hiện tại hướng dẫn routes này case differently. Đó doc này bài viết leans on cho vĩnh viễn-removal các phương thức says, verbatim, trong của nó “if you don’t own the page” (bản dịch) «nếu bạn không own đó trang» callout: “If you don’t own the page, see Remove your personal information from Google instead.” (bản dịch) «Nếu bạn không own đó trang, see Xóa của bạn personal information từ Google thay vì.» đó là một tách biệt troubleshooter được xây dựng cho personal-information removal các yêu cầu — doxxing, exposed IDs hoặc financial info, non-consensual rõ ràng imagery, và similar categories — và đây là đó path Google points để đầu tiên, không Refresh Outdated Nội dung, khi điều gì là exposed là về bạn thay vì merely outdated. (Này là theo đó hiện tại trực tiếp version of Google removal-information trang, cuối cùng đã cập nhật 2025-12-10 theo của nó own footer — Google có thể giữ adjusting chính xác cách điều này signposts những hai paths, so re-kiểm tra trước treating này as vĩnh viễn.)
Nếu đây là genuinely chỉ outdated/đã xóa nội dung và không một personal-information quan trọng, Refresh Outdated Nội dung vẫn đó right non-owner tool.
Decision framework — mà phương thức cho mà situation
| Của bạn situation | Dùng | Không |
|---|---|---|
| Trang nên stay trực tiếp cho người dùng, chỉ không trong tìm kiếm | noindex (crawlable) | robots.txt |
| Nội dung là genuinely retired / nên dừng existing | 404 hoặc 410 | noindex |
| Sensitive/riêng tư, chỉ authenticated người dùng nên see điều này | Password protection | noindex alone |
| Hai+ real duplicate URLs, giữ một | rel="canonical" | noindex |
| Emergency — hide điều này hôm nay (bạn own điều này) | Removals tool → thì một vĩnh viễn phương thức | robots.txt |
| Stale/đã xóa nội dung, bạn không own đó trang | Refresh Outdated Nội dung tool | bất cứ điều gì khác |
| Personal/sensitive info, bạn không own đó trang | ”Remove your personal information from Google” (bản dịch) «Xóa của bạn personal information từ Google» | Refresh Outdated Nội dung |
| Xóa an image | robots.txt (Googlebot-Image disallow) | trang-cấp độ noindex habits |
See đó Các cây quyết định tab cho an interactive walkthrough.
Cách dài làm deindexing thực ra take?
None of đó vĩnh viễn các phương thức là instant — all of them chờ on Google recrawling
đó URL để see đó thay đổi (liệu đó là đó noindex tag hoặc đó 404/410 status).
đó là precisely vì sao đó Removals tool tồn tại: đây là đó chỉ genuinely fast lever
(trong một day, theo Google tài liệu), mà là điều gì làm điều này đó emergency option
despite đang tạm thời. Nếu một trang bạn noindexed là vẫn appearing, theo Google
đây là “probably because we haven’t crawled the page since you added the noindex
rule.” (bản dịch) «probably vì we haven’t được crawl đó trang since bạn đã thêm đó noindex rule.» Requesting lập chỉ mục/recrawl trong URL Inspection có thể nudge điều này along.
Nơi này fits
Này trang là đó practical hub tying đó lập chỉ mục cluster together. Cho đó
directives themselves, đó riêng lẻ deep dives — noindex, meta-robots,
x-robots-tag, robots-txt, đó removals-tool, canonicalization, và đó
404-vs-410 / 410-gone các mã trạng thái — mỗi go further. Cho đó toàn bộ pipeline
(phát hiện, crawling, kết xuất, lập chỉ mục, serving), see đó
Cách Tìm kiếm Hoạt động cluster. Và khi một robots.txt
block đã làm leave một trang được lập chỉ mục, đó
Được lập chỉ mục, though blocked by robots.txt
ghi-lên là đó trực tiếp khắc phục sự cố companion.
AI summary
MỘT condensed take on đó Advanced version:
- Không single “delete from Google” (bản dịch) «delete từ Google» button. Phương thức phụ thuộc vào three các câu hỏi: làm bạn own đó trang, tạm thời so với. vĩnh viễn, và nên đó nội dung vẫn exist.
- Đó cốt lõi myth: một
robots.txtDisallow làm không xóa một trang. Robots.txt controls crawling,noindexcontrols lập chỉ mục — họ là decoupled. MỘT blocked URL có thể vẫn là được lập chỉ mục qua links, và Google không thể see mộtnoindexon một trang điều này không thể crawl. - Không bao giờ combine robots.txt disallow với
noindex— đó block bảo đảm đó noindex là không bao giờ seen. Leave đó trang crawlable và thêm noindex. - Đó Removals tool là emergency triage, ~6 months — tạm thời, không dừng crawling. Pair điều này với một vĩnh viễn phương thức hoặc đó trang trả về. Bing Block URLs tool là ~90 days.
- Four vĩnh viễn các phương thức:
noindex(giữ trực tiếp, hide từ tìm kiếm; phải stay crawlable), 404/410 (delete hoàn toàn; không thể giữ trực tiếp cho người dùng), password protection (chặn all các crawler/engines, hầu hết airtight, chặn người dùng cũng), canonical (consolidate real duplicates — không removal). - Images là đó exception: robots.txt (
Googlebot-Imagedisallow) genuinely xóa images, vì image lập chỉ mục phụ thuộc vào crawling đó file trực tiếp. - không own đó trang? Điều này phụ thuộc vào đó vấn đề. Stale hoặc đã-đã xóa nội dung → đó Refresh Outdated Nội dung tool (chỉ hoạt động nếu đó nội dung là đã biến mất/changed on đó trực tiếp trang). Personal hoặc sensitive information → Google tách biệt “Remove your personal information from Google” (bản dịch) «Xóa của bạn personal information từ Google» troubleshooter, mà là điều gì Google own removal-information doc hiện tại points non-owners để đầu tiên.
- Không có gì nhưng đó Removals tool là instant — vĩnh viễn các phương thức all chờ on một recrawl.
- Đó 2019 history: Google formally retired đó không chính thức
noindex:directive bên trong robots.txt effective September 1, 2019.
Tài liệu chính thức
Chính-nguồn tài liệu từ đó các công cụ tìm kiếm.
- Xóa một trang hosted trên trang web của bạn từ Google — đó three vĩnh viễn các phương thức, đó Removals tool ~6-month limit, và “don’t use robots.txt to block your page.” (bản dịch) «không dùng robots.txt để block trang của bạn.»
- Block Tìm kiếm Lập chỉ mục với noindex — vì sao đó trang phải stay crawlable cho noindex để hoạt động.
- Robots meta tag, dữ liệu-nosnippet, và X-Robots-Tag các đặc tả — vì sao bạn không thể combine một robots.txt disallow với an lập chỉ mục rule.
- MỘT note on unsupported rules trong robots.txt (Gary Illyes, July 2019) — đó deprecation of đó không chính thức
noindex:directive và đó sanctioned alternatives. - Removals và SafeSearch các báo cáo tool — Search Console Help: đó tool là tạm thời, ~6 months, và không dừng crawling.
- Refresh Outdated Nội dung tool — đó công khai, non-owner tool cho updating outdated kết quả (chỉ hoạt động nếu đó nội dung là đã biến mất/changed on đó trực tiếp trang).
- Xóa của bạn personal information từ Google — đó troubleshooter Google own removal-information doc hiện tại points non-owners để khi đó vấn đề là personal/sensitive information thay vì merely outdated nội dung.
- Xóa của bạn own site images từ Google Search — đó
Googlebot-Imagerobots.txt phương thức và đó X-Robots-Tag alternative cho images. - Cách specify một canonical URL — vì sao không để dùng noindex để manage canonical selection trong một site.
Bing / Microsoft
- Cách Permanently Xóa một URL hoặc Trang từ Bing hoặc Copilot — Bing vĩnh viễn removal hướng dẫn (delete + mã trạng thái, hoặc NOINDEX).
- Block URLs từ Bing — Bing tạm thời Block URLs tool (đó parallel để Google Removals tool).
Quotes từ đó nguồn
On-đó-record statements từ Google và của nó reps. Mỗi link là một deep link đó jumps để đó quoted passage on đó trang nguồn.
Google — đó cốt lõi myth (crawling so với. lập chỉ mục)
- “If the page is blocked by a robots.txt file or the crawler can’t access the page, the crawler will never see the
noindexrule, and the page can still appear in search results, for example if other pages link to it.” (bản dịch) «Nếu đó trang là blocked by một robots.txt file hoặc đó crawler không thể access đó trang, đó crawler sẽ không bao giờ see đónoindexrule, và đó trang có thể vẫn xuất hiện trong kết quả tìm kiếm, ví dụ nếu other các trang link để điều này.» — Google Search Central tài liệu. Nhảy đến trích dẫn - “Don’t use robots.txt as a way to block your page.” (bản dịch) «không dùng robots.txt as một way để block trang của bạn.» — Google Search Central tài liệu. Nhảy đến trích dẫn
- “If a page is disallowed from crawling through the robots.txt file, then any information about indexing or serving rules will not be found and will therefore be ignored. If indexing or serving rules must be followed, the URLs containing those rules cannot be disallowed from crawling.” (bản dịch) «Nếu một trang là disallowed từ crawling qua đó robots.txt file, thì bất kỳ information về lập chỉ mục hoặc serving rules sẽ không là được tìm thấy và sẽ do đó là đã bỏ qua. Nếu lập chỉ mục hoặc serving rules phải được followed, đó URLs containing những rules không thể là disallowed từ crawling.» Nhảy đến trích dẫn
Google — đó Removals tool (tạm thời)
- “For quick removals, use the Removals tool to remove a page hosted on your site from Google’s search results within a day.” (bản dịch) «Cho nhanh removals, dùng đó Removals tool để xóa một trang hosted trên trang web của bạn từ Google kết quả tìm kiếm trong một day.» Nhảy đến trích dẫn
- “Requests made in the Removals tool last for about 6 months.” (bản dịch) «Các yêu cầu đã làm trong đó Removals tool cuối cùng cho về 6 months.» Nhảy đến trích dẫn
- “A successful request lasts only about six months.” (bản dịch) «MỘT successful yêu cầu lasts chỉ về six months.» — Search Console Help. Nhảy đến trích dẫn
- “Blocking a URL does not prevent Google from crawling your page, only from showing it in Search results.” (bản dịch) «Blocking một URL không ngăn Google từ crawling trang của bạn, chỉ từ cho thấy điều này trong Kết quả tìm kiếm.» — Search Console Help. Nhảy đến trích dẫn
Google — vĩnh viễn các phương thức
- “Password-protect your page. Limiting access to your page enables the right users to view your page, while preventing Googlebot and other web crawlers from accessing it.” (bản dịch) «Password-bảo vệ trang của bạn. Limiting access để trang của bạn enables đó right người dùng để view trang của bạn, trong khi preventing Googlebot và other web các crawler từ accessing điều này.» Nhảy đến trích dẫn
- 404 và 410: “Both status codes mean that the page does not exist, which will drop such URLs from Google’s index once they’re crawled and processed.” (bản dịch) «Cả hai các mã trạng thái có nghĩa là đó trang không exist, mà sẽ drop such URLs từ Google chỉ mục khi họ là được crawl và processed.» Nhảy đến trích dẫn
- Đó 2019 deprecation: “we’re retiring all code that handles unsupported and unpublished rules (such as noindex) on September 1, 2019.” (bản dịch) «chúng ta là retiring all code đó xử lý unsupported và unpublished rules (such as noindex) on September 1, 2019.» — Gary Illyes, Google. Nhảy đến trích dẫn
Google — canonical so với. noindex, và images
- “We don’t recommend using noindex to prevent selection of a canonical page within a single site, because it will completely block the page from Search.” (bản dịch) «We không khuyến nghị dùng noindex để ngăn selection of một canonical trang trong một single site, vì điều này sẽ completely block đó trang từ Tìm kiếm.» Nhảy đến trích dẫn
- “To prevent images from your site appearing in Google’s search results, add a robots.txt file to the root of the site that hosts the image.” (bản dịch) «Để ngăn images từ trang web của bạn appearing trong Google kết quả tìm kiếm, thêm một robots.txt file để đó root of đó site đó hosts đó image.» Nhảy đến trích dẫn
Google — đó non-owner tools
- “Use the Refresh Outdated Content tool to have Google update search results for pages or images that no longer exist, or pages that have deleted important (sensitive or critical) content.” (bản dịch) «Dùng đó Refresh Outdated Nội dung tool để có Google cập nhật kết quả tìm kiếm cho các trang hoặc images đó không lâu hơn exist, hoặc các trang đó có deleted quan trọng (sensitive hoặc cốt yếu) nội dung.» — Search Console Help. Nhảy đến trích dẫn
- “If you don’t own the page, see Remove your personal information from Google instead.” (bản dịch) «Nếu bạn không own đó trang, see Xóa của bạn personal information từ Google thay vì.» — Google Search Central, “Remove a page hosted on your site from Google” (bản dịch) «Xóa một trang hosted trên trang web của bạn từ Google» (confirmed trực tiếp, cuối cùng đã cập nhật 2025-12-10 UTC theo đó trang own footer). Đọc đó doc
Bing — Block URLs (tạm thời, ~90 days)
- “This feature allows you to block a URL from appearing in the Bing search results. This block will remain in place for maximum of 90 days. If the URL still returns a 200 OK code when visited by our crawler after 90 days, it will reappear in our search results.” (bản dịch) «Tính năng này cho phép bạn chặn một URL khỏi xuất hiện trong kết quả tìm kiếm Bing. Lệnh chặn này sẽ có hiệu lực tối đa 90 ngày. Nếu đó URL vẫn trả về mã 200 OK khi crawler của chúng tôi truy cập sau 90 ngày, URL đó sẽ xuất hiện lại trong kết quả tìm kiếm của chúng tôi.» — Bing Quản trị viên web Tools interface text. Bing Block URLs help
Google reps
- “Why would you need to unindex them? … (Also, to unindex, don’t block with robots.txt, use noindex instead.)” (bản dịch) «Vì sao sẽ bạn cần để unindex them? … (Cũng, để unindex, không block với robots.txt, dùng noindex thay vì.)» — John Mueller, Google, March 8, 2021. Đọc bài đưa tin
- On đó không chính thức
noindex:robots.txt directive: điều này “sticks out like a nun in a mosh pit.” (bản dịch) «sticks out như một nun trong một mosh pit.» — Gary Illyes, Google, April 2019. Nhảy đến trích dẫn - On đó Removals tool cho verified owners: “It works very quickly.” (bản dịch) «Điều này hoạt động very quickly.» — John Mueller, Google. Nhảy đến trích dẫn
Mà removal phương thức nên I dùng?
Câu trả lời một couple of các câu hỏi và land on đó right phương thức cho của bạn situation.
Deindexing decision tree
Deindexing mistakes để tránh
Đó recurring self-inflicted failures, mỗi với vì sao đây là sai và điều cần làm thay vì.
Blocking một trang trong robots.txt để xóa điều này
- Vì sao đây là sai: robots.txt controls crawling, không lập chỉ mục. MỘT blocked URL có thể
vẫn là được lập chỉ mục qua links, và Google không thể đọc bất kỳ nội dung hoặc
noindextag on một trang điều này không thể crawl. Bạn thường end lên với “Indexed, though blocked by robots.txt.” (bản dịch) «Được lập chỉ mục, though blocked by robots.txt.» - Làm thay vì: leave đó trang crawlable và thêm
noindex— hoặc delete điều này (404/410).
Combining một robots.txt disallow với một noindex tag (“belt and suspenders” (bản dịch) «belt và suspenders»)
- Vì sao đây là sai: đây là actively counterproductive. Đó disallow ngăn Google
từ bao giờ crawling đó trang, so điều này không bao giờ sees đó
noindex— Google tài liệu chẳng hạn một disallowed trang lập chỉ mục rules “will not be found and will therefore be ignored.” (bản dịch) «sẽ không là được tìm thấy và sẽ do đó là đã bỏ qua.» bạn đã guaranteed đó removal fails. - Làm thay vì: pick một. Để xóa, dùng
noindexvới crawling được phép; chỉ consider robots.txt sau đó trang có dropped (và know điều này vẫn sẽ không dừng link-based lập chỉ mục).
Trying để noindex bên trong robots.txt itself
- Vì sao đây là sai: đó không chính thức
noindex:directive đã là không bao giờ một tiêu chuẩn, và Google formally retired ngay cả của nó không chính thức xử lý on September 1, 2019. - Làm thay vì: dùng một
noindexmeta tag hoặcX-Robots-Tagheader on đó trang.
Treating đó Removals tool as vĩnh viễn
- Vì sao đây là sai: đây là explicitly tạm thời — “a successful request lasts only about six months” (bản dịch) «một successful yêu cầu lasts chỉ về six months» — và điều này không dừng crawling. Đó trang có thể trả về khi đó yêu cầu expires.
- Làm thay vì: treat điều này as emergency triage và apply một vĩnh viễn phương thức
(
noindex, 404/410, hoặc password protection) during đó window.
Dùng noindex để manage duplicate/canonical selection trong trang web của bạn
- Vì sao đây là sai: Google explicitly không khuyến nghị điều này —
noindexfully chặn đó trang từ Tìm kiếm thay vì consolidating các tín hiệu onto đó version bạn’d giữ. - Làm thay vì: dùng
rel="canonical"cho genuine duplicates; reservenoindexcho các trang bạn truly không muốn trong tìm kiếm tại all.
Assuming robots.txt không bao giờ hoạt động cho bất cứ điều gì — including images
- Vì sao đây là sai: cho images, robots.txt (qua
Googlebot-Image) là Google sanctioned removal phương thức, vì image lập chỉ mục phụ thuộc vào crawling đó file trực tiếp. Đó myth là về các trang, không images. - Làm thay vì: dùng một
Googlebot-Imagedisallow để xóa images; dùngnoindex(crawlable) cho các trang.
Expecting removal để là instant
- Vì sao đây là sai: mỗi vĩnh viễn phương thức chờ on Google recrawling đó URL để see đó thay đổi. Chỉ đó Removals tool là fast.
- Làm thay vì: nếu đây là urgent, dùng đó Removals tool đầu tiên; nếu không là patient và tùy chọn yêu cầu recrawl trong URL Inspection.
SOP — permanently xóa một trang bạn own từ Google
MỘT repeatable procedure cho taking một single URL out of Google chỉ mục cho good.
- Decide đó outcome. Nên đó nội dung vẫn exist cho người dùng? Nếu có →
noindex. Nếu đây là riêng tư → password protection. Nếu điều này nên dừng existing → 404/410. Nếu đây là một duplicate of một trang bạn’d giữ →rel="canonical"(đó là consolidation, không removal). Dùng đó Các cây quyết định tab nếu unsure. - Xác nhận đó trang là crawlable. Kiểm tra
robots.txt— đó URL phải không là disallowed, hoặc Google không thể see bất kỳ tag bạn thêm. Xóa bất kỳ conflictingDisallowđầu tiên. - Apply đó vĩnh viễn phương thức:
- noindex: thêm
<meta name="robots" content="noindex">để đó<head>, hoặc setX-Robots-Tag: noindextrong đó HTTP header (cho PDFs/non-HTML). - delete: xóa đó nội dung và configure đó máy chủ để trả về 404 hoặc 410 cho đó URL.
- password: put đó trang behind authentication.
- noindex: thêm
- (Tùy chọn) Nếu đây là urgent, submit một Removals yêu cầu trong Search Console (Lập chỉ mục → Removals → New yêu cầu) để hide điều này trong một day. Remember này là tạm thời (~6 months) — đó vĩnh viễn phương thức từ step 3 là điều gì làm điều này stick.
- Yêu cầu một recrawl. Trong URL Inspection, chạy “Test live URL” (bản dịch) «Kiểm thử trực tiếp URL» thì “Request indexing” (bản dịch) «Yêu cầu lập chỉ mục» so Google re-fetches đó trang và sees đó thay đổi sooner.
- Verify. Sau Google recrawls, xác nhận trong URL Inspection đó trang là không
lâu hơn được lập chỉ mục (cho
noindex, điều này nên báo cáo đó trang as excluded by đó noindex tag; cho 404/410, as không tìm thấy). Nếu điều này vẫn cho thấy, theo Google đây là thường chỉ đó trang hasn’t đã recrawled tuy vậy. - không undo yourself. Làm không sau đó thêm một robots.txt disallow để đó giống nhau URL thinking đây là extra-safe — đó sẽ dừng Google từ re-confirming đó noindex/404 on tương lai crawl.
Deindexing checklist
Trước và sau khi bạn try để xóa một trang:
- Confirmed mà phương thức fits đó situation (noindex / 404-410 / password / canonical / Removals tool / Refresh Outdated Nội dung).
- Đó đích URL là không blocked trong
robots.txt(bắt buộc chonoindex, 404/410, và canonical để là seen). - Bạn là không combining một robots.txt disallow với một
noindextag. - Cho một trang đó nên stay trực tiếp:
noindexapplied qua meta tag hoặcX-Robots-Tag, crawling được phép. - Cho một deleted trang: máy chủ trả về 404 hoặc 410 (không một soft-404 với một 200 status).
- Cho riêng tư nội dung: trang là behind authentication (không paywall markup trừ khi đây là genuinely subscription nội dung).
- Cho duplicates:
rel="canonical"dùng thay vìnoindex. - Cho images:
Googlebot-Imagedisallow trongrobots.txt(hoặc X-Robots-Tag với crawling được phép). - Nếu urgent: Removals yêu cầu được gửi và một vĩnh viễn phương thức applied trong đó giống nhau window.
- Nếu bạn không own đó trang: confirmed mà non-owner tool fits — Refresh Outdated Nội dung (stale/đã-đã xóa nội dung) so với. Google “Remove your personal information from Google” (bản dịch) «Xóa của bạn personal information từ Google» troubleshooter (personal/sensitive-info cases) — và, cho Refresh Outdated Nội dung, đó nội dung là đã biến mất/changed on đó trực tiếp trang.
- Recrawl requested trong URL Inspection; removal verified sau Google refetches.
Deindexing bảng tra nhanh
Điều gì mỗi phương thức làm
| Phương thức | Xóa trang? | Trang vẫn giữ trực tiếp cho người dùng? | Tạm thời hoặc vĩnh viễn | Phải stay crawlable? |
|---|---|---|---|---|
noindex (meta / X-Robots-Tag) | Có | Có | Vĩnh viễn | Có |
| 404 / 410 | Có (khi recrawled) | Không | Vĩnh viễn | Có (để see đó status) |
| Password protection | Có | Chỉ cho logged-trong người dùng | Vĩnh viễn | n/một (chặn crawler) |
rel="canonical" | Không (consolidates) | Có | n/một | Có |
| Removals tool | Hides chỉ | Có | Tạm thời (~6 mo) | n/một |
| Refresh Outdated Nội dung | Cập nhật kết quả | n/một (non-owner) | Until recrawl | n/một |
robots.txt disallow | Không (các trang) / Có (images) | Có | — | — |
Fast facts
- robots.txt disallow làm không deindex một trang — điều này chặn crawling, không lập chỉ mục.
- Không bao giờ combine một robots.txt disallow với
noindex— đó noindex là không bao giờ seen. - Removals tool: Google ~6 months; Bing Block URLs ~90 days — cả hai tạm thời.
- 404 so với 410: cả hai hoạt động; 410 là marginally nhanh hơn.
- robots.txt là đó sanctioned way để xóa images (
Googlebot-Image). - không dùng
noindexcho canonical selection trong một site — điều này fully chặn đó trang. - Không có gì nhưng đó Removals tool là instant — đó rest chờ on một recrawl.
Đó hai-line mental model
- Muốn điều này đã biến mất nhưng usable? Cho phép crawling +
noindex. - Muốn điều này đã biến mất forever? Delete điều này (404/410). Urgent? Removals tool đầu tiên, thì một vĩnh viễn phương thức.
Snippets cho deindexing hoạt động
Thêm một noindex meta tag (HTML <head>)
<meta name="robots" content="noindex">Set noindex qua X-Robots-Tag (Apache .htaccess) — cho PDFs / non-HTML
<Files "private-report.pdf">
Header set X-Robots-Tag "noindex"
</Files>Set noindex qua X-Robots-Tag (Nginx)
location = /private-report.pdf {
add_header X-Robots-Tag "noindex";
}Trả về một 410 Đã biến mất cho một retired URL (Apache)
Redirect 410 /old-retired-page/Xóa an image từ Google (robots.txt — đó sanctioned image phương thức)
User-agent: Googlebot-Image
Disallow: /images/private-photo.jpgKiểm tra một URL’s mã trạng thái và lập chỉ mục các header (shell)
# Confirm the server returns 404/410, or shows the X-Robots-Tag noindex header
curl -sI https://example.com/old-page/ | grep -iE 'HTTP/|x-robots-tag'Verify một trang không accidentally blocked trong robots.txt trước khi bạn noindex (shell)
# Print the robots.txt so you can confirm the URL is NOT under a Disallow
curl -s https://example.com/robots.txtTìm noindex/blocking directives on một trực tiếp trang — Chrome DevTools Console
// Paste in the Console on the page you're auditing.
// Reports any robots meta tag and the value of the noindex directive.
const m = document.querySelector('meta[name="robots"], meta[name="googlebot"]');
console.log('robots meta:', m ? m.content : '(none)');
console.log('has noindex:', !!(m && /noindex/i.test(m.content)));Bookmarklet — flag liệu đó hiện tại trang là set để noindex
javascript:(function(){var m=document.querySelector('meta[name="robots"],meta[name="googlebot"]');var c=m?m.content:'';alert('robots meta: '+(c||'(none)')+'\nnoindex: '+(/noindex/i.test(c)?'YES':'no'));})();Extract mỗi <a href> pointing tại một URL bạn là về để xóa — DevTools Console
// Find internal links to the page you're deindexing so you can update/remove them
// (a page with no inbound links is far less likely to linger via link-based indexing).
const target = '/old-page/';
[...document.querySelectorAll('a[href]')]
.filter(a => a.getAttribute('href').includes(target))
.forEach(a => console.log(a.getAttribute('href'), '←', a.textContent.trim()));Remember: cho noindex và 404/410 để take effect, đó URL phải stay crawlable
— không bao giờ pair bất kỳ of những với một robots.txt disallow on đó giống nhau URL.
Phổ biến deindexing các vấn đề
Real symptoms readers hit trong khi trying để xóa một trang, với đó có khả năng nguyên nhân và đó cách sửa.
”Indexed, though blocked by robots.txt” (bản dịch) «Được lập chỉ mục, though blocked by robots.txt» trong Search Console
- Symptom: đó Trang Lập chỉ mục báo cáo cho thấy đó URL dưới này status — Google có điều này được lập chỉ mục nhưng đó nội dung là grayed out / không previewable.
- Có khả năng nguyên nhân: đó URL là disallowed trong
robots.txt, nhưng Google được tìm thấy điều này qua inbound links và được lập chỉ mục đó URL anyway (điều này chỉ không thể đọc đó trang để see bất kỳnoindextag). - Cách sửa: decide điều gì bạn thực ra muốn. Để giữ đó trang đã xóa, xóa đó
robots.txtdisallow, leave đó trang crawlable, và thêmnoindex(hoặc delete điều này). Xác nhận đó cách sửa với đó robots-txt-tester tool (/tools/robots-txt-tester) và re-kiểm tra đó status trong Search Console sau Google recrawls.
Trang vẫn cho thấy trong tìm kiếm sau khi bạn đã thêm noindex
- Symptom: bạn đã thêm một
noindexmeta tag hoặcX-Robots-Tagdays ago, nhưng đó URL vẫn trả về trong mộtsite:tìm kiếm hoặc Search Console vẫn lists điều này as được lập chỉ mục. - Có khả năng nguyên nhân: gần như luôn một of hai điều — Google hasn’t recrawled đó
trang tuy vậy, hoặc đó trang là cũng blocked trong
robots.txtso Google không thể see đó tag tại all. - Cách sửa: kiểm tra
robots.txtkhông disallowing đó URL, thì dùng URL Inspection để “Test live URL” (bản dịch) «Kiểm thử trực tiếp URL» và xác nhận đó tag là present trong đó trực tiếp được kết xuất phản hồi, thì “Request indexing.” (bản dịch) «Yêu cầu lập chỉ mục.» Theo Google, một lingering được lập chỉ mục trang saunoindexlà thường chỉ “we haven’t crawled the page since you added the rule.” (bản dịch) «we haven’t được crawl đó trang since bạn đã thêm đó rule.»
MỘT Removals-tool yêu cầu expired và đó trang nghĩ ra lại
- Symptom: một trang bạn hid với đó GSC Removals tool reappears trong tìm kiếm vài months sau đó.
- Có khả năng nguyên nhân: đó Removals tool là tạm thời by design (về six months) — nếu không vĩnh viễn phương thức đã là applied during đó window, đó URL là eligible để là shown again khi đó yêu cầu expires.
- Cách sửa: re-kiểm tra xem một vĩnh viễn phương thức (
noindex, 404/410, hoặc password protection) đã là bao giờ applied. Nếu không, apply một hiện tại và submit một fresh Removals yêu cầu để bridge đó khoảng trống trong khi điều này takes effect.
Deleted trang (404/410) vẫn xuất hiện trong kết quả
- Symptom: đó trang trả về một genuine 404 hoặc 410 khi bạn kiểm tra điều này trực tiếp, nhưng đây là vẫn listed trong kết quả tìm kiếm.
- Có khả năng nguyên nhân: Google hasn’t recrawled và processed đó mã trạng thái tuy vậy — removal chỉ happens “once they’re crawled and processed,” (bản dịch) «khi họ là được crawl và processed,» không đó moment đó mã trạng thái thay đổi.
- Cách sửa: xác nhận đó mã trạng thái với đó HTTP Status Checker
(
/tools/http-status-checker), thì yêu cầu một recrawl qua URL Inspection. Nếu đây là urgent, dùng đó Removals tool trong đó meantime.
An image vẫn cho thấy trong Google Images sau một robots.txt block
- Symptom: bạn đã thêm một
Googlebot-Imagedisallow nhưng đó image là vẫn appearing trong Google Images kết quả. - Có khả năng nguyên nhân: either đó disallow rule không match đó thực tế image path, một
syntax lỗi elsewhere trong
robots.txtlà interfering, hoặc đó image hasn’t đã recrawled/dropped tuy vậy. - Cách sửa: verify đó chính xác disallow path matches đó image URL với đó
robots-txt-tester tool (
/tools/robots-txt-tester), và cho điều này time — image kết quả cập nhật on Google thông thường recrawl schedule, không instantly.
Thứ hạng dropped sau noindex-ing một “duplicate” trang
- Symptom: bạn
noindexed điều gì bạn thought đã là một duplicate trang để “sạch lên” đó chỉ mục, và đó site overall visibility cho đó nội dung dropped thay vì consolidating. - Có khả năng nguyên nhân:
noindexkhông consolidate các tín hiệu onto một sản phẩm khác URL — điều này chỉ xóa đó trang từ Tìm kiếm hoàn toàn. Nếu đó hai các trang đã không truly redundant, hoặc nếu bạn needed đó các tín hiệu xếp hạng để fold onto đó other version,noindexđã là đó sai tool. - Cách sửa: cho genuine duplicates, dùng
rel="canonical"pointing tại đó version bạn muốn để giữ thay vì — kiểm tra đó hiện tại canonical mối quan hệ với đó Canonical Checker (/tools/canonical-checker).
Tools cho deindexing hoạt động
Verify đó crawling và các tín hiệu lập chỉ mục trực tiếp thay vì guessing.
- Robots.txt Tester — kiểm tra xem một URL là
disallowed trước khi bạn rely on
noindex, 404/410, hoặc một canonical thực ra đang seen by Google. Này là đó đầu tiên kiểm tra cho gần như mỗi phương thức trên, since all of them require đó trang để stay crawlable. - HTTP Status Checker — xác nhận một “deleted” URL là
genuinely returning 404 hoặc 410 (và không một soft-404 serving một 200), và xác nhận một
trang bạn
noindexed là vẫn returning 200 với đó tag present. - Canonical Checker — verify mà URL Google là thực ra treating as canonical khi bạn là consolidating duplicates thay vì removing them.
- Google Search Console CSV Trình phân tích — review Search Console’s Trang Lập chỉ mục dữ liệu, including statuses như “Indexed, though blocked by robots.txt,” (bản dịch) «Được lập chỉ mục, though blocked by robots.txt,» không có digging qua đó UI by hand.
Bên thứ ba tools worth dùng alongside những: Google Search Console itself cho
đó Removals tool, URL Inspection, và đó Trang Lập chỉ mục báo cáo; Bing Quản trị viên web
Tools cho đó Block URLs tool; và Screaming Frog cho auditing robots.txt,
các mã trạng thái, và canonical tags trên một toàn bộ site trước một bulk removal push.
Validation các kiểm thử — đã làm đó removal thực ra take effect?
Machine-verifiable kiểm tra cho mỗi vĩnh viễn phương thức, so bạn là không chỉ assuming Google saw đó thay đổi.
Kiểm thử: noindex tag là present và đó trang là crawlable
- Kiểm thử để chạy: chạy đó URL qua đó Robots.txt Tester
(
/tools/robots-txt-tester) để xác nhận đây là không disallowed, thì chạycurl -sI https://example.com/page/(hoặc kiểm tra đó được kết xuất<head>/phản hồi các header) cho đónoindexmeta tag hoặcX-Robots-Tag: noindexheader. - Dự kiến kết quả: đó URL là được phép trong
robots.txtVÀ either đó meta tag hoặc header cho thấynoindex. - Failure interpretation: nếu
robots.txtdisallows đó URL, đónoindexsẽ không bao giờ là seen — cách sửa đó disallow đầu tiên. Nếu neither đó tag nor header là present, đó removal yêu cầu có không có gì để act on. - Monitoring window: immediate cho đó tag/header kiểm tra itself; 1–2 weeks cho Google recrawl và đó resulting drop từ đó chỉ mục.
- Rollback trigger: nếu đó trang cần để come lại, xóa đó
noindextag/header và yêu cầu lập chỉ mục again — có không có gì khác để undo.
Kiểm thử: deleted trang trả về 404/410, không một soft-404
- Kiểm thử để chạy: đó HTTP Status Checker (
/tools/http-status-checker) hoặccurl -I https://example.com/old-page/. - Dự kiến kết quả: một genuine
404hoặc410mã trạng thái trong đó HTTP phản hồi, không một200đó happens để display an thông báo lỗi (một soft 404). - Failure interpretation: một
200status với lỗi-trang nội dung có nghĩa là Google vẫn xử lý đó URL as một trực tiếp, indexable trang — đó mã trạng thái là điều gì có để thay đổi, không chỉ đó visible nội dung. - Monitoring window: immediate cho đó mã trạng thái; 1–4 weeks cho đó URL để thực ra drop out of Google chỉ mục khi recrawled và processed.
- Rollback trigger: nếu đó trang cần để trả về, restore đó nội dung và serve một
200again, thì yêu cầu lập chỉ mục.
Kiểm thử: robots.txt không phải blocking một trang bạn muốn đã xóa qua noindex hoặc deletion
- Kiểm thử để chạy: Robots.txt Tester (
/tools/robots-txt-tester) so với đó chính xác URL, hoặccurl -s https://example.com/robots.txtvà kiểm tra đó URL so với đó rules by hand. - Dự kiến kết quả: đó URL là được phép (không matching
Disallow). - Failure interpretation: nếu đó URL là disallowed, bất kỳ
noindextag hoặc status code thay đổi on đó URL sẽ không bao giờ là seen by Google — này là đó single hầu hết phổ biến reason một removal “doesn’t work.” (bản dịch) «không hoạt động.» - Monitoring window: immediate.
- Rollback trigger: n/một — này là một precondition kiểm tra, không một thay đổi để roll lại.
Kiểm thử: canonical consolidation là đang respected
- Kiểm thử để chạy: đó Canonical Checker (
/tools/canonical-checker) on cả hai đó duplicate và đó được ưu tiên URL, và Search Console’s URL Inspection tool “Google-selected canonical” (bản dịch) «Google-được chọn canonical» trường. - Dự kiến kết quả: Google được chọn canonical matches đó URL bạn declared.
- Failure interpretation: nếu Google selects một khác nhau canonical hơn đó một
bạn specified, đây là dùng other các tín hiệu (liên kết nội bộ, sitemaps) để override của bạn
declaration — kiểm tra những các tín hiệu thay vì thêm
noindexđể force đó vấn đề. - Monitoring window: 2–4 weeks — canonical selection không phải instant và có thể shift as Google re-evaluates các tín hiệu.
- Rollback trigger: nếu consolidation gây ra một visibility drop cho nội dung đó đã không truly duplicate, xóa đó canonical tag và let cả hai URLs chỉ mục independently.
Kiểm thử: Removals-tool yêu cầu là active và một vĩnh viễn phương thức là trong place trước điều này expires
- Kiểm thử để chạy: kiểm tra đó yêu cầu status trong Search Console (Lập chỉ mục → Removals),
và riêng xác nhận đó vĩnh viễn phương thức (
noindex, 404/410, hoặc password) là trực tiếp dùng đó relevant kiểm thử trên. - Dự kiến kết quả: đó Removals entry cho thấy “Đã xóa” và đó vĩnh viễn phương thức own kiểm thử cũng truyền.
- Failure interpretation: nếu đó Removals entry là active nhưng đó vĩnh viễn phương thức kiểm thử fails, đó trang sẽ reappear khi đó ~6-month window expires.
- Monitoring window: kiểm tra again well trước đó 6-month mark (set một reminder tại ~4 months) so có time để cách sửa một failed vĩnh viễn phương thức trước expiry.
- Rollback trigger: nếu removal đã là một mistake, cancel đó Removals yêu cầu trong
Search Console và xóa đó vĩnh viễn phương thức (undo
noindex, restore đó nội dung, hoặc xóa đó password wall).
Deindexing choices trong thực tế
Giữ đó trang cho người dùng, xóa điều này từ tìm kiếm
Trước: an internal account trang trả về 200, là publicly reachable, và có thể
xuất hiện trong tìm kiếm. Sau: giữ điều này crawlable và trả về noindex; không block điều này
trong robots.txt, vì các crawler phải fetch đó trang để see đó directive.
Delete nội dung với không replacement
Trước: an expired trang trả về 200 mặc dù của nó nội dung là đã biến mất. Sau:
trả về 404 hoặc 410 và xóa điều này từ liên kết nội bộ và sitemaps. Không chuyển hướng
điều này để an irrelevant homepage merely để tránh một 404.
Consolidate một đúng duplicate
Trước: hai tương đương URLs là indexable và compete as tách biệt candidates.
Sau: chuyển hướng đó duplicate khi người dùng không cần điều này, hoặc giữ điều này crawlable với
một canonical pointing để đó được ưu tiên URL. Này là consolidation, không một noindex job.
Hide sensitive material immediately và permanently
Trước: một riêng tư document là công khai và được lập chỉ mục. Sau: restrict access hoặc xóa điều này tại đó máy chủ, dùng đó Search Console Removals tool cho tạm thời tìm kiếm suppression, và giữ đó vĩnh viễn access/removal control trong place.
Tự kiểm tra: deindexing
Five các câu hỏi on cách thực ra nhận một trang out of Google. Pick an câu trả lời cho mỗi, thì kiểm tra.
Các tài nguyên worth của bạn time
My related writing
- Cách Xóa URLs Từ Google Search (5 Các phương thức) — my own walkthrough of đó five removal các phương thức, including đó Google-so với-Bing tool-duration so sánh.
- “Indexed, though blocked by robots.txt” (bản dịch) «Được lập chỉ mục, though blocked by robots.txt» Có thể Là Hơn MỘT Robots.txt Block — vì sao blocked các trang vẫn nhận được lập chỉ mục, và đó four distinct gây ra of đó Search Console status.
- Robots.txt và SEO: Mọi thứ Bạn Cần để Know — điều gì robots.txt làm (crawling) và không (lập chỉ mục) làm.
- Đó Beginner Hướng dẫn để SEO kỹ thuật — nơi lập chỉ mục controls fit trong đó bigger picture.
My speaking
- Cách Tìm kiếm Hoạt động (SlideShare) — my walkthrough of crawling, kết xuất, lập chỉ mục, và serving, nơi deindexing controls trực tiếp. (My standing disclaimer áp dụng: “This is my understanding of systems… not going to be 100% complete or accurate.” (bản dịch) «Này là my understanding of các hệ thống… không going để là 100% hoàn tất hoặc chính xác.»)
Chính thức
- Google — Xóa một trang hosted trên trang web của bạn từ Google và Block Tìm kiếm Lập chỉ mục với noindex.
- Google — MỘT note on unsupported rules trong robots.txt (Gary Illyes, 2019) — đó noindex-trong-robots.txt deprecation.
Từ khoảng đó ngành
- Khi Unindexing Các trang Từ Google Search Dùng Noindex, Không Robots.txt (Công cụ tìm kiếm Roundtable, Schwartz) — John Mueller 2021 tweet on dùng noindex over robots.txt để unindex.
- Google John Mueller Clarifies Cách Xóa Các trang Từ Tìm kiếm (Search Engine Journal, Southern) — Mueller hai-step “allow crawling, then noindex” (bản dịch) «cho phép crawling, thì noindex» model và “it works very quickly” (bản dịch) «điều này hoạt động very quickly» on đó Removals tool.
- Google Có thể Thay đổi Cách NoIndex Trong Robots.txt Hoạt động (Công cụ tìm kiếm Roundtable) — đó origin of đó 2019 deprecation, với Gary Illyes “nun in a mosh pit” (bản dịch) «nun trong một mosh pit» line.
- John Mueller Site Không Lâu hơn Trong Google Search (Công cụ tìm kiếm Roundtable) — đó March 2024 cautionary tale of Mueller own site vanishing over một robots.txt phân tích cú pháp trường hợp biên.
- Điều gì là một Noindex Tag? (Ahrefs glossary) — một đơn giản-language reference on đó noindex directive và vì sao canonical (không noindex) là đó tool cho duplicate nội dung.
- r/TechSEO — đó community cho crawl/chỉ mục và deindexing gỡ lỗi.
Nhật ký thay đổi
Đã cập nhật 8 thg 8, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.
Đã cập nhật 2 thg 8, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.
Đã cập nhật 18 thg 7, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
- Advanced
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
- Decision Trees
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
- Quotes from the Source
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.
Đã cập nhật 16 thg 7, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
- Advanced
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.