Hướng dẫn về GSC BigQuery Export
Cách dùng đó Google Search Console BigQuery export để query unsampled daily nhấp và impression dữ liệu với không UI hàng cap (ẩn danh các truy vấn vẫn excluded), đó khác biệt giữa đó UI và đó thô export, setup, cost mechanics, và đó không-backfill gotcha.
Ngôn ngữ
Cho website properties, đó GSC BigQuery bulk export schedules một daily, unsampled dump of Performance dữ liệu—minus ẩn danh các truy vấn—vào BigQuery, bypassing đó UI hàng cap và 16-month retention window. Điều này tạo site-cấp độ, URL-cấp độ, và export-log các bảng, không backfill, requires billing, và có thể incur query costs. Google hiện tại hỗ trợ Instagram, TikTok, X, và YouTube nền tảng properties, nhưng của nó hiện tại nền tảng tài liệu không promise BigQuery hỗ trợ cho them; không assume này pipeline áp dụng để social accounts.
Tóm tắt — GSC BigQuery export (Google calls nó bulk dữ liệu export) tự động copies của bạn Search Console dữ liệu vào Google Cloud database được gọi là BigQuery, sau khi day, với không hàng limit. nó Cách bạn nhận far nhiều hơn của bạn nhấp và impression dữ liệu hơn trimmed-xuống view Search Console UI hiển thị — though ẩn danh (hidden) các truy vấn stay hidden ở đây cũng. Hai catches để know lên front: nó không pull trong của bạn old dữ liệu (chỉ dữ liệu từ day bạn switch nó on, going forward), và nó cần Google Cloud billing account mặc dù có free usage tier.
Điều gì nó là
Search Console bulk dữ liệu export có thể gửi daily performance dữ liệu để BigQuery. Evidence for this claim Search Console bulk data export sends daily performance data to BigQuery in a configured Google Cloud project. Scope: Search Console bulk export; setup, permissions, quotas, and supported properties follow Google's current documentation. Confidence: high · Verified: Google: Bulk data export Google documents tách biệt trang web-impression, URL-impression, và export-log các bảng, với schema và aggregation limits đó quan trọng during analysis. Evidence for this claim Bulk export uses site-impression, URL-impression, and export-log tables with documented schemas. Scope: Google's published Search Console export schema; aggregation and privacy handling still affect analysis. Confidence: high · Verified: Google: Bulk export tables
điều này hướng dẫn covers trang web properties. Search Console’s newer Instagram, TikTok, X, và YouTube nền tảng properties có Performance, Insights, và Achievements reporting, nhưng Google hiện tại nền tảng-property tài liệu làm không document BigQuery bulk-export setup hoặc schema cho them. Treat nền tảng properties as unsupported ở đây trừ khi Google exposes setting và documents contract. LinkedIn không phải hiện tại supported nền tảng property.
Open Performance báo cáo trong Google Search Console và try để export nó. bạn’ll hit wall fast: UI caps phần lớn exports tại khoảng 1 000 các hàng, và nó chỉ hiển thị bạn khoảng cuối cùng 16 months của history. cho nhỏ trang web đó fine. cho big trang web với tens của thousands của các trang và huge variety của tìm kiếm các truy vấn, bạn’re seeing tiny slice của bạn thực dữ liệu.
Đó bulk dữ liệu export các cách sửa đó. đây là một switch bên trong Search Console đó says: “from now on, send my Performance data to BigQuery every day.” (bản dịch) «từ hiện tại on, gửi my Performance dữ liệu để BigQuery mỗi day.» BigQuery là Google dữ liệu warehouse — một place để store big các bảng và chạy các truy vấn on them. Khi đó export là đang chạy, bạn nhận unsampled daily dữ liệu với không 1 000-hàng cap, kept cho miễn là bạn muốn — với một standing exception: ẩn danh các truy vấn (đó ones Search Console hides cho quyền riêng tư) vẫn cho thấy lên as blank, giống nhau as trong đó UI. “No row limit” (bản dịch) «Không hàng limit» không đó giống nhau as “every query revealed.” (bản dịch) «mỗi query được tiết lộ.»
Vì sao anyone bothers
bạn’d đặt điều này lên nếu bạn muốn để:
- Analyze far nhiều hơn các truy vấn và các trang hơn UI hoặc export button sẽ cho bạn.
- giữ của bạn Search Console history lâu hơn 16 months (Search Console throws old dữ liệu away; BigQuery giữ whatever bạn giữ).
- Join của bạn Search Console dữ liệu với khác dữ liệu — của bạn Google phân tích dữ liệu, crawl, của bạn sản phẩm database — all trong một place.
hai điều để know trước khi bạn bắt đầu
- Điều này không backfill. Này là đó single hầu hết phổ biến surprise. Chuyển thành đó export on làm không go grab của bạn lịch sử dữ liệu. Điều này bắt đầu collecting từ đó day forward. Nếu bạn muốn history, bạn có để turn điều này on và thì chờ cho điều này để accumulate.
- đây là “free” với an asterisk. BigQuery có một free tier, và hầu hết nhỏ-để-mid các trang stay bên trong điều này. Nhưng bạn vẫn có để attach một Google Cloud billing account, và nếu bạn query đó dữ liệu carelessly — especially by pointing một trực tiếp dashboard tại đó thô các bảng — bạn có thể chạy lên một real bill.
là nó worth nó cho bạn?
Honestly, phần lớn các trang không cần điều này. nếu Search Console UI và Looker Studio được xây dựng-trong Search Console connector hiển thị bạn đủ, bạn’re đã xong — skip setup. bạn reach cho BigQuery export Khi bạn’re consistently hitting đó 1 000-hàng wall, Khi bạn cần nhiều hơn 16 months của history, hoặc Khi bạn muốn của bạn Tìm kiếm Console dữ liệu sitting tiếp theo để của bạn khác dữ liệu trong warehouse. nếu đó bạn, switch để Nâng cao tab cho đầy đủ setup, cost mechanics, và đầu tiên các truy vấn để chạy.
Tóm tắt — bulk dữ liệu export là scheduled daily, unsampled dump của bạn Search Console Performance dữ liệu vào BigQuery dataset — không ~1 000-hàng export cap, không ~16-month retention wall. nó lands three các bảng (
searchdata_site_impression,searchdata_url_impression,ExportLog). Setup: Google Cloud project với billing enabled, BigQuery + BigQuery Storage APIs on, hai IAM vai trò granted để Google export service account, sau đó Settings → Bulk dữ liệu export trong GSC. nó làm không backfill, vẫn các báo cáo ẩn danh các truy vấn as rỗng strings, và đầu tiên export lands trong ~48 hours. Cost là thực free tier plus theo-TB query charges — kinh điển bill xuất hiện từ dashboards querying thô các bảng trực tiếp. Think của nó as thứ ba rung: UI → API → bulk export.
ladder dưới là cho trang web properties. nó không phải evidence đó social hoặc video nền tảng properties hỗ trợ Search Console API hoặc BigQuery export.
Điều gì nó thực ra là
Bulk export là scheduled Search Console dữ liệu pipeline vào Google Cloud project, không independent xếp hạng-dữ liệu nguồn. Evidence for this claim Search Console bulk data export sends daily performance data to BigQuery in a configured Google Cloud project. Scope: Search Console bulk export; setup, permissions, quotas, and supported properties follow Google's current documentation. Confidence: high · Verified: Google: Bulk data export Các truy vấn phải respect được ghi lại các bảng, keys, và quyền riêng tư/aggregation behavior. Evidence for this claim Bulk export uses site-impression, URL-impression, and export-log tables with documented schemas. Scope: Google's published Search Console export schema; aggregation and privacy handling still affect analysis. Confidence: high · Verified: Google: Bulk export tables
Daniel Waisberg, một Tìm kiếm Advocate tại Google, mô tả điều này plainly: “A bulk data export is a scheduled daily export of your Search Console performance data. It includes all the data used by Search Console to generate performance reports. Data is exported to Google BigQuery, where you can run SQL queries for advanced data analysis or even export it to another system.” (bản dịch) «MỘT bulk dữ liệu export là một scheduled daily export of của bạn Search Console performance dữ liệu. Điều này bao gồm all đó dữ liệu dùng by Search Console để generate performance các báo cáo. Dữ liệu là exported để Google BigQuery, nơi bạn có thể chạy SQL các truy vấn cho advanced dữ liệu analysis hoặc ngay cả export điều này để một sản phẩm khác hệ thống.» (quoted trong Search Engine Journal).
Đó point là quy mô. Đó Search Console UI caps hầu hết exports khoảng 1 000 các hàng và cho thấy một rolling ~16-month window. Đó Search Console API cho bạn hơn nhưng là vẫn capped và rate-limited. Đó bulk export xóa đó hàng ceiling hoàn toàn và lets bạn decide cách dài để retain. Google own line từ đó announcement, as reproduced by Search Engine Land: “The daily data row limit does not impact this data, so you can extract more data using this method,” (bản dịch) «Đó daily dữ liệu hàng limit không impact này dữ liệu, so bạn có thể extract hơn dữ liệu dùng này phương thức,» và đó feature “could be particularly helpful for large websites with tens of thousands of pages.” (bản dịch) «có thể là particularly helpful cho lớn websites với tens of thousands of các trang.»
Điều gì dữ liệu bạn nhận: three các bảng
Mọi thứ lands trong dataset whose name luôn bắt đầu với searchconsole. Three
objects hiển thị lên (Bảng guidelines và reference):
searchdata_site_impression— “Contains performance data for your property aggregated by property.” (bản dịch) «Contains performance dữ liệu cho của bạn property được tổng hợp by property.» Key các trường:data_date(“The day on which the data in this row was generated (Pacific Time)” (bản dịch) «Đó day on mà đó dữ liệu trong này hàng đã là generated (Pacific Time)»),site_url(domain properties dùng đósc-domain:prefix),query,is_anonymized_query,country(ISO-3166-1 Alpha-3),search_type(web/image/video/news/discover/googleNews),device,impressions,clicks, vàsum_top_position.searchdata_url_impression— “Contains performance data for your property aggregated by URL.” (bản dịch) «Contains performance dữ liệu cho của bạn property được tổng hợp by URL.» Mọi thứ trên, plusurl(“The fully-qualified URL where the user eventually lands when they click the search result” (bản dịch) «Đó fully-qualified URL nơi người dùng eventually lands khi they nhấp đó tìm kiếm kết quả»),is_anonymized_discover, một family ofis_[search_appearance_type]boolean flags (e.g.is_amp_top_stories,is_job_listing,is_tpf_faq) so bạn có thể slice by rich-kết quả loại, vàsum_position. Này là đó granular bảng hầu hết analysis chạy on.ExportLog— “A record of what data was saved for that day. Failed exports are not recorded here.” (bản dịch) «MỘT record of điều gì dữ liệu đã là saved cho đó day. Failed exports không phải recorded ở đây.» Các trường bao gồmagenda(hiện tại chỉSEARCHDATA),namespace(mà bảng đã là được viết),data_date,epoch_version(“An integer, where 0 is the first time data was saved to this table” (bản dịch) «An integer, nơi 0 là đó đầu tiên time dữ liệu đã là saved để này bảng» — điều này increments khi Google sau đó revises một day dữ liệu), vàpublish_time.
Điểm quan trọng nhất là ngoại lệ về truy vấn ẩn danh. Ngay cả ở đây, ở cấp dữ liệu thô,
các truy vấn ẩn danh vẫn không được tiết lộ. Như phần mô tả trường của Google diễn đạt, khi
is_anonymized_query là đúng đó query trường “will be a zero-length string.” (bản dịch) «sẽ là một chuỗi có độ dài bằng không.»
Của họ các chỉ số là vẫn được tổng hợp vào của bạn totals, nhưng họ là không bao giờ có thể gán
để một cụ thể term — chính xác là cùng giới hạn mà giao diện và API cũng có. Này là một
vấn đề lớn ở quy mô lớn: trong my Ahrefs nghiên cứu of GSC hidden terms,
trên 146 741 websites và khoảng 9 billion clicks, 46,08% of all clicks went để
các truy vấn Google không tiết lộ — và nghiên cứu đó đã dùng Search Console API, mà
“allows us to get all of the data—and there’s still a lot missing.” (bản dịch) «cho phép chúng ta lấy toàn bộ dữ liệu — nhưng vẫn còn thiếu rất nhiều.» Đó BigQuery
export doesn’t recover any of it. If someone tells you bulk export “finally shows you
the hidden queries,” they’re wrong.
Cách đặt nó lên
flow (Bắt đầu new bulk dữ liệu export):
- Tạo hoặc pick một Google Cloud project với billing enabled. Theo Google: “Data is subject to Google Cloud storage and query costs, but there is a free usage level.” (bản dịch) «Dữ liệu là subject để Google Cloud storage và query costs, nhưng có một free usage cấp độ.» Bạn cần billing on ngay cả để stay bên trong đó free tier.
- Enable đó BigQuery API và đó BigQuery Storage API trong đó project.
- Grant Google export service account access. Thêm
search-console-data-export@system.gserviceaccount.comas một principal với hai IAM vai trò: BigQuery Job Người dùng (bigquery.jobUser) và BigQuery Dữ liệu Editor (bigquery.dataEditor). - Trong Search Console, go để Settings → Bulk dữ liệu export. Paste đó Cloud project ID (đó ID, không đó project number), chọn một dataset name, và chọn một dataset location. Note đó naming rule: “The dataset name always starts with the string searchconsole, even when you customize it.” (bản dịch) «Đó dataset name luôn bắt đầu với đó string searchconsole, ngay cả khi bạn customize điều này.» Nếu bạn set một partition-expiration policy on đó export own dataset, giữ điều này tại 14 days hoặc lâu hơn — Google documents một 14-day minimum, và going ngắn hơn là một được ghi lại failure nguyên nhân. Leave đó generated bảng schema untouched cũng; altering điều này là đó other được ghi lại way để break đó export (hơn trong Khắc phục sự cố dưới).
- Chờ. Google says đó export xử lý itself nên begin trong về một day of activation. “The first export will happen up to 48 hours after your successful configuration in Search Console,” (bản dịch) «Đó đầu tiên export sẽ happen lên để 48 hours sau của bạn successful configuration trong Search Console,» và đó đầu tiên phân phối contains chỉ đó day-of-export dữ liệu — không có gì từ trước setup (see đó không-backfill section tiếp theo). Sau đó điều này chạy daily until bạn dừng điều này.
Một practical expectation để đặt: Search Console dữ liệu lands với hai-day delay, so phần lớn gần đây day bạn’ll bao giờ có là hai days ago. Ask cho 30-day range và bạn effectively nhận về 28 days của usable dữ liệu.
không-backfill gotcha
Chẳng hạn điều này out loud, vì điều này burns mọi người: activating đó export không pull trong của bạn lịch sử dữ liệu. Điều này bắt đầu từ activation day và chỉ accumulates forward. Này là phổ biến đủ đó Google own community forum có multiple threads về điều này — “How to backfill with historical data when Bulk data export is activated” (bản dịch) «Cách backfill với lịch sử dữ liệu khi Bulk dữ liệu export là activated» (chuỗi trao đổi 300051568), chuỗi trao đổi 255704574, và chuỗi trao đổi 429248330. Antoine Eripret diễn đạt điều này bluntly trong his practitioner deep-dive: “You can’t get historical data: if you activate it today, you’ll have data from today.” (bản dịch) «Bạn không thể nhận lịch sử dữ liệu: nếu bạn activate điều này hôm nay, bạn’ll có dữ liệu từ hôm nay.» Đó takeaway là đơn giản — turn điều này on đó day bạn đầu tiên hear về điều này, ngay cả khi bạn là không ready để analyze bất cứ điều gì tuy vậy, so đó clock bắt đầu.
Điều gì nó costs, và Cách không để nhận surprised
Đó Google Cloud Blog post by Daniel Waisberg và Gaal Yahas sells đó upside — “If you have a large website, this solution will provide more queries and pages than the other data exporting solutions” (bản dịch) «Nếu bạn có một lớn website, này giải pháp sẽ cung cấp hơn các truy vấn và các trang hơn đó other dữ liệu exporting các giải pháp» và “Search Console stores up to sixteen months of data; using BigQuery you can store as much data as it makes sense to your organization” (bản dịch) «Search Console stores lên để sixteen months of dữ liệu; dùng BigQuery bạn có thể store as nhiều dữ liệu as điều này làm hợp lý để của bạn organization» — nhưng đó cost mechanics là on bạn.
As của điều này writing, BigQuery free tier là khoảng 10 GiB của storage free plus 1 TiB (~1 TB) của on-demand query processing free theo month; beyond đó nó về 6,25 USD theo TiB processed và khoảng 0,02 USD theo GB stored theo month (varies by region và storage class). Pricing thay đổi, so verify hiện tại numbers trước khi bạn quote them để anyone. phần lớn nhỏ-để-mid các trang stay free hoặc near-free.
bills come từ Cách bạn query, không Cách nhiều traffic bạn có. Hai điều quan trọng:
- Cost scales với query/từ khóa diversity, không thô traffic. As Trevor Fox diễn đạt điều này trong his hoàn tất hướng dẫn: “The volume of data that is more a factor of keyword variety than it is search volume. A site with a low search volume for lots of keywords will generate more data than a site with lots of search volume for a single keyword.” (bản dịch) «Đó volume of dữ liệu đó là hơn một factor of từ khóa variety hơn điều này là tìm kiếm volume. MỘT site với một thấp tìm kiếm volume cho lots of từ khóa sẽ generate hơn dữ liệu hơn một site với lots of tìm kiếm volume cho một single từ khóa.»
- không point một trực tiếp dashboard tại đó thô các bảng. Này là đó classic horror
story. Antoine Eripret được ghi lại Looker Studio scanning 23 TB trong một single day,
khoảng €115, khi wired trực tiếp để đó thô billion-hàng các bảng. Google own
BigQuery efficiency tips post
says đó giống nhau trong principle: pre-aggregate vào summary các bảng, filter on đó date
partition trong một
WHEREclause, tránhSELECT *, set budget alerts, và set partition-expiration để auto-delete old partitions.
khắc phục là boring nhưng effective: materialize của bạn query kết quả vào nhỏ vĩnh viễn summary các bảng on schedule, và point của bạn dashboards tại những điều đó, không tại thô export.
Querying: rules đó giữ bạn sane (và cheap)
từ Google query guidelines:
- Luôn aggregate. “Data in the tables is not guaranteed to be consolidated by
date, URL, site, or any combination of keys.” (bản dịch) «Dữ liệu trong đó các bảng không phải guaranteed để là consolidated by date, URL, site, hoặc bất kỳ combination of keys.» Translation: bạn’ll nhận multiple
các hàng cho đó giống nhau day/URL/query, so luôn
SUM()của bạn các chỉ số vàGROUP BYcủa bạn dimensions. Không bao giờ treat một single hàng as một finished number. - Filter đó date partition. “A good way to minimize query costs is to use a WHERE clause to limit the date range in the date partitioned table.” (bản dịch) «MỘT good way để minimize query costs là để dùng một NƠI clause để limit đó date range trong đó date partitioned bảng.»
- Drop ẩn danh các hàng khi bạn muốn real top các truy vấn. “An anonymized query is
reported as a zero-length string in the table” (bản dịch) «An ẩn danh query là reported as một zero-length string trong đó bảng» — so thêm
WHERE query != ''. - Position là zero-based. Cả hai các bảng store position starting tại 0, so average
position là
SUM(sum_top_position) / SUM(impressions) + 1(thêm đó 1).
Google ships sample các truy vấn cho daily web-tìm kiếm số liệu, top mobile các truy vấn by
country, Discover các URL by clicks, FAQ rich-kết quả performance (is_tpf_faq = true),
và brand-query theo dõi qua REGEXP_CONTAINS. Bắt đầu từ những điều đó.
Managing và khắc phục sự cố export
từ Manage và monitor bulk dữ liệu exports:
- Stopping không instant. Settings → Bulk dữ liệu export → Deactivate export. “Bulk exports will stop in the next 24 hours,” (bản dịch) «Bulk exports sẽ dừng trong đó tiếp theo 24 hours,» so một hơn day of dữ liệu có thể vẫn land sau khi bạn flip điều này off.
- Hai failure thresholds, không một. “Search Console retains data from failed exports for about a week.” (bản dịch) «Search Console retains dữ liệu từ failed exports cho về một week.» Và thì: “Search Console will stop trying to export data for a given date after about a week of failed attempts, and after about a month of failed export attempts, Search Console will stop the bulk export entirely.” (bản dịch) «Search Console sẽ dừng trying để export dữ liệu cho một được cho date sau về một week of failed attempts, và sau về một month of failed export attempts, Search Console sẽ dừng đó bulk export hoàn toàn.» So một sustained vấn đề không chỉ skip days — sau ~một month điều này shuts đó toàn bộ export off, và bạn’d có để set điều này lên again.
- Đó schema-thay đổi trap (và đó partition-expiration floor). Nếu bạn alter đó schema of an exported bảng, bạn break đó export. Google cũng requires ít nhất 14 days of partition expiration on đó export dataset — set điều này ngắn hơn và đó export có thể fail. Leave những các bảng alone; xây dựng của bạn own derived các bảng thay vì. (Other phổ biến gây ra of failure bao gồm exceeding của bạn Cloud project quota và revoking đó service account access.)
- Dùng đó Kiểm thử báo cáo. có một “Kiểm thử báo cáo” feature đó cho phép bạn verify certain correctable các vấn đề — project ID/credentials, permissions — không có đang chờ cho đó tiếp theo scheduled chạy. Note điều này không force an immediate re-export; kiểm tra back khoảng 24 hours sau đó để xác nhận đó cách sửa took.
- Search Console emails property owners khi export các lỗi bắt đầu và khi they resolve, và Settings cho thấy đó status of đó hầu hết gần đây export attempt.
nơi nó sits: UI → API → bulk export
Think của three rungs on ladder, mỗi removing limit một dưới nó hit:
- UI export — ~1 000 các hàng, ~16 months, không ẩn danh các truy vấn. Fine cho phần lớn.
- Search Console API — nhiều hơn các hàng, vẫn capped và rate-limited, vẫn không ẩn danh các truy vấn. Good cho quảng cáo-hoc và programmatic pulls.
- Bulk dữ liệu export — không hàng cap, retention bạn control, daily granular dữ liệu, được xây dựng cho warehousing và joins. vẫn không ẩn danh các truy vấn. không backfill.
và nuance older các hướng dẫn nhận sai: bạn’re không limited để một property theo Cloud
project anymore. Google sau đó được phép multiple properties vào single project sử dụng
distinct searchconsole_-prefixed dataset names.
Điều gì về Bing?
As của điều này writing, có không native tương đương. Bing Quản trị viên web Tools không offer đầu tiên-party BigQuery/bulk export — mà là chính xác Vì sao market của thứ ba-party ETL connectors (Supermetrics, Improvado, Catchr, và others) tồn tại để move Bing Quản trị viên web Tools dữ liệu vào BigQuery. nếu Bing có native pipe, đó market sẽ không. đó đã nói, connector không phải guaranteed để replicate GSC own export schema hoặc daily-partition behavior trường-cho-trường — kiểm tra bất kỳ connector được ghi lại phạm vi trước khi assuming parity. So nếu bạn muốn Bing dữ liệu trong BigQuery alongside của bạn GSC export, budget cho connector và verify Điều gì nó thực ra delivers. (xác nhận Đây là vẫn hiện tại trước khi citing nó — Bing own feature đặt có thể thay đổi.)
cho rộng hơn context on nơi điều này sits, see công cụ tìm kiếm Tools hub và của nó walkthroughs của Google Search Console và Bing Quản trị viên web Tools.
AI summary
condensed take on Nâng cao version:
- Điều gì nó là: bulk dữ liệu export — scheduled daily, unsampled dump của Search Console Performance dữ liệu vào Google Cloud BigQuery dataset. nó xóa UI ~1 000-hàng export cap và của nó ~16-month retention window.
- Three các bảng land trong
searchconsole-prefixed dataset:searchdata_site_impression(property-cấp độ),searchdata_url_impression(URL-cấp độ, vớiis_*rich-kết quả flags), vàExportLog( daily export record). - Setup: Google Cloud project với billing on → enable BigQuery + BigQuery
Storage APIs → grant
search-console-data-export@system.gserviceaccount.comBigQuery Job Người dùng và BigQuery Dữ liệu Editor vai trò → Search Console Settings → Bulk dữ liệu export → project ID, dataset name, location (giữ partition expiration tại 14+ days) → xử lý bắt đầu trong về day, đầu tiên export trong ~48 hrs. - Không backfill. nó bắt đầu từ activation day forward — không có gì lịch sử là pulled trong. Đây là #1 point của confusion.
- vẫn không ẩn danh các truy vấn. họ land as rỗng strings trong
query; các chỉ số là được tổng hợp nhưng không bao giờ có thể gán. Trong Patrick một-month Ahrefs nghiên cứu của 146 741 các trang và nearly 9 billion clicks, ~46% của clicks went để undisclosed các truy vấn — bulk export không recover them. - Cost: thực free tier (khoảng 10 GiB storage + 1 TiB query/month) nhưng nó cần
billing account, và cost scales với query/từ khóa diversity, không traffic.
kinh điển bill là dashboard querying thô các bảng trực tiếp (một được ghi lại case: 23 TB /
~€115 trong day). khắc phục: materialize summary các bảng, filter date partition, tránh
SELECT *. - Querying: luôn
SUM()/GROUP BY(các hàng không phải pre-consolidated), filterquery != ''để drop ẩn danh các hàng, và position là zero-based (thêm 1). - Managing: deactivation takes lên để 24 hrs; thất bại exports retry cho ~ week theo date, và ~ month của failures shuts toàn bộ export off; altering exported bảng schema hoặc setting partition expiration dưới 14 days breaks nó.
- Bing có không native tương đương as của điều này writing — thứ ba-party connectors fill khoảng trống, though họ không nhất thiết match GSC export schema chính xác.
- ** ladder:** UI → API → bulk export, mỗi removing limit.
Tài liệu chính thức
Chính-nguồn tài liệu, mostly từ Google Search Console Help và Google Cloud Blog.
Google — feature
- về bulk dữ liệu export của Search Console dữ liệu để BigQuery — overview và Điều gì được bao gồm/excluded.
- Bắt đầu new bulk dữ liệu export — setup flow: project, APIs, service-account vai trò, dataset settings, 48-hour delay.
- Bảng guidelines và reference — đầy đủ schema cho
searchdata_site_impression,searchdata_url_impression, vàExportLog. - Query guidelines và sample các truy vấn — Cách aggregate, minimize cost, filter ẩn danh các hàng, và ready-đã làm sample các truy vấn.
- Manage và monitor bulk dữ liệu exports — deactivation, lỗi xử lý, retry/retention thresholds, và Kiểm thử báo cáo.
Google — announcement & cách diễn đạt
- Bulk dữ liệu export: new và powerful way để access của bạn Search Console dữ liệu (Tìm kiếm Central Blog, Feb 2023) — gốc announcement.
- Analyze Google Search dữ liệu với BigQuery (Google Cloud Blog, Daniel Waisberg & Gaal Yahas) — Nâng cao/ML cách diễn đạt.
- BigQuery efficiency tips Đối với tìm kiếm Console bulk dữ liệu exports (Tìm kiếm Central Blog, June 2023) — cost và query-efficiency hướng dẫn.
Pricing
- BigQuery pricing — hiện tại free tier và theo-TB/theo-GB rates (verify trước khi quoting; những điều này thay đổi).
Quotes từ nguồn
On—record statements từ Google. nơi trang renders qua JavaScript và resists automated verification, quote là sourced qua verbatim phụ coverage và flagged dưới.
Google — Điều gì nó là
- “Schedule a daily export of your Search Console performance data to BigQuery, where you can run complex queries over your data or export it to an external storage service.” (bản dịch) «Schedule một daily export of của bạn Search Console performance dữ liệu để BigQuery, nơi bạn có thể chạy phức tạp các truy vấn over của bạn dữ liệu hoặc export điều này để an external storage service.» — Google Search Console Help. Nhảy đến trích dẫn
- “A bulk data export is a scheduled daily export of your Search Console performance data. It includes all the data used by Search Console to generate performance reports. Data is exported to Google BigQuery, where you can run SQL queries for advanced data analysis or even export it to another system.” (bản dịch) «MỘT bulk dữ liệu export là một scheduled daily export of của bạn Search Console performance dữ liệu. Điều này bao gồm all đó dữ liệu dùng by Search Console để generate performance các báo cáo. Dữ liệu là exported để Google BigQuery, nơi bạn có thể chạy SQL các truy vấn cho advanced dữ liệu analysis hoặc ngay cả export điều này để một sản phẩm khác hệ thống.» — Daniel Waisberg, Tìm kiếm Advocate, Google. Nhảy đến trích dẫn
Google — schema
- “Contains performance data for your property aggregated by property.” (bản dịch) «Contains performance dữ liệu cho của bạn property được tổng hợp by property.» (on
searchdata_site_impression) và “Contains performance data for your property aggregated by URL.” (bản dịch) «Contains performance dữ liệu cho của bạn property được tổng hợp by URL.» (onsearchdata_url_impression). Nhảy đến trích dẫn - “The user query. When is_anonymized_query is true, this will be a zero-length string.” (bản dịch) «Người dùng query. Khi is_anonymized_query là đúng, này sẽ là một chuỗi có độ dài bằng không.» Nhảy đến trích dẫn
Google — querying
- “Data in the tables is not guaranteed to be consolidated by date, URL, site, or any combination of keys.” (bản dịch) «Dữ liệu trong đó các bảng không phải guaranteed để là consolidated by date, URL, site, hoặc bất kỳ combination of keys.» Nhảy đến trích dẫn
- “A good way to minimize query costs is to use a WHERE clause to limit the date range in the date partitioned table.” (bản dịch) «MỘT good way để minimize query costs là để dùng một NƠI clause để limit đó date range trong đó date partitioned bảng.» Nhảy đến trích dẫn
Google — managing export
- “Search Console retains data from failed exports for about a week.” (bản dịch) «Search Console retains dữ liệu từ failed exports cho về một week.» và “Search Console will stop trying to export data for a given date after about a week of failed attempts, and after about a month of failed export attempts, Search Console will stop the bulk export entirely.” (bản dịch) «Search Console sẽ dừng trying để export dữ liệu cho một được cho date sau về một week of failed attempts, và sau về một month of failed export attempts, Search Console sẽ dừng đó bulk export hoàn toàn.» Nhảy đến trích dẫn
Google Cloud Blog — Daniel Waisberg & Gaal Yahas
- “Store data as long as you want. Search Console stores up to sixteen months of data; using BigQuery you can store as much data as it makes sense to your organization.” (bản dịch) «Store dữ liệu miễn là bạn muốn. Search Console stores lên để sixteen months of dữ liệu; dùng BigQuery bạn có thể store as nhiều dữ liệu as điều này làm hợp lý để của bạn organization.» Nhảy đến trích dẫn
Bulk export so với. API so với. UI so với. Looker Studio connector — mà nên I sử dụng?
Bắt đầu từ Điều gì limit bạn’re thực ra hitting, không từ Điều gì sounds phần lớn powerful. phần lớn mọi người ai thiết lập BigQuery export đã không cần để.
Q1. là bạn hitting thực limit trong Search Console UI? ( ~1 000-hàng export cap, hoặc ~16-month history wall, hoặc bạn cần join GSC với khác dữ liệu.)
- Không → dừng. UI (và Looker Studio native Search Console connector cho dashboards) là đủ. không take on warehouse bạn không cần.
- Có → continue.
Q2. Làm bạn cần standing, daily warehouse của đầy đủ dữ liệu — hoặc chỉ bigger một-off / programmatic pull?
- Một-off hoặc programmatic pull ( script, integration, occasional deep export) → sử dụng Search Console API. nhiều hơn UI, không BigQuery để chạy, nhưng vẫn capped/rate-limited và vẫn không ẩn danh các truy vấn.
- Standing daily pipe bạn’ll warehouse và join với khác dữ liệu → continue.
Q3. là bạn comfortable với Google Cloud project, active billing account, và writing SQL (hoặc có ai đó ai là)?
- Không → reconsider. unmanaged export plus dashboard on thô các bảng là Cách surprise bills happen. Either nhận help hoặc stay on API/Looker Studio connector.
- Có → thiết lập bulk dữ liệu export. Turn nó on hiện tại (remember: không backfill), và plan để materialize summary các bảng thay vì querying thô ones trực tiếp.
Q4. Làm bạn cụ thể cần ẩn danh/hidden các truy vấn hỏng out?
- Có → none của những điều này deliver đó. Bulk export, API, và UI all suppress ẩn danh các truy vấn tại query cấp độ. Adjust goal; dữ liệu không exist để là có từ Google.
** một-line version:** không hitting limit → UI/Looker Studio; quảng cáo-hoc hoặc coded pulls → API; standing warehouse tại quy mô → bulk export; hidden các truy vấn → không ai có thể cho bạn những điều đó.
Bulk dữ liệu export setup checklist
Hoạt động top để bottom; mỗi step gates tiếp theo.
- Turned export on hôm nay ngay cả nếu bạn’re không ready để analyze tuy vậy (không backfill — clock bắt đầu tại activation).
- Google Cloud project với billing enabled tồn tại (billing là bắt buộc ngay cả cho free tier).
- BigQuery API enabled trong đó project.
- BigQuery Storage API enabled trong đó project.
-
search-console-data-export@system.gserviceaccount.comđã thêm as principal với BigQuery Job Người dùng (bigquery.jobUser). - giống nhau service account granted BigQuery Dữ liệu Editor (
bigquery.dataEditor). - Trong Search Console → Settings → Bulk dữ liệu export, pasted Cloud project ID ( ID, không number).
- Chose dataset name (nó sẽ bắt đầu với
searchconsole) và dataset location. - nếu setting partition expiration on export dataset, kept nó tại 14 days hoặc lâu hơn — ngắn hơn breaks export.
- Left generated bảng schema unchanged (xây dựng derived các bảng thay vì).
- Waited lên để 48 hours cho đầu tiên export ( xử lý itself nên bắt đầu
trong về day), sau đó confirmed dữ liệu landed (kiểm tra
ExportLogvà haisearchdata_*các bảng). - đặt budget alert trong Google Cloud so runaway query có thể’t surprise bạn.
- đặt partition-expiration on của bạn derived các bảng nếu bạn không cần unlimited retention.
- Được xây dựng dashboards on materialized summary các bảng, không thô export các bảng.
Mistakes và myths để tránh
“Turning it on backfills my old data.” (bản dịch) «Chuyển thành điều này on backfills my old dữ liệu.» Không. Đó export bắt đầu từ activation day và chỉ accumulates forward — không có gì prior là pulled trong. đây là Google own community forum hầu hết-asked câu hỏi về này feature. Turn điều này on đó moment bạn hear về điều này so đó history bắt đầu building.
“BigQuery export finally shows me the hidden/anonymized queries.” (bản dịch) «BigQuery export finally cho thấy me đó hidden/ẩn danh các truy vấn.»
Không. Ẩn danh các truy vấn land as empty strings trong query; của họ clicks và impressions
là folded vào totals nhưng không bao giờ attributed để một term — giống nhau as đó UI và API. Trong
my Ahrefs nghiên cứu, ~46% of clicks
went để các truy vấn Google sẽ không tiết lộ, và ngay cả đó API — mà “allows us to get all
of the data” (bản dịch) «cho phép us để nhận all of đó dữ liệu» — không thể surface them. Bulk export thay đổi không có gì ở đây.
“It’s completely free.” (bản dịch) «đây là completely free.» Partly đúng. có một genuine free tier, nhưng điều này requires an active billing account, và inefficient querying có thể bill bạn. “Free” chỉ holds nếu bạn query efficiently.
“More traffic means a bigger BigQuery bill.” (bản dịch) «Hơn traffic có nghĩa là một bigger BigQuery bill.» Không thực sự — cost scales hơn với query/từ khóa diversity hơn thô nhấp volume. MỘT modest-traffic site với huge dài-tail variety có thể generate hơn dữ liệu hơn một cao-traffic site với một handful of concentrated các truy vấn.
Pointing trực tiếp dashboard tại thô các bảng.
single phần lớn expensive mistake. Một được ghi lại case saw Looker Studio scan 23 TB
trong day (~€115) wired trực tiếp để thô billion-hàng các bảng. khắc phục: materialize summary
các bảng on schedule và point dashboards tại những điều đó; filter date partition trong
WHERE clause; không bao giờ SELECT *.
Editing schema của exported bảng, hoặc setting cũng-ngắn partition expiration.
Altering searchdata_site_impression, searchdata_url_impression, hoặc ExportLog
breaks export. So làm setting export dataset partition expiration dưới
Google 14-day minimum. Xây dựng của bạn own derived các bảng thay vì, leave originals
untouched, và cho bất kỳ expiration policy on thô dataset 14+ days của headroom.
“This replaces the Search Console API.” (bản dịch) «Này replaces đó Search Console API.» Khác nhau tools cho khác nhau jobs. Đó API là cho quảng cáo-hoc và programmatic pulls; đó bulk export là một standing daily pipe cho warehousing và joins.
Assuming Bạn có thể chỉ export một property theo project.
Outdated. Google sau đó được phép multiple properties trong một Cloud project qua distinct
searchconsole_-prefixed dataset names.
framework cho designing export trước khi nó designs của bạn bill
1. Bắt đầu với câu hỏi, không warehouse. sử dụng UI cho nhanh câu trả lời, Tìm kiếm phân tích API cho bounded programmatic pulls, và bulk export chỉ Khi bạn cần standing daily history, joins, hoặc nhiều hơn các hàng hơn khác rungs cung cấp.
2. Respect bảng grain. searchdata_site_impression các câu trả lời property-cấp độ
các câu hỏi; searchdata_url_impression adds URL dimension. Các hàng không phải promised
để là pre-consolidated, so mỗi analysis nên có chủ ý chọn dimensions và
aggregate clicks, impressions, và position các trường.
3. Làm partition filters mandatory. Require data_date range trong mỗi query.
Cost follows bytes scanned, và unbounded dashboard so với thô các bảng có thể scan
giống nhau history repeatedly.
4. Tách biệt thô, modeled, và presentation layers. giữ Google export các bảng unchanged, xây dựng scheduled summary các bảng cho recurring các câu hỏi, và point Looker Studio hoặc một dashboard tại những điều đó summaries. Schema edits để export các bảng có thể break phân phối pipeline.
5. Operate pipeline như production dữ liệu. Monitor ExportLog, query bytes,
scheduled-job failures, và freshness. export có không backfill, so bị thiếu days là
operational incident, không điều gì đó activation có thể repair sau đó.
phổ biến GSC bulk-export các vấn đề
kiểm thử báo cáo fails during setup
Symptom: Search Console rejects project hoặc dataset trước khi activation. có khả năng nguyên nhân: billing hoặc bắt buộc BigQuery APIs không phải enabled, project ID là sai, hoặc Search Console export service account lacks BigQuery Job Người dùng và BigQuery Dữ liệu Editor. khắc phục: đúng những điều đó prerequisites, rerun Kiểm thử báo cáo, và activate chỉ sau khi nó succeeds.
Không các bảng hoặc new các hàng xuất hiện
Symptom: dataset tồn tại, nhưng dự kiến export dữ liệu là absent. có khả năng nguyên nhân:
đầu tiên phân phối là vẫn pending, dataset name/location là sai, export
là deactivated, hoặc failures là accumulating. khắc phục: cho phép ban đầu phân phối
window, sau đó inspect ExportLog và Search Console’s bulk-export status. đúng
pipeline thay vì recreating dataset, vì activation không backfill
trước đó dates.
Query totals look duplicated hoặc inflated
Symptom: clicks hoặc impressions exceed Search Console total cho giống nhau
phạm vi. có khả năng nguyên nhân: thô export các hàng là được xem như đã consolidated, hoặc
trang web- và URL-grain dữ liệu là mixed. khắc phục: chọn một bảng grain, filter một
search_type, group by dự kiến dimensions, và SUM() chỉ số các trường trước khi
comparing totals.
Average position là off by một
Symptom: computed position là consistently một thấp hơn UI expectation. có khả năng nguyên nhân: export position các giá trị là zero-based. khắc phục: aggregate position numerator với matching impressions, sau đó convert để familiar một-based display chỉ tại presentation layer.
dashboard suddenly becomes expensive
Symptom: bytes processed và query charges jump mặc dù traffic đã làm không.
có khả năng nguyên nhân: dashboard là scanning thô URL-cấp độ các bảng không có partition
filter. khắc phục: inspect bytes trước khi đang chạy, thêm bounded data_date predicate,
materialize needed daily summary, và point dashboard tại đó nhỏ hơn bảng.
Prove bulk export hoạt động sau khi setup hoặc pipeline thay đổi
xác nhận Search Console có thể ghi để project
Kiểm thử để chạy — Chạy Settings → Bulk dữ liệu export → Kiểm thử báo cáo sau khi thay đổi project, APIs, hoặc IAM vai trò. Dự kiến kết quả — Search Console các báo cáo đó đích là hợp lệ. thất bại interpretation — project/API configuration hoặc export service account vai trò là vẫn sai. Monitoring window — Immediate. Rollback trigger — không activate hoặc switch production export đích trong khi kiểm thử fails.
xác nhận hoàn tất daily phân phối
Kiểm thử để chạy — kiểm tra ExportLog cho newest dự kiến data_date, sau đó query
cả hai impression các bảng cho đó giống nhau partition. Dự kiến kết quả — log records
phân phối và trang web/URL các bảng contain các hàng cho date Khi property có
activity. thất bại interpretation — export là muộn hoặc thất bại; rỗng kết quả
không phải lịch sử backfill. Monitoring window — Cho phép được ghi lại dữ liệu lag và
ban đầu export window trước khi declaring thất bại. Rollback trigger — Pause bất kỳ
downstream báo cáo phát hành nếu của nó newest date là bị thiếu hoặc chỉ một bắt buộc bảng
arrived.
xác nhận modeled query reconciles
Kiểm thử để chạy — Chạy new summary query cho fixed date và tìm kiếm loại, sau đó so sánh của nó total clicks và impressions với trực tiếp aggregate của giống nhau thô partition. Dự kiến kết quả — totals match tại giống nhau grain và filters. thất bại interpretation — model là dropping các hàng, double-counting dimensions, hoặc mixing trang web và URL grain. Monitoring window — Immediate sau khi query finishes. Rollback trigger — giữ dashboards on prior summary cho đến khi new model reconciles.
xác nhận cost guardrail
Kiểm thử để chạy — Preview bytes processed cho production query với của nó
dự kiến data_date filter. Dự kiến kết quả — scan là bounded để requested
partitions và là consistent với team established baseline cho đó báo cáo.
thất bại interpretation — partition pruning là bị thiếu hoặc join expanded
scan. Monitoring window — trước khi mỗi scheduled-query hoặc dashboard thay đổi.
Rollback trigger — không deploy version whose estimated scan materially exceeds
approved baseline không có explained dữ liệu-volume thay đổi.
Starter các truy vấn
những điều này follow Google own rules: aggregate mọi thứ (các hàng không phải pre-consolidated),
filter date partition để control cost, và remember position là zero-based.
Replace yourproject.searchconsole với của bạn dataset.
Top thực các truy vấn (ẩn danh các hàng đã xóa), cuối cùng 28 days
SELECT
query,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions,
SAFE_DIVIDE(SUM(clicks), SUM(impressions)) AS ctr,
SUM(sum_top_position) / SUM(impressions) + 1 AS avg_position
FROM `yourproject.searchconsole.searchdata_site_impression`
WHERE data_date BETWEEN DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
AND DATE_SUB(CURRENT_DATE(), INTERVAL 2 DAY) -- 2-day data lag
AND query != '' -- drop anonymized rows
GROUP BY query
ORDER BY clicks DESC
LIMIT 100;Top landing các trang by clicks (URL-cấp độ bảng)
SELECT
url,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions
FROM `yourproject.searchconsole.searchdata_url_impression`
WHERE data_date BETWEEN DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
AND DATE_SUB(CURRENT_DATE(), INTERVAL 2 DAY)
GROUP BY url
ORDER BY clicks DESC
LIMIT 100;FAQ rich-kết quả performance ( rich-kết quả flag on URL bảng)
SELECT
url,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions
FROM `yourproject.searchconsole.searchdata_url_impression`
WHERE data_date BETWEEN DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
AND DATE_SUB(CURRENT_DATE(), INTERVAL 2 DAY)
AND is_tpf_faq = TRUE
GROUP BY url
ORDER BY impressions DESC;Materialize daily summary so dashboards không bao giờ touch thô các bảng
CREATE OR REPLACE TABLE `yourproject.searchconsole_derived.daily_query_summary`
PARTITION BY data_date AS
SELECT
data_date,
query,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions
FROM `yourproject.searchconsole.searchdata_site_impression`
WHERE query != ''
GROUP BY data_date, query;** cost-control habit:** verify Cách nhiều bytes query sẽ scan trước khi bạn chạy nó,
sử dụng dry-chạy flag trong bq CLI — free way để catch accidental đầy đủ-bảng
scan.
bq query --use_legacy_sql=false --dry_run \
'SELECT SUM(clicks) FROM `yourproject.searchconsole.searchdata_url_impression`
WHERE data_date >= DATE_SUB(CURRENT_DATE(), INTERVAL 7 DAY)'
# Prints the estimated bytes to be processed without running (or billing for) the query. GSC BigQuery export — bảng tra nhanh
Setup tại glance
| Step | Điều gì | Detail |
|---|---|---|
| 1 | Cloud project | Billing enabled (bắt buộc ngay cả cho free tier) |
| 2 | APIs | Enable BigQuery API + BigQuery Storage API |
| 3 | Service account | search-console-data-export@system.gserviceaccount.com |
| 4 | IAM vai trò | BigQuery Job Người dùng + BigQuery Dữ liệu Editor |
| 5 | Search Console | Settings → Bulk dữ liệu export → project ID, dataset name, location; giữ bất kỳ partition expiration 14+ days |
| 6 | Chờ | Xử lý bắt đầu trong ~ day; đầu tiên export trong ~48 hours |
** three các bảng**
| Bảng | Grain | Notable các trường |
|---|---|---|
searchdata_site_impression | Property | query, is_anonymized_query, country, device, search_type, sum_top_position |
searchdata_url_impression | URL | tất cả trên + url, is_* rich-kết quả flags, sum_position |
ExportLog | Daily record | namespace, data_date, epoch_version, publish_time |
Query rules
- luôn
SUM()+GROUP BY— các hàng không phải pre-consolidated. WHERE query != ''để drop ẩn danh các hàng.- Filter
data_date( partition) để cut cost. avg_position = SUM(sum_top_position)/SUM(impressions) + 1(zero-based, thêm 1).- không bao giờ
SELECT *.
Fast facts
- Không backfill — dữ liệu bắt đầu tại activation, forward chỉ.
- Ẩn danh các truy vấn stay hidden (empty
querystring) — giống nhau as UI/API. - Hai-day lag on đó hầu hết gần đây dữ liệu.
- Deactivation takes lên để 24 hours (một hơn day có thể land).
- Failure thresholds: ~1 week retry theo date → ~1 month of failures dừng đó entire export.
- Partition expiration floor: 14 days minimum on đó export dataset; ngắn hơn breaks điều này.
- Dataset name luôn bắt đầu với
searchconsole. - Multiple properties theo project: dùng distinct
searchconsole_-prefixed dataset names. - Free tier (verify hiện tại): ~10 GiB storage + ~1 TiB query/month, thì ~$6,25 USD/TiB.
- Bing: không native tương đương — bên thứ ba connector bắt buộc.
Prompts cho reviewing GSC BigQuery hoạt động
Audit query cho correctness và cost
Paste bảng schemas, SQL, của nó purpose, và date/tìm kiếm-loại phạm vi. Ask model để trả về corrected SQL và ngắn lời giải thích, sau đó verify output trong BigQuery trước khi scheduling nó.
You are reviewing a Google Search Console bulk-export query in BigQuery.
Goal: [the question this query should answer]
Table grain and schemas: [paste the relevant site or URL table fields]
SQL: [paste the query]
Required date range and search_type: [paste them]
Check for: a missing data_date partition filter; failure to aggregate raw rows;
site-grain and URL-grain mixing; incorrect handling of zero-based position;
anonymized-query handling; joins that duplicate metrics; and unnecessary bytes
scanned. Return: (1) each issue, (2) corrected Standard SQL, (3) a reconciliation
query, and (4) assumptions that require human verification. Do not invent fields.Design safe reporting layer
Paste các câu hỏi dashboard phải câu trả lời và thực schema. Expect proposed summary-bảng grain và validation plan, không fabricated ready-để-chạy deployment.
Design a modeled reporting layer for this GSC BigQuery bulk export.
Business questions: [paste the questions]
Available tables and schemas: [paste them]
Refresh cadence: [daily/weekly]
Required dimensions: [page, query, country, device, search type, etc.]
Propose: the smallest useful summary-table grain; partitioning and clustering;
a scheduled-query sequence; freshness and reconciliation checks; and which dashboard
questions should stay in the UI or API instead. Preserve raw export tables unchanged.
Flag any requirement the supplied schema cannot support, especially requests for
disclosed anonymized queries. Do not invent benchmarks, fields, or backfill. Tools khoảng export
- Google BigQuery — nơi dữ liệu lands; chạy SQL, schedule các truy vấn, và xây dựng BigQuery ML models on nó.
- BigQuery cost controls — Google Cloud budget alerts, theo-query byte limits,
và
bq --dry_runflag để estimate scan size trước khi đang chạy. - Looker Studio — cho dashboards, nhưng xây dựng them on materialized summary các bảng, không thô export. (Looker Studio cũng có native Search Console connector đó cần không BigQuery tại all — thường đủ on của nó own.)
- Google Search Console — nguồn; UI export và Performance báo cáo là baseline bulk export extends.
- Search Console API — middle rung Khi bạn cần nhiều hơn UI nhưng không standing warehouse.
- thứ ba-party ETL connectors (Supermetrics, Improvado, Catchr, và others) — Cách bạn’d nhận Bing Quản trị viên web Tools dữ liệu vào BigQuery, since Bing có không native export.
các tài nguyên worth của bạn time
My related writing
- Gần như Half của GSC Clicks Go để Anonymous Các truy vấn — my Ahrefs nghiên cứu (146 741 các trang, ~9B clicks) cho thấy 46,08% của clicks go để các truy vấn Google sẽ không tiết lộ. Trực tiếp relevant: BigQuery export không recover bất kỳ của them either.
- Người mới bắt đầu Hướng dẫn để kỹ thuật SEO — nơi Search Console và dữ liệu-analysis hoạt động fit trong bigger picture.
My speaking / posts
- On getting hơn out of GSC dữ liệu — một walkthrough of squeezing hơn từ Search Console’s dữ liệu (qua Ahrefs’ own GSC features), part of đó giống nhau “there’s more here than the UI shows” (bản dịch) «có hơn ở đây hơn đó UI cho thấy» throughline as đó BigQuery export.
Từ khoảng đó ngành
- Google Search Console adds daily bulk dữ liệu exports để BigQuery (Search Engine Land, Barry Schwartz) — đó announcement coverage, với Google original wording quoted verbatim.
- Google Giải thích Cách Dùng Search Console Bulk Dữ liệu Export (Search Engine Journal, Matt G. Southern) — Daniel Waisberg đơn giản-English mô tả of đó feature.
- Nhận Đã bắt đầu Với GSC Các truy vấn Trong BigQuery (Search Engine Journal) — một practical query starter.
- Google Search Console để BigQuery: Đó Hoàn tất Hướng dẫn (Trevor Fox) — đó origin of đó “keyword variety, not search volume” (bản dịch) «từ khóa variety, không tìm kiếm volume» cost cách diễn đạt.
- See Ya, Sampling! Nhận Hơn Hoàn tất GSC Dữ liệu Với BigQuery (Advanced Web Xếp hạng, Sam Torres) — setup và cost-control basics.
- Cách Query Google Search Console Dữ liệu trong BigQuery (Analytics Mania, Julius Fedorovicius) — thorough walkthrough including đó hai-day dữ liệu lag.
- Cách dùng của bạn GSC dữ liệu trong BigQuery như một pro (Antoine Eripret) — đó kỹ thuật deep-dive, including đó 23 TB / ~€115 cost horror story và đó không-backfill reality.
Số liệu worth citing
- ~46% of GSC clicks go để undisclosed các truy vấn. Từ my Ahrefs nghiên cứu of 146 741 websites và khoảng 9 billion clicks: 46,08% of clicks went để các truy vấn Google anonymizes — một limitation đó BigQuery export chia sẻ với đó UI và API.
- MỘT trực tiếp dashboard on thô các bảng scanned 23 TB trong một day (~€115). Antoine Eripret được ghi lại case cho vì sao bạn materialize summary các bảng thay vì querying đó thô export trực tiếp. Nguồn
- Hai-day dữ liệu lag. “Google Search Console data is available with a two-day delay, so the most recent data available will always be from two days prior” (bản dịch) «Google Search Console dữ liệu là khả dụng với một hai-day delay, so đó hầu hết gần đây dữ liệu khả dụng sẽ luôn là từ hai days prior» — so một 30-day range trả về ~28 days of usable dữ liệu. Nguồn
- Free tier (verify — pricing thay đổi): khoảng 10 GiB storage + 1 TiB of query processing theo month free, thì về $6,25 USD/TiB processed. Nguồn
Tự kiểm tra: GSC BigQuery Export
Five nhanh các câu hỏi on bulk dữ liệu export. Pick câu trả lời cho mỗi, sau đó kiểm tra.
Nhật ký thay đổi
Đã cập nhật 8 thg 8, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.
Đã cập nhật 30 thg 7, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.
Đã cập nhật 18 thg 7, 2026.
Tóm tắt biên tập và chi tiết thay đổi đã ghi nhận.Chi tiết thay đổi
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
-
Ghi chú thay đổi chi tiết hiện chỉ có bằng tiếng Anh.
Không thể so sánh đầy đủ — không có bản lưu trước đó cho lần sửa đổi này.