GSC BigQuery Dışa Aktarımı
Google Search Console BigQuery dışa aktarımını, kullanıcı arayüzü satır sınırı olmadan (anonimleştirilmiş sorgular hariç) örneklenmemiş günlük tıklama ve gösterim verilerini sorgulamak için nasıl kullanacağınız, kullanıcı arayüzü ile ham dışa aktarım arasındaki fark, kurulum, maliyet mekanizmaları ve geriye dönük doldurma olmaması tuzağı.
Diller
Web sitesi özellikleri için GSC BigQuery toplu dışa aktarımı, anonimleştirilmiş sorgular hariç, Performance verilerinin günlük, örneklenmemiş bir dökümünü BigQuery'ye zamanlar; kullanıcı arayüzü satır sınırını ve 16 aylık saklama penceresini atlar. Site düzeyinde, URL düzeyinde ve dışa aktarma günlüğü tabloları oluşturur, geriye dönük doldurma yapmaz, faturalandırma gerektirir ve sorgu maliyetlerine yol açabilir. Google artık Instagram, TikTok, X ve YouTube platform özelliklerini desteklemektedir, ancak mevcut platform belgeleri bunlar için BigQuery desteğini vaat etmemektedir; bu ardışık düzenin sosyal hesaplar için geçerli olduğunu varsaymayın.
TL;DR — GSC BigQuery dışa aktarımı (Google buna toplu veri dışa aktarımı diyor) Search Console verilerinizi otomatik olarak Google Cloud veritabanı olan BigQuery’ye günde bir kez, satır sınırı olmadan kopyalar. Search Console arayüzünün gösterdiği kısaltılmış görünümden çok daha fazla tıklama ve gösterim verisine bu şekilde ulaşırsınız — ancak anonimleştirilmiş (gizlenmiş) sorgular burada da gizli kalır. Baştan bilmeniz gereken iki püf noktası: eski verilerinizi çekmez (yalnızca açtığınız günden itibaren ileriye dönük verileri toplar) ve ücretsiz bir kullanım katmanı olsa da bir Google Cloud faturalandırma hesabı gerektirir.
Ne olduğu
Search Console toplu veri dışa aktarımı, günlük performans verilerini BigQuery’ye gönderebilir. Evidence for this claim Search Console bulk data export sends daily performance data to BigQuery in a configured Google Cloud project. Scope: Search Console bulk export; setup, permissions, quotas, and supported properties follow Google's current documentation. Confidence: high · Verified: Google: Bulk data export Google, ayrı site-gösterimi, URL-gösterimi ve dışa aktarma günlüğü tablolarını belgeler; analiz sırasında önemli olan şema ve toplama sınırlamalarıyla birlikte. Evidence for this claim Bulk export uses site-impression, URL-impression, and export-log tables with documented schemas. Scope: Google's published Search Console export schema; aggregation and privacy handling still affect analysis. Confidence: high · Verified: Google: Bulk export tables
Bu kılavuz web sitesi özelliklerini kapsar. Search Console’un daha yeni Instagram, TikTok, X ve YouTube platform özellikleri Performans, İçgörüler ve Başarımlar raporlamasına sahiptir, ancak Google’ın güncel platform-özelliği belgeleri bu özellikler için bir BigQuery toplu dışa aktarım kurulumu veya şeması belgelemez. Google ayarı açıp sözleşmeyi belgelemedikçe platform özelliklerini burada desteklenmiyor olarak ele alın. LinkedIn şu anda desteklenen bir platform özelliği değildir.
Google Search Console’da Performans raporunu açın ve dışa aktarmayı deneyin. Hızla bir duvara çarparsınız: arayüz çoğu dışa aktarmayı yaklaşık 1 000 satırla sınırlar ve yalnızca yaklaşık son 16 ayın geçmişini gösterir. Küçük bir site için bu yeterlidir. On binlerce sayfası ve çok çeşitli arama sorguları olan büyük bir site için gerçek verilerinizin yalnızca küçük bir dilimini görürsünüz.
Toplu veri dışa aktarımı bunu düzeltir. Search Console içinde şunu söyleyen bir anahtardır: “bundan sonra Performans verilerimi her gün BigQuery’ye gönder.” BigQuery, Google’ın veri ambarıdır — büyük tabloları saklamak ve üzerlerinde sorgular çalıştırmak için bir yer. Dışa aktarma çalışmaya başladığında, 1 000 satır sınırı olmadan örneklenmemiş günlük veriler alırsınız, istediğiniz kadar saklanır — tek kalıcı istisna ile: anonimleştirilmiş sorgular (Search Console’un gizlilik için sakladıkları) arayüzdeki gibi boş görünmeye devam eder. “Satır sınırı yok” “her sorgu açıklandı” anlamına gelmez.
Neden kimse uğraşır
Bunu şu durumlarda kurarsınız:
- Arayüzün veya dışa aktarma düğmesinin vereceğinden çok daha fazla sorgu ve sayfayı analiz etmek.
- Search Console geçmişinizi 16 aydan daha uzun tutmak (Search Console eski verileri atar; BigQuery ne saklarsanız onu tutar).
- Search Console verilerinizi diğer verilerle birleştirmek — Google Analytics verileriniz, bir tarama, ürün veritabanınız — hepsi tek bir yerde.
Başlamadan önce bilmeniz gereken iki şey
- Geriye dönük veri doldurmaz. Bu en yaygın sürprizdir. Dışa aktarmayı açmak geçmiş verilerinizi almaz. O günden itibaren toplamaya başlar. Geçmiş istiyorsanız, açmanız ve birikmesini beklemeniz gerekir.
- Yıldız işaretli “ücretsiz”dir. BigQuery’nin ücretsiz bir katmanı vardır ve çoğu küçük ve orta ölçekli site bu katmanın içinde kalır. Ancak yine de bir Google Cloud faturalandırma hesabı bağlamanız gerekir ve verileri dikkatsizce sorgularsanız — özellikle canlı bir gösterge panosunu ham tablolara yönlendirerek — gerçek bir fatura çıkarabilirsiniz.
Sizin için buna değer mi?
Dürüst olmak gerekirse, çoğu sitenin buna ihtiyacı yoktur. Search Console arayüzü ve Looker Studio’nun yerleşik Search Console bağlayıcısı size yeterli geliyorsa, işiniz bitti — kurulumu atlayın. BigQuery dışa aktarımına, sürekli olarak 1 000 satır duvarına çarptığınızda, 16 aydan fazla geçmişe ihtiyaç duyduğunuzda veya Search Console verilerinizin bir ambarda diğer verilerinizin yanında durmasını istediğinizde başvurursunuz. Bu sizseniz, tam kurulum, maliyet mekaniği ve çalıştırılacak ilk sorgular için Gelişmiş sekmesine geçin.
TL;DR — Toplu veri dışa aktarımı, Search Console Performans verilerinizin bir BigQuery veri kümesine zamanlanmış günlük, örneksiz bir dökümüdür — ~1 000 satırlık dışa aktarma sınırı yok, ~16 aylık saklama duvarı yok. Üç tablo (
searchdata_site_impression,searchdata_url_impression,ExportLog) oluşturur. Kurulum: faturalandırma etkin bir Google Cloud projesi, BigQuery + BigQuery Storage API’leri açık, Google’ın dışa aktarma hizmet hesabına verilen iki IAM rolü ve ardından GSC’de Ayarlar → Toplu veri dışa aktarımı. Geriye dönük doldurma yapmaz, anonimleştirilmiş sorguları hâlâ boş dize olarak bildirir ve ilk dışa aktarım yaklaşık 48 saat içinde gerçekleşir. Maliyet, gerçek bir ücretsiz katman artı TB başına sorgu ücretleridir — klasik fatura, ham tabloları canlı sorgulayan panolardan gelir. Bunu üçüncü basamak olarak düşünün: arayüz → API → toplu dışa aktarım.
Aşağıdaki merdiven, web sitesi mülkleri içindir. Sosyal veya video platformu mülklerinin Search Console API’sini veya BigQuery dışa aktarımını desteklediğinin kanıtı değildir.
Gerçekte ne olduğu
Toplu dışa aktarım, bir Google Cloud projesine zamanlanmış bir Search Console veri hattıdır; bağımsız bir sıralama verisi kaynağı değildir. Evidence for this claim Search Console bulk data export sends daily performance data to BigQuery in a configured Google Cloud project. Scope: Search Console bulk export; setup, permissions, quotas, and supported properties follow Google's current documentation. Confidence: high · Verified: Google: Bulk data export Sorgular, belgelenen tablolara, anahtarlara ve gizlilik/toplama davranışına uymalıdır. Evidence for this claim Bulk export uses site-impression, URL-impression, and export-log tables with documented schemas. Scope: Google's published Search Console export schema; aggregation and privacy handling still affect analysis. Confidence: high · Verified: Google: Bulk export tables
Google’da Arama Savunucusu olan Daniel Waisberg bunu açıkça anlatıyor: “A bulk data export is a scheduled daily export of your Search Console performance data. It includes all the data used by Search Console to generate performance reports. Data is exported to Google BigQuery, where you can run SQL queries for advanced data analysis or even export it to another system.” (çeviri) «Toplu veri dışa aktarımı, Search Console performans verilerinizin zamanlanmış günlük bir dışa aktarımıdır. Search Console’un performans raporları oluşturmak için kullandığı tüm verileri içerir. Veriler, gelişmiş veri analizi için SQL sorguları çalıştırabileceğiniz veya hatta başka bir sisteme aktarabileceğiniz Google BigQuery’ye aktarılır.» (Search Engine Journal’da alıntılanmıştır).
Önemli olan ölçektir. Search Console arayüzü çoğu dışa aktarımı yaklaşık 1 000 satırla sınırlar ve yaklaşık 16 aylık kayan bir pencere gösterir. Search Console API size daha fazlasını verir ancak yine de sınırlıdır ve hız sınırına tabidir. Toplu dışa aktarım, satır tavanını tamamen ortadan kaldırır ve ne kadar süre saklayacağınıza sizin karar vermenizi sağlar. Google’ın duyurudaki kendi sözü, Search Engine Land tarafından yeniden üretildiği şekliyle: “The daily data row limit does not impact this data, so you can extract more data using this method,” (çeviri) «Günlük veri satırı sınırı bu verileri etkilemez, bu nedenle bu yöntemi kullanarak daha fazla veri çıkarabilirsiniz,» ve özellik “could be particularly helpful for large websites with tens of thousands of pages.” (çeviri) «on binlerce sayfası olan büyük web siteleri için özellikle yararlı olabilir.»
Hangi verileri alırsınız: üç tablo
Her şey, adı her zaman searchconsole ile başlayan bir veri kümesine iner. Üç nesne görünür (Tablo yönergeleri ve referans):
searchdata_site_impression— “Contains performance data for your property aggregated by property.” (çeviri) «Mülkünüz için mülke göre toplanmış performans verilerini içerir.» Anahtar alanlar:data_date(“The day on which the data in this row was generated (Pacific Time)” (çeviri) «Bu satırdaki verilerin oluşturulduğu gün (Pasifik Saati)»),site_url(alan adı mülklerisc-domain:önekini kullanır),query,is_anonymized_query,country(ISO-3166-1 Alpha-3),search_type(web/görsel/video/haber/keşfet/googleNews),device,impressions,clicksvesum_top_position.searchdata_url_impression— “Contains performance data for your property aggregated by URL.” (çeviri) «Mülkünüz için URL’ye göre toplanmış performans verilerini içerir.» Yukarıdakilerin tümü artıurl(“The fully-qualified URL where the user eventually lands when they click the search result” (çeviri) «Kullanıcının arama sonucuna tıkladığında en son ulaştığı tam nitelikli URL»),is_anonymized_discover, zengin sonuç türüne göre dilimleyebilmeniz için bir diziis_[search_appearance_type]boole bayrağı (örn.is_amp_top_stories,is_job_listing,is_tpf_faq) vesum_position. Çoğu analizin üzerinde çalıştığı ayrıntılı tablo budur.ExportLog— “A record of what data was saved for that day. Failed exports are not recorded here.” (çeviri) «O gün için hangi verilerin kaydedildiğinin kaydı. Başarısız dışa aktarımlar buraya kaydedilmez.» Alanlaragenda(şu anda yalnızcaSEARCHDATA),namespace(hangi tablonun yazıldığı),data_date,epoch_version(“An integer, where 0 is the first time data was saved to this table” (çeviri) «0’ın verilerin bu tabloya ilk kaydedildiği zaman olduğu bir tam sayı» — Google daha sonra bir günün verilerini revize ettiğinde artar) vepublish_timeiçerir.
The anonymized-query caveat is the important one. Even here, at the raw level,
anonymized queries are not revealed. As Google’s field description puts it, when
is_anonymized_query is true the query field “will be a zero-length string.”
Their metrics are still aggregated into your totals, but they’re never attributable
to a specific term — exactly the same limitation the UI and the API have. This is a
big deal at scale: in my Ahrefs study of GSC’s hidden terms,
across 146 741 websites and roughly 9 billion clicks, 46,08% of all clicks went to
queries Google doesn’t disclose — and that study used the Search Console API, which
“allows us to get all of the data—and there’s still a lot missing.” The BigQuery
export doesn’t recover any of it. If someone tells you bulk export “finally shows you
the hidden queries,” they’re wrong.
Nasıl kurulur
Akış (Yeni bir toplu veri dışa aktarımı başlatın):
- Faturalandırma etkin bir Google Cloud projesi oluşturun veya seçin. Google’a göre: “Veriler Google Cloud depolama ve sorgu maliyetlerine tabidir, ancak ücretsiz bir kullanım düzeyi vardır.” Ücretsiz katmanda kalmak için bile faturalandırmaya ihtiyacınız var.
- BigQuery API’sini ve BigQuery Storage API’sini bu projede etkinleştirin.
- Google’ın dışa aktarım hizmet hesabına erişim verin.
search-console-data-export@system.gserviceaccount.comadresini iki IAM rolüyle bir asıl olarak ekleyin: BigQuery Job User (bigquery.jobUser) ve BigQuery Data Editor (bigquery.dataEditor). - Search Console’da Ayarlar → Toplu veri dışa aktarımı’na gidin. Cloud proje kimliğini (kimliği, proje numarasını değil) yapıştırın, bir veri kümesi adı seçin ve bir veri kümesi konumu seçin. Adlandırma kuralına dikkat edin: “Veri kümesi adı her zaman searchconsole dizesiyle başlar, özelleştirseniz bile.” Dışa aktarımın kendi veri kümesinde bir bölüm sona erme ilkesi ayarlarsanız, bunu 14 gün veya daha uzun tutun — Google 14 günlük bir minimum belgeler ve daha kısa süre belgelenmiş bir başarısızlık nedenidir. Oluşturulan tablo şemasını da değiştirmeden bırakın; değiştirmek, dışa aktarımı bozmanın diğer belgelenmiş yoludur (aşağıda Sorun Giderme’de daha fazlası).
- Bekleyin. Google, dışa aktarım sürecinin etkinleştirmeden sonraki bir gün içinde başlaması gerektiğini söylüyor. “İlk dışa aktarım, Search Console’da başarılı yapılandırmanızdan sonra 48 saate kadar gerçekleşir,” ve bu ilk teslimat yalnızca dışa aktarım günü verilerini içerir — kurulumdan önceki hiçbir şey (sonraki bölüme bakın: geri doldurma yok). Bundan sonra siz durdurana kadar günlük çalışır.
Belirlenmesi gereken pratik bir beklenti: Search Console verileri iki günlük bir gecikmeyle gelir, bu nedenle sahip olacağınız en güncel gün iki gün öncesidir. 30 günlük bir aralık isteyin ve etkili bir şekilde yaklaşık 28 gün kullanılabilir veri elde edersiniz.
Geri doldurma olmaması tuzağı
Bunu yüksek sesle söyleyin, çünkü insanları yakar: dışa aktarımı etkinleştirmek geçmiş verilerinizi çekmez. Etkinleştirme gününden başlar ve yalnızca ileriye doğru birikir. Bu o kadar yaygındır ki Google’ın kendi topluluk forumunda bununla ilgili birden fazla konu vardır — “Toplu veri dışa aktarımı etkinleştirildiğinde geçmiş verilerle nasıl geri doldurulur” (konu 300051568), konu 255704574 ve konu 429248330. Antoine Eripret bunu uygulayıcı derinlemesine incelemesinde açıkça ifade ediyor: “Geçmiş verileri alamazsınız: bugün etkinleştirirseniz, bugünden itibaren verilere sahip olursunuz.” Çıkarım basit — ilk duyduğunuz gün açın, henüz hiçbir şeyi analiz etmeye hazır olmasanız bile, böylece saat başlar.
Maliyeti ne kadar ve nasıl sürprizle karşılaşılmaz
Google Cloud Blog yazısı Daniel Waisberg ve Gaal Yahas tarafından yazılan bu yazı, avantajları satıyor — “Büyük bir web siteniz varsa, bu çözüm diğer veri dışa aktarma çözümlerinden daha fazla sorgu ve sayfa sağlayacaktır” ve “Search Console on altı aya kadar veri depolar; BigQuery kullanarak kuruluşunuz için anlamlı olan kadar veri depolayabilirsiniz” — ancak maliyet mekaniği size kalmış.
Bu yazının yazıldığı tarih itibarıyla BigQuery’nin ücretsiz katmanı kabaca 10 GiB depolama ücretsiz artı ayda 1 TiB (~1 TB) isteğe bağlı sorgu işleme ücretsizdir; bunun ötesinde işlenen her TiB için yaklaşık 6,25 USD ve ayda depolanan her GB için yaklaşık 0,02 USD’dir (bölgeye ve depolama sınıfına göre değişir). Fiyatlandırma değişir, bu yüzden birine aktarmadan önce güncel rakamları doğrulayın. Çoğu küçük ve orta ölçekli site ücretsiz veya neredeyse ücretsiz kalır.
Faturalar ne kadar trafiğiniz olduğundan değil, nasıl sorguladığınızdan gelir. İki şey önemlidir:
- Maliyet, ham trafikle değil, sorgu/anahtar kelime çeşitliliğiyle ölçeklenir. Trevor Fox’un kapsamlı rehberinde belirttiği gibi: “Veri hacmi, arama hacminden çok anahtar kelime çeşitliliğinin bir faktörüdür. Çok sayıda anahtar kelime için düşük arama hacmine sahip bir site, tek bir anahtar kelime için çok sayıda arama hacmine sahip bir siteden daha fazla veri üretecektir.”
- Canlı bir panoyu ham tablolara bağlamayın. Bu klasik korku hikayesidir. Antoine Eripret, Looker Studio’nun ham milyar satırlık tablolara doğrudan bağlandığında tek bir günde 23 TB taradığını, yaklaşık 115 EUR olduğunu belgelemiştir. Google’ın kendi BigQuery verimlilik ipuçları yazısı da aynı şeyi prensipte söylüyor: özet tablolarında önceden toplayın,
WHEREyan tümcesinde tarih bölümünde filtreleyin,SELECT *kullanmaktan kaçının, bütçe uyarıları ayarlayın ve eski bölümleri otomatik silmek için bölüm sona erme süresini ayarlayın.
Çözüm sıkıcı ama etkilidir: somutlaştırın sorgu sonuçlarınızı bir zamanlamayla küçük kalıcı özet tablolarına dönüştürün ve panolarınızı ham dışa aktarıma değil, bunlara yönlendirin.
Sorgulama: sizi aklı başında (ve ucuz) tutan kurallar
Google’ın sorgu yönergelerinden:
- Her zaman toplayın. “Tablolardaki verilerin tarihe, URL’ye, siteye veya herhangi bir anahtar kombinasyonuna göre birleştirileceği garanti edilmez.” Çeviri: aynı gün/URL/sorgu için birden çok satır alırsınız, bu yüzden her zaman metriklerinizi
SUM()ve boyutlarınızıGROUP BYyapın. Tek bir satırı asla bitmiş bir sayı olarak kabul etmeyin. - Tarih bölümünü filtreleyin. “Sorgu maliyetlerini en aza indirmenin iyi bir yolu, tarih bölümlü tabloda tarih aralığını sınırlamak için bir WHERE yan tümcesi kullanmaktır.”
- Gerçek en iyi sorguları istediğinizde anonimleştirilmiş satırları bırakın. “Anonimleştirilmiş bir sorgu, tabloda sıfır uzunluklu bir dize olarak raporlanır” — bu yüzden
WHERE query != ''ekleyin. - Konum sıfır tabanlıdır. Her iki tablo da konumu 0’dan başlayarak saklar, bu yüzden ortalama konum
SUM(sum_top_position) / SUM(impressions) + 1’dir (1’i ekleyin).
Google, günlük web arama istatistikleri, ülkeye göre en iyi mobil sorgular, tıklamalara göre Discover URL’leri, SSS zengin sonuç performansı (is_tpf_faq = true) ve REGEXP_CONTAINS ile marka sorgusu takibi için örnek sorgular sunar. Bunlardan başlayın.
Dışa aktarımı yönetme ve sorun giderme
Toplu veri dışa aktarımlarını yönetme ve izleme bölümünden:
- Durdurma anında gerçekleşmez. Ayarlar → Toplu veri dışa aktarımı → Dışa aktarımı devre dışı bırak. “Toplu dışa aktarımlar önümüzdeki 24 saat içinde durdurulacak,” bu yüzden kapattıktan sonra bir gün daha veri gelebilir.
- İki başarısızlık eşiği, tek değil. “Search Console, başarısız dışa aktarımlardan gelen verileri yaklaşık bir hafta boyunca saklar.” Ve sonra: “Search Console, belirli bir tarih için veri dışa aktarmayı yaklaşık bir haftalık başarısız denemeden sonra durdurmayı bırakacak ve yaklaşık bir aylık başarısız dışa aktarma denemesinden sonra Search Console toplu dışa aktarımı tamamen durduracaktır.” Yani kalıcı bir sorun sadece günleri atlamaz — yaklaşık bir ay sonra tüm dışa aktarımı kapatır ve yeniden kurmanız gerekir.
- Şema değişikliği tuzağı (ve bölüm sona erme tabanı). Dışa aktarılan bir tablonun şemasını değiştirirseniz, dışa aktarımı bozarsınız. Google ayrıca dışa aktarma veri kümesinde en az 14 gün bölüm sona erme süresi gerektirir — daha kısa ayarlarsanız dışa aktarım başarısız olabilir. Bu tablolara dokunmayın; bunun yerine kendi türetilmiş tablolarınızı oluşturun. (Diğer yaygın başarısızlık nedenleri arasında Cloud projenizin kotasını aşmak ve hizmet hesabının erişimini iptal etmek yer alır.)
- Test raporunu kullanın. Belirli düzeltilebilir sorunları — proje kimliği/kimlik bilgileri, izinler — bir sonraki zamanlanmış çalıştırmayı beklemeden doğrulamanıza olanak tanıyan bir “Test raporu” özelliği vardır. Anında yeniden dışa aktarma yapmadığını unutmayın; düzeltmenin işe yaradığını doğrulamak için yaklaşık 24 saat sonra tekrar kontrol edin.
- Search Console, dışa aktarma hataları başladığında ve çözüldüğünde mülk sahiplerine e-posta gönderir ve Ayarlar en son dışa aktarma denemesinin durumunu gösterir.
Nerede duruyor: UI → API → toplu dışa aktarım
Bir merdivende, her biri altındakinin karşılaştığı bir sınırı kaldıran üç basamak düşünün:
- UI dışa aktarımı — ~1 000 satır, ~16 ay, anonimleştirilmiş sorgu yok. Çoğu için yeterli.
- Search Console API — daha fazla satır, yine de sınırlı ve hız sınırlı, yine anonimleştirilmiş sorgu yok. Geçici ve programatik çekmeler için iyi.
- Toplu veri dışa aktarımı — satır sınırı yok, kontrol ettiğiniz saklama, günlük ayrıntılı veri, veri ambarı ve birleştirmeler için tasarlandı. Yine anonimleştirilmiş sorgu yok. Geriye dönük doldurma yapmaz.
Ve eski kılavuzların yanlış anladığı bir nüans: artık Cloud projesi başına tek bir mülkle sınırlı değilsiniz. Google daha sonra, farklı searchconsole_ önekli veri kümesi adları kullanarak tek bir projeye birden fazla mülkün eklenmesine izin verdi.
Peki ya Bing?
Bu yazının yazıldığı sırada, yerel bir eşdeğeri yok. Bing Webmaster Tools, birinci taraf BigQuery/toplu dışa aktarım sunmuyor — bu yüzden Bing Webmaster Tools verilerini BigQuery’ye taşımak için üçüncü taraf ETL bağlayıcıları (Supermetrics, Improvado, Catchr ve diğerleri) pazarının var olmasının nedeni tam olarak bu. Bing’in yerel bir hattı olsaydı, bu pazar olmazdı. Bununla birlikte, bir bağlayıcının GSC’nin kendi dışa aktarma şemasını veya günlük bölümleme davranışını alan alan kopyalayacağı garanti edilmez — eşitlik varsaymadan önce herhangi bir bağlayıcının belgelenmiş kapsamını kontrol edin. Bu nedenle, GSC dışa aktarımınızın yanında BigQuery’de Bing verileri istiyorsanız, bir bağlayıcı için bütçe ayırın ve gerçekte ne teslim ettiğini doğrulayın. (Alıntı yapmadan önce bunun hâlâ güncel olduğunu doğrulayın — Bing’in kendi özellik seti değişebilir.)
Bunun nerede durduğuna dair daha geniş bağlam için, Search Engine Tools merkezine ve Google Search Console ile Bing Webmaster Tools hakkındaki kılavuzlarına bakın.
AI özeti
Gelişmiş sürümün yoğunlaştırılmış bir değerlendirmesi:
- Ne olduğu: toplu veri dışa aktarımı — Search Console Performans verilerinin Google Cloud BigQuery veri kümesine günlük, örneksiz zamanlanmış bir dökümü. Arayüzün ~1 000 satırlık dışa aktarma sınırını ve ~16 aylık saklama penceresini ortadan kaldırır.
- Üç tablo
searchconsoleönekli bir veri kümesine iner:searchdata_site_impression(özellik düzeyi),searchdata_url_impression(URL düzeyi,is_*zengin sonuç bayraklarıyla) veExportLog(günlük dışa aktarma kaydı). - Kurulum: Faturalandırma açık olan Google Cloud projesi → BigQuery + BigQuery
Storage API’lerini etkinleştirin →
search-console-data-export@system.gserviceaccount.comhesabına BigQuery Job User ve BigQuery Data Editor rollerini verin → Search Console Ayarları → Toplu veri dışa aktarımı → proje kimliği, veri kümesi adı, konum (bölüm sona ermesini 14+ günde tutun) → işlem yaklaşık bir gün içinde başlar, ilk dışa aktarım ~48 saat içinde. - Geriye dönük doldurma yok. Etkinleştirme gününden itibaren başlar — geçmişe dönük hiçbir şey çekilmez. Bu, en çok karışıklığa neden olan 1 numaralı noktadır.
- Yine de anonimleştirilmiş sorgular yok.
queryalanında boş dizeler olarak görünürler; metrikler toplanır ancak asla belirli bir kaynağa atfedilemez. Patrick’in 146 741 site ve yaklaşık 9 milyar tıklama üzerine yaptığı bir aylık Ahrefs çalışmasında, tıklamaların ~%46’sı açıklanmayan sorgulara gitti — toplu dışa aktarım bunları kurtarmaz. - Maliyet: gerçek bir ücretsiz katman (kabaca 10 GiB depolama + ayda 1 TiB sorgu) ancak bir
faturalandırma hesabı gerektirir ve maliyet trafikle değil, sorgu/anahtar kelime çeşitliliğiyle ölçeklenir.
Klasik fatura, ham tabloları canlı sorgulayan bir panodur (belgelenmiş bir durum: bir günde 23 TB /
~115 €). Çözüm: özet tabloları somutlaştırın, tarih bölümünü filtreleyin,
SELECT *kullanmaktan kaçının. - Sorgulama: her zaman
SUM()/GROUP BYkullanın (satırlar önceden birleştirilmez), anonim satırları atmak içinquery != ''filtresini uygulayın ve konum sıfır tabanlıdır (1 ekleyin). - Yönetim: devre dışı bırakma 24 saate kadar sürer; başarısız dışa aktarımlar tarih başına ~bir hafta yeniden dener ve ~bir aylık başarısızlık tüm dışa aktarımı kapatır; dışa aktarılan bir tablonun şemasını değiştirmek veya bölüm sona ermesini 14 günün altına ayarlamak onu bozar.
- Bing’in bu yazının yazıldığı tarih itibarıyla yerel bir karşılığı yok — üçüncü taraf bağlayıcılar boşluğu doldurur, ancak GSC dışa aktarımının şemasıyla birebir eşleşmeleri gerekmez.
- Merdiven: arayüz → API → toplu dışa aktarım, her biri bir sınırı kaldırır.
Resmi dokümantasyon
Birincil kaynak belgeler, çoğunlukla Google Search Console Yardım ve Google Cloud Blog.
Google — özellik
- Search Console verilerinin BigQuery’ye toplu dışa aktarımı hakkında — genel bakış ve nelerin dahil edildiği/hariç tutulduğu.
- Yeni bir toplu veri dışa aktarımı başlatın — kurulum akışı: proje, API’ler, hizmet hesabı rolleri, veri kümesi ayarları, 48 saatlik gecikme.
- Tablo yönergeleri ve referansı —
searchdata_site_impression,searchdata_url_impressionveExportLogiçin tam şema. - Sorgu yönergeleri ve örnek sorgular — nasıl toplanacağı, maliyetin nasıl en aza indirileceği, anonim satırların nasıl filtreleneceği ve hazır örnek sorgular.
- Toplu veri dışa aktarımlarını yönetin ve izleyin — devre dışı bırakma, hata işleme, yeniden deneme/saklama eşikleri ve Test raporu.
Google — duyuru ve çerçeve
- Toplu veri dışa aktarımı: Search Console verilerinize erişmenin yeni ve güçlü bir yolu (Search Central Blog, Şubat 2023) — orijinal duyuru.
- Google Search verilerini BigQuery ile analiz edin (Google Cloud Blog, Daniel Waisberg & Gaal Yahas) — gelişmiş/ML çerçevesi.
- Search Console toplu veri dışa aktarımları için BigQuery verimlilik ipuçları (Search Central Blog, Haziran 2023) — maliyet ve sorgu verimliliği rehberi.
Fiyatlandırma
- BigQuery fiyatlandırması — güncel ücretsiz katman ve TB/GB başına oranlar (alıntı yapmadan önce doğrulayın; bunlar değişebilir).
Kaynaktan alıntılar
Google’dan kayıtlı açıklamalar. Bir sayfa JavaScript ile işleniyorsa ve otomatik doğrulamaya direniyorsa, alıntı birebir ikincil kapsam aracılığıyla kaynaklandırılır ve aşağıda işaretlenir.
Google — nedir
- “Schedule a daily export of your Search Console performance data to BigQuery, where you can run complex queries over your data or export it to an external storage service.” (çeviri) «Search Console performans verilerinizin BigQuery’ye günlük dışa aktarımını planlayın; burada verileriniz üzerinde karmaşık sorgular çalıştırabilir veya bunları harici bir depolama hizmetine aktarabilirsiniz.» — Google Search Console Yardım. Alıntıya git
- “A bulk data export is a scheduled daily export of your Search Console performance data. It includes all the data used by Search Console to generate performance reports. Data is exported to Google BigQuery, where you can run SQL queries for advanced data analysis or even export it to another system.” (çeviri) «Toplu veri dışa aktarımı, Search Console performans verilerinizin zamanlanmış günlük dışa aktarımıdır. Search Console’un performans raporları oluşturmak için kullandığı tüm verileri içerir. Veriler, gelişmiş veri analizi için SQL sorguları çalıştırabileceğiniz veya hatta başka bir sisteme aktarabileceğiniz Google BigQuery’ye aktarılır.» — Daniel Waisberg, Arama Savunucusu, Google. Alıntıya git
Google — şema
- “Contains performance data for your property aggregated by property.” (on
searchdata_site_impression) ve “Contains performance data for your property aggregated by URL.” (onsearchdata_url_impression). (çeviri) «Özelliğiniz için özelliğe göre toplanmış performans verilerini içerir.» ve «Özelliğiniz için URL’ye göre toplanmış performans verilerini içerir.» Alıntıya git - “The user query. When is_anonymized_query is true, this will be a zero-length string.” (çeviri) «Kullanıcı sorgusu. is_anonymized_query true olduğunda bu, sıfır uzunlukta bir dize olacaktır.» Alıntıya git
Google — sorgulama
- “Data in the tables is not guaranteed to be consolidated by date, URL, site, or any combination of keys.” (çeviri) «Tablolardaki verilerin tarihe, URL’ye, siteye veya herhangi bir anahtar kombinasyonuna göre birleştirileceği garanti edilmez.» Alıntıya git
- “A good way to minimize query costs is to use a WHERE clause to limit the date range in the date partitioned table.” (çeviri) «Sorgu maliyetlerini en aza indirmenin iyi bir yolu, tarihe göre bölümlenmiş tablodaki tarih aralığını sınırlamak için bir WHERE yan tümcesi kullanmaktır.» Alıntıya git
Google — dışa aktarımı yönetme
- “Search Console retains data from failed exports for about a week.” ve “Search Console will stop trying to export data for a given date after about a week of failed attempts, and after about a month of failed export attempts, Search Console will stop the bulk export entirely.” (çeviri) «Search Console, başarısız dışa aktarımlardan gelen verileri yaklaşık bir hafta saklar.» ve «Search Console, belirli bir tarih için yaklaşık bir haftalık başarısız denemeden sonra veri dışa aktarmayı durdurur ve yaklaşık bir aylık başarısız dışa aktarma denemesinden sonra Search Console toplu dışa aktarımı tamamen durdurur.» Alıntıya git
Google Cloud Blog — Daniel Waisberg & Gaal Yahas
- “Store data as long as you want. Search Console stores up to sixteen months of data; using BigQuery you can store as much data as it makes sense to your organization.” (çeviri) «Verileri istediğiniz kadar saklayın. Search Console on altı aya kadar veri saklar; BigQuery kullanarak kuruluşunuz için anlamlı olduğu kadar veri saklayabilirsiniz.» Alıntıya git
Toplu dışa aktarma vs. API vs. arayüz vs. Looker Studio bağlayıcısı — hangisini kullanmalıyım?
Kulağa en güçlü gelen değil, gerçekte karşılaştığınız sınırdan başlayın. BigQuery dışa aktarımını kuran çoğu kişinin buna ihtiyacı yoktu.
S1. Search Console arayüzünde gerçek bir sınıra mı takılıyorsunuz? (Yaklaşık 1 000 satırlık dışa aktarma sınırı, yaklaşık 16 aylık geçmiş duvarı veya GSC’yi diğer verilerle birleştirme ihtiyacı.)
- Hayır → durun. Arayüz (ve panolar için Looker Studio’nun yerel Search Console bağlayıcısı) yeterlidir. İhtiyacınız olmayan bir veri ambarına girişmeyin.
- Evet → devam edin.
S2. Sürekli, günlük bir tam veri ambarına mı ihtiyacınız var — yoksa yalnızca daha büyük bir tek seferlik / programatik çekime mi?
- Tek seferlik veya programatik çekim (bir betik, bir entegrasyon, ara sıra yapılan derin bir dışa aktarma) → Search Console API’sini kullanın. Arayüzden daha fazlası, çalıştırılacak BigQuery yok, ancak yine de sınırlı/hız sınırlı ve anonimleştirilmiş sorgular yok.
- Sürekli günlük boru hattı; veri ambarına alıp diğer verilerle birleştireceksiniz → devam edin.
S3. Bir Google Cloud projesi, aktif bir faturalandırma hesabı ve SQL yazma (veya yazabilen birine sahip olma) konusunda rahat mısınız?
- Hayır → yeniden düşünün. Yönetilmeyen bir dışa aktarma ve ham tablolar üzerinde bir pano, sürpriz faturaların nasıl oluştuğudur. Ya yardım alın ya da API/Looker Studio bağlayıcısında kalın.
- Evet → toplu veri dışa aktarımını kurun. Şimdi açın (unutmayın: geriye dönük doldurma yok) ve ham tabloları canlı sorgulamak yerine özet tabloları maddileştirmeyi planlayın.
S4. Özellikle anonimleştirilmiş/gizli sorguların ayrıştırılmasına mı ihtiyacınız var?
- Evet → bunların hiçbiri bunu sağlamaz. Toplu dışa aktarma, API ve arayüz, anonimleştirilmiş sorguları sorgu düzeyinde bastırır. Hedefi ayarlayın; veri Google’dan alınabilecek şekilde mevcut değil.
Tek satırlık özet: bir sınıra takılmıyorsanız → arayüz/Looker Studio; geçici veya kodlanmış çekimler → API; ölçekte sürekli veri ambarı → toplu dışa aktarma; gizli sorgular → bunları size kimse veremez.
Toplu veri dışa aktarımı kurulum kontrol listesi
Yukarıdan aşağıya çalışın; her adım bir sonrakini açar.
- Dışa aktarmayı, henüz analiz etmeye hazır olmasanız bile bugün açtınız (geriye dönük doldurma yok — sayaç etkinleştirme anında başlar).
- Faturalandırma etkin bir Google Cloud projesi mevcut (ücretsiz katman için bile faturalandırma gereklidir).
- Bu projede BigQuery API etkinleştirildi.
- Bu projede BigQuery Storage API etkinleştirildi.
-
search-console-data-export@system.gserviceaccount.com, BigQuery Job User (bigquery.jobUser) olarak bir asıl (principal) olarak eklendi. - Aynı hizmet hesabına BigQuery Data Editor (
bigquery.dataEditor) izni verildi. - Search Console → Ayarlar → Toplu veri dışa aktarma bölümüne Cloud proje kimliğini (kimlik, numara değil) yapıştırdınız.
- Bir veri kümesi adı (adı
searchconsoleile başlayacaktır) ve bir veri kümesi konumu seçtiniz. - Dışa aktarma veri kümesinde bölüm (partition) sona erme süresi ayarladıysanız, bunu 14 gün veya daha uzun tuttunuz — daha kısa süre dışa aktarmayı bozar.
- Oluşturulan tablonun şemasını değiştirmeden bıraktınız (bunun yerine türetilmiş tablolar oluşturun).
- İlk dışa aktarma için 48 saate kadar beklediniz (sürecin kendisi yaklaşık bir gün içinde başlamalıdır), ardından verilerin geldiğini doğruladınız (
ExportLogve ikisearchdata_*tablosunu kontrol edin). - Google Cloud’da bir bütçe uyarısı ayarladınız, böylece kontrolden çıkan bir sorgu sizi şaşırtmasın.
- Sınırsız saklama gerekmiyorsa, türetilmiş tablolarınızda bölüm sona erme süresi ayarladınız.
- Panoları ham dışa aktarma tabloları üzerine değil, somutlaştırılmış özet tablolar üzerine kurdunuz.
Kaçınılması gereken hatalar ve mitler
“Açmak eski verilerimi geriye dönük olarak doldurur.” Hayır. Dışa aktarma, etkinleştirme gününden itibaren başlar ve yalnızca ileriye doğru birikir — öncesine ait hiçbir şey çekilmez. Bu, Google’ın kendi topluluk forumunda bu özellik hakkında en çok sorulan sorudur. Geçmişin oluşmaya başlaması için bunu duyduğunuz anda açın.
“BigQuery dışa aktarma sonunda bana gizli/anonimleştirilmiş sorguları gösteriyor.”
Hayır. Anonimleştirilmiş sorgular query alanında boş dizeler olarak görünür; tıklamaları ve gösterimleri toplamlara dahil edilir ancak asla bir terime atfedilmez — aynı arayüz ve API’deki gibi. Ahrefs çalışmamda, tıklamaların yaklaşık %46’sı Google’ın açıklamayacağı sorgulara gitti ve “tüm verileri almamıza izin veren” API bile bunları yüzeye çıkaramadı. Toplu dışa aktarma burada hiçbir şeyi değiştirmez.
“Tamamen ücretsiz.” Kısmen doğru. Gerçek bir ücretsiz katman var, ancak aktif bir faturalandırma hesabı gerektirir ve verimsiz sorgulama size fatura çıkarabilir. “Ücretsiz” yalnızca verimli sorgular yaparsanız geçerlidir.
“Daha fazla trafik, daha büyük bir BigQuery faturası anlamına gelir.” Pek değil — maliyet, ham tıklama hacminden çok sorgu/anahtar kelime çeşitliliğiyle ölçeklenir. Az trafikli ancak çok sayıda uzun kuyruk çeşitliliğine sahip bir site, az sayıda yoğun sorgusu olan yüksek trafikli bir siteden daha fazla veri üretebilir.
Canlı bir panoyu ham tablolara bağlamak.
En pahalı hata. Belgelenmiş bir vakada Looker Studio, ham milyar satırlık tablolara doğrudan bağlanarak günde 23 TB (~€115) taradı. Çözüm: özet tabloları bir zamanlamayla somutlaştırın ve panoları bunlara yönlendirin; WHERE yan tümcesinde tarih bölümünü filtreleyin; asla SELECT * kullanmayın.
Dışa aktarılan bir tablonun şemasını düzenlemek veya çok kısa bir bölüm sona erme süresi ayarlamak.
searchdata_site_impression, searchdata_url_impression veya ExportLog üzerinde değişiklik yapmak dışa aktarmayı bozar. Dışa aktarma veri kümesinin bölüm sona erme süresini Google’ın 14 günlük minimumunun altına ayarlamak da öyle. Bunun yerine kendi türetilmiş tablolarınızı oluşturun, orijinallere dokunmadan bırakın ve ham veri kümesindeki herhangi bir sona erme politikasına 14+ günlük bir pay verin.
“Bu, Search Console API’sinin yerini alıyor.” Farklı işler için farklı araçlar. API, geçici ve programatik çekmeler içindir; toplu dışa aktarma, veri ambarı ve birleştirmeler için sürekli günlük bir boru hattıdır.
Proje başına yalnızca bir mülk dışa aktarabileceğinizi varsaymak.
Güncel değil. Google daha sonra, searchconsole_ önekli farklı veri kümesi adları aracılığıyla tek bir Cloud projesinde birden fazla mülke izin verdi.
Dışa aktarmayı faturanızı tasarlamadan önce tasarlamak için bir çerçeve
1. Soruyla başlayın, depoyla değil. Hızlı bir yanıt için arayüzü, sınırlı programatik çekimler için Search Analytics API’sini ve yalnızca sürekli bir günlük geçmişe, birleştirmelere veya diğer basamakların sağladığından daha fazla satıra ihtiyacınız olduğunda toplu dışa aktarmayı kullanın.
2. Tablo tanecikliğine saygı gösterin. searchdata_site_impression özellik düzeyindeki soruları yanıtlar; searchdata_url_impression URL boyutunu ekler. Satırların önceden birleştirilmiş olması garanti edilmez, bu nedenle her analiz bilinçli olarak boyutları seçmeli ve tıklamaları, gösterimleri ve konum alanlarını toplamalıdır.
3. Bölüm filtrelerini zorunlu kılın. Her sorguda bir data_date aralığı gerektirin. Maliyet taranan baytları takip eder ve ham tablolara karşı sınırsız bir gösterge paneli aynı geçmişi tekrar tekrar tarayabilir.
4. Ham, modellenmiş ve sunum katmanlarını ayırın. Google’ın dışa aktarma tablolarını değiştirmeden bırakın, yinelenen sorular için zamanlanmış özet tabloları oluşturun ve Looker Studio’yu veya başka bir gösterge panelini bu özetlere yönlendirin. Dışa aktarma tablolarındaki şema düzenlemeleri teslimat hattını bozabilir.
5. Hattı üretim verisi gibi çalıştırın. ExportLog’u, sorgu baytlarını, zamanlanmış iş hatalarını ve tazeliği izleyin. Dışa aktarmanın geri doldurması yoktur, bu nedenle eksik günler operasyonel bir olaydır, aktivasyonun daha sonra onaramayacağı bir şeydir.
Yaygın GSC toplu dışa aktarma sorunları
Test raporu kurulum sırasında başarısız oluyor
Belirti: Search Console, aktivasyondan önce projeyi veya veri kümesini reddediyor. Olası neden: faturalandırma veya gerekli BigQuery API’leri etkin değil, proje kimliği yanlış veya Search Console dışa aktarma hizmet hesabında BigQuery Job User ve BigQuery Data Editor eksik. Düzeltme: bu ön koşulları düzeltin, Test raporunu yeniden çalıştırın ve yalnızca başarılı olduktan sonra etkinleştirin.
Tablo veya yeni satır görünmüyor
Belirti: veri kümesi var, ancak beklenen dışa aktarma verileri yok. Olası neden:
ilk teslimat hâlâ beklemede, veri kümesi adı/konumu yanlış, dışa aktarma
devre dışı bırakıldı veya hatalar birikiyor. Düzeltme: ilk teslimat
penceresine izin verin, ardından ExportLog’u ve Search Console’un toplu dışa aktarma durumunu inceleyin. Veri kümesini yeniden oluşturmak yerine hattı düzeltin, çünkü aktivasyon önceki tarihleri geri doldurmaz.
Sorgu toplamları yinelenmiş veya şişirilmiş görünüyor
Belirti: tıklamalar veya gösterimler aynı kapsam için Search Console toplamını aşıyor.
Olası neden: ham dışa aktarma satırları zaten birleştirilmiş olarak ele alındı veya
site ve URL tanecikli verileri karıştırıldı. Düzeltme: bir tablo tanecikliği seçin, bir
search_type filtresi uygulayın, amaçlanan boyutlara göre gruplayın ve toplamları karşılaştırmadan önce metrik alanlarını SUM() ile toplayın.
Ortalama konum bir eksik
Belirti: hesaplanan bir konum, arayüz beklentisinden sürekli olarak bir düşük. Olası neden: dışa aktarmanın konum değerleri sıfır tabanlıdır. Düzeltme: konum payını eşleşen gösterimlerle toplayın, ardından yalnızca sunum katmanında bilinen bir tabanlı görünüme dönüştürün.
Bir gösterge paneli aniden pahalı hale geliyor
Belirti: trafik artmamasına rağmen işlenen baytlar ve sorgu ücretleri artıyor.
Olası neden: gösterge paneli, bölüm filtresi olmadan ham URL düzeyindeki tabloları tarıyor.
Düzeltme: çalıştırmadan önce baytları inceleyin, sınırlı bir data_date koşulu ekleyin,
gerekli günlük özeti somutlaştırın ve gösterge panelini bu daha küçük tabloya yönlendirin.
Kurulumdan veya hat değişikliğinden sonra toplu dışa aktarmanın çalıştığını kanıtlayın
Search Console’un projeye yazabildiğini doğrulayın
Çalıştırılacak test — Projeyi, API’leri veya IAM rollerini değiştirdikten sonra Ayarlar → Toplu veri dışa aktarma → Test raporu’nu çalıştırın. Beklenen sonuç — Search Console, hedefin geçerli olduğunu bildirir. Hata yorumu — proje/API yapılandırması veya dışa aktarma hizmet hesabının rolleri hâlâ yanlış. İzleme penceresi — Anında. Geri alma tetikleyicisi — Test başarısız olurken üretim dışa aktarma hedefini etkinleştirmeyin veya değiştirmeyin.
Eksiksiz bir günlük teslimatı doğrulayın
Çalıştırılacak test — ExportLog içinde en yeni beklenen data_date değerini kontrol edin, ardından aynı bölüm için her iki gösterim tablosunu sorgulayın. Beklenen sonuç — günlük teslimatı kaydeder ve site/URL tabloları, özelliğin etkinlik gösterdiği tarih için satırlar içerir. Hata yorumu — dışa aktarma gecikmiş veya başarısız olmuştur; boş bir sonuç geçmişe dönük bir doldurma değildir. İzleme penceresi — Hata bildirmeden önce belgelenen veri gecikmesine ve ilk dışa aktarma penceresine izin verin. Geri alma tetikleyicisi — En yeni tarihi eksikse veya gerekli tablolardan yalnızca biri geldiyse, aşağı akış rapor yayınını duraklatın.
Modellenmiş bir sorgunun mutabık olduğunu doğrulayın
Çalıştırılacak test — Sabit bir tarih ve arama türü için yeni özet sorgusunu çalıştırın, ardından toplam tıklamalarını ve gösterimlerini aynı ham bölümün doğrudan bir toplamıyla karşılaştırın. Beklenen sonuç — toplamlar aynı ayrıntı düzeyinde ve filtrelerde eşleşir. Hata yorumu — model satırları düşürüyor, boyutları çift sayıyor veya site ve URL ayrıntı düzeyini karıştırıyor. İzleme penceresi — Sorgu bittikten hemen sonra. Geri alma tetikleyicisi — Yeni model mutabık olana kadar panoları önceki özette tutun.
Maliyet güvenlik önlemini doğrulayın
Çalıştırılacak test — Üretim sorgusu için amaçlanan data_date filtresiyle işlenen baytları önizleyin. Beklenen sonuç — tarama istenen bölümlerle sınırlıdır ve ekibin bu rapor için belirlediği temel çizgiyle tutarlıdır. Hata yorumu — bölüm budaması eksik veya bir birleştirme taramayı genişletti. İzleme penceresi — Her zamanlanmış sorgu veya pano değişikliğinden önce. Geri alma tetikleyicisi — Açıklanan bir veri hacmi değişikliği olmadan tahmini taraması onaylanan temel çizgiyi önemli ölçüde aşan bir sürümü dağıtmayın.
Başlangıç sorguları
Bunlar Google’ın kendi kurallarına uyar: her şeyi toplayın (satırlar önceden birleştirilmez), maliyeti kontrol etmek için tarih bölümünü filtreleyin ve konumun sıfır tabanlı olduğunu unutmayın. yourproject.searchconsole değerini kendi veri kümenizle değiştirin.
En iyi gerçek sorgular (anonimleştirilmiş satırlar kaldırıldı), son 28 gün
SELECT
query,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions,
SAFE_DIVIDE(SUM(clicks), SUM(impressions)) AS ctr,
SUM(sum_top_position) / SUM(impressions) + 1 AS avg_position
FROM `yourproject.searchconsole.searchdata_site_impression`
WHERE data_date BETWEEN DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
AND DATE_SUB(CURRENT_DATE(), INTERVAL 2 DAY) -- 2-day data lag
AND query != '' -- drop anonymized rows
GROUP BY query
ORDER BY clicks DESC
LIMIT 100;Tıklamalara göre en iyi açılış sayfaları (URL düzeyinde tablo)
SELECT
url,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions
FROM `yourproject.searchconsole.searchdata_url_impression`
WHERE data_date BETWEEN DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
AND DATE_SUB(CURRENT_DATE(), INTERVAL 2 DAY)
GROUP BY url
ORDER BY clicks DESC
LIMIT 100;SSS zengin sonuç performansı (URL tablosunda bir zengin sonuç işareti)
SELECT
url,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions
FROM `yourproject.searchconsole.searchdata_url_impression`
WHERE data_date BETWEEN DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
AND DATE_SUB(CURRENT_DATE(), INTERVAL 2 DAY)
AND is_tpf_faq = TRUE
GROUP BY url
ORDER BY impressions DESC;Panoların ham tablolara asla dokunmaması için günlük bir özeti somutlaştırın
CREATE OR REPLACE TABLE `yourproject.searchconsole_derived.daily_query_summary`
PARTITION BY data_date AS
SELECT
data_date,
query,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions
FROM `yourproject.searchconsole.searchdata_site_impression`
WHERE query != ''
GROUP BY data_date, query;Bir maliyet kontrolü alışkanlığı: bir sorgunun kaç bayt tarayacağını çalıştırmadan önce doğrulayın; bq CLI’sindeki kuru çalıştırma bayrağını kullanın — yanlışlıkla yapılan tam tablo taramasını yakalamanın ücretsiz bir yolu.
bq query --use_legacy_sql=false --dry_run \
'SELECT SUM(clicks) FROM `yourproject.searchconsole.searchdata_url_impression`
WHERE data_date >= DATE_SUB(CURRENT_DATE(), INTERVAL 7 DAY)'
# Prints the estimated bytes to be processed without running (or billing for) the query. GSC BigQuery dışa aktarımı — hızlı başvuru
Kuruluma bir bakış
| Adım | Ne | Ayrıntı |
|---|---|---|
| 1 | Cloud projesi | Faturalandırma etkin (ücretsiz katman için bile gerekli) |
| 2 | API’ler | BigQuery API + BigQuery Storage API’yi etkinleştirin |
| 3 | Hizmet hesabı | search-console-data-export@system.gserviceaccount.com |
| 4 | IAM rolleri | BigQuery Job User + BigQuery Data Editor |
| 5 | Search Console | Ayarlar → Toplu veri dışa aktarımı → proje kimliği, veri kümesi adı, konum; bölüm sona erme süresini 14+ gün tutun |
| 6 | Bekleyin | Süreç yaklaşık bir gün içinde başlar; ilk dışa aktarım ~48 saat içinde |
Üç tablo
| Tablo | Tanecik | Önemli alanlar |
|---|---|---|
searchdata_site_impression | Özellik | query, is_anonymized_query, country, device, search_type, sum_top_position |
searchdata_url_impression | URL | Yukarıdakilerin tümü + url, is_* zengin sonuç bayrakları, sum_position |
ExportLog | Günlük kayıt | namespace, data_date, epoch_version, publish_time |
Sorgu kuralları
- Her zaman
SUM()+GROUP BY— satırlar önceden birleştirilmez. - Anonim satırları bırakmak için
WHERE query != ''. - Maliyeti düşürmek için
data_date(bölüm) filtresi. avg_position = SUM(sum_top_position)/SUM(impressions) + 1(sıfır tabanlı, 1 ekleyin).- Asla
SELECT *.
Hızlı bilgiler
- Geriye dönük doldurma yok — veriler etkinleştirmeden itibaren başlar, yalnızca ileriye dönük.
- Anonimleştirilmiş sorgular gizli kalır (boş
querydizesi) — UI/API ile aynı. - En son verilerde iki günlük gecikme.
- Devre dışı bırakma 24 saate kadar sürer (bir gün daha gelebilir).
- Hata eşikleri: tarih başına ~1 hafta yeniden deneme → ~1 aylık hatalar tüm dışa aktarımı durdurur.
- Bölüm sona erme alt sınırı: dışa aktarma veri kümesinde minimum 14 gün; daha kısa olması bozar.
- Veri kümesi adı her zaman
searchconsoleile başlar. - Proje başına birden çok özellik: farklı
searchconsole_önekli veri kümesi adları kullanın. - Ücretsiz katman (güncel olanı doğrulayın): ~10 GiB depolama + ayda ~1 TiB sorgu, ardından ~$6,25 USD/TiB.
- Bing: yerel bir karşılığı yok — üçüncü taraf bağlayıcı gerekli.
GSC BigQuery çalışmalarını incelemek için istemler
Bir sorguyu doğruluk ve maliyet açısından denetle
Tablo şemalarını, SQL’i, amacını ve tarih/arama türü kapsamını yapıştırın. Modelden düzeltilmiş SQL ve kısa bir açıklama döndürmesini isteyin, ardından zamanlamadan önce çıktıyı BigQuery’de doğrulayın.
You are reviewing a Google Search Console bulk-export query in BigQuery.
Goal: [the question this query should answer]
Table grain and schemas: [paste the relevant site or URL table fields]
SQL: [paste the query]
Required date range and search_type: [paste them]
Check for: a missing data_date partition filter; failure to aggregate raw rows;
site-grain and URL-grain mixing; incorrect handling of zero-based position;
anonymized-query handling; joins that duplicate metrics; and unnecessary bytes
scanned. Return: (1) each issue, (2) corrected Standard SQL, (3) a reconciliation
query, and (4) assumptions that require human verification. Do not invent fields.Güvenli bir raporlama katmanı tasarla
Panelin yanıtlaması gereken soruları ve gerçek şemayı yapıştırın. Önerilen bir özet tablosu tanecik ve doğrulama planı bekleyin, uydurulmuş, çalıştırılmaya hazır bir dağıtım değil.
Design a modeled reporting layer for this GSC BigQuery bulk export.
Business questions: [paste the questions]
Available tables and schemas: [paste them]
Refresh cadence: [daily/weekly]
Required dimensions: [page, query, country, device, search type, etc.]
Propose: the smallest useful summary-table grain; partitioning and clustering;
a scheduled-query sequence; freshness and reconciliation checks; and which dashboard
questions should stay in the UI or API instead. Preserve raw export tables unchanged.
Flag any requirement the supplied schema cannot support, especially requests for
disclosed anonymized queries. Do not invent benchmarks, fields, or backfill. Dışa aktarımın etrafındaki araçlar
- Google BigQuery — verilerin indiği yer; SQL çalıştırın, sorguları zamanlayın ve üzerinde BigQuery ML modelleri oluşturun.
- BigQuery maliyet kontrolleri — Google Cloud bütçe uyarıları, sorgu başına bayt
sınırları ve çalıştırmadan önce tarama boyutunu tahmin etmek için
bq --dry_runbayrağı. - Looker Studio — panolar için, ancak bunları ham dışa aktarım üzerine değil, somutlaştırılmış özet tablolar üzerine kurun. (Looker Studio’nun ayrıca BigQuery’ye hiç ihtiyaç duymayan yerel bir Search Console bağlayıcısı vardır — genellikle tek başına yeterlidir.)
- Google Search Console — kaynak; UI dışa aktarımı ve Performans raporu, toplu dışa aktarımın genişlettiği temeldir.
- Search Console API — kalıcı bir veri ambarı değil, yalnızca UI’dan daha fazlasına ihtiyacınız olduğunda orta basamak.
- Üçüncü taraf ETL bağlayıcıları (Supermetrics, Improvado, Catchr ve diğerleri) — Bing’in yerel bir dışa aktarımı olmadığından, Bing Webmaster Tools verilerini BigQuery’ye bu şekilde alırsınız.
Zaman ayırmaya değer kaynaklar
İlgili yazılarım
- Almost Half of GSC Clicks Go to Anonymous Queries — Ahrefs çalışmam (146 741 site, ~9 milyar tıklama), tıklamaların %46,08’inin Google’ın açıklamadığı sorgulara gittiğini gösteriyor. Doğrudan ilgili: BigQuery dışa aktarımı da bunların hiçbirini kurtarmıyor.
- The Beginner’s Guide to Technical SEO — Search Console ve veri analizi çalışmalarının büyük resimde nereye oturduğu.
Konuşmalarım / yazılarım
- On getting more out of GSC data — Search Console verilerinden daha fazlasını çıkarmaya dair bir anlatım (Ahrefs’in kendi GSC özellikleri üzerinden), BigQuery dışa aktarımıyla aynı “arayüzde görünenden daha fazlası var” temasının parçası.
Sektörden
- Google Search Console adds daily bulk data exports to BigQuery (Search Engine Land, Barry Schwartz) — duyuru haberleri, Google’ın orijinal ifadeleri aynen alıntılanmış.
- Google Explains How To Use Search Console Bulk Data Export (Search Engine Journal, Matt G. Southern) — Daniel Waisberg’in özelliğin sade dille anlatımı.
- Get Started With GSC Queries In BigQuery (Search Engine Journal) — pratik bir sorgu başlangıcı.
- Google Search Console to BigQuery: The Complete Guide (Trevor Fox) — “anahtar kelime çeşitliliği, arama hacmi değil” maliyet çerçevesinin kaynağı.
- See Ya, Sampling! Get More Complete GSC Data With BigQuery (Advanced Web Ranking, Sam Torres) — kurulum ve maliyet kontrolü temelleri.
- How to Query Google Search Console Data in BigQuery (Analytics Mania, Julius Fedorovicius) — iki günlük veri gecikmesi dahil kapsamlı anlatım.
- How to use your GSC data in BigQuery like a pro (Antoine Eripret) — 23 TB / ~115 € maliyet korku hikayesi ve geriye dönük doldurmanın olmaması dahil teknik derinlemesine inceleme.
Alıntı yapmaya değer istatistikler
- GSC tıklamalarının ~%46’sı açıklanmayan sorgulara gidiyor. Ahrefs çalışmamdan 146 741 web sitesi ve yaklaşık 9 milyar tıklama üzerine: tıklamaların %46,08’i Google’ın anonimleştirdiği sorgulara gitti — BigQuery dışa aktarımının UI ve API ile paylaştığı bir sınırlama.
- Ham tablolarda canlı bir pano bir günde 23 TB taradı (~115 €). Antoine Eripret’in, ham dışa aktarımı doğrudan sorgulamak yerine özet tabloları somutlaştırmanızın nedenini belgelediği durum. Kaynak
- İki günlük veri gecikmesi. “Google Search Console verileri iki günlük bir gecikmeyle kullanılabilir, bu nedenle mevcut en güncel veri her zaman iki gün öncesine ait olacaktır” — yani 30 günlük bir aralık ~28 günlük kullanılabilir veri döndürür. Kaynak
- Ücretsiz katman (doğrulayın — fiyatlandırma değişiyor): kabaca ayda 10 GiB depolama + 1 TiB sorgu işleme ücretsiz, ardından işlenen ~6,25 $/TiB. Kaynak
Kendinizi test edin: GSC BigQuery Dışa Aktarımı
Toplu veri dışa aktarımı hakkında beş hızlı soru. Her biri için bir yanıt seçin, ardından kontrol edin.
Değişiklik günlüğü
8 Ağu 2026 tarihinde güncellendi.
Editoryal özet ve kaydedilen değişiklik ayrıntıları.Değişiklik ayrıntıları
-
Ayrıntılı değişiklik notları şu anda İngilizce olarak mevcut.
Tam karşılaştırma kullanılamıyor — bu sürüm için önceki anlık görüntü arşivlenmemiş.
30 Tem 2026 tarihinde güncellendi.
Editoryal özet ve kaydedilen değişiklik ayrıntıları.Değişiklik ayrıntıları
-
Ayrıntılı değişiklik notları şu anda İngilizce olarak mevcut.
Tam karşılaştırma kullanılamıyor — bu sürüm için önceki anlık görüntü arşivlenmemiş.
18 Tem 2026 tarihinde güncellendi.
Editoryal özet ve kaydedilen değişiklik ayrıntıları.Değişiklik ayrıntıları
-
Ayrıntılı değişiklik notları şu anda İngilizce olarak mevcut.
-
Ayrıntılı değişiklik notları şu anda İngilizce olarak mevcut.
-
Ayrıntılı değişiklik notları şu anda İngilizce olarak mevcut.
Tam karşılaştırma kullanılamıyor — bu sürüm için önceki anlık görüntü arşivlenmemiş.