تصدير GSC إلى BigQuery
كيفية استخدام تصدير Google Search Console إلى BigQuery للاستعلام عن بيانات النقرات والظهور اليومية غير المجمعة دون حد أقصى لعدد الصفوف في الواجهة (لا تزال الاستعلامات المجهولة مستبعدة)، والفرق بين الواجهة والتصدير الخام، والإعداد، وآلية التكلفة، ومشكلة عدم التعبئة الرجعية.
اللغات
بالنسبة لخصائص المواقع، يقوم التصدير المجمع من GSC إلى BigQuery بجدولة تفريغ يومي غير مجمع لبيانات الأداء—باستثناء الاستعلامات المجهولة—إلى BigQuery، متجاوزًا حد الصفوف في الواجهة ونافذة الاحتفاظ البالغة 16 شهرًا. ينشئ جداول على مستوى الموقع ومستوى عنوان URL وسجل التصدير، ولا يقوم بالتعبئة الرجعية، ويتطلب فوترة، وقد يتكبد تكاليف استعلام. يدعم Google الآن خصائص منصات Instagram وTikTok وX وYouTube، لكن وثائقه الحالية للمنصات لا تعد بدعم BigQuery لها؛ لا تفترض أن هذا الخط ينطبق على الحسابات الاجتماعية.
TL;DR — تصدير GSC إلى BigQuery (تسميه Google تصدير البيانات المجمّع) ينسخ بيانات Search Console تلقائيًا إلى قاعدة بيانات Google Cloud تسمى BigQuery، مرة واحدة يوميًا، دون حد لعدد الصفوف. إنها الطريقة للحصول على بيانات نقرات وظهور أكثر بكثير من العرض المقتطع الذي تعرضه واجهة Search Console — على الرغم من أن الاستعلامات المجهولة (المخفية) تظل مخفية هنا أيضًا. تحذيران يجب معرفتهما مسبقًا: إنه لا يسحب بياناتك القديمة (بل يصدّر البيانات ابتداءً من يوم تفعيله فقط)، ويتطلب حساب فوترة في Google Cloud على الرغم من وجود طبقة استخدام مجانية.
ما هو
يمكن لتصدير البيانات المجمّع من Search Console إرسال بيانات الأداء اليومية إلى BigQuery. Evidence for this claim Search Console bulk data export sends daily performance data to BigQuery in a configured Google Cloud project. Scope: Search Console bulk export; setup, permissions, quotas, and supported properties follow Google's current documentation. Confidence: high · Verified: Google: Bulk data export توثق Google جداول منفصلة لظهور الموقع، وظهور عناوين URL، وسجل التصدير، مع مخطط وحدود تجميع مهمة أثناء التحليل. Evidence for this claim Bulk export uses site-impression, URL-impression, and export-log tables with documented schemas. Scope: Google's published Search Console export schema; aggregation and privacy handling still affect analysis. Confidence: high · Verified: Google: Bulk export tables
يغطي هذا الدليل خصائص المواقع. خصائص المنصات الأحدث في Search Console مثل Instagram وTikTok وX وYouTube لديها تقارير الأداء والرؤى والإنجازات، لكن توثيق Google الحالي لخصائص المنصات لا يوثق إعداد تصدير مجمّع إلى BigQuery أو مخططًا لها. تعامل مع خصائص المنصات على أنها غير مدعومة هنا ما لم تكشف Google عن الإعداد وتوثق العقد. LinkedIn ليست حاليًا خاصية منصة مدعومة.
افتح تقرير الأداء في Google Search Console وحاول تصديره. ستصطدم سريعًا بحدّ واضح: تقصر الواجهة معظم عمليات التصدير على نحو 1 000 صف، ولا تعرض لك إلا تقريبًا آخر 16 شهرًا من السجل. بالنسبة لموقع صغير، هذا جيد. بالنسبة لموقع كبير يحتوي على عشرات الآلاف من الصفحات وتنوع هائل في استعلامات البحث، فأنت ترى شريحة صغيرة من بياناتك الحقيقية.
تصدير البيانات المجمّع يحل هذه المشكلة. إنه إعداد داخل Search Console يقول: «من الآن فصاعدًا، أرسل بيانات الأداء الخاصة بي إلى BigQuery كل يوم.» BigQuery هو مستودع بيانات Google — مكان لتخزين جداول كبيرة وتشغيل استعلامات عليها. بمجرد تشغيل التصدير، تحصل على بيانات يومية غير مأخوذة بالعيّنة دون حد 1 000 صف، محفوظة للمدة التي تريدها — مع استثناء واحد دائم: الاستعلامات المجهولة (تلك التي يخفيها Search Console لأسباب الخصوصية) تظل تظهر كفارغة، كما في الواجهة. “لا حد لعدد الصفوف” ليس نفس “كشف كل استعلام.”
لماذا يهتم أي شخص
ستقوم بإعداد هذا إذا كنت تريد:
- تحليل استعلامات وصفحات أكثر بكثير مما تقدمه الواجهة أو زر التصدير.
- الاحتفاظ بسجل Search Console أطول من 16 شهرًا (Search Console يتخلص من البيانات القديمة؛ BigQuery يحتفظ بما تحتفظ به).
- دمج بيانات Search Console مع بيانات أخرى — بيانات Google Analytics الخاصة بك، أو زحف، أو قاعدة بيانات منتجاتك — كلها في مكان واحد.
الأمران اللذان يجب معرفتهما قبل البدء
- لا يُجري تعبئة رجعية. هذه هي المفاجأة الأكثر شيوعًا. فتفعيل التصدير لا يجلب بياناتك التاريخية؛ بل يبدأ جمع البيانات من يوم التفعيل فصاعدًا. إذا أردت سجلًا، فعليك تشغيله ثم انتظار تراكم البيانات.
- هو «مجاني» مع تنبيه مهم. لدى BigQuery طبقة مجانية، وتظل معظم المواقع الصغيرة والمتوسطة ضمنها. لكن لا يزال عليك ربط حساب فوترة في Google Cloud، وإذا استعلمت عن البيانات بلا عناية — ولا سيما بتوجيه لوحة معلومات مباشرة إلى الجداول الخام — فقد تتراكم فاتورة فعلية.
هل يستحق الأمر بالنسبة لك؟
بصراحة، معظم المواقع لا تحتاج هذا. إذا كانت واجهة Search Console وموصل Search Console المدمج في Looker Studio يعرضان لك ما يكفي، فأنت انتهيت — تخطى الإعداد. تلجأ إلى تصدير BigQuery عندما تصطدم باستمرار بجدار 1 000 صف، أو عندما تحتاج إلى أكثر من 16 شهرًا من السجل، أو عندما تريد بيانات Search Console الخاصة بك بجانب بياناتك الأخرى في مستودع. إذا كان هذا هو حالك، انتقل إلى علامة التبويب متقدم للإعداد الكامل، وآليات التكلفة، والاستعلامات الأولى لتشغيلها.
الخلاصة — تصدير البيانات المجمّع هو تفريغ يومي مجدول وغير مأخوذ بالعيّنة لبيانات أداء Search Console إلى مجموعة بيانات BigQuery — بدون حد تصدير يبلغ حوالي 1 000 صف، وبدون جدار احتفاظ يبلغ حوالي 16 شهرًا. ينتج عنه ثلاثة جداول (
searchdata_site_impression،searchdata_url_impression،ExportLog). الإعداد: مشروع Google Cloud مع تفعيل الفوترة، وتشغيل واجهات برمجة تطبيقات BigQuery + BigQuery Storage، ومنح دورين من IAM إلى حساب خدمة التصدير الخاص بـ Google، ثم الإعدادات ← تصدير البيانات المجمّع في GSC. لا يقوم بإعادة ملء البيانات السابقة، ولا يزال يبلغ عن الاستعلامات المجهولة كسلاسل فارغة، ويصل أول تصدير خلال حوالي 48 ساعة. التكلفة هي طبقة مجانية حقيقية بالإضافة إلى رسوم الاستعلام لكل تيرابايت — الفاتورة الكلاسيكية تأتي من لوحات المعلومات التي تستعلم عن الجداول الأولية مباشرة. اعتبره الدرجة الثالثة: الواجهة ← API ← التصدير المجمّع.
السلم أدناه مخصص لخصائص المواقع الإلكترونية. ليس دليلاً على أن خصائص منصات التواصل الاجتماعي أو الفيديو تدعم Search Console API أو تصدير BigQuery.
ما هو في الواقع
التصدير المجمّع هو خط أنابيب بيانات Search Console مجدول إلى مشروع Google Cloud، وليس مصدرًا مستقلاً لبيانات الترتيب. Evidence for this claim Search Console bulk data export sends daily performance data to BigQuery in a configured Google Cloud project. Scope: Search Console bulk export; setup, permissions, quotas, and supported properties follow Google's current documentation. Confidence: high · Verified: Google: Bulk data export يجب أن تلتزم الاستعلامات بالجداول والمفاتيح وسلوك الخصوصية/التجميع الموثق. Evidence for this claim Bulk export uses site-impression, URL-impression, and export-log tables with documented schemas. Scope: Google's published Search Console export schema; aggregation and privacy handling still affect analysis. Confidence: high · Verified: Google: Bulk export tables
يصفه دانييل وايسبيرج، مستشار البحث في Google، بوضوح: “A bulk data export is a scheduled daily export of your Search Console performance data. It includes all the data used by Search Console to generate performance reports. Data is exported to Google BigQuery, where you can run SQL queries for advanced data analysis or even export it to another system.” (الترجمة العربية) «تصدير البيانات المجمّع هو تصدير يومي مجدول لبيانات أداء Search Console الخاصة بك. يتضمن جميع البيانات التي تستخدمها Search Console لإنشاء تقارير الأداء. يتم تصدير البيانات إلى Google BigQuery، حيث يمكنك تشغيل استعلامات SQL لتحليل البيانات المتقدم أو حتى تصديرها إلى نظام آخر.» (مقتبس في Search Engine Journal).
النقطة هي الحجم. تقوم واجهة Search Console بتحديد معظم الصادرات بحوالي 1 000 صف وتظهر نافذة متداولة تبلغ حوالي 16 شهرًا. تمنحك Search Console API المزيد ولكنها لا تزال محدودة ومعدل الطلبات فيها محدود. يزيل التصدير المجمّع سقف الصفوف تمامًا ويتيح لك أنت تحديد مدة الاحتفاظ. سطر Google الخاص من الإعلان، كما أعادت نشره Search Engine Land: “The daily data row limit does not impact this data, so you can extract more data using this method,” (الترجمة العربية) «حد الصفوف اليومي للبيانات لا يؤثر على هذه البيانات، لذا يمكنك استخراج المزيد من البيانات باستخدام هذه الطريقة،» والميزة “could be particularly helpful for large websites with tens of thousands of pages.” (الترجمة العربية) «قد تكون مفيدة بشكل خاص للمواقع الكبيرة التي تحتوي على عشرات الآلاف من الصفحات.»
ما البيانات التي تحصل عليها: الجداول الثلاثة
يتم وضع كل شيء في مجموعة بيانات يبدأ اسمها دائمًا بـ searchconsole. تظهر ثلاثة
كائنات (إرشادات الجدول والمرجع):
searchdata_site_impression— “Contains performance data for your property aggregated by property.” (الترجمة العربية) «يحتوي على بيانات أداء خاصيتك مجمّعة على مستوى الخاصية.» الحقول الأساسية:data_date(“The day on which the data in this row was generated (Pacific Time)” (الترجمة العربية) «اليوم الذي أُنشئ فيه الصف (بتوقيت المحيط الهادئ)»)،site_url(تستخدم خصائص النطاق البادئةsc-domain:)،query، وis_anonymized_query، وcountry(وفق معيار ISO-3166-1 Alpha-3)، وsearch_type(web/image/video/news/discover/googleNews)، وdevice، وimpressions، وclicks، وsum_top_position.searchdata_url_impression— “Contains performance data for your property aggregated by URL.” (الترجمة العربية) «يحتوي على بيانات أداء خاصيتك مجمّعة حسب عنوان URL.» كل ما سبق، إضافة إلىurl(“The fully-qualified URL where the user eventually lands when they click the search result” (الترجمة العربية) «عنوان URL الكامل الذي يصل إليه المستخدم في النهاية عند النقر على نتيجة البحث»)، وis_anonymized_discover، مجموعة من الأعلام المنطقيةis_[search_appearance_type](مثلis_amp_top_storiesوis_job_listingوis_tpf_faq) لتقسيم البيانات حسب نوع النتيجة الغنية، وsum_position. هذا هو الجدول الدقيق الذي تجري عليه معظم التحليلات.ExportLog— “A record of what data was saved for that day. Failed exports are not recorded here.” (الترجمة العربية) «سجل بالبيانات المحفوظة لذلك اليوم. لا تُسجَّل التصديرات الفاشلة هنا.» وتشمل الحقولagenda(حاليًاSEARCHDATAفقط)،namespace(الجدول الذي كُتبت إليه البيانات)،data_date، وepoch_version(“An integer, where 0 is the first time data was saved to this table” (الترجمة العربية) «عدد صحيح، حيث يمثل 0 أول مرة حُفظت فيها البيانات في هذا الجدول» — ويزداد عندما تراجع Google بيانات يوم لاحقًا)، وpublish_time.
التحذير المتعلق بالاستعلامات المجهّلة هو الأهم. حتى هنا، على المستوى الخام،
لا تُكشف الاستعلامات المجهّلة. وكما يصف Google الحقل، عندما تكون
قيمة is_anonymized_query صحيحة، فإن حقل query “will be a zero-length string.” (الترجمة العربية) «يكون سلسلة فارغة».
تُجمع مقاييسها مع إجمالياتك، لكن لا يمكن نسبتها إلى مصطلح محدد — وهو القيد نفسه
الموجود في الواجهة وواجهة API. وهذا مهم على نطاق واسع: في دراستي على Ahrefs عن المصطلحات المخفية في GSC، عبر
146 741 موقعًا ونحو 9 مليارات نقرة، ذهبت 46,08% من النقرات إلى استعلامات لا تكشفها
Google؛ وقد استخدمت الدراسة Search Console API التي “allows us to get all of the
data—and there’s still a lot missing.” (الترجمة العربية) «تتيح لنا الحصول على كل البيانات،
ومع ذلك لا يزال الكثير مفقودًا.» ولا يستعيد تصدير BigQuery أيًا منها. وإذا أخبرك
أحد أن التصدير المجمع «يكشف أخيرًا الاستعلامات المخفية»، فهو مخطئ.
كيفية إعداده
التدفق (ابدأ تصدير بيانات مجمّعًا جديدًا):
- أنشئ أو اختر مشروع Google Cloud مع تفعيل الفوترة. وفقًا لجوجل: “تخضع البيانات لتكاليف تخزين واستعلام Google Cloud، ولكن هناك مستوى استخدام مجاني.” تحتاج إلى الفوترة حتى لو بقيت ضمن الطبقة المجانية.
- فعّل BigQuery API وBigQuery Storage API في ذلك المشروع.
- امنح حساب خدمة التصدير من Google الوصول. أضف
search-console-data-export@system.gserviceaccount.comكمدير مع دورين من IAM: مستخدم وظائف BigQuery (bigquery.jobUser) ومحرر بيانات BigQuery (bigquery.dataEditor). - في Search Console، انتقل إلى الإعدادات ← تصدير البيانات المجمّعة. الصق معرّف المشروع من Cloud (المعرّف، وليس رقم المشروع)، واختر اسم مجموعة بيانات، واختر موقع مجموعة بيانات. لاحظ قاعدة التسمية: “يبدأ اسم مجموعة البيانات دائمًا بالسلسلة searchconsole، حتى عند تخصيصها.” إذا قمت بتعيين سياسة انتهاء صلاحية التقسيم على مجموعة البيانات الخاصة بالتصدير، فاحتفظ بها عند 14 يومًا أو أكثر — توثق Google حدًا أدنى قدره 14 يومًا، والذهاب إلى أقل من ذلك هو سبب فشل موثق. اترك مخطط الجدول المُنشأ دون تغيير أيضًا؛ تعديله هو الطريقة الموثقة الأخرى لكسر التصدير (المزيد في قسم استكشاف الأخطاء أدناه).
- انتظر. تقول Google إن عملية التصدير نفسها يجب أن تبدأ خلال يوم تقريبًا من التفعيل. “The first export will happen up to 48 hours after your successful configuration in Search Console,” (الترجمة العربية) «قد يحدث التصدير الأول خلال مدة تصل إلى 48 ساعة بعد نجاح الإعداد في Search Console». ولا يحتوي هذا التسليم الأول إلا على بيانات يوم التصدير، من دون أي بيانات سابقة للإعداد (انظر قسم عدم التعبئة الرجعية التالي). بعد ذلك يعمل يوميًا حتى توقفه.
وهناك توقع عملي ينبغي توضيحه: تصل بيانات Search Console مع تأخير يومين، لذا فإن أحدث يوم ستحصل عليه دائمًا هو قبل يومين. اطلب نطاقًا من 30 يومًا وستحصل بشكل فعال على حوالي 28 يومًا من البيانات القابلة للاستخدام.
مشكلة عدم التعبئة الرجعية
قلها بوضوح، لأنها تفاجئ كثيرين: تفعيل التصدير لا يسحب بياناتك التاريخية. يبدأ من يوم التفعيل ويتراكم فقط للأمام. هذا شائع بما يكفي لدرجة أن منتدى مجتمع Google نفسه يحتوي على عدة مواضيع حوله — “كيفية التعبئة الرجعية بالبيانات التاريخية عند تفعيل تصدير البيانات المجمّعة” (الموضوع 300051568), الموضوع 255704574, و الموضوع 429248330. أنطوان إيريبريت يضعها بصراحة في تحليله العملي: “لا يمكنك الحصول على بيانات تاريخية: إذا فعّلتها اليوم، سيكون لديك بيانات من اليوم.” الخلاصة بسيطة — فعّلها في اليوم الذي تسمع عنها لأول مرة، حتى لو لم تكن مستعدًا لتحليل أي شيء بعد، حتى يبدأ العد.
ما تكلفته، وكيف لا تتفاجأ
منشور مدونة Google Cloud بقلم دانيال وايسبيرغ وغال ياهاس يعرض الجانب الإيجابي — “إذا كان لديك موقع ويب كبير، سيوفر هذا الحل استعلامات وصفحات أكثر من حلول تصدير البيانات الأخرى” و*“تخزن Search Console ما يصل إلى ستة عشر شهرًا من البيانات؛ باستخدام BigQuery يمكنك تخزين أكبر قدر من البيانات المنطقي لمؤسستك”* — لكن إدارة آليات التكلفة تقع على عاتقك.
حتى وقت كتابة هذا، الطبقة المجانية من BigQuery تقريبًا 10 جيبي بايت من التخزين مجانًا بالإضافة إلى 1 تيبي بايت (~1 تيرابايت) من معالجة الاستعلام عند الطلب مجانًا شهريًا؛ بعد ذلك حوالي 6,25 دولارًا لكل تيبي بايت تتم معالجته وحوالي 0,02 دولارًا لكل جيجابايت مخزن شهريًا (يختلف حسب المنطقة وفئة التخزين). تتغير الأسعار، لذا تحقق من الأرقام الحالية قبل أن تقتبسها لأي شخص. معظم المواقع الصغيرة والمتوسطة تبقى مجانية أو شبه مجانية.
تأتي الفواتير من كيفية استعلامك، وليس مقدار حركة المرور لديك. أمران مهمان:
- تتزايد التكلفة مع تنوع الاستعلامات/الكلمات المفتاحية، وليس مع حركة المرور الخام. كما يقول تريفور فوكس في دليله الكامل: “حجم البيانات هو عامل يعتمد على تنوع الكلمات المفتاحية أكثر من حجم البحث. الموقع الذي لديه حجم بحث منخفض للعديد من الكلمات المفتاحية سيولد بيانات أكثر من موقع لديه حجم بحث كبير لكلمة مفتاحية واحدة.”
- لا توجه لوحة تحكم مباشرة إلى الجداول الخام. هذه هي قصة الرعب الكلاسيكية. وثق أنطوان إيريبريت قيام Looker Studio بمسح 23 تيرابايت في يوم واحد، حوالي 115 يورو، عند توصيله مباشرة بالجداول الخام التي تحتوي على مليارات الصفوف. منشور Google حول نصائح كفاءة BigQuery يقول نفس الشيء من حيث المبدأ: قم بالتجميع المسبق في جداول ملخصة، وقم بتصفية قسم التاريخ في جملة
WHERE، وتجنبSELECT *، وقم بتعيين تنبيهات الميزانية، وقم بتعيين انتهاء صلاحية القسم لحذف الأقسام القديمة تلقائيًا.
الإصلاح ممل لكنه فعال: قم بتجسيد نتائج استعلاماتك في جداول ملخصة صغيرة دائمة وفقًا لجدول زمني، ووجه لوحات التحكم إلى تلك الجداول، وليس إلى التصدير الخام.
الاستعلام: القواعد التي تحافظ على سلامتك (وتوفير التكاليف)
من إرشادات الاستعلام من Google:
- قم دائمًا بالتجميع. “البيانات في الجداول غير مضمونة أن تكون مجمعة حسب التاريخ أو عنوان URL أو الموقع أو أي مجموعة من المفاتيح.” (الترجمة العربية) «ستحصل على صفوف متعددة لنفس اليوم/عنوان URL/الاستعلام، لذا قم دائمًا بـ
SUM()لمقاييسك وGROUP BYلأبعادك. لا تعامل أبدًا صفًا واحدًا كرقم نهائي.» - قم بتصفية قسم التاريخ. “طريقة جيدة لتقليل تكاليف الاستعلام هي استخدام جملة WHERE لتحديد نطاق التاريخ في الجدول المقسم حسب التاريخ.”
- قم بإزالة الصفوف المجهولة عندما تريد الاستعلامات الفعلية الأعلى. “يتم الإبلاغ عن الاستعلام المجهول كسلسلة فارغة الطول في الجدول” — لذا أضف
WHERE query != ''. - الموضع يبدأ من الصفر. يخزن كلا الجدولين الموضع بدءًا من 0، لذا فإن متوسط الموضع هو
SUM(sum_top_position) / SUM(impressions) + 1(أضف 1).
توفر Google استعلامات نموذجية لإحصائيات البحث اليومية على الويب، وأعلى الاستعلامات على الجوال حسب البلد، وعناوين URL من Discover حسب النقرات، وأداء نتائج FAQ الغنية (is_tpf_faq = true)، وتتبع استعلامات العلامة التجارية عبر REGEXP_CONTAINS. ابدأ من تلك الاستعلامات.
إدارة واستكشاف أخطاء التصدير وإصلاحها
من إدارة ومراقبة تصدير البيانات المجمعة:
- الإيقاف ليس فوريًا. الإعدادات ← تصدير البيانات المجمعة ← إلغاء تنشيط التصدير. “ستتوقف عمليات التصدير المجمعة خلال الـ 24 ساعة القادمة،” لذا قد يصل يوم إضافي من البيانات بعد إيقافها.
- حدّا فشل، وليس حدًا واحدًا. “يحتفظ Search Console بالبيانات من عمليات التصدير الفاشلة لمدة أسبوع تقريبًا.” ثم: “سيتوقف Search Console عن محاولة تصدير البيانات لتاريخ معين بعد حوالي أسبوع من المحاولات الفاشلة، وبعد حوالي شهر من محاولات التصدير الفاشلة، سيوقف Search Console التصدير المجمع بالكامل.” لذا فإن المشكلة المستمرة لا تتخطى الأيام فحسب — بل بعد حوالي شهر يُغلق التصدير بالكامل، وسيتعين عليك إعداده مرة أخرى.
- فخ تغيير المخطط (وحد أدنى لانتهاء صلاحية الأقسام). إذا غيّرت مخطط جدول مُصدَّر، فإنك تكسر التصدير. تتطلب Google أيضًا 14 يومًا على الأقل من انتهاء صلاحية الأقسام على مجموعة بيانات التصدير — وإذا عيّنتها أقصر، فقد يفشل التصدير. اترك تلك الجداول وشأنها؛ بدلاً من ذلك، أنشئ جداولك المشتقة الخاصة. (تشمل الأسباب الشائعة الأخرى للفشل تجاوز حصة مشروع Cloud الخاص بك وإلغاء وصول حساب الخدمة.)
- استخدم تقرير الاختبار. توجد ميزة “تقرير الاختبار” التي تتيح لك التحقق من بعض المشكلات القابلة للتصحيح — معرف المشروع/بيانات الاعتماد، والأذونات — دون انتظار التشغيل المجدول التالي. لاحظ أنها لا تفرض إعادة تصدير فورية؛ تحقق بعد حوالي 24 ساعة لتأكيد نجاح الإصلاح.
- يرسل Search Console رسائل بريد إلكتروني إلى مالكي المواقع عند بدء أخطاء التصدير وعند حلها، وتعرض الإعدادات حالة أحدث محاولة تصدير.
مكانه: واجهة المستخدم ← API ← التصدير المجمع
فكر في ثلاث درجات على سلم، كل درجة تزيل حدًا واجهته الدرجة التي تحتها:
- تصدير واجهة المستخدم — حوالي 1000 صف، حوالي 16 شهرًا، بدون استعلامات مجهولة. مناسب لمعظم الحالات.
- Search Console API — صفوف أكثر، لكنه ما زال محدودًا ومعدل الطلبات فيه محدود، وما زال بدون استعلامات مجهولة. جيد للسحوبات المخصصة والبرمجية.
- تصدير البيانات المجمّع — بلا حد أقصى للصفوف، وبمدة احتفاظ تتحكم فيها، وبيانات يومية دقيقة التفصيل، ومصمم للتخزين وعمليات الربط. وما زال لا يكشف الاستعلامات المجهولة ولا يعبئ البيانات السابقة رجعيًا.
وهناك فارق دقيق تغفل عنه الأدلة الأقدم: أنت لست مقيدًا بملكية واحدة لكل مشروع Cloud بعد الآن. سمحت Google لاحقًا بضم ملكيات متعددة إلى مشروع واحد باستخدام أسماء مجموعات بيانات مميزة ببادئة searchconsole_.
ماذا عن Bing؟
حتى وقت كتابة هذا، لا يوجد مكافئ أصلي. لا تقدم Bing Webmaster Tools تصديرًا مجمعًا من الطرف الأول إلى BigQuery — وهذا هو بالضبط سبب وجود سوق لموصلات ETL من جهات خارجية (Supermetrics، Improvado، Catchr، وغيرها) لنقل بيانات Bing Webmaster Tools إلى BigQuery. إذا كان لدى Bing خط أنابيب أصلي، لما وُجد هذا السوق. ومع ذلك، فإن الموصل ليس مضمونًا لتكرار مخطط تصدير GSC الخاص أو سلوك التقسيم اليومي حقلًا بحقل — تحقق من النطاق الموثق لأي موصل قبل افتراض التكافؤ. لذا إذا كنت تريد بيانات Bing في BigQuery إلى جانب تصدير GSC الخاص بك، فخصص ميزانية لموصل وتحقق مما يقدمه فعليًا. (أكد أن هذا لا يزال ساريًا قبل الاستشهاد به — فمجموعة ميزات Bing نفسها قابلة للتغيير.)
للحصول على سياق أوسع حول مكان هذا، راجع مركز أدوات محركات البحث ودروسه حول Google Search Console وBing Webmaster Tools.
ملخص الذكاء الاصطناعي
نظرة مختصرة على النسخة المتقدمة:
- ما هو: تصدير البيانات المجمّع — تفريغ يومي مجدول وغير مأخوذ بالعيّنة لبيانات أداء Search Console في مجموعة بيانات BigQuery على Google Cloud. يزيل حد التصدير البالغ ~1 000 صف في الواجهة ونافذة الاحتفاظ البالغة ~16 شهرًا.
- ثلاثة جداول تصل إلى مجموعة بيانات مسبوقة بـ
searchconsole:searchdata_site_impression(على مستوى الخاصية)، وsearchdata_url_impression(على مستوى عنوان URL، مع علامات النتائج الغنيةis_*)، وExportLog(سجل تصدير يومي). - الإعداد: مشروع Google Cloud مع تفعيل الفوترة ← تفعيل واجهات برمجة تطبيقات BigQuery + تخزين
BigQuery ← منح
search-console-data-export@system.gserviceaccount.comدوري مستخدم وظائف BigQuery ومحرر بيانات BigQuery ← إعدادات Search Console ← تصدير البيانات المجمّع ← معرف المشروع، اسم مجموعة البيانات، الموقع (إبقاء انتهاء صلاحية التقسيم عند 14+ يومًا) ← تبدأ العملية خلال يوم تقريبًا، أول تصدير خلال ~48 ساعة. - لا توجد تعبئة رجعية. يبدأ من يوم التفعيل فصاعدًا — ولا تُسحب أي بيانات تاريخية. هذه هي نقطة الالتباس رقم 1.
- لا تزال الاستعلامات المجهولة غير متاحة. تصل كسلاسل فارغة في
query؛ وتدخل المقاييس مجمّعة ضمن الإجماليات، ولكن لا يمكن نسبتها إلى استعلام بعينه. في دراسة Ahrefs التي أجراها باتريك على 146 741 موقعًا وما يقرب من 9 مليارات نقرة، ذهب ~46% من النقرات إلى استعلامات غير معلنة — التصدير المجمّع لا يستعيدها. - التكلفة: طبقة مجانية حقيقية (نحو 10 جيبي بايت للتخزين + 1 تيبي بايت من معالجة الاستعلامات شهريًا) لكنها تحتاج
حساب فوترة، ويتدرج حجم البيانات أكثر مع تنوع الاستعلامات/الكلمات المفتاحية لا مع حجم الزيارات.
الفاتورة الكلاسيكية هي لوحة تحكم تستعلم الجداول الأولية مباشرة (حالة موثقة واحدة: 23 تيرابايت /
~115 يورو في يوم واحد). الإصلاح: إنشاء جداول ملخصة، تصفية قسم التاريخ، تجنب
SELECT *. - الاستعلام: استخدم دائمًا
SUM()/GROUP BY(فالصفوف غير موحّدة مسبقًا حسب المفاتيح)، وصفِّquery != ''لإسقاط صفوف الاستعلامات المجهولة، وتذكّر أن الموضع يبدأ من الصفر (أضف 1). - الإدارة: إلغاء التفعيل يستغرق حتى 24 ساعة؛ التصديرات الفاشلة تُعاد محاولتها لمدة أسبوع تقريبًا لكل تاريخ، وحوالي شهر من الفشل يوقف التصدير بالكامل؛ تغيير مخطط جدول مُصدَّر أو تعيين انتهاء صلاحية التقسيم أقل من 14 يومًا يكسره.
- Bing ليس لديه مكافئ أصلي حتى وقت كتابة هذا — موصلات الطرف الثالث تسد الفجوة، على الرغم من أنها لا تطابق بالضرورة مخطط تصدير GSC بالضبط.
- السلم: الواجهة ← API ← التصدير المجمّع، كل منها يزيل حدًا.
الوثائق الرسمية
وثائق المصدر الأساسية، معظمها من مساعدة Search Console من Google ومدونة Google Cloud.
Google — الميزة
- حول تصدير البيانات المجمّع لبيانات Search Console إلى BigQuery — النظرة العامة وما يتم تضمينه/استبعاده.
- بدء تصدير بيانات مجمّع جديد — تدفق الإعداد: المشروع، واجهات برمجة التطبيقات، أدوار حساب الخدمة، إعدادات مجموعة البيانات، تأخير 48 ساعة.
- إرشادات الجدول والمرجع — المخطط الكامل لـ
searchdata_site_impressionوsearchdata_url_impressionوExportLog. - إرشادات الاستعلام والاستعلامات النموذجية — كيفية التجميع، وتقليل التكلفة، وتصفية صفوف الاستعلامات المجهولة، واستعلامات نموذجية جاهزة.
- إدارة ومراقبة تصديرات البيانات المجمّعة — إلغاء التفعيل، معالجة الأخطاء، حدود إعادة المحاولة/الاحتفاظ، وتقرير الاختبار.
Google — الإعلان والتأطير
- تصدير البيانات المجمّع: طريقة جديدة وقوية للوصول إلى بيانات Search Console الخاصة بك (مدونة Search Central، فبراير 2023) — الإعلان الأصلي.
- تحليل بيانات بحث Google باستخدام BigQuery (مدونة Google Cloud، دانيال وايزبرغ وغال ياهس) — التأطير المتقدم/التعلم الآلي.
- نصائح كفاءة BigQuery لتصديرات البيانات المجمّعة من Search Console (مدونة Search Central، يونيو 2023) — إرشادات التكلفة وكفاءة الاستعلام.
التسعير
- تسعير BigQuery — الطبقة المجانية الحالية والأسعار لكل تيرابايت/جيجابايت (تحقق قبل الاقتباس؛ فهذه تتغير).
اقتباسات من المصدر
تصريحات رسمية من Google. عندما يتم عرض صفحة عبر JavaScript وتقاوم التحقق الآلي، يتم توثيق الاقتباس من خلال تغطية ثانوية حرفية ويتم وضع علامة عليه أدناه.
Google — ما هي
- “Schedule a daily export of your Search Console performance data to BigQuery, where you can run complex queries over your data or export it to an external storage service.” (الترجمة العربية) «جدولة تصدير يومي لبيانات أداء Search Console إلى BigQuery، حيث يمكنك تشغيل استعلامات معقدة على بياناتك أو تصديرها إلى خدمة تخزين خارجية.» — Google Search Console Help. الانتقال إلى الاقتباس
- “A bulk data export is a scheduled daily export of your Search Console performance data. It includes all the data used by Search Console to generate performance reports. Data is exported to Google BigQuery, where you can run SQL queries for advanced data analysis or even export it to another system.” (الترجمة العربية) «يُنقل أداء Search Console يوميًا وفق جدول ثابت، ويشمل النقل البيانات التي تبني منها Search Console تقارير الأداء. وتصل البيانات إلى Google BigQuery لتستعلم عنها بـSQL أو تنقلها إلى نظام آخر». — Daniel Waisberg, Search Advocate, Google. الانتقال إلى الاقتباس
Google — المخطط
- “Contains performance data for your property aggregated by property.” (الترجمة العربية) «يحتوي على بيانات أداء خاصيتك مجمّعة على مستوى الخاصية.» (في
searchdata_site_impression) و “Contains performance data for your property aggregated by URL.” (الترجمة العربية) «يحتوي على بيانات أداء خاصيتك مجمّعة حسب عنوان URL.» (فيsearchdata_url_impression). الانتقال إلى الاقتباس - “The user query. When is_anonymized_query is true, this will be a zero-length string.” (الترجمة العربية) «استعلام المستخدم. عندما يكون is_anonymized_query صحيحًا، ستكون هذه سلسلة فارغة الطول.» الانتقال إلى الاقتباس
Google — الاستعلام
- “Data in the tables is not guaranteed to be consolidated by date, URL, site, or any combination of keys.” (الترجمة العربية) «البيانات في الجداول غير مضمونة أن تكون موحدة حسب التاريخ أو عنوان URL أو الموقع أو أي مجموعة من المفاتيح.» الانتقال إلى الاقتباس
- “A good way to minimize query costs is to use a WHERE clause to limit the date range in the date partitioned table.” (الترجمة العربية) «طريقة جيدة لتقليل تكاليف الاستعلام هي استخدام جملة WHERE لتحديد نطاق التاريخ في الجدول المقسم حسب التاريخ.» الانتقال إلى الاقتباس
Google — إدارة التصدير
- “Search Console retains data from failed exports for about a week.” (الترجمة العربية) «تحتفظ Search Console ببيانات التصديرات الفاشلة لمدة أسبوع تقريبًا.» و “Search Console will stop trying to export data for a given date after about a week of failed attempts, and after about a month of failed export attempts, Search Console will stop the bulk export entirely.” (الترجمة العربية) «ستتوقف Search Console عن محاولة تصدير البيانات لتاريخ معين بعد حوالي أسبوع من المحاولات الفاشلة، وبعد حوالي شهر من محاولات التصدير الفاشلة، ستوقف Search Console التصدير المجمع بالكامل.» الانتقال إلى الاقتباس
Google Cloud Blog — Daniel Waisberg & Gaal Yahas
- “Store data as long as you want. Search Console stores up to sixteen months of data; using BigQuery you can store as much data as it makes sense to your organization.” (الترجمة العربية) «خزّن البيانات للمدة التي تريدها. تخزن Search Console ما يصل إلى ستة عشر شهرًا من البيانات؛ باستخدام BigQuery يمكنك تخزين أكبر قدر من البيانات بما يناسب مؤسستك.» الانتقال إلى الاقتباس
التصدير المجمّع مقابل API مقابل الواجهة مقابل موصل Looker Studio — أيهما يجب أن أستخدم؟
ابدأ من الحد الذي تواجهه فعليًا، لا مما يبدو أقوى. معظم الأشخاص الذين أعدّوا تصدير BigQuery لم يكونوا بحاجة إليه.
س1: هل تواجه حدًا فعليًا في واجهة Search Console؟ (حد تصدير ~1 000 صف، أو جدار السجل التاريخي ~16 شهرًا، أو تحتاج إلى دمج GSC مع بيانات أخرى.)
- لا → توقف. الواجهة (وموصل Search Console الأصلي في Looker Studio للوحات المعلومات) كافية. لا تتحمل عبء مستودع بيانات لا تحتاجه.
- نعم → تابع.
س2: هل تحتاج إلى مستودع يومي دائم للبيانات الكاملة — أم مجرد سحب أكبر لمرة واحدة / برمجي؟
- سحب لمرة واحدة أو برمجي (نص برمجي، تكامل، تصدير عميق عرضي) → استخدم Search Console API. أكثر من الواجهة، بدون BigQuery لتشغيله، لكنه لا يزال محدودًا/مقيّدًا بالمعدل ولا يزال بدون استعلامات مجهولة.
- خط يومي دائم ستخزنه وتدمجه مع بيانات أخرى → تابع.
س3: هل أنت مرتاح مع مشروع Google Cloud، وحساب فوترة نشط، وكتابة SQL (أو وجود شخص يفعل ذلك)؟
- لا → أعد التفكير. التصدير غير المُدار مع لوحة معلومات على جداول خام هو كيف تحدث الفواتير المفاجئة. إما أن تحصل على مساعدة أو تبقى على موصل API/Looker Studio.
- نعم → أعِدّ تصدير البيانات المجمّع. شغّله الآن (تذكّر: لا توجد تعبئة رجعية)، وخطط لإنشاء جداول ملخصة بدلًا من الاستعلام المباشر عن الجداول الخام.
س4: هل تحتاج تحديدًا إلى الاستعلامات المجهولة/المخفية مفصولة؟
- نعم → لا شيء من هذه يوفر ذلك. التصدير المجمّع وAPI والواجهة كلها تُخفي الاستعلامات المجهولة على مستوى الاستعلام. عدّل الهدف؛ البيانات غير موجودة للحصول عليها من Google.
النسخة المختصرة: عدم الوصول إلى حد → الواجهة/Looker Studio؛ سحوبات مخصصة أو برمجية → API؛ مستودع دائم على نطاق واسع → التصدير المجمّع؛ استعلامات مخفية → لا يمكن لأحد أن يعطيك إياها.
قائمة التحقق لإعداد تصدير البيانات المجمّع
اعمل من الأعلى إلى الأسفل؛ كل خطوة تسبق التالية.
- قم بتفعيل التصدير اليوم حتى لو لم تكن مستعدًا للتحليل بعد (لا يوجد استرجاع للبيانات السابقة — يبدأ العد من لحظة التفعيل).
- يوجد مشروع Google Cloud مع تفعيل الفوترة (الفوترة مطلوبة حتى للطبقة المجانية).
- تم تفعيل BigQuery API في ذلك المشروع.
- تم تفعيل BigQuery Storage API في ذلك المشروع.
- تمت إضافة
search-console-data-export@system.gserviceaccount.comكمدير رئيسي بصلاحية BigQuery Job User (bigquery.jobUser). - تم منح نفس حساب الخدمة صلاحية BigQuery Data Editor (
bigquery.dataEditor). - في Search Console ← الإعدادات ← تصدير البيانات المجمّعة، تم لصق معرّف المشروع في Cloud (المعرّف، وليس الرقم).
- تم اختيار اسم مجموعة بيانات (سيبدأ بـ
searchconsole) وموقع مجموعة البيانات. - إذا تم تعيين انتهاء صلاحية التقسيم على مجموعة بيانات التصدير، فاحتفظ بها 14 يومًا أو أكثر — الأقصر يكسر التصدير.
- تم ترك مخطط الجدول المُنشأ دون تغيير (قم ببناء جداول مشتقة بدلاً من ذلك).
- انتظر حتى 48 ساعة للتصدير الأول (يجب أن تبدأ العملية نفسها
خلال يوم تقريبًا)، ثم تأكد من وصول البيانات (تحقق من
ExportLogوالجدولينsearchdata_*). - قم بتعيين تنبيه ميزانية في Google Cloud حتى لا يفاجئك استعلام جامح.
- قم بتعيين انتهاء صلاحية التقسيم على جداولك المشتقة إذا كنت لا تحتاج إلى احتفاظ غير محدود.
- قم ببناء لوحات المعلومات على جداول ملخص مادية، وليس على جداول التصدير الخام.
أخطاء وخرافات يجب تجنبها
“تفعيله يسترجع بياناتي القديمة.” لا. يبدأ التصدير من يوم التفعيل ويتراكم فقط للأمام — لا يتم سحب أي شيء سابق. هذا هو السؤال الأكثر شيوعًا في منتدى مجتمع Google حول هذه الميزة. قم بتفعيله بمجرد سماعك عنه حتى يبدأ التاريخ في التراكم.
“تصدير BigQuery يُظهر أخيرًا الاستعلامات المخفية/المجهولة.”
لا. تصل الاستعلامات المجهولة كسلاسل فارغة في query؛ يتم دمج نقراتها وظهورها
في الإجماليات ولكن لا تُنسب أبدًا إلى مصطلح — نفس الواجهة وAPI. في
دراستي على Ahrefs، ذهب حوالي 46% من النقرات
إلى استعلامات لن يكشفها Google، وحتى API — الذي “يسمح لنا بالحصول على جميع
البيانات” — لم يستطع إظهارها. التصدير المجمّع لا يغير شيئًا هنا.
“إنه مجاني تمامًا.” صحيح جزئيًا. هناك طبقة مجانية حقيقية، لكنها تتطلب حساب فوترة نشطًا، والاستعلام غير الفعّال يمكن أن يفرض عليك رسومًا. “مجاني” ينطبق فقط إذا كنت تستعلم بكفاءة.
“المزيد من الزيارات يعني فاتورة BigQuery أكبر.” ليس بالضرورة — التكلفة تزيد أكثر مع تنوع الاستعلامات/الكلمات المفتاحية من حجم النقرات الخام. موقع بحركة مرور متواضعة مع تنوع كبير في الذيل الطويل يمكن أن يولّد بيانات أكثر من موقع عالي الحركة مع عدد قليل من الاستعلامات المركزة.
ربط لوحة معلومات مباشرة بالجداول الخام.
الخطأ الأكثر تكلفة على الإطلاق. حالة موثقة واحدة شهدت Looker Studio مسح 23 تيرابايت
في يوم واحد (~115 يورو) متصلة مباشرة بجداول خام بمليارات الصفوف. الحل: قم بإنشاء جداول ملخص
مادية على جدول زمني ووجّه لوحات المعلومات إلى تلك؛ قم بتصفية قسم التاريخ في
جملة WHERE؛ لا تستخدم SELECT * أبدًا.
تعديل مخطط جدول مُصدَّر، أو تعيين انتهاء صلاحية تقسيم قصير جدًا.
تغيير searchdata_site_impression أو searchdata_url_impression أو ExportLog
يكسر التصدير. كذلك تعيين انتهاء صلاحية تقسيم مجموعة بيانات التصدير أقل من
الحد الأدنى البالغ 14 يومًا لدى Google. قم ببناء جداولك المشتقة بدلاً من ذلك، واترك الأصلية
دون لمس، وامنح أي سياسة انتهاء صلاحية على مجموعة البيانات الخام هامشًا يزيد عن 14 يومًا.
“هذا يحل محل Search Console API.” أدوات مختلفة لمهام مختلفة. API مخصص للسحوبات المؤقتة والبرمجية؛ التصدير المجمّع هو قناة يومية ثابتة للتخزين والانضمامات.
افتراض أنه يمكنك تصدير خاصية واحدة فقط لكل مشروع.
قديم. سمح Google لاحقًا بخصائص متعددة في مشروع Cloud واحد عبر أسماء مجموعات بيانات
مميزة ببادئة searchconsole_.
إطار عمل لتصميم التصدير قبل أن يصمم فاتورتك
1. ابدأ بالسؤال، وليس بالمستودع. استخدم الواجهة للحصول على إجابة سريعة، وواجهة برمجة تطبيقات Search Analytics للاستعلامات البرمجية المحدودة، والتصدير المجمع فقط عندما تحتاج إلى سجل يومي دائم، أو عمليات ربط، أو عدد صفوف أكبر مما توفره المستويات الأخرى.
2. احترم مستوى تفصيل الجدول. يجيب searchdata_site_impression عن أسئلة على مستوى الخاصية؛ ويضيف searchdata_url_impression بُعد عنوان URL. لا يُضمن أن تكون الصفوف موحّدة مسبقًا حسب المفاتيح، لذا يجب أن يختار كل تحليل الأبعاد عمدًا ويجمع حقول النقرات ومرات الظهور والموضع.
3. اجعل فلاتر التقسيم إلزامية. اشترط نطاق data_date في كل استعلام. تتبع التكلفة البايتات الممسوحة ضوئيًا، ولوحة المعلومات غير المحدودة مقابل الجداول الأولية يمكنها مسح نفس السجل بشكل متكرر.
4. افصل بين الطبقات الأولية والنموذجية والعرضية. حافظ على جداول تصدير Google دون تغيير، وأنشئ جداول ملخص مجدولة للأسئلة المتكررة، ووجّه Looker Studio أو لوحة معلومات أخرى إلى تلك الملخصات. يمكن أن تؤدي تعديلات المخطط على جداول التصدير إلى كسر خط التسليم.
5. شغّل خط المعالجة كبيانات إنتاجية. راقب ExportLog، والبايتات المستهلكة في الاستعلامات، وفشل الوظائف المجدولة، وحداثة البيانات. لا يحتوي التصدير على استرجاع، لذا فإن الأيام المفقودة هي حادث تشغيلي، وليس شيئًا يمكن للإصلاح إصلاحه لاحقًا.
مشكلات شائعة في التصدير المجمع لـ GSC
فشل تقرير الاختبار أثناء الإعداد
العرض: يرفض Search Console المشروع أو مجموعة البيانات قبل التفعيل. السبب المحتمل: الفوترة أو واجهات برمجة تطبيقات BigQuery المطلوبة غير مفعلة، أو معرف المشروع خاطئ، أو حساب خدمة تصدير Search Console يفتقر إلى BigQuery Job User وBigQuery Data Editor. الإصلاح: صحح هذه المتطلبات الأساسية، وأعد تشغيل تقرير الاختبار، وفعّل فقط بعد نجاحه.
لا تظهر جداول أو صفوف جديدة
العرض: مجموعة البيانات موجودة، لكن بيانات التصدير المتوقعة غائبة. السبب المحتمل: أول تسليم لا يزال معلقًا، أو اسم/موقع مجموعة البيانات خاطئ، أو تم إلغاء تفعيل التصدير، أو تتراكم حالات الفشل. الإصلاح: اسمح بنافذة التسليم الأولية، ثم افحص ExportLog وحالة التصدير المجمع في Search Console. صحح خط المعالجة بدلاً من إعادة إنشاء مجموعة البيانات، لأن التفعيل لا يسترجع التواريخ السابقة.
تبدو إجماليات الاستعلام مكررة أو مضخمة
العرض: تتجاوز النقرات أو الظهور إجمالي Search Console لنفس النطاق. السبب المحتمل: تم التعامل مع صفوف التصدير الأولية على أنها مجمعة بالفعل، أو تم خلط بيانات مستوى الموقع ومستوى عنوان URL. الإصلاح: اختر مستوى تفصيل جدول واحد، وصفِّ حسب search_type واحد، وجمّع حسب الأبعاد المقصودة، وطبق SUM() على حقول المقاييس قبل مقارنة الإجماليات.
متوسط الموضع أقل بواحد
العرض: الموضع المحسوب أقل باستمرار بواحد من توقع الواجهة. السبب المحتمل: قيم الموضع في التصدير تبدأ من الصفر. الإصلاح: اجمع بسط الموضع مع الظهور المطابق، ثم حوّل إلى العرض المعتاد الذي يبدأ من واحد فقط في طبقة العرض.
تصبح لوحة المعلومات فجأة مكلفة
العرض: تقفز البايتات المعالجة ورسوم الاستعلام على الرغم من أن حركة المرور لم تتغير.
السبب المحتمل: لوحة المعلومات تمسح جداول مستوى عنوان URL الأولية بدون فلتر تقسيم. الإصلاح: افحص البايتات قبل التشغيل، وأضف شرط data_date محددًا، وأنشئ الملخص اليومي المطلوب، ووجّه لوحة المعلومات إلى ذلك الجدول الأصغر.
إثبات أن التصدير المجمع يعمل بعد الإعداد أو تغيير خط المعالجة
تأكيد أن Search Console يمكنه الكتابة إلى المشروع
الاختبار الذي يجب تشغيله — شغّل الإعدادات ← تصدير البيانات المجمّع ← تقرير الاختبار بعد تغيير المشروع أو واجهات برمجة التطبيقات أو أدوار IAM. النتيجة المتوقعة — يبلغ Search Console أن الوجهة صالحة. تفسير الفشل — لا يزال تكوين المشروع/واجهة برمجة التطبيقات أو أدوار حساب خدمة التصدير خاطئًا. نافذة المراقبة — فورية. مشغل التراجع — لا تقم بالتفعيل أو تبديل وجهة تصدير الإنتاج بينما يفشل الاختبار.
تأكيد تسليم يومي كامل
الاختبار المطلوب تنفيذه — تحقق من ExportLog لأحدث data_date متوقعة، ثم استعلم
عن جدولي مرات الظهور لنفس القسم. النتيجة المتوقعة — يسجل السجل
التسليم وتحتوي جداول الموقع/الرابط على صفوف للتاريخ الذي كان فيه الموقع
نشطًا. تفسير الفشل — التصدير متأخر أو فشل؛ النتيجة الفارغة
ليست تعبئة تاريخية. نافذة المراقبة — اسمح بتأخر البيانات الموثق و
نافذة التصدير الأولية قبل إعلان الفشل. مشغل التراجع — أوقف أي
إصدار لتقرير نهائي إذا كان أحدث تاريخ مفقودًا أو وصل جدول واحد فقط من الجداول المطلوبة.
تأكيد تطابق استعلام نموذجي
الاختبار المطلوب تنفيذه — قم بتشغيل استعلام الملخص الجديد لتاريخ ونوع بحث محددين، ثم قارن إجمالي النقرات ومرات الظهور مع تجميع مباشر لنفس القسم الخام. النتيجة المتوقعة — تطابق الإجماليات عند نفس المستوى والمرشحات. تفسير الفشل — النموذج يسقط صفوفًا، أو يعد الأبعاد مرتين، أو يخلط بين مستوى الموقع ومستوى الرابط. نافذة المراقبة — فورية بعد انتهاء الاستعلام. مشغل التراجع — أبقِ لوحات المعلومات على الملخص السابق حتى يتطابق النموذج الجديد.
تأكيد حماية التكلفة
الاختبار المطلوب تنفيذه — معاينة البايتات المعالجة لاستعلام الإنتاج مع
مرشح data_date المقصود. النتيجة المتوقعة — يكون الفحص محصورًا في الأقسام المطلوبة
ومتسقًا مع خط الأساس المعتمد من الفريق لهذا التقرير.
تفسير الفشل — تقليم الأقسام مفقود أو أدى الانضمام إلى توسيع
الفحص. نافذة المراقبة — قبل كل تغيير في الاستعلام المجدول أو لوحة المعلومات.
مشغل التراجع — لا تنشر إصدارًا يتجاوز تقدير الفحص فيه بشكل مادي
خط الأساس المعتمد دون تغيير مفسر في حجم البيانات.
استعلامات البداية
اتبع قواعد Google هذه: اجمع المقاييس دائمًا (فالصفوف غير موحّدة مسبقًا حسب المفاتيح)،
قم بتصفية قسم التاريخ للتحكم في التكلفة، وتذكر أن الموضع يبدأ من الصفر.
استبدل yourproject.searchconsole بمجموعة البيانات الخاصة بك.
أفضل الاستعلامات الحقيقية (مع إزالة الصفوف مجهولة الهوية)، آخر 28 يومًا
SELECT
query,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions,
SAFE_DIVIDE(SUM(clicks), SUM(impressions)) AS ctr,
SUM(sum_top_position) / SUM(impressions) + 1 AS avg_position
FROM `yourproject.searchconsole.searchdata_site_impression`
WHERE data_date BETWEEN DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
AND DATE_SUB(CURRENT_DATE(), INTERVAL 2 DAY) -- 2-day data lag
AND query != '' -- drop anonymized rows
GROUP BY query
ORDER BY clicks DESC
LIMIT 100;أعلى صفحات الهبوط حسب النقرات (الجدول على مستوى عنوان URL)
SELECT
url,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions
FROM `yourproject.searchconsole.searchdata_url_impression`
WHERE data_date BETWEEN DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
AND DATE_SUB(CURRENT_DATE(), INTERVAL 2 DAY)
GROUP BY url
ORDER BY clicks DESC
LIMIT 100;أداء نتائج الأسئلة الشائعة الغنية (علامة نتيجة غنية على جدول الرابط)
SELECT
url,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions
FROM `yourproject.searchconsole.searchdata_url_impression`
WHERE data_date BETWEEN DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
AND DATE_SUB(CURRENT_DATE(), INTERVAL 2 DAY)
AND is_tpf_faq = TRUE
GROUP BY url
ORDER BY impressions DESC;أنشئ جدول ملخص يوميًا حتى لا تلمس لوحات المعلومات الجداول الخام مطلقًا
CREATE OR REPLACE TABLE `yourproject.searchconsole_derived.daily_query_summary`
PARTITION BY data_date AS
SELECT
data_date,
query,
SUM(clicks) AS clicks,
SUM(impressions) AS impressions
FROM `yourproject.searchconsole.searchdata_site_impression`
WHERE query != ''
GROUP BY data_date, query;عادة للتحكم في التكاليف: تحقق من عدد البايتات التي سيفحصها الاستعلام قبل تشغيله،
باستخدام علامة التشغيل التجريبي في واجهة bq — طريقة مجانية لتفادي فحص جدول كامل عن طريق الخطأ.
bq query --use_legacy_sql=false --dry_run \
'SELECT SUM(clicks) FROM `yourproject.searchconsole.searchdata_url_impression`
WHERE data_date >= DATE_SUB(CURRENT_DATE(), INTERVAL 7 DAY)'
# Prints the estimated bytes to be processed without running (or billing for) the query. تصدير GSC إلى BigQuery — ورقة غش
الإعداد في لمحة
| الخطوة | ماذا | التفاصيل |
|---|---|---|
| 1 | مشروع السحابة | الفوترة مفعّلة (مطلوبة حتى للطبقة المجانية) |
| 2 | واجهات برمجة التطبيقات | تفعيل BigQuery API + BigQuery Storage API |
| 3 | حساب الخدمة | search-console-data-export@system.gserviceaccount.com |
| 4 | أدوار IAM | مستخدم وظائف BigQuery + محرر بيانات BigQuery |
| 5 | Search Console | الإعدادات ← تصدير البيانات المجمّعة ← معرف المشروع، اسم مجموعة البيانات، الموقع؛ احتفظ بأي انتهاء صلاحية للتقسيم 14+ يومًا |
| 6 | الانتظار | تبدأ العملية خلال ~يوم؛ أول تصدير خلال ~48 ساعة |
الجداول الثلاثة
| الجدول | الحبيبية | الحقول البارزة |
|---|---|---|
searchdata_site_impression | الخاصية | query, is_anonymized_query, country, device, search_type, sum_top_position |
searchdata_url_impression | URL | كل ما سبق + url, is_* أعلام النتائج الغنية, sum_position |
ExportLog | سجل يومي | namespace, data_date, epoch_version, publish_time |
قواعد الاستعلام
- استخدم دائمًا
SUM()+GROUP BY— فالصفوف غير موحّدة مسبقًا حسب المفاتيح. WHERE query != ''لإزالة الصفوف المجهولة.- قم بتصفية
data_date(القسم) لتقليل التكلفة. avg_position = SUM(sum_top_position)/SUM(impressions) + 1(يبدأ من الصفر، أضف 1).- لا تستخدم
SELECT *أبدًا.
حقائق سريعة
- لا يوجد تعبئة رجعية — تبدأ البيانات عند التفعيل، للأمام فقط.
- الاستعلامات المجهولة تبقى مخفية (سلسلة
queryفارغة) — نفس الواجهة/API. - تأخير يومين على أحدث البيانات.
- إلغاء التفعيل يستغرق حتى 24 ساعة (قد يصل يوم إضافي).
- حدود الفشل: ~أسبوع واحد لإعادة المحاولة لكل تاريخ → ~شهر واحد من الإخفاقات يوقف التصدير بالكامل.
- حد أدنى لانتهاء صلاحية التقسيم: 14 يومًا على الأقل لمجموعة بيانات التصدير؛ أقل من ذلك يكسره.
- اسم مجموعة البيانات يبدأ دائمًا بـ
searchconsole. - خصائص متعددة لكل مشروع: استخدم أسماء مجموعات بيانات مميزة بادئتها
searchconsole_. - الطبقة المجانية (تحقق من الحالي): ~10 جيبي بايت تخزين + ~1 تيبي بايت استعلام/شهر، ثم ~6,25 دولار/تيبي بايت.
- Bing: لا يوجد مكافئ أصلي — يتطلب موصلًا من طرف ثالث.
موجّهات لمراجعة أعمال GSC BigQuery
تدقيق استعلام للصحة والتكلفة
الصق مخططات الجداول، وSQL، والغرض منه، ونطاق التاريخ/نوع البحث. اطلب من النموذج إرجاع SQL مصححًا وشرحًا قصيرًا، ثم تحقق من المخرجات في BigQuery قبل جدولتها.
You are reviewing a Google Search Console bulk-export query in BigQuery.
Goal: [the question this query should answer]
Table grain and schemas: [paste the relevant site or URL table fields]
SQL: [paste the query]
Required date range and search_type: [paste them]
Check for: a missing data_date partition filter; failure to aggregate raw rows;
site-grain and URL-grain mixing; incorrect handling of zero-based position;
anonymized-query handling; joins that duplicate metrics; and unnecessary bytes
scanned. Return: (1) each issue, (2) corrected Standard SQL, (3) a reconciliation
query, and (4) assumptions that require human verification. Do not invent fields.تصميم طبقة تقارير آمنة
الصق الأسئلة التي يجب أن يجيب عليها لوحة المعلومات والمخطط الفعلي. توقع اقتراحًا لحبيبية جدول ملخص وخطة تحقق، وليس نشرًا جاهزًا للتشغيل مختلقًا.
Design a modeled reporting layer for this GSC BigQuery bulk export.
Business questions: [paste the questions]
Available tables and schemas: [paste them]
Refresh cadence: [daily/weekly]
Required dimensions: [page, query, country, device, search type, etc.]
Propose: the smallest useful summary-table grain; partitioning and clustering;
a scheduled-query sequence; freshness and reconciliation checks; and which dashboard
questions should stay in the UI or API instead. Preserve raw export tables unchanged.
Flag any requirement the supplied schema cannot support, especially requests for
disclosed anonymized queries. Do not invent benchmarks, fields, or backfill. أدوات حول التصدير
- Google BigQuery — حيث تصل البيانات؛ تشغيل SQL، جدولة الاستعلامات، وبناء نماذج BigQuery ML عليها.
- ضوابط تكلفة BigQuery — تنبيهات الميزانية في Google Cloud، حدود البايت لكل استعلام،
وعلامة
bq --dry_runلتقدير حجم الفحص قبل التشغيل. - Looker Studio — للوحات المعلومات، لكن قم ببنائها على جداول ملخص مادية، وليس التصدير الخام. (Looker Studio أيضًا لديه موصل أصلي لـ Search Console لا يحتاج إلى BigQuery على الإطلاق — غالبًا ما يكون كافيًا بمفرده.)
- Google Search Console — المصدر؛ تصدير الواجهة وتقرير الأداء هما الأساس الذي يوسعه التصدير المجمع.
- Search Console API — الدرجة الوسطى عندما تحتاج أكثر من الواجهة ولكن ليس مستودعًا دائمًا.
- موصلات ETL من طرف ثالث (Supermetrics, Improvado, Catchr, وغيرها) — كيف يمكنك الحصول على بيانات Bing Webmaster Tools إلى BigQuery، نظرًا لأن Bing لا يحتوي على تصدير أصلي.
موارد تستحق وقتك
كتاباتي ذات الصلة
- نحو نصف نقرات GSC تذهب إلى استعلامات مجهّلة — دراستي على Ahrefs (146 741 موقعًا، ~9 مليارات نقرة) تُظهر أن 46,08% من النقرات تذهب إلى استعلامات لا يكشفها Google. ذات صلة مباشرة: تصدير BigQuery لا يستعيد أيًا منها أيضًا.
- دليل المبتدئين إلى SEO التقني — حيث تتناسب أعمال Search Console وتحليل البيانات مع الصورة الأكبر.
تحدثي / منشوراتي
- On getting more out of GSC data — دليل لاستخراج المزيد من بيانات Search Console (عبر ميزات GSC الخاصة بـ Ahrefs)، جزء من نفس الخط “هناك المزيد هنا مما يظهر في الواجهة” مثل تصدير BigQuery.
من جميع أنحاء الصناعة
- تضيف Google Search Console صادرات بيانات مجمعة يومية إلى BigQuery (Search Engine Land، Barry Schwartz) — تغطية الإعلان، مع اقتباس كلمات Google الأصلية حرفيًا.
- تشرح Google كيفية استخدام تصدير بيانات Search Console المجمّع (Search Engine Journal، Matt G. Southern) — وصف Daniel Waisberg البسيط باللغة الإنجليزية للميزة.
- ابدأ باستعلامات GSC في BigQuery (Search Engine Journal) — بداية عملية للاستعلامات.
- من Google Search Console إلى BigQuery: الدليل الكامل (Trevor Fox) — أصل تأطير التكلفة «تنوع الكلمات المفتاحية، وليس حجم البحث».
- وداعًا لأخذ العينات! احصل على بيانات GSC أكثر اكتمالًا مع BigQuery (Advanced Web Ranking، Sam Torres) — أساسيات الإعداد والتحكم في التكلفة.
- كيفية الاستعلام عن بيانات Google Search Console في BigQuery (Analytics Mania، Julius Fedorovicius) — دليل شامل بما في ذلك تأخر البيانات لمدة يومين.
- كيفية استخدام بيانات GSC في BigQuery مثل المحترفين (Antoine Eripret) — الغوص التقني العميق، بما في ذلك قصة التكلفة المرعبة 23 تيرابايت / ~115 يورو وواقع عدم إعادة التعبئة.
إحصائيات جديرة بالاستشهاد
- ~46% من نقرات GSC تذهب إلى استعلامات غير معلنة. من دراستي على Ahrefs لـ 146 741 موقعًا وحوالي 9 مليارات نقرة: 46,08% من النقرات ذهبت إلى استعلامات يخفيها Google — وهو قيد يشترك فيه تصدير BigQuery مع الواجهة وواجهة API.
- لوحة معلومات مباشرة على الجداول الأولية مسحت 23 تيرابايت في يوم واحد (~115 يورو). حالة Antoine Eripret الموثقة لسبب قيامك بإنشاء جداول ملخصة بدلاً من الاستعلام عن التصدير الأولي مباشرة. المصدر
- تأخر البيانات لمدة يومين. “Google Search Console data is available with a two-day delay, so the most recent data available will always be from two days prior” (الترجمة العربية) «بيانات Google Search Console متاحة بتأخير يومين، لذا فإن أحدث البيانات المتاحة ستكون دائمًا من قبل يومين» — لذا فإن نطاق 30 يومًا يُرجع حوالي 28 يومًا من البيانات القابلة للاستخدام. المصدر
- الطبقة المجانية (تحقق — الأسعار تتغير): تقريبًا 10 جيبي بايت تخزين + 1 تيبي بايت من معالجة الاستعلامات شهريًا مجانًا، ثم حوالي 6,25 دولار/تيبي بايت معالجة. المصدر
اختبر نفسك: تصدير GSC إلى BigQuery
خمسة أسئلة سريعة حول تصدير البيانات المجمعة. اختر إجابة لكل سؤال، ثم تحقق.
سجل التغييرات
تم التحديث في 22 أغسطس 2026.
ملخص تحريري وتفاصيل التغيير المسجلة.تفاصيل التغيير
-
تفاصيل التغيير متاحة حاليًا باللغة الإنجليزية.
المقارنة الكاملة غير متاحة — لم تُؤرشف لقطة سابقة لهذه المراجعة.
تم التحديث في 14 أغسطس 2026.
ملخص تحريري وتفاصيل التغيير المسجلة.تفاصيل التغيير
-
تفاصيل التغيير متاحة حاليًا باللغة الإنجليزية.
المقارنة الكاملة غير متاحة — لم تُؤرشف لقطة سابقة لهذه المراجعة.
تم التحديث في 9 أغسطس 2026.
ملخص تحريري وتفاصيل التغيير المسجلة.تفاصيل التغيير
-
تفاصيل التغيير متاحة حاليًا باللغة الإنجليزية.
المقارنة الكاملة غير متاحة — لم تُؤرشف لقطة سابقة لهذه المراجعة.
تم التحديث في 6 أغسطس 2026.
ملخص تحريري وتفاصيل التغيير المسجلة.تفاصيل التغيير
-
تفاصيل التغيير متاحة حاليًا باللغة الإنجليزية.
المقارنة الكاملة غير متاحة — لم تُؤرشف لقطة سابقة لهذه المراجعة.
تم التحديث في 30 يوليو 2026.
ملخص تحريري وتفاصيل التغيير المسجلة.تفاصيل التغيير
-
تفاصيل التغيير متاحة حاليًا باللغة الإنجليزية.
المقارنة الكاملة غير متاحة — لم تُؤرشف لقطة سابقة لهذه المراجعة.
تم التحديث في 18 يوليو 2026.
ملخص تحريري وتفاصيل التغيير المسجلة.تفاصيل التغيير
-
تفاصيل التغيير متاحة حاليًا باللغة الإنجليزية.
-
تفاصيل التغيير متاحة حاليًا باللغة الإنجليزية.
-
تفاصيل التغيير متاحة حاليًا باللغة الإنجليزية.
المقارنة الكاملة غير متاحة — لم تُؤرشف لقطة سابقة لهذه المراجعة.