التجزئة (Chunking)

كيف تقسّم أنظمة الذكاء الاصطناعي صفحاتك إلى مقاطع للتضمين والفهرسة والاسترجاع — حجم المقطع والتداخل والتجزئة الدلالية وصلتها بترتيب المقاطع لدى Google.

نُشر أول مرة: 24 يونيو 2026 · آخر تحديث: 18 يوليو 2026 · Advanced
اللغات

التجزئة خطوة المعالجة المسبقة التي تقسم فيها أنظمة الذكاء الاصطناعي المستند إلى مقاطع أصغر قبل تضمينها واسترجاعها. المقطع، لا الصفحة، هو وحدة الاسترجاع في بحث الذكاء الاصطناعي، لذلك لا تكفي الفهرسة؛ بل تحتاج إلى مقطع يجيب عن استعلام محدد بمفرده. حجم المقطع مفاضلة بين الدقة والسياق، ولا يضمن أي حجم استشهادًا. يحمي التداخل الحدود لكنه يكرر الرموز، وقد توضح بادئات السياق المقطع أو تضلل الاسترجاع إذا أصبحت قديمة. ولا يمكنك التحسين لحجم خاص؛ تقول Google إنك لا تحتاج إلى تفتيت المحتوى، لكن الأقسام الواضحة المكتفية بذاتها التي تبدأ بالإجابة تُجزّأ ويُستشهد بها جيدًا.

الخلاصة — التجزئة خطوة معالجة مسبقة تقسم المستند إلى مقاطع قبل تضمينها وفهرستها واسترجاعها. توجد لأن لنماذج التضمين ونوافذ السياق حدودًا من الرموز، ولأن الاسترجاع على مستوى المقطع أدق من مستوى الصفحة. المقطع، لا الصفحة، هو وحدة الاسترجاع. حجم المقطع مفاضلة (الصغير دقيق لكنه فقير بالسياق، والكبير غني لكنه مشوش)، ولا يضمن أي حجم أو تداخل أو مقسّم الحصول على استشهاد. يحمي التداخل الحدود لكنه يزيد حجم الفهرس والتكرار؛ ولا تتفوق التجزئة الدلالية بثبات على الحجم الثابت؛ وقد توضح بادئات السياق مقطعًا ملتبسًا لكنها تضلل الاسترجاع إذا أصبحت قديمة. أما «Lost in the Middle» فهو تأثير موضعي موثق على نماذج ومهام محددة في 2023، حيث تستخدم النماذج غالبًا بداية السياق ونهايته أفضل. لا يمكنك التحسين لحجم مقطع بعينه، وتقول Google إن عليك ألا تحاول؛ لكن الأقسام المكتفية بذاتها التي تبدأ بالإجابة وتندرج تحت تسلسل عناوين واضح تُجزّأ وتُستشهد بها جيدًا. إنه مبدأ ما دون المستند نفسه في ترتيب المقاطع لدى Google، مطبقًا على RAG.

ما التجزئة، ولماذا توجد؟

تعمل أنظمة الاسترجاع على وحدات مفهرسة، لكن محركات البحث العامة لا تكشف حجم مقطع عالميًا يتحكم فيه الناشر. Evidence for this claim Retrieval systems can split files into chunks that are embedded and indexed for later search. Scope: OpenAI's retrieval implementation; chunk sizes, overlap, and indexing behavior are implementation-dependent. Confidence: high · Verified: OpenAI: Retrieval guide وتدعم أبحاث RAG نمط الاسترجاع ثم التوليد من دون إثبات أن كل منتجات بحث الذكاء الاصطناعي تستخدم الآليات نفسها. Evidence for this claim Retrieval-augmented generation combines a generator with retrieved external passages or documents. Scope: The original RAG research architecture; it does not establish one optimal chunking strategy for every production system. Confidence: high · Verified: Lewis et al.: Retrieval-Augmented Generation

التجزئة هي تقسيم المستند إلى أجزاء أصغر منفصلة، أي مقاطع أو فقرات، قبل تحويلها إلى تضمينات وتخزينها في فهرس متجهي واسترجاعها للإجابة عن الاستعلامات. وهي خطوة أساسية في مسارات RAG (التوليد المعزز بالاسترجاع)، وأكثر أجزاء بحث الذكاء الاصطناعي التي يقلل متخصصو SEO من شأنها لأنها غير مرئية: تحدث عند الإدخال، لا عند الاستعلام.

تفرضها مشكلتان:

  • مشكلة حد الرموز. تقبل نماذج التضمين عددًا محدودًا من الرموز في كل إدخال؛ وتشير Microsoft إلى أن حد نموذج text-embedding-3-small هو 8 191 رمزًا، بينما حدود نماذج أخرى أصغر بكثير. ولنوافذ سياق LLM حدود أيضًا. لا تتسع الصفحة الطويلة كوحدة واحدة، فتُقسّم.
  • مشكلة دقة الاسترجاع. ينتج عن ضغط صفحة من 5 000 كلمة عن «تحسين محركات البحث التقني» في متجه واحد إشارة ضبابية متوسطة. أما تضمين قسم من 400 كلمة عن ميزانية الزحف تحديدًا كمتجه مستقل فينتج إشارة حادة. تتيح دقة ما دون المستند للنظام سحب المقطع الوحيد ذي الصلة من صفحة طويلة متعددة الموضوعات.

والنتيجة هي أهم فكرة هنا: المقطع، لا الصفحة، هو وحدة الاسترجاع في بحث الذكاء الاصطناعي. الزحف والفهرسة ضروريان لكنهما غير كافيين. تحتاج إلى مقطع يجيب عن استعلام محدد بوضوح وبمفرده. وقد تنال صفحة في المركز 15 عضويًا استشهادًا من الذكاء الاصطناعي بينما تُتجاوز النتيجة الأولى، إذا كان مقطع الصفحة رقم 15 أسهل استخراجًا.

كيف تعمل التجزئة من البداية إلى النهاية؟

Chunking changes the retrieval unit: the page is published once, but its passages are stored and matched separately. المصدر: /ai-search/how-search-works/chunking/

A four-stage flow begins with one long document containing several topics. The system splits and embeds focused passages as separate vectors. A query retrieves one or more best-matching passages, and those selected passages enter the model context for answer generation.

© Patrick Stox LLC · CC BY 4.0 ·

  1. الإدخال + التقسيم. ينزّل زاحف ذكاء اصطناعي الصفحة، ثم تقسمها خوارزمية التجزئة إلى أجزاء متداخلة عادةً.
  2. التضمين. يصبح كل مقطع متجهًا رقميًا ويُخزن في فهرس متجهي. (هذه خطوة التضمينات.)
  3. الاسترجاع + التوليد. يُضمّن الاستعلام، وتُسحب أقرب متجهات المقاطع عبر البحث المتجهي، ثم تُمرر المقاطع المسترجعة إلى LLM يكتب الإجابة مع الاستشهادات.

ترجع هذه البنية كلها إلى Dense Passage Retrieval ‏(Karpukhin وآخرون، 2020)، الذي بيّن أن الاسترجاع بالتشابه المتجهي الكثيف تفوق على نهج الكلمات المفتاحية القديم (BM25) بمقدار 9–19% مطلقًا في دقة أفضل 20 مقطعًا، وأن الاسترجاع على مستوى المقطع أفضل من مستوى المستند للإجابة عن أسئلة محددة. سمّت ورقة RAG ‏(Lewis وآخرون، 2020) هذا النمط، واستخدمت مقاطع من 100 كلمة من Wikipedia. وكل نظام بحث ذكاء اصطناعي يسترجع محتوى الويب يشغّل صورة من هذا المسار.

استراتيجيات التجزئة

لا توجد خوارزمية واحدة؛ تختار الأنظمة من مجموعة استراتيجيات وتغيرها مع الوقت:

  • حجم ثابت — التقسيم وفق عدد من الرموز أو المحارف مع بعض التداخل، وهو الأكثر شيوعًا. مثال Microsoft: «حجم ثابت يكفي لفقرات ذات معنى دلالي (مثل 200 كلمة أو 600 محرف)» مع تداخل 10–15%.
  • الجملة / الفقرة — التقسيم عند حدود اللغة الطبيعية بدل عدد اعتباطي من الرموز، للحفاظ على الوحدات الدلالية.
  • دلالية / واعية بالمحتوى — تجميع الجمل حسب تشابه التضمين والتقسيم عند تغير الموضوع، لإبقاء كل مقطع حول شيء واحد.
  • هرمية / تكرارية (RAPTOR) — بناء شجرة ملخصات (مستند ← قسم ← فقرة) لكي يُجاب عن الاستعلام عند مستوى التجريد المناسب. أبلغ RAPTOR ‏(Sarthi وآخرون، 2024) عن مكسب 20% مطلقًا في الدقة على معيار أسئلة وأجوبة صعب عند اقترانه بـGPT-4.
  • نافذة منزلقة مع تداخل — يشترك كل مقطع في بعض الرموز مع جيرانه كي لا تضيع جملة مقسمة عند الحد.
  • تكيفية / معتمدة على الاستعلام (Mix-of-Granularity) — يختار موجّه مدرّب حجم المقطع لكل استعلام. وهي الأكثر تطورًا، لكنها لم تصبح معيارًا في الأنظمة التجارية.

حجم المقطع والتداخل — المفاضلة الأساسية

هذه هي الرافعة التي يسأل عنها الجميع، والإجابة الصادقة: يعتمد الأمر:

  • مقاطع صغيرة (128–256 رمزًا): استرجاع أدق، لكنها قد تفقد السياق المحيط الذي تحتاجه الإجابة.
  • مقاطع كبيرة (512–1 024 رمزًا): تحافظ على سياق أكبر، لكن استرجاعها أكثر تشويشًا لأنك تجلب مادة غير ذات صلة مع الجزء المطلوب.

لا تتوج الأبحاث فائزًا. وجد تقييم LlamaIndex أن 1 024 رمزًا هو الأمثل في إعدادهم، بينما وجدت معايير Chroma أن مقسّمًا تكراريًا من 200 رمز قدم أداءً متسقًا عبر المقاييس. وخلاصة Ravi Theja هي العقلية الصحيحة: «تحديد أفضل حجم للمقطع في نظام RAG يعتمد على الحدس بقدر اعتماده على الدليل التجريبي.» تصف هذه الأرقام ما فاز في معيار فريق واحد، على مجموعة مستندات واحدة، بنموذج تضمين ومهمة تقييم محددين؛ وليست إعدادًا عالميًا. لا يضمن أي حجم للمقطع أو مقدار للتداخل أو مقسّم الاسترجاع أو الاستشهاد أو الترتيب أو الظهور في إجابة نظام ذكاء اصطناعي خارجي؛ فكل مزود يختار إعداداته الافتراضية وقد يغيرها بلا إشعار.

التداخل هو النصف الذي لا ينال حقه. من دونه قد ينقسم المحتوى قرب الحد ويضيع. توصي Microsoft بالبدء عند تداخل 25% لتوفير “smoother transitions between chunks without excessive duplication” (ترجمة) «انتقالات أكثر سلاسة بين المقاطع من دون تكرار مفرط»، وتقترح مصادر أخرى 10–15%. لكن التداخل ليس مجانيًا: تُضمّن الرموز المتداخلة وتُخزن مرتين، فينتفخ الفهرس وقد تظهر مقاطع شبه متطابقة جنبًا إلى جنب في مجموعة الاسترجاع. لذلك هو مفاضلة مع حجم الفهرس والتكرار، لا شبكة أمان مجانية. زنه وفق عدد المرات التي يسبب فيها الحد فقدان حقيقة بالفعل. والنقطة العملية للمحتوى: لا تفترض أن النظام سيبقي حقيقة مهمة سليمة إذا دفنتها حيث يحتمل أن ينكسر المقطع.

فهل تفوز التجزئة الدلالية دائمًا؟ لا، وهذه هي النتيجة غير المريحة. وجدت دراسة Vectara لعام 2024 أن «فروق الأداء ضئيلة» على مستندات واقعية، والأهم أن جودة نموذج التضمين أهم من استراتيجية التجزئة. وعندما ولّد GPT-4o الإجابات، كانت الفروق بين الاستراتيجيات «مهملة». هذه النتيجة خاصة بمجموعة مستندات Vectara ونماذجها وطريقة تقييمها؛ وهي دليل على أن التجزئة الدلالية ليست فوزًا افتراضيًا موثوقًا، لا برهانًا على أنها لا تساعد أبدًا. وترجمتها لمتخصصي SEO: الهوس ببنية دقيقة أقل أهمية بكثير من جودة المحتوى ووضوحه الدلالي.

سياق المقطع: ما الذي تستطيع البادئات إصلاحه وما الذي لا تستطيع؟

قد يُسترجع مقطع واضح للإنسان استرجاعًا سيئًا بعد فصله عن المستند المحيط: القسم الذي يقع تحته، أو الكيان الذي يتناوله فعلًا، أو قيد ورد قبل عنوانين. أحد الحلول الموثقة هو إضافة سلسلة سياق قصيرة خاصة بالمقطع (عنوان المستند والقسم الذي ينتمي إليه وموضوعه الفعلي) قبل تضمينه، وهو نهج تسميه Anthropic الاسترجاع السياقي. يمكن للعناوين وتسلسل الأقسام وبادئة السياق إزالة غموض مقطع يتيم وتقليل إخفاقات الاسترجاع الناتجة عن غياب السياق.

لكن لهذا الحل نمط فشل خاصًا به: فالسياق القديم أو الخاطئ لا يعجز عن المساعدة فقط، بل يضلل المسترجع نحو المقطع الخطأ. البادئة المولدة من عنوان لم يعد يطابق القسم بعد إعادة تنظيم الصفحة، أو الملخص السياقي الذي يسيء وصف المقطع، أسوأ من غياب البادئة. الحفاظ على السياق خيار تصميم للمسار له نمط خطأ خاص، لا تحسين أحادي الاتجاه تضيفه ثم تنساه.

ترتيب المقاطع لدى Google — سلف التجزئة في SEO

استخدمت Google دقة ما دون المستند قبل أن يصبح «RAG» كلمة رائجة بوقت طويل. في Search On 2020 أعلن Prabhakar Raghavan ترتيب المقاطع: «بفهم أفضل لمدى صلة مقاطع محددة، لا الصفحة كاملة فحسب، يمكننا العثور على معلومة الإبرة في كومة القش التي تبحث عنها.» أُطلق في الإنجليزية الأمريكية في 10 فبراير 2021 ويؤثر في نحو 7% من الاستعلامات.

هناك أمران يسيء الناس فهمهما:

  • إنه «ترتيب المقاطع»، لا «فهرسة المقاطع». استخدم إعلان Google الأول كلمة «الفهرسة»، ثم صححها سريعًا: «هذا التغيير لا يعني أننا نفهرس المقاطع الفردية بصورة مستقلة عن الصفحات.» تظل الصفحة مفهرسة كاملة، ويكون المقطع ذو الصلة إشارة ترتيب إضافية.
  • الصفحة هي التي ترتب، لا المقطع. يقول John Mueller: «لا يتعلق ترتيب المقاطع بترتيب مقطع محدد، بل بفهم المحتوى في صفحة طويلة جدًا وغير محسنة لـSEO، وترتيب تلك الصفحة (لا المقطع) لاستعلام يكون المقطع ذا صلة به.»

إذًا يشترك ترتيب المقاطع وتجزئة RAG في مبدأ واحد: الفقرة، لا الصفحة، هي غالبًا الوحدة الصحيحة لمطابقة استعلام محدد. لكن النتيجة تختلف: يرفع ترتيب المقاطع ترتيب الصفحة، بينما تسترجع تجزئة RAG مقطعًا لتغذية إجابة مولدة. الفكرة نفسها والآلات مختلفة. (أما الأساس التقني، وفق تقرير Dawn Anderson، فهو DeepCT: أوزان سياقية للمصطلحات مشتقة من BERT تحل محل TF-IDF، فلا يعود تكرار المصطلح مساويًا لصلته.)

«Lost in the Middle» — موضع إجابتك مهم

حتى بعد استرجاع مقطعك، يؤثر موضعه في سياق LLM في مدى استخدام النموذج له فعلًا. وجدت دراسة Stanford «Lost in the Middle» ‏(Liu وآخرون، 2023) أن «الأداء يكون غالبًا أعلى عندما تقع المعلومات ذات الصلة في بداية سياق الإدخال أو نهايته، ويتدهور كثيرًا عندما يتعين على النماذج الوصول إلى المعلومات ذات الصلة في وسط السياقات الطويلة».

لا تنطبق هذه النتيجة عالميًا افتراضيًا؛ فهي تأثير موضعي قيس على مهام مسماة للأسئلة متعددة المستندات واسترجاع المفتاح والقيمة، وعلى جيل النماذج المحدد الذي اختبره Liu وآخرون في 2023. وليست دليلًا على أن كل نموذج حالي يتجاهل الأدلة الموضوعة وسط السياق؛ فقد تضيق البنى المختلفة ونوافذ السياق الفعالة الأطول والتدريب الأحدث التأثير أو توسعه. تعامل معها بوصفها خطرًا موثقًا تصمم لتجنبه، لا قانونًا ثابتًا لكل نموذج قد يُسترجع محتواك إليه.

يبقى الأثر العملي على المحتوى واضحًا ومنخفض المخاطر في الحالتين: ابدأ بالإجابة. ضع التعريف أو النتيجة الأساسية أو الإجابة المباشرة في الجملة الأولى من كل قسم، لا مدفونة في الفقرة الرابعة. هذا هو انضباط تقديم الخلاصة (BLUF) نفسه الذي يخدم القراء المتصفحين، وهو يحمي أيضًا من السقوط في وسط نافذة السياق في النماذج التي يظهر فيها التأثير.

القيود العملية التي لا تراها

  • حد Chrome البالغ نحو 30 مقطعًا. تشير أبحاث Dan Petrovic إلى أن DocumentChunker في Chrome يحلل المحتوى في مقاطع من نحو 200 كلمة و«لا ينظر أبدًا إلا إلى أول 30 مقطعًا من الصفحة». وهو يجتاز HTML الدلالي كشجرة من الأعلى إلى الأسفل. النتيجة: يجب أن يظهر أهم محتواك مبكرًا، لا أسفل صفحة من 10 000 كلمة.
  • لا تتحكم في المقسّم. تقول Despina Gavoyannis ‏(Ahrefs) بوضوح: «لا يمكنك التحكم في كيفية تجزئة Google أو ChatGPT أو Perplexity لمحتواك. تتغير مساراتها وفق التكلفة والنموذج والسياق.» وتضيف: «التحسين اليدوي للمقاطع مستحيل عمليًا.»

ما «تحسين المقاطع» فعلًا (وتحذير Google)

هذه هي الدقة التي تتجاهلها الضجة. يقول دليل Google لتحسين الذكاء الاصطناعي لعام 2026 بوضوح: “There’s no requirement to break your content into tiny pieces for AI to better understand it.” (ترجمة) «لا يوجد شرط لتقسيم محتواك إلى أجزاء صغيرة كي يفهمه الذكاء الاصطناعي على نحو أفضل.» فأنظمتها “are able to understand the nuance of multiple topics on a page and show the relevant piece to users.” (ترجمة) «قادرة على فهم الفروق بين موضوعات متعددة في الصفحة وعرض الجزء ذي الصلة للمستخدمين». لذلك لا تعِد كتابة محتواك في كتل جامدة من 300 كلمة.

لكن هذا لا يعني أن البنية غير مهمة. وكما تقول Gavoyannis: «معظم متخصصي SEO الذين يستخدمون مصطلح [تحسين المقاطع] يتحدثون فقط عن بنية محتوى جيدة.» النصيحة تحت الكلمة الرائجة سليمة؛ التأطير فقط يضخم حداثتها. ويلخص Duane Forrester التحول جيدًا: «إذا كان SEO التقليدي يحسن للنقرات، فإن أنظمة GenAI تحسن للمقاطع… وتظل البنية هي الفائزة.»

فماذا تفعل عمليًا؟ اكتب محتوى جاهزًا للتجزئة:

  • موضوع واحد لكل قسم. يرتبط H2/H3 مركز بسهولة بمقطع متماسك.
  • الإجابة أولًا. ابدأ بالادعاء ثم ادعمه أدناه.
  • أقسام مكتفية بذاتها. الاختبار: هل ستفهم هذه الفقرة لو ظهرت منفردة؟ إن لم يكن، فلن تصمد بعد اقتطاعها كمقطع.
  • طول مناسب. يتوافق 200–500 كلمة لكل قسم رئيسي طبيعيًا مع مقاطع من 256–512 رمزًا؛ كاملة بما يكفي لتفيد، وليست قصيرة اصطناعيًا.
  • تنسيقات منظمة. تمنح الجداول والقوائم الأنظمة حدودًا صريحة لاكتشافها. (وفق أبحاث Onely، تزيد الجداول معدلات الاستشهاد نحو 2,5 مرة.)

تأطير Mike King هو الطمأنة الصحيحة: «التجزئة والكتابة للمستخدمين لا تتعارضان.» فالبنية التي تساعد القارئ على التصفح هي نفسها التي تُجزّأ بوضوح. أنت لا تحسن لروبوت على حساب إنسان؛ إنه المحتوى نفسه.

ترتيب المقاطع مقابل تجزئة RAG — جنبًا إلى جنب

ترتيب المقاطع لدى Googleتجزئة RAG
ما هوإشارة ترتيبخطوة معالجة مسبقة
الدقةمقطع داخل صفحةمقطع منفصل قبل التضمين
النتيجةترتب الصفحة أعلىيُسترجع مقطع إلى الإجابة
موضع التشغيلعند الترتيبعند الإدخال (ثم الاسترجاع)
هل تتحكم في التقسيم؟لالا
المبدأ المشتركدقة ما دون المستند: غالبًا ما تطابق فقرة، لا صفحة، استعلامًا محددًا على أفضل وجه

موضع التجزئة في المسار

التجزئة هي الخطوة الأولى في استرجاع الذكاء الاصطناعي: جزّئ ← ضمّن ← خزّن ← استرجع ← ولّد. تغذي التضمينات (يصير كل مقطع متجهًا)، التي تغذي البحث المتجهي (يطابق الاستعلام أقرب المقاطع)، الذي يغذي RAG (تصير المقاطع المسترجعة إجابة). وقبل ذلك، تمثل زواحف الذكاء الاصطناعي طريق إدخال محتواك أصلًا. وللنسخة الخاصة بالبحث التقليدي من هذا المسار كله، راجع كيف يعمل البحث.

Add an expert note

Pin an expert quote

New person? Create their unclaimed profile at /admin/experts/ → Pin a quote first.