Vibe peringkat
What 'vibe peringkat' really berarti — LLM-based reranking, two-stage retrieval pipeline, what Google dan Bing actually melakukan, dan cara mengoptimalkan untuk ini.
Bahasa
"Vibe ranking" _(terjemahan)_ “Vibe peringkat” adalah practitioner shorthand — not sebuah official Google atau Bing istilah — untuk LLM-based reranking: menggunakan sebuah model bahasa besar untuk reorder retrieved search candidates oleh holistic, semantic judgment alih-alih keyword overlap atau raw vector similarity. nyata mechanism behind ini adalah two-stage retrieval pipeline (retrieve banyak candidates cheaply, lalu rerank sebuah kecil set dengan sebuah expensive model) dan three reranking paradigms (pointwise, pairwise, listwise). Google's DOJ-disclosed RankEmbed dan pairwise patent, plus Bing's Web IQ dan Google's documented Passage peringkat sistem, confirm LLMs dan passage-tingkat scoring adalah now deep di peringkat — though neither vendor discloses scoring function. SEO takeaway: jelas, authoritative, well-structured, factually grounded prose adalah defensible practice di bawah sebuah LLM reranker, not sebuah guaranteed win.
TL;DR — “Vibe ranking” (terjemahan) “Vibe peringkat” adalah sebuah nickname untuk sebuah nyata thing: AI mesin pencari menggunakan sebuah model bahasa besar untuk read sebuah set dari hasil pencarian dan reorder them oleh how baik mereka actually adalah — jelas, expert, pada-topic — alih-alih hanya counting keywords. ini adalah not sebuah official Google atau Bing istilah. name borrows dari “vibe coding.” (terjemahan) “vibe coding.” practical lesson: write jelas, trustworthy passages itu jawaban pertanyaan directly.
What “vibe ranking” (terjemahan) “vibe peringkat” berarti
“Vibe ranking” (terjemahan) “Vibe peringkat” adalah sebuah informal label here, not sebuah standardized research atau vendor istilah. Evidence for this claim Vibe ranking is used in this article as informal editorial shorthand, not as a standardized research or vendor term. Scope: Terminology boundary for this article; the cited research supports retrieve-then-rerank architectures, not the phrase vibe ranking. Confidence: medium · Verified: Reimers and Gurevych: Sentence-BERT underlying retrieve-lalu-rerank pattern adalah established: sebuah fast retriever produces candidates dan sebuah more expensive relevance model dapat reorder them. Evidence for this claim Sentence-BERT research describes efficient bi-encoder retrieval and cross-encoder-style pair scoring, supporting a retrieve-then-rerank pattern. Scope: The paper's evaluated models and datasets; production ranking stacks may use different candidates, models, and signals. Confidence: high · Verified: Reimers and Gurevych: Sentence-BERT
pertama, honest bagian: “vibe ranking” (terjemahan) “vibe peringkat” adalah not sebuah istilah Google atau Bing gunakan. Anda won’t temukan ini di mereka documentation. ini adalah shorthand itu SEO people started menggunakan — borrowed dari “vibe coding,” (terjemahan) “vibe coding,” phrase Andrej Karpathy coined di early 2025 untuk loosely steering sebuah AI oleh feel alih-alih writing setiap line yourself.
“real name” (terjemahan) “nyata name” untuk thing ini describes adalah LLM reranking. Here’s idea.
When Anda tanyakan sebuah AI search alat sebuah pertanyaan, ini doesn’t hanya grab single best halaman. ini berfungsi di two langkah:
- Retrieve sebuah pile dari candidates. sebuah fast, cheap sistem pulls back maybe hundreds dari mungkin passages — anything itu looks roughly relevant.
- Rerank best few. sebuah slower, smarter model lalu reads sebuah kecil set dari itu candidates dan decides which ones actually jawaban pertanyaan best.
itu kedua langkah adalah where “vibe” (terjemahan) “vibe” comes di. alih-alih hanya counting how banyak times Anda keyword appears, sebuah model bahasa besar reads passage cara sebuah human reviewer akan — dan judges things like: adalah ini jelas? melakukan ini actually jawaban pertanyaan? melakukan source seem credible? adalah ini complete?
Why ini penting untuk Anda konten
Old-school SEO advice adalah full dari tricks untuk matching keywords. LLM reranking cares sebuah lot less tentang itu dan sebuah lot more tentang whether Anda writing adalah genuinely baik.
sebuah few things itu help:
- jawaban pertanyaan directly. Don’t bury jawaban di bawah throat-clearing.
- menjadi jelas dan well-organized. pendek paragraphs, logical order, plain language.
- menjadi trustworthy. Get facts right, dan membuat them checkable.
- menjadi complete. Cover whole pertanyaan, not hanya one slice dari ini.
There’s one more shift worth knowing: AI search increasingly scores passages, not whole halaman. So one strong paragraf pada sebuah topic dapat get pulled ke sebuah jawaban bahkan jika rest dari Anda halaman adalah tentang something else — dan sebuah weak paragraf dapat lose, bahkan pada sebuah otherwise great halaman.
ingin nyata mechanics — two-stage pipeline, three cara LLMs rerank, dan what Google dan Bing memiliki actually confirmed? Switch untuk Advanced tab.
TL;DR — “Vibe ranking” (terjemahan) “Vibe peringkat” adalah informal practitioner shorthand (oleh analogy dengan “vibe coding” (terjemahan) “vibe coding”) untuk LLM-based reranking — not sebuah official Google atau Bing istilah. nyata mechanism adalah two-stage retrieval pipeline: cheap pertama-stage retrieval (BM25 / bi-encoders) untuk recall, lalu sebuah expensive kedua-stage reranker untuk precision. LLM rerankers come di three flavors — pointwise, pairwise, listwise — dengan pairwise dan listwise outperforming pointwise di research. Google’s DOJ-disclosed RankEmbed (LLM-trained) dan sebuah pairwise patent, plus Bing’s Web IQ passage-tingkat evidence objects, confirm LLMs adalah deep di peringkat — though neither confirms sebuah discrete “LLM reranker” (terjemahan) “LLM reranker” stage oleh itu name. SEO consequence adalah passage-tingkat shift: Anda paragraf competes terhadap competitors’ paragraphs pada holistic quality.
sebuah note pada istilah sebelum kami start
ini artikel menggunakan “vibe ranking” (terjemahan) “vibe peringkat” sebagai editorial shorthand untuk learned reranking berdasarkan broad relevance signals; readers seharusnya not treat ini sebagai sebuah named search-sistem standard. Evidence for this claim Vibe ranking is used in this article as informal editorial shorthand, not as a standardized research or vendor term. Scope: Terminology boundary for this article; the cited research supports retrieve-then-rerank architectures, not the phrase vibe ranking. Confidence: medium · Verified: Reimers and Gurevych: Sentence-BERT Research pada kalimat embeddings dan cross-encoders mendukung broader two-stage retrieval dan reranking architecture. Evidence for this claim Sentence-BERT research describes efficient bi-encoder retrieval and cross-encoder-style pair scoring, supporting a retrieve-then-rerank pattern. Scope: The paper's evaluated models and datasets; production ranking stacks may use different candidates, models, and signals. Confidence: high · Verified: Reimers and Gurevych: Sentence-BERT
Let me menjadi upfront, because I’d rather coin sebuah berguna frame honestly daripada pretend ini adalah official: “vibe ranking” (terjemahan) “vibe peringkat” adalah not sebuah istilah Google, Bing, atau apa pun mesin pencari menggunakan. ini doesn’t appear di mereka docs, patents, atau engineer statements. ini adalah emerging practitioner shorthand, almost certainly borrowed oleh analogy dari vibe coding (coined oleh Andrej Karpathy di February 2025, popular enough untuk become Collins Dictionary’s kata dari Year untuk 2025).
I’m menggunakan ini anyway because ini adalah sebuah baik metaphor untuk sebuah nyata, well-documented mechanism — formal name untuk which adalah LLM-based reranking (juga: neural reranking, passage reranking, pairwise/listwise peringkat). “vibe” (terjemahan) “vibe” captures key difference: sebuah LLM reads sebuah passage holistically, like sebuah human judge, rather daripada computing sebuah similarity score dari surface fitur. hanya don’t quote ini back untuk me sebagai something Google said. ini isn’t.
two-stage retrieval pipeline
ini adalah bagian itu’s telah benar untuk sebuah panjang time, well sebelum LLMs. Retrieval runs di two stages because Anda dapat’t afford untuk melakukan expensive thing untuk everything:
- Stage 1 — retrieval (recall). sebuah fast, cheap metode — keyword matching dengan BM25, atau sebuah bi-encoder itu turns kueri dan documents ke vectors — pulls back sebuah besar candidate set (top 100–1000) di milliseconds. Cheap, tetapi imprecise.
- Stage 2 — reranking (precision). sebuah slower, more accurate model re-scores itu kecil candidate atur ke temukan genuinely best handful. ini digunakan untuk menjadi sebuah cross-encoder; now ini dapat menjadi sebuah LLM.
Why bother dengan two stages? Because precise metode doesn’t scale. sebagai Pinecone puts ini, running BERT di atas 40M records pada sebuah GPU akan take “more than 50 hours,” (terjemahan) “more daripada 50 hours,” versus di bawah 100ms dengan pencarian vektor alone. Anda retrieve broadly dengan cheap alat, lalu spend expensive compute hanya pada survivors. dan untuk AI jawaban specifically, ini penting twice di atas: “LLM recall degrades as we put more tokens in the context window.” (terjemahan) “LLM recall degrades sebagai kami put more tokens di context window.” Feeding generator best 5 passages beats dumping 200 mediocre ones ke prompt.
Bi-encoder vs cross-encoder vs LLM, since ini adalah whole spectrum:
- Bi-encoders embed kueri dan document separately, so document vectors dapat menjadi precomputed. Fast di kueri time, tetapi mereka lose kueri↔document interaction.
- Cross-encoders run kueri dan document together melalui sebuah transformer. Far more accurate, far slower — Anda dapat’t precompute.
- LLM rerankers adalah cross-encoder idea taken untuk extreme: full generative understanding, reasoning tentang relevance, quality, dan completeness — di highest cost dan latency dari three.
three reranking paradigms
ini adalah core dari “how LLMs actually rerank,” (terjemahan) “how LLMs actually rerank,” dan ini adalah where academic literature adalah solid. ada three cara untuk tanyakan sebuah LLM untuk peringkat:
- Pointwise — score setiap passage independently (“how relevant is this passage, 0–1?” (terjemahan) “how relevant adalah ini passage, 0–1?”). sederhana, parallelizable, tetapi LLMs adalah buruk di producing calibrated absolute scores, dan ini adalah paling expensive per unit dari quality.
- Pairwise — tampilkan model two passages dan tanyakan which adalah better untuk kueri. Run twice dengan order swapped untuk cancel position bias. ini plays untuk sebuah nyata LLM strength: sebagai Pairwise peringkat Prompting (PRP) authors put ini, LLMs memiliki “a sense of pairwise relative comparisons, which is much simpler than requiring calibrated pointwise relevance estimation.” (terjemahan) “sebuah sense dari pairwise relative comparisons, which adalah much simpler daripada requiring calibrated pointwise relevance estimation.”
- Listwise — hand model whole set dan tanyakan ini untuk output sebuah diperingkatkan permutation di once. ini adalah paling “vibe-like” (terjemahan) “vibe-like” approach: one holistic judgment di atas set. RankGPT melakukan ini dengan sebuah sliding window di atas candidates.
research consensus adalah itu pointwise adalah weak option dan pairwise/listwise win. ZeroEntropy’s benchmarking adalah blunt: “Pointwise LLM reranking is almost never worth it — 10x the cost and lower accuracy than specialized rerankers.” (terjemahan) “Pointwise LLM reranking adalah almost tidak pernah worth ini — 10x cost dan lower accuracy daripada specialized rerankers.” Listwise LLM reranking dapat beat specialized cross-encoders, tetapi di sebuah steep latency/cost premium (mereka angka: sebuah listwise LLM di NDCG@10 0,78 / 420ms / ~9x cost vs sebuah specialized reranker di 0,74 / 12ms).
Two landmark hasil worth knowing:
- RankGPT (Sun et al., EMNLP 2023, “Is ChatGPT Good at Search?” (terjemahan) “adalah ChatGPT baik di Search?”) showed itu “properly instructed LLMs can deliver competitive, even superior results to state-of-the-art supervised methods” (terjemahan) “properly instructed LLMs dapat deliver competitive, bahkan superior hasil untuk state-dari—art supervised metode” — zero-shot. GPT-4 produced “remarkable results” (terjemahan) “remarkable hasil” pada TREC benchmarks, dan authors distilled itu peringkat ability ke sebuah much smaller model itu beat sebuah 3B supervised baseline.
- PRP (Qin et al.) showed FLAN-UL2 (20B) dengan pairwise prompting beating InstructGPT (175B) oleh >10% pada TREC-DL2019 — dan menjadi far more robust untuk input order daripada listwise RankGPT, which collapsed dari NDCG@10 65,80 untuk 32,77 when input order adalah reversed.
What Google dan Bing adalah actually doing
Here’s where I separate confirmed dari speculation, because gap penting.
Google — confirmed LLMs adalah di peringkat; “reranker stage” (terjemahan) “reranker stage” unconfirmed.
- RankEmbed adalah, per DOJ antitrust testimony dari Pandu Nayak (disclosed early 2025, reported via mesin pencari Land), sebuah “primary Google signal, trained with Large Language Models.” (terjemahan) “primary Google signal, trained dengan model bahasa besar.” ini adalah sebuah dual-encoder itu maps kueri dan halaman ke sebuah embedding space dan peringkat oleh distance. Note: ini adalah sebuah LLM-trained retrieval/sinyal peringkat, not sebuah discrete two-stage “reranker” (terjemahan) “reranker” oleh academic definition. (DOJ trial testimony — court-disclosed, not sebuah Google publication.)
- ** pairwise patent** (US20250124067A1, “Method for Text Ranking with Pairwise Ranking Prompting,” (terjemahan) “metode untuk Text peringkat dengan Pairwise peringkat Prompting,” Google LLC, filed Oct 2024, published Apr 2025) describes exactly pairwise approach above: sebuah LLM compares passage pairs, run twice untuk position bias, aggregated via semua-pairs, sliding window, atau sorting. sebuah patent adalah not sebuah deployed fitur — treat ini sebagai architecture Google memiliki worked pada, not confirmed production perilaku.
- sebuah passage-tingkat peringkat sistem adalah officially documented — hanya not quote ini artikel digunakan untuk cite. Google’s own guide untuk Search peringkat sistem lists sebuah “Passage ranking system,” (terjemahan) “Passage peringkat sistem,” described there sebagai sebuah AI sistem “we use to identify individual sections or ‘passages’ of a web page to better understand how relevant a page is to a search.” (terjemahan) “kami gunakan untuk identify individual bagian atau ‘passages’ dari sebuah halaman web untuk better memahami how relevant sebuah halaman adalah untuk sebuah search.” itu’s nyata, saat ini sub-document granularity — tetapi Google’s text ties ini untuk umum Search relevance, not untuk Gemini atau AI Overviews oleh name. (I diperiksa AI Optimization Guide directly oleh raw fetch, including sebuah Wayback snapshot dari day ini brief adalah researched — ini berisi no mention dari “Gemini” (terjemahan) “Gemini” atau “passage” (terjemahan) “passage” di semua. sebuah earlier draft dari ini artikel quoted sebuah “Gemini… passage indexing” (terjemahan) “Gemini… passage pengindeksan” line sebagai jika ini adalah pada itu halaman; ini isn’t dan tidak pernah adalah. itu adalah my error, dan I’ve corrected ini here.)
What Google memiliki not published: apa pun deskripsi dari sebuah distinct LLM reranking stage inside AI Overviews — no cross-encoder, no pairwise langkah, no listwise pass confirmed di live pipeline, dan nothing itu names passage peringkat sebagai bagian dari itu pipeline specifically.
Bing — clearest official confirmation dari passage-tingkat, LLM-aware scoring.
Microsoft’s Web IQ (announced June 2026, Knut Risvik) adalah strongest pada-record signal dari apa pun major mesin. -nya model layer mencakup “our best-in-class embedding model, which defines how information is projected into a space where semantic similarity becomes computationally tractable,” (terjemahan) “kami best-di-class embedding model, which defines how informasi adalah projected ke sebuah space where semantic similarity becomes computationally tractable,” alongside separate “models that are optimized for content understanding and ranking, trained not for isolated metrics but for how their outputs are used inside LLM-driven reasoning.” (terjemahan) “models itu adalah dioptimalkan untuk konten understanding dan peringkat, trained not untuk isolated metrics tetapi untuk how mereka outputs adalah digunakan inside LLM-driven reasoning.” itu last phrase adalah tentang sebagai close sebagai anyone memiliki come untuk officially confirming sebuah LLM-aware reranking layer. Web IQ mengembalikan passages dan structured evidence objects, not full documents, pada principle dari “fewer tokens in, better answers out, lower cost per call.” (terjemahan) “fewer tokens di, better jawaban out, lower cost per panggil.”
Bing’s earlier “Evolving role of the index” (terjemahan) “Evolving role dari indeks” post (dapat 2026) frames shift well: “Search indexing was built to help humans decide what to read. Grounding indexing is being built to help AI systems decide what to say.” (terjemahan) “Search pengindeksan adalah dibangun untuk help humans decide what untuk read. Grounding pengindeksan adalah menjadi dibangun untuk help AI sistem decide what untuk say.”
passage-tingkat shift — bagian itu actually perubahan Anda SEO
jika Anda take one operational thing dari ini artikel, take ini: ** unit dari competition adalah moving dari document untuk passage.** Google’s documented passage peringkat sistem dan Bing’s evidence objects both score discrete chunks. Combine itu dengan pairwise reranking, dan Anda individual paragraf adalah menjadi compared head-untuk-head terhadap sebuah competitor’s paragraf pada yang sama sub-topic.
mesin pencari Land framing dari Google patent captures consequence: konten “doesn’t compete in isolation but undergoes relative evaluation against all surviving candidates.” (terjemahan) “doesn’t compete di isolation tetapi undergoes relative evaluation terhadap semua surviving candidates.” sebuah great halaman dengan sebuah weak paragraf pada sebuah sub-topic dapat lose itu sub-topic untuk sebuah weaker halaman dengan sebuah strong paragraf. ini adalah juga why modern agentic loop penting more daripada apa pun single peringkat moment: AI search fans sebuah pertanyaan out ke banyak sub-kueri, retrieves dan reranks untuk setiap, dan runs sebuah critic pass. Anda konten memiliki untuk survive repeatedly, not peringkat #1 once.
Worth menjadi precise tentang: jelas, self-berisi passages adalah sebuah defensible usability dan retrieval practice regardless — mereka’re easier untuk apa pun retriever untuk match dan apa pun reader untuk gunakan. tetapi no source here proves sebuah well-written passage universally wins inside sebuah undisclosed reranker. Google dan Bing confirm architecture operates di passage granularity; neither publishes scoring function. Treat “write good passages” (terjemahan) “write baik passages” sebagai sound practice, not sebuah guaranteed peringkat lever.
ini connects directly untuk rest dari how AI jawaban get dibangun — passage peringkat, chunking, embeddings, pencarian vektor, dan RAG/grounding adalah semua upstream dan downstream dari reranking langkah.
What LLM rerankers favor (dan honest caveat)
Synthesizing PRP research dan practitioner analysis dari pairwise patent, konten itu wins relative comparisons tends untuk share ini traits:
- Direct intent match — jawaban kueri without tangential padding.
- Semantic completeness — addresses semua components dari pertanyaan.
- Factual density dengan jelas provenance — checkable claims, attributable sources.
- jelas, logically organized writing — structure model dapat ikuti.
- Authoritative, trustworthy tone — dan genuine subject expertise behind ini.
Luca Tagliaferro’s read pada patent sums up mental shift: peringkat moves dari “absolute, deterministic relevance to relative, model-mediated probabilistic relevance.” (terjemahan) “absolute, deterministic relevance untuk relative, model-mediated probabilistic relevance.”
** caveat I won’t skip:** tidak ada single universal “vibe.” (terjemahan) “vibe.” Research diagnosing LLM rerankers di bawah fixed evidence pools ditemukan mereka exhibit “model-specific, non-uniform behavior that cannot be reduced to a single recognizable optimization strategy.” (terjemahan) “model-spesifik, non-uniform perilaku itu cannot menjadi reduced untuk sebuah single recognizable optimization strategy.” Llama implicitly diversifies; GPT increases redundancy; Qwen sits di antara. mereka’re juga not lexical matchers — BM25 agreement adalah weak (τ dari ~0,19 untuk ~0,41). So “optimize for the AI’s vibe” (terjemahan) “mengoptimalkan untuk AI’s vibe” adalah sebuah oversimplification: Anda mengoptimalkan untuk genuinely jelas, complete, well-sourced passages, because itu’s what holds up di seluruh models — not untuk one model’s quirks.
AI summary
sebuah condensed take pada Advanced versi:
- “Vibe ranking” (terjemahan) “Vibe peringkat” adalah unofficial. ini adalah practitioner shorthand (borrowed dari “vibe coding,” (terjemahan) “vibe coding,” Karpathy, Feb 2025) untuk LLM-based reranking. No mesin pencari menggunakan istilah.
- ** nyata mechanism adalah two-stage retrieval:** cheap pertama-stage retrieval (BM25 / bi-encoders) untuk recall, lalu sebuah expensive kedua-stage reranker untuk precision. LLM rerankers adalah newest kedua stage, setelah cross-encoders.
- Three paradigms: pointwise (score setiap — weakest, priciest), pairwise (compare two, swap untuk cancel position bias — sebuah LLM strength), listwise (peringkat whole set di once — “vibe” (terjemahan) “vibe” approach). Pairwise/listwise beat pointwise.
- Landmark hasil: RankGPT (GPT-4 competitive/superior zero-shot pada TREC); PRP (20B model beating sebuah 175B one oleh >10%, dan far more order-robust daripada listwise).
- Google: RankEmbed adalah LLM-trained (DOJ testimony) tetapi not sebuah discrete reranker; sebuah pairwise patent exists (filed Oct 2024) tetapi sebuah patent ≠ production; sebuah documented “Passage ranking system” (terjemahan) “Passage peringkat sistem” exists (Google’s peringkat-sistem guide), tetapi ini adalah not named sebagai bagian dari AI Overviews atau tied untuk Gemini di Google’s own text.
- Bing: Web IQ menggunakan models “trained not for isolated metrics but for how their outputs are used inside LLM-driven reasoning” (terjemahan) “trained not untuk isolated metrics tetapi untuk how mereka outputs adalah digunakan inside LLM-driven reasoning” dan mengembalikan passage-tingkat evidence objects — clearest official signal dari LLM-aware scoring.
- SEO consequence — passage-tingkat shift: Anda paragraf competes head-untuk-head terhadap competitors’ paragraphs. Win dengan direct intent match, completeness, factual provenance, jelas structure, dan authority.
- Caveat: no universal “vibe” (terjemahan) “vibe” — rerankers (Llama/GPT/Qwen) behave differently; mereka’re not lexical matchers. mengoptimalkan untuk genuinely baik passages, not one model.
Reranking paradigms — cheat sheet
** two-stage pipeline di sebuah glance**
| Stage | metode | Job | Speed | Cost |
|---|---|---|---|---|
| 1 — Retrieval | BM25, bi-encoder | Recall: pull top 100–1000 candidates | Milliseconds | Cheap |
| 2 — Reranking | Cross-encoder, LLM reranker | Precision: re-score survivors | Slow | Expensive |
** three LLM reranking paradigms**
| Paradigm | How ini berfungsi | Strength | Weakness |
|---|---|---|---|
| Pointwise | Score setiap passage independently | sederhana, parallel | Poor calibration; ~10x cost, sering lower accuracy daripada specialized rerankers |
| Pairwise | Compare two passages; swap order untuk cancel position bias | Plays untuk LLMs’ relative-comparison strength; order-robust | O(N²) naively (mitigated oleh sliding window / sorting) |
| Listwise | peringkat whole set di once (sliding window) | sebagian besar holistic — “vibe” (terjemahan) “vibe” approach; dapat beat specialized rerankers | Fragile untuk input order; tinggi latency/cost |
Encoder spectrum
| jenis | kueri + doc processed | Precompute? | Speed | Accuracy |
|---|---|---|---|---|
| Bi-encoder | Separately | Yes | Fast | Lower (no interaction) |
| Cross-encoder | Together | No | Slow | tinggi |
| LLM reranker | Together, generatively | No | Slowest | Highest (alasan tentang quality) |
Fast facts
- “Vibe ranking” (terjemahan) “Vibe peringkat” = informal istilah; formal name adalah LLM-based reranking.
- Pointwise LLM reranking: “almost never worth it” (terjemahan) “almost tidak pernah worth ini” (ZeroEntropy).
- PRP (20B) beat InstructGPT (175B) oleh >10% pada TREC-DL2019.
- Google RankEmbed = LLM-trained dual encoder (DOJ testimony), not sebuah discrete reranker.
- Bing Web IQ mengembalikan passages/evidence objects, not full documents.
- LLM rerankers adalah not lexical matchers (BM25 agreement τ ≈ 0,19–0,41).
mental models
1. Retrieve broad, rerank narrow. pertama stage maximizes recall cheaply; kedua stage maximizes precision expensively. Anda dapat’t run expensive model pada everything — itu’s entire alasan two stages exist. When sebuah AI jawaban misses Anda konten, tanyakan which stage dropped ini: tidak pernah retrieved, atau retrieved tetapi reranked away?
2. three paradigms — pointwise / pairwise / listwise.
- Pointwise: absolute score per passage (weakest untuk LLMs — poor calibration).
- Pairwise: head-untuk-head, swap order untuk cancel position bias (sebuah LLM strength).
- Listwise: peringkat whole set di once ( holistic “vibe” (terjemahan) “vibe” — tetapi order-fragile). Default assumption untuk production-grade sistem: pairwise atau listwise, not pointwise.
3. unit dari competition adalah passage, not halaman. Google’s documented passage peringkat sistem dan Bing’s evidence objects berarti Anda paragraf competes terhadap sebuah competitor’s paragraf. sebuah strong halaman dengan one weak sub-topic paragraf loses itu sub-topic. mengoptimalkan passages, not hanya halaman — tetapi note neither vendor discloses actual scoring function, so treat ini sebagai sound practice, not sebuah guaranteed win.
4. Relative, not absolute. Pairwise reranking membuat relevance comparative: “of these two, which is better for this query?” (terjemahan) “dari ini two, which adalah better untuk ini kueri?” Anda’re not hitting sebuah fixed bar — Anda’re beating lainnya survivors. shift adalah dari “absolute, deterministic relevance to relative, model-mediated probabilistic relevance.” (terjemahan) “absolute, deterministic relevance untuk relative, model-mediated probabilistic relevance.”
5. Survive loop, not sebuah single peringkat. Agentic AI search fans sebuah pertanyaan ke banyak sub-kueri, reranks untuk setiap, dan runs sebuah critic/reflection pass (sufficiency, contradiction, freshness, source diversity). konten harus survive repeatedly di seluruh retrieval dan reflection — citation tracking hanya sees akhir-stage survivors dan dapat miss sebagian besar dari pipeline.
6. There’s no single “vibe.” (terjemahan) “vibe.” Rerankers behave differently oleh model (Llama diversifies; GPT menambahkan redundancy). Don’t chase one model’s quirks. mengoptimalkan untuk what holds di seluruh semua dari them: jelas, complete, well-sourced, directly-pada-intent passages.
Official documentation
Primary-source material pada how AI fitur retrieve dan peringkat. Note up front: “vibe ranking” (terjemahan) “vibe peringkat” appears di none dari ini — mereka describe LLM-trained peringkat, passage-tingkat scoring, dan grounding, which adalah what istilah informally poin di.
- AI fitur dan Anda situs web (AI Optimization Guide) — how AI Overviews/AI Mode rely pada core Search peringkat, grounding/RAG definition, kueri fan-out, dan passage-pengindeksan mention.
- How Google Search berfungsi — crawl → indeks → sajikan pipeline reranking sits inside.
- Patent US20250124067A1 — metode untuk Text peringkat dengan Pairwise peringkat Prompting — Google LLC, filed Oct 2024, published Apr 2025. Pairwise LLM passage comparison. (sebuah patent, not sebuah confirmed live fitur.)
- Re-peringkat (Google ML / Recommendation sistem) — Google’s umum framing dari sebuah re-peringkat stage.
- sebuah guide untuk Google Search peringkat sistem — lists Passage peringkat sistem: “an AI system we use to identify individual sections or ‘passages’ of a web page to better understand how relevant a page is to a search.” (terjemahan) “sebuah AI sistem kami gunakan untuk identify individual bagian atau ‘passages’ dari sebuah halaman web untuk better memahami how relevant sebuah halaman adalah untuk sebuah search.” ini adalah nyata, saat ini, official passage-tingkat sistem — ini adalah not tied untuk Gemini atau AI Overviews oleh name di Google’s own text.
Bing / Microsoft
- Announcing Microsoft Web IQ (June 2026) — passage-tingkat evidence objects; konten-understanding dan peringkat models “trained not for isolated metrics but for how their outputs are used inside LLM-driven reasoning.” (terjemahan) “trained not untuk isolated metrics tetapi untuk how mereka outputs adalah digunakan inside LLM-driven reasoning.”
- Evolving role dari indeks (dapat 2026) — search pengindeksan vs grounding pengindeksan; factual fidelity, attribution, freshness, conflict detection.
- Introducing Deep Search (Dec 2023) — GPT-4 powered kueri expansion dan relevance scoring di atas ~10x usual halaman volume.
Quotes dari source
pada—record statements. Where sebuah deep tautan adalah available ini jumps untuk quoted passage. Court-disclosed material adalah flagged separately — ini comes dari DOJ antitrust testimony, not dari sebuah Google publication.
Google — grounding & AI fitur (official docs)
- “A technique (also known as grounding) used to improve the quality, accuracy, and freshness of AI responses by relying on our core Search ranking systems to retrieve relevant, up-to-date web pages from our Search index.” (terjemahan) “sebuah technique (juga known sebagai grounding) digunakan untuk meningkatkan quality, accuracy, dan freshness dari AI respons oleh relying pada kami core Search peringkat sistem untuk retrieve relevant, up-untuk-date halaman web dari kami Search indeks.” — Google Search Central, AI Optimization Guide.
- “Passage ranking is an AI system we use to identify individual sections or ‘passages’ of a web page to better understand how relevant a page is to a search.” (terjemahan) “Passage peringkat adalah sebuah AI sistem kami gunakan untuk identify individual bagian atau ‘passages’ dari sebuah halaman web untuk better memahami how relevant sebuah halaman adalah untuk sebuah search.” — Google Search Central, “A guide to Google Search ranking systems.” (terjemahan) “sebuah guide untuk Google Search peringkat sistem.” (nyata, saat ini, sub-document granularity — tetapi Google’s own text melakukan not tie ini untuk Gemini atau AI Overviews oleh name. sebuah earlier draft dari ini artikel attributed sebuah “Gemini… passage indexing” (terjemahan) “Gemini… passage pengindeksan” quote untuk AI Optimization Guide; itu halaman berisi no mention dari “Gemini” (terjemahan) “Gemini” atau “passage” (terjemahan) “passage” — confirmed oleh direct fetch dan sebuah Wayback snapshot dari brief’s own research date. itu quote adalah fabricated dan memiliki telah dihapus.) Source
Google — RankEmbed & pairwise peringkat (court-disclosed / patent)
- RankEmbed adalah described sebagai sebuah “primary Google signal, trained with Large Language Models” (terjemahan) “primary Google signal, trained dengan model bahasa besar” — sebuah dual encoder itu peringkat via distance di sebuah embedding space. Source: DOJ antitrust trial testimony dari Google’s Pandu Nayak (disclosed early 2025), reported oleh mesin pencari Land — court-disclosed document, not sebuah Google publication. Read coverage
- Google’s patent describes sistem itu “rank passages by having an LLM perform pairwise comparisons — of these two passages, which is better for this query?” (terjemahan) “peringkat passages oleh having sebuah LLM perform pairwise comparisons — dari ini two passages, which adalah better untuk ini kueri?” — meaning konten “doesn’t compete in isolation but undergoes relative evaluation against all surviving candidates.” (terjemahan) “doesn’t compete di isolation tetapi undergoes relative evaluation terhadap semua surviving candidates.” ini adalah sebuah filed patent (US20250124067A1), not confirmation dari sebuah deployed fitur. Patent · SEL analysis
Bing / Microsoft — Web IQ & indeks (official blog)
- “Models that are optimized for content understanding and ranking, trained not for isolated metrics but for how their outputs are used inside LLM-driven reasoning.” (terjemahan) “Models itu adalah dioptimalkan untuk konten understanding dan peringkat, trained not untuk isolated metrics tetapi untuk how mereka outputs adalah digunakan inside LLM-driven reasoning.” — Knut Risvik, Microsoft, Web IQ announcement (June 2026). clearest official signal dari LLM-aware passage scoring. Source
- “Fewer tokens in, better answers out, lower cost per call.” (terjemahan) “Fewer tokens di, better jawaban out, lower cost per panggil.” — Microsoft Web IQ design principle (passage-tingkat evidence di atas full documents). Source
- “Search indexing was built to help humans decide what to read. Grounding indexing is being built to help AI systems decide what to say.” (terjemahan) “Search pengindeksan adalah dibangun untuk help humans decide what untuk read. Grounding pengindeksan adalah menjadi dibangun untuk help AI sistem decide what untuk say.” — Madhavan, Risvik & Merchant, Microsoft AI (dapat 2026). Source
Academia — why LLMs rerank well
- “Properly instructed LLMs can deliver competitive, even superior results to state-of-the-art supervised methods on popular IR benchmarks.” (terjemahan) “Properly instructed LLMs dapat deliver competitive, bahkan superior hasil untuk state-dari—art supervised metode pada popular IR benchmarks.” — Sun et al., “Is ChatGPT Good at Search?” (terjemahan) “adalah ChatGPT baik di Search?” (RankGPT), EMNLP 2023. arXiv
- LLMs memiliki “a sense of pairwise relative comparisons, which is much simpler than requiring calibrated pointwise relevance estimation.” (terjemahan) “sebuah sense dari pairwise relative comparisons, which adalah much simpler daripada requiring calibrated pointwise relevance estimation.” — Qin et al., Pairwise peringkat Prompting. arXiv
- LLM rerankers exhibit “model-specific, non-uniform behavior that cannot be reduced to a single recognizable optimization strategy.” (terjemahan) “model-spesifik, non-uniform perilaku itu cannot menjadi reduced untuk sebuah single recognizable optimization strategy.” — “Diagnosing LLM Reranker Behavior Under Fixed Evidence Pools” (terjemahan) “Diagnosing LLM Reranker perilaku di bawah Fixed Evidence Pools” (2026). caveat terhadap sebuah single universal “vibe.” (terjemahan) “vibe.” arXiv
Test yourself: Vibe peringkat
Resources worth Anda time
My related writing (Ahrefs)
- sebuah Analysis dari AI Overview Brand visibilitas Factors (75K Brands Studied) — what actually correlates dengan getting pulled ke AI Overviews: brand mentions (0,664), teks jangkar (0,527), trafik organik (0,274). visibilitas side dari surviving reranking pipeline.
- Great Decoupling — how AI Overviews split impressions dari clicks; context untuk why surviving reranking ≠ getting visit.
- situs web dengan More pencarian organik Traffic Get Mentioned More di AI Search — correlation antara traditional visibilitas dan AI mentions.
Foundational explainers (others)
- Pinecone — Rerankers dan Two-Stage Retrieval — clearest technical explainer dari pipeline, bi-encoder vs cross-encoder, dan why two stages exist.
- ZeroEntropy — seharusnya Anda gunakan LLM sebagai sebuah Reranker? — benchmark angka, cost reality dari pointwise vs listwise, dan sebuah recommended hybrid pipeline.
Academic papers
- adalah ChatGPT baik di Search? (RankGPT) — Sun et al., EMNLP 2023. Listwise reranking dengan sliding windows.
- LLMs adalah Effective Text Rankers dengan Pairwise peringkat Prompting — Qin et al. pairwise approach dan -nya robustness.
- RankVicuna: Zero-Shot Listwise Reranking dengan Open-Source LLMs — sebuah 7B open model approaching GPT-3,5-tingkat reranking.
- Diagnosing LLM Reranker perilaku di bawah Fixed Evidence Pools — model-specificity caveat.
- Passage Re-peringkat dengan BERT — Nogueira & Cho, 2019. cross-encoder era ini membangun pada.
SEO-practitioner reads
- Beyond RAG: Why setiap AI search platform adalah now agentic — five-node agentic architecture dan Google pairwise-patent read.
- Luca Tagliaferro — Google’s AI Pairwise Patent & Scorecard — practitioner analysis dari what wins pairwise comparisons.
My speaking
- How Search berfungsi (SlideShare) — my walkthrough dari crawling, rendering, pengindeksan, dan peringkat. (Standing disclaimer: “This is my understanding of systems… not going to be 100% complete or accurate.” (terjemahan) “ini adalah my understanding dari sistem… not going untuk menjadi 100% complete atau accurate.”)
dari sekitar industry
- mesin pencari Journal — How Researchers Reverse-Engineered LLMs untuk sebuah peringkat Experiment — GPT-4o, Claude, Gemini, dan Grok compared sebagai rankers; covers what signals setiap LLM implicitly weights.
- mesin pencari Land — LinkedIn Updates Feed Algorithm dengan LLM peringkat dan Retrieval — one dari pertama major production confirmations dari LLM reranking di scale outside dari web search; berguna dunia nyata precedent.
- ACL Anthology — PRP-Graph: Pairwise peringkat Prompting dengan Graph Aggregation (ACL 2024) — extends PRP pairwise approach dengan graph-based aggregation; peer-reviewed ikuti-up untuk original PRP paper.
- RankLLM: sebuah Python Toolkit untuk LLM Reranking (SIGIR 2025) — open-source toolkit untuk experimenting dengan listwise dan pairwise LLM reranking; practical research infrastructure underpinning sebagian besar recent benchmarks.
- Google Blog — Search di Google I/O 2026 — Gemini 3,5 Flash di AI Mode; agentic pada—fly generation; official framing dari how Google’s AI search pipeline adalah evolving.
Log perubahan
Diperbarui 19 Jul 2026.
Ringkasan editorial dan detail perubahan yang tercatat.Detail perubahan
-
Catatan perubahan terperinci saat ini tersedia dalam bahasa Inggris.
-
Catatan perubahan terperinci saat ini tersedia dalam bahasa Inggris.
-
Catatan perubahan terperinci saat ini tersedia dalam bahasa Inggris.
Perbandingan lengkap tidak tersedia — tidak ada cuplikan sebelumnya yang diarsipkan untuk revisi ini.