Embeddings für SEO

TL;DR – Ein Embedding wandelt Text in eine Liste von Zahlen um – Koordinaten in einem riesigen Raum –, in dem Dinge, die ähnlich bedeuten, nahe beieinander liegen. So gleichen KI-Suche und moderne Suchmaschinen Ihre Inhalte an eine Suchanfrage an, indem sie die Bedeutung statt nur Schlüsselwörter abgleichen. Sie können keine Embeddings zu einer Seite „hinzufügen“; sie sind die Art, wie die Maschine liest, was bereits vorhanden ist.

Was ein Embedding ist

Ein Embedding repräsentiert Eingaben als numerischen Vektor, der nützliche Beziehungen für Aufgaben wie semantische Ähnlichkeit bewahren soll. Evidence for this claim Embeddings represent inputs as numerical vectors that can be compared for relatedness and used for search, clustering, and classification. Scope: OpenAI embedding models and documented uses; vector dimensions and behavior vary by model. Confidence: high · Verified: 2026-07-14 OpenAI: Embeddings guide Geometrie und Dimensionalität sind modellspezifisch und keine universellen Bedeutungen, die jeder Koordinate zugeordnet sind. Evidence for this claim Learned vector representations can encode useful distributional relationships between words. Scope: Word2vec-era language representations; observed vector relationships are model- and training-data-specific, not ground truth. Confidence: high · Verified: 2026-07-14 Mikolov et al.: Efficient Estimation of Word Representations

Computer verstehen keine Wörter – sie verstehen Zahlen. Ein Embedding ist die Brücke: Ein Modell liest einen Text und wandelt ihn in eine Liste von Zahlen (einen Vektor) um, die seine Bedeutung erfasst. Stellen Sie es sich wie einen Ort auf einer Karte vor. Zwei Texte, die Ähnliches bedeuten, werden nahe beieinander platziert; unzusammenhängende Texte landen weit voneinander entfernt.

So landen „Laptop für Gaming“ und „Hochleistungs-Laptop für Spiele“ nahe beieinander, obwohl sie kaum gemeinsame Wörter haben. „Bananenbrot-Rezept“ landet völlig woanders. Das Modell hat dies gelernt, indem es enorme Mengen an Text gelesen und bemerkt hat, welche Wörter und Phrasen in ähnlichen Kontexten vorkommen.

Warum das für die Suche wichtig ist

Alte Suchmaschinen matchten Schlüsselwörter: Sie tippten ein Wort ein, die Engine fand Seiten, die dieses Wort enthalten. Embeddings lassen die Suche die Bedeutung abgleichen. Deshalb kann Google eine lange, gesprächige Frage beantworten, selbst wenn die beste Seite nicht Ihre genauen Wörter verwendet – und so entscheiden KI-Suchtools (die Quellen lesen und Ihnen eine Antwort schreiben), welche Passagen relevant genug sind, um sie einzubeziehen.

Die Kurzversion der Pipeline hinter KI-Antworten:

1. Inhalte werden in Abschnitte (Passagen) zerlegt.
2. Jeder Abschnitt wird in ein Embedding (einen Vektor) umgewandelt.
3. Ihre Frage wird ebenfalls in ein Embedding umgewandelt.
4. Das System findet die Abschnitte, deren Vektoren am nächsten zum Vektor Ihrer Frage liegen.
5. Diese Abschnitte werden zum Quellmaterial, aus dem die KI ihre Antwort schreibt.

Was das für Ihre Inhalte bedeutet

Hier ist der Teil, den die Leute übertreiben, also lassen Sie mich klar sein: Es gibt keine „Embedding-Optimierung“, die Sie bei Google einreichen. Googles Danny Sullivan sagte genau das über BERT (eines von Googles embedding-basierten Systemen): „There’s nothing to optimize for.“ (Übersetzung) „Es gibt nichts zu optimieren.“

Was tatsächlich hilft, ist derselbe Rat wie immer, nur mit einem klareren Grund dahinter. Schreiben Sie Inhalte, die ein Thema wirklich und gründlich abdecken. Kohärente, fokussierte Inhalte erzeugen saubere, konsistente Embeddings, die nahe an den Fragen liegen, die sie beantworten sollen. Schlüsselwortgestopfte, verstreute Inhalte erzeugen ein trüberes Signal. Sie füttern keine Formel – Sie schreiben etwas, das ein Modell (und ein Mensch) klar verstehen kann.

Möchten Sie die echte Mechanik – Dimensionen, Kosinus-Ähnlichkeit, die word2vec-zu-BERT-Geschichte und wie Google Embeddings tatsächlich beim Ranking verwendet? Wechseln Sie zum Erweitert-Tab.

TL;DR – Ein Embedding ist ein dichter Vektor aus Gleitkommazahlen (typischerweise Hunderte bis einige Tausend Dimensionen), der Bedeutung kodiert, erzeugt von einem Encoder-Modell – nicht von einem generativen LLM. Ähnliche Bedeutung → nahe Vektoren, gemessen mit Kosinus-Ähnlichkeit. Das Feld bewegte sich von statischen Wort-Embeddings (word2vec, GloVe) zu kontextuellen (BERT) zu Satzebenen- und modernen API-Embeddings. Google verwendet embedding-basiertes Retrieval (Neural Matching / RankEmbed, RankEmbedBERT) neben seinem Schlüsselwortindex – hybrid, kein Ersatz. Embeddings sind auch das Retrieval-Rückgrat von RAG. Es gibt keinen Embedding-Regler; thematische Kohärenz ist das, was Inhalte nahe an den richtigen Suchanfragen clustern lässt.

Was ein Embedding tatsächlich ist

Embeddings unterstützen Ähnlichkeit und Abruf, sind aber kein direktes Maß für Wahrheit, Qualität oder Ranking-Wert. Evidence for this claim Embeddings represent inputs as numerical vectors that can be compared for relatedness and used for search, clustering, and classification. Scope: OpenAI embedding models and documented uses; vector dimensions and behavior vary by model. Confidence: high · Verified: 2026-07-14 OpenAI: Embeddings guide Forschungsergebnisse hängen vom trainierten Modell und der Evaluierungsumgebung ab. Evidence for this claim Learned vector representations can encode useful distributional relationships between words. Scope: Word2vec-era language representations; observed vector relationships are model- and training-data-specific, not ground truth. Confidence: high · Verified: 2026-07-14 Mikolov et al.: Efficient Estimation of Word Representations

Ein Embedding ist ein dichter numerischer Vektor – eine Liste von Gleitkommazahlen –, der Text (oder Bilder, Audio, Video) als einen Punkt in einem hochdimensionalen Raum darstellt. Die Dokumentation von OpenAI sagt es deutlich: “An embedding is a vector (list) of floating point numbers.” (Übersetzung) „Ein Embedding ist ein Vektor (Liste) von Gleitkommazahlen.“

Die definierende Eigenschaft ist geometrisch: semantisch ähnliche Inhalte haben ähnliche Vektoren. Text, der ungefähr dasselbe bedeutet, zeigt in ungefähr dieselbe Richtung; unzusammenhängender Text zeigt woandershin. Das ist kein glücklicher Zufall – das Modell wird trainiert, sodass Wörter und Phrasen, die in ähnlichen Kontexten verwendet werden, ähnliche Vektoren erhalten. Bedeutung wird zu Position.

Ein paar Dinge, die es wert sind, präzisiert zu werden:

• Encoder, kein Generator. Embeddings stammen von Encoder-Modellen, deren Aufgabe es ist, Bedeutung in einen Vektor fester Größe zu komprimieren. Das ist eine andere Architektur und ein anderer Zweck als bei einem generativen LLM, der jeweils das nächste Token vorhersagt. (Mehr zur Unterscheidung intern vs. API weiter unten.)
• Dicht, nicht dünnbesetzt. Im Gegensatz zu One-Hot- oder Bag-of-Words-Darstellungen (meist Nullen, ein Slot pro Vokabelwort) packen Embeddings Bedeutung in jede Dimension. Das ML-Glossar von Google beschreibt Embeddings als niedrigerdimensionale, dichte Darstellungen, die beheben, was One-Hot-Encoding nicht ausdrücken kann – sie lassen ein Modell erkennen, dass “hot dogs and shawarmas are more related than hot dogs and salads.” (Übersetzung) „Hot Dogs und Schawarma sind verwandter als Hot Dogs und Salate.“
• Höhere Dimensionen ≠ immer besser. Mehr Dimensionen können mehr Nuancen erfassen, kosten aber mehr Speicher und Rechenleistung, und der Gewinn ist aufgabenabhängig. Es ist ein Kompromiss, kein “größer ist besser”-Regler.

Ähnlichkeit messen: Kosinus-Ähnlichkeit

Um zwei Embeddings zu vergleichen, misst man die Distanz – oder eigentlich den Winkel – zwischen ihnen. Die Standardmetrik ist die Kosinus-Ähnlichkeit: Sie misst den Winkel zwischen zwei Vektoren unabhängig von ihrer Länge und bewertet von −1 (entgegengesetzt) über 0 (unzusammenhängend/orthogonal) bis 1 (identische Richtung). Kleinere Distanz = verwandter.

Viele Embedding-APIs normalisieren Vektoren auf Einheitslänge, wodurch Kosinus-Ähnlichkeit und Skalarprodukt dieselbe Rangfolge erzeugen – OpenAI merkt an, dass Kosinus die konventionelle, etwas günstigere Wahl ist. Voyage AI (der Embedding-Anbieter, den Anthropic empfiehlt) bringt die Intuition klar auf den Punkt: “the cosine similarity between two embeddings captures the semantic relatedness of the corresponding original passages.” (Übersetzung) „Die Kosinus-Ähnlichkeit zwischen zwei Embeddings erfasst die semantische Verwandtschaft der entsprechenden ursprünglichen Textpassagen.“ Diese Nearest-Neighbor-Vergleiche in großem Maßstab durchzuführen, ist ein eigenes Problem – das ist die Aufgabe der Vektorsuche.

Wie wir hierher gekommen sind: die Entwicklung

Die Geschichte reicht von einzelnen Wörtern bis zu ganzen Textpassagen und von festen Bedeutungen bis zu kontextabhängigen.

• word2vec (Google, 2013). Mikolov et al. führten zwei Architekturen (CBOW und Skip-Gram) ein, um dichte Wortvektoren aus riesigen Korpora zu lernen. Das berühmte Ergebnis: der Vektor „König“ − „Mann“ + „Frau“ landet am nächsten bei „Königin“ — ein Beleg dafür, dass Vektorarithmetik semantische Beziehungen erfasst. (Einschränkung: Diese Analogie ist illustrativ, nicht garantiert; je nach Modell kann sie bei „Könige“ oder „Monarch“ landen.) Dies sind statische Embeddings — ein fester Vektor pro Wort, sodass “bank” in “river bank” und “bank account” denselben Vektor erhält.
• GloVe (Stanford, 2014). Eine zählbasierte Alternative, die auf globalen Kookkurrenz-Statistiken statt auf einem prädiktiven Netzwerk aufbaut — andere Zielfunktion, ähnlich nützliche Embeddings. Ebenfalls statisch.
• Universal Sentence Encoder (Google, 2018). Embeddings für ganze Sätze, nicht nur Wörter. Die Kernidee: “Sentences are semantically similar if they have a similar distribution of responses” (Übersetzung) „Sätze sind semantisch ähnlich, wenn sie eine ähnliche Verteilung von Antworten haben“ — „Wie alt bist du?“ und „Wie ist dein Alter?“ laden zu denselben Antworten ein, also liegen ihre Embeddings nahe beieinander.
• BERT (Google, 2018; in der Suche eingesetzt Okt. 2019). Der große Wandel: kontextuelle Embeddings. Dasselbe Wort erhält einen anderen Vektor, je nachdem welcher Satz es umgibt, denn BERT ist bidirektional — es liest die Wörter vor und nach einem Token, um dessen Bedeutung zu bestimmen. So erhalten „Bank“ in „Flussufer“ und „Bankkonto“ endlich verschiedene Vektoren.
• Sentence-BERT (2019). Löste BERTs Skalierungsproblem für Ähnlichkeitssuche. Vanilla-BERT benötigt beide Sätze gemeinsam als Eingabe, was bei großem Umfang rechenintensiv ist; SBERT erzeugt Satzembeddings fester Größe, die Sie mit Kosinus-Ähnlichkeit vergleichen können, und senkt die Kosten, das ähnlichste Paar in einem großen Korpus zu finden, von Stunden auf Sekunden.
• Moderne Embedding-APIs (2024–heute). OpenAIs text-embedding-3-Familie, Googles Gemini-Embeddings, Voyage und Coheres embed-v4.0 — mehrsprachig, zunehmend multimodal (Text, Bild, Audio, Video in einem Raum) und über Matryoshka Representation Learning in der Größe anpassbar (Vektor auf weniger Dimensionen kürzen, ohne neu zu trainieren, und dabei etwas Genauigkeit gegen Speicher und Geschwindigkeit eintauschen).

Wie Google Embeddings in der Suche einsetzt

Googles Ranking-Pipeline ist weder rein semantisch noch rein keywordbasiert — sie ist hybrid, und die Embedding-Komponenten ergänzen den klassischen invertierten Index, statt ihn zu ersetzen. Aus Googles eigener Dokumentation zu Ranking-Systemen und Pandu Nayaks Aussage im DOJ-Kartellverfahren gehen die benannten Systeme hervor:

• BERT — Googles System für Wörter im Kontext. Bei der Einführung sollte es der Suche helfen, “better understand one in 10 searches in the U.S. in English” (Übersetzung) „eine von zehn Suchanfragen in den USA auf Englisch besser zu verstehen“ – besonders bei längeren konversationellen Suchanfragen, bei denen Präpositionen wie „für“ und „zu“ die Bedeutung verändern.
• Neural Matching / RankEmbed — embeddingsbasiertes Retrieval, das Suchanfragen und Dokumente in denselben Vektorraum überführt, um konzeptionell passende Ergebnisse auch ohne gemeinsame Keywords zu finden. Nayak beschrieb es als Ergänzung: “RankEmbed identifies a few more documents to add to those identified by the traditional retrieval.” (Übersetzung) „RankEmbed ermittelt einige weitere Dokumente und fügt sie den durch das herkömmliche Retrieval ermittelten Dokumenten hinzu.“ Das Retrieval basiert dort auf einem Skalarprodukt / einer Distanzmetrik im Embedding-Raum.
• RankEmbedBERT — eine spätere Weiterentwicklung, die RankEmbed-Retrieval mit BERTs Sprachverständnis kombiniert, auf Qualitätsbewertungen und Suchprotokollen trainiert wurde und bei komplexen Long-Tail-Anfragen deutlich besser abschneidet.

Die praktische Lesart: Keyword-Präsenz zählt weiterhin, weil lexikalisches Retrieval (der invertierte Index, BM25-artig) weiterhin die erste Eingrenzung übernimmt. Die Embedding-Systeme fügen konzeptionell verwandte Kandidaten hinzu und bewerten neu. Beide Signale sind im Spiel — genau deshalb ist “BERT hat Keywords getötet” falsch.

Embeddings in der KI-Suche (die RAG-Pipeline)

Hier berühren Embeddings KI-Übersichten und KI-Suchassistenten am direktesten. Retrieval-Augmented Generation (RAG) nutzt Embeddings als Retrieval-Schicht:

1. Index: Inhalte werden in Chunks aufgeteilt, jeder Abschnitt wird eingebettet, und die Vektoren gehen in eine Vektordatenbank.
2. Retrieve: Die Anfrage des Nutzers wird eingebettet, eine Suche nach dem nächsten Nachbarn findet die nächsten Chunks (über Vektorsuche), und die Top-K-Chunks werden dem LLM als Kontext übergeben.
3. Generate: Das LLM schreibt eine Antwort, die auf diesen abgerufenen Chunks basiert.

Struktur ist hier wichtig, weil jeder Chunk isoliert abgerufen wird. Dan Petrovics Forschung (zitiert in Ahrefs’ Was wir tatsächlich über die Optimierung für die LLM- Suche wissen) ergab, dass Chrome nur die ersten ~30 Abschnitte einer Seite für Einbettungen verarbeitet und sie in etwa 200-Wort-Abschnitte mit Überlappung aufteilt, um den Kontext über Chunks hinweg zu erhalten. Wenn ein Abschnitt nicht für sich allein stehen kann, sobald er aus der Seite herausgelöst wird, repräsentiert er Ihre Inhalte schlecht.

Token-Embeddings vs. Text-Embedding-APIs

Eine Unterscheidung, die viele verwirrt: Die Embeddings innerhalb eines LLM und die Embeddings, die Sie von einer API erhalten, sind nicht dasselbe.

• Token-Embeddings sind die internen Repräsentationen des Modells – jedes Token erhält einen Vektor, der während der Generierung Schicht für Schicht transformiert wird. Sie sind Mechanik zur Erzeugung des nächsten Tokens.
• Text-Embedding-APIs (OpenAI, Google, Voyage, Cohere) erzeugen einen einzelnen Vektor fester Größe für eine gesamte Eingabezeichenfolge, speziell für Abruf und Ähnlichkeit konzipiert. Oft ein separates Modell mit einem anderen Trainingsziel.

Wenn SEOs über “Einbetten einer Seite” oder die Berechnung von Kosinus-Ähnlichkeit für internes Verlinken oder Keyword-Clustering sprechen, meinen sie die API-Art.

Was das für SEO bedeutet

• Semantische Kohärenz schlägt Keyword-Dichte. Da Modelle Kontext verstehen, liegen “Laptop für Gaming” und “Hochleistungs-Laptop” bereits nahe beieinander. Keyword-Stuffing hilft nicht – es erzeugt thematisch verstreute Inhalte mit einem unschärferen Embedding.
• Struktur für Chunk-Abruf. Passagen werden einzeln eingebettet und abgerufen. Platzieren Sie wichtige Inhalte früh, halten Sie Abschnitte in sich geschlossen, verwenden Sie klares semantisches HTML.
• Thematische Vollständigkeit. Inhalte, die ein Thema wirklich abdecken, liegen im Vektorraum näher an mehr der verwandten Anfragen. Das ist der Mechanismus hinter “topische Autorität aufbauen”.
• Es gibt keinen Embedding-Regler. Danny Sullivan über BERT: “There’s nothing to optimize for… The fundamentals of us seeking to reward great content remain unchanged.” (Übersetzung) „Es gibt nichts zu optimieren… Die Grundlagen unseres Bestrebens, großartige Inhalte zu belohnen, bleiben unverändert.” Die Kosinus-Ähnlichkeitswerte, die Sie von einem Tool erhalten, sind Analysehilfen, keine Eingaben, die Sie an Google übermitteln.

Embeddings sind das verbindende Gewebe unter dem Großteil dieses Clusters: Sie sind das, worauf semantische Suche läuft, was Vektorsuche vergleicht, wofür Chunking Text vorbereitet, und das Abruf-Rückgrat von RAG. Sie sind auch der Grund, warum Crawling weiterhin zuerst wichtig ist – Inhalte müssen abgerufen werden, bevor ein System sie einbetten kann.

KI-Zusammenfassung

Eine komprimierte Darstellung der erweiterten Version:

• Ein Embedding = ein dichter Vektor aus Gleitkommazahlen, der Bedeutung kodiert; ähnliche Bedeutung → nahe Vektoren. OpenAI: „An embedding is a vector (list) of floating point numbers.“
• Erzeugt von Encoder-Modellen, nicht von generativen LLMs – andere Architektur und Zweck. Dicht, nicht dünnbesetzt.
• Ähnlichkeit wird mit Kosinus-Ähnlichkeit gemessen (der Winkel zwischen Vektoren, −1 bis 1). Normalisierte Vektoren machen Kosinus und Skalarprodukt für das Ranking äquivalent.
• Entwicklung: word2vec (2013) und GloVe (2014) lieferten statische Wortvektoren → USE (2018) bettete ganze Sätze ein → BERT (2018) machte Embeddings kontextuell (gleiches Wort, unterschiedlicher Vektor je nach Kontext) → Sentence-BERT (2019) machte Ähnlichkeitssuche schnell → moderne multimodale, skalierbare API-Modelle (2024–heute).
• Google verwendet Embeddings in einer hybriden Pipeline: BERT (Wörter im Kontext), Neural Matching / RankEmbed (Embedding-Retrieval, das den Keyword-Index ergänzt), und RankEmbedBERT. Keywords übernehmen weiterhin die erste Retrieval-Runde – Embeddings ergänzen und ranken neu.
• RAG-Pipeline: Chunk → einbetten → in einer Vektor-DB speichern → Abfrage einbetten → nächste Chunks abrufen → LLM generiert eine fundierte Antwort. Jeder Chunk wird isoliert abgerufen, daher ist die Struktur wichtig.
• SEO-Fazit: Es gibt keine „Embedding-Optimierung“ – Danny Sullivan: „There’s nothing to optimize for“ bei BERT. Thematisch kohärente, in sich geschlossene, gründliche Inhaltscluster liegen nahe bei den Abfragen, die sie beantworten sollten.

Offizielle Dokumentation

Primärquellen-Dokumentation zu Embeddings von Google und den großen Embedding-Anbietern.

Google

• Machine Learning Glossary – Embeddings – die Definition von dicht vs. dünnbesetzt und warum One-Hot-Encoding Verwandtschaft nicht ausdrücken kann.
• A guide to Google Search ranking systems – BERT, Neural Matching, RankBrain, Passage Ranking und MUM in Googles eigenen Worten beschrieben.
• Understanding searches better than ever before (BERT) – die Ankündigung von BERT in der Suche im Oktober 2019.
• Advances in Semantic Textual Similarity – der Universal Sentence Encoder (2018) und die Idee der „ähnlichen Verteilung von Antworten“.
• Gemini API – Embeddings – Googles aktuelles multimodales Embedding-Modell, Dimensionen und Anwendungsfälle (RAG, semantische Suche, Neubewertung, Clustering).

OpenAI

• Vector embeddings guide – „An embedding is a vector (list) of floating point numbers“; Hinweise zur Kosinus-Ähnlichkeit.
• Neue Embedding-Modelle und API-Aktualisierungen – die text-embedding-3-Familie und Matryoshka-Dimensionsverkürzung (Jan. 2024).

Andere Anbieter

• Cohere – Embeddings – mehrsprachiges embed-v4.0, separate Abfrage-/Dokument-Eingabetypen, Komprimierungsoptionen.
• Voyage AI – Quickstart – der von Anthropic empfohlene Anbieter; “the cosine similarity between two embeddings captures the semantic relatedness of the corresponding original passages.” (Übersetzung) „Die Kosinus-Ähnlichkeit zwischen zwei Embeddings erfasst die semantische Verwandtschaft der entsprechenden ursprünglichen Textpassagen.“

Grundlegende Arbeiten

• word2vec – Mikolov et al., 2013 – die ursprünglichen dichten Wortvektoren und die Analogie king−man+woman.
• GloVe – Pennington, Socher, Manning, 2014 – globale Kookkurrenz-Wortvektoren.
• BERT – Devlin et al., 2018 – bidirektionale, kontextuelle Embeddings.
• Sentence-BERT – Reimers & Gurevych, 2019 – schnelle Satz-Embeddings für die Ähnlichkeitssuche.

Zitate aus der Quelle

Öffentliche Aussagen von Google und den Embedding-Anbietern. Jeder Link ist ein Deep Link, der direkt zur zitierten Passage auf der Quellseite springt.

Was ein Embedding ist

• “An embedding is a vector (list) of floating point numbers.” — OpenAI, Vector embeddings guide. Zum Zitat springen

Google — BERT und Sprachverständnis

• “At its core, Search is about understanding language.” (Übersetzung) „Im Kern geht es bei der Suche darum, Sprache zu verstehen.“ — Pandu Nayak, VP of Search, Google (BERT-Ankündigung, Oktober 2019). Zum Zitat springen
• “BERT will help Search better understand one in 10 searches in the U.S. in English.” (Übersetzung) „BERT wird der Suche helfen, eine von zehn Suchanfragen in den USA auf Englisch besser zu verstehen.“ — Google Search Blog, Oktober 2019. Zum Zitat springen

Google — zur Optimierung für BERT

• “There’s nothing to optimize for with BERT… The fundamentals of us seeking to reward great content remain unchanged.” (Übersetzung) „Für BERT gibt es nichts zu optimieren … Die Grundlagen unseres Bestrebens, großartige Inhalte zu belohnen, bleiben unverändert.“ — Danny Sullivan, Google Search Liaison. Zum Zitat springen

Google — semantische Ähnlichkeit (Universal Sentence Encoder)

• “Sentences are semantically similar if they have a similar distribution of responses.” (Übersetzung) „Sätze sind semantisch ähnlich, wenn sie eine ähnliche Verteilung von Antworten haben.“ — Google Research, „Advances in Semantic Textual Similarity“ (Mai 2018). Quelle lesen

Voyage AI (Anthropics empfohlener Anbieter) — Kosinusähnlichkeit

• “The cosine similarity between two embeddings captures the semantic relatedness of the corresponding original passages.” (Übersetzung) „Die Kosinus-Ähnlichkeit zwischen zwei Embeddings erfasst die semantische Verwandtschaft der entsprechenden ursprünglichen Textpassagen.“ — Voyage AI Quickstart. Quelle lesen

Pandu Nayak (DOJ-Antitrust-Aussage) — RankEmbed

• “RankEmbed identifies a few more documents to add to those identified by the traditional retrieval.” — Berichterstattung über Pandu Nayaks Aussage, DOJ gegen Google. Berichterstattung lesen

Die mentalen Modelle

1. Bedeutung wird Position. Ein Embedding verwandelt Text in Koordinaten. Nah beieinander = ähnliche Bedeutung; weit auseinander = unzusammenhängend. Alles andere — semantische Suche, Clustering, RAG-Retrieval — ist nur das Messen von Distanz in diesem Raum.

2. Statisch vs. kontextuell. word2vec und GloVe geben jedem Wort einen festen Vektor („bank“ ist immer gleich). BERT und seine Nachfolger geben jedem Vorkommen einen Vektor, der vom Kontext abhängt („river bank“ ≠ „bank account“). Ältere Keyword-Ähnlichkeitswerkzeuge, die auf word2vec basieren, können diese nicht unterscheiden; BERT-basierte können es.

3. Token-Embeddings ≠ Text-Embedding-APIs. Innerhalb eines LLM sind Token-Embeddings Arbeitsmechanik zur Erzeugung des nächsten Tokens. Text-Embedding-APIs geben einen komprimierten Vektor pro Zeichenkette aus, der für Retrieval und Ähnlichkeit gebaut ist. Verschiedene Modelle, verschiedene Aufgaben. Wenn SEOs „eine Seite einbetten“, meinen sie die API-Art.

4. Hybrides Retrieval, kein Ersatz. Google führt lexikalisches Retrieval (den invertierten Keyword-Index) und embedding-basiertes Retrieval (Neural Matching / RankEmbed) aus. Keywords grenzen zuerst ein; Embeddings fügen konzeptuell verwandte Kandidaten hinzu und bewerten neu. Keines allein ist das gesamte System.

5. Die RAG-Schleife. Chunk → einbetten → speichern → Abfrage einbetten → nächste Chunks abrufen → eine fundierte Antwort generieren. Da jeder Chunk isoliert abgerufen wird, schreiben Sie in sich geschlossene Passagen und bringen Sie das Wichtige nach vorne.

6. Die Entscheidungsregel für Inhalte. Es gibt kein Embedding zu optimieren. Fragen Sie stattdessen: Deckt dieser Abschnitt klar und umfassend das ab, was er behauptet? Kohärente Inhalte gruppieren sich nahe den richtigen Suchanfragen; verstreute, überladene Inhalte tun das nicht.

Embeddings – Spickzettel

Was es in einem Satz ist Ein dichter Vektor (Liste von Gleitkommazahlen), der Bedeutung kodiert; ähnliche Bedeutung → benachbarte Vektoren; verglichen mit Kosinus-Ähnlichkeit.

Kosinus-Ähnlichkeitsskala

Normalisierte (Einheitslängen-)Vektoren → Kosinus-Ähnlichkeit und Skalarprodukt ergeben dieselbe Rangfolge.

Die Entwicklung auf einen Blick

Googles benannte Embedding-Systeme

Die RAG-Abfrageschleife

1. Inhalt in Passagen aufteilen
2. Jeden Abschnitt einbetten → Vektor
3. Vektoren in einer Vektordatenbank speichern
4. Die eingehende Suchanfrage einbetten
5. Nächste-Nachbarn-(Vektor-)Suche → Top-K-Abschnitte
6. LLM generiert eine Antwort, die auf diesen Abschnitten basiert

Schnelle Fakten

• Dimensionen: typischerweise Hunderte bis einige Tausend – mehr Nuancen, mehr Speicher/Rechenleistung; nicht immer besser.
• Von Encoder-Modellen erzeugt, nicht von generativen LLMs.
• Matryoshka ermöglicht das Kürzen auf weniger Dimensionen ohne erneutes Training.
• Der Wechsel des Embedding-Modells bedeutet alles neu einbetten – die Räume verschiedener Modelle sind nicht kompatibel.
• Keine “Embedding-Optimierung” zur Einreichung bei Google – Danny Sullivan: “There’s nothing to optimize for” (BERT). (Übersetzung) „Es gibt nichts zu optimieren“ (BERT).

Testen Sie sich: Embeddings

Ressourcen, die Ihre Zeit wert sind

Meine verwandten Artikel & Vorträge

• Was wir tatsächlich über die Optimierung für die LLM-Suche wissen – der Ahrefs-Artikel, der meine Forschung und Dan Petrovics Erkenntnisse darüber zitiert, wie Chrome Seitenpassagen aufteilt und einbettet (das ~30-Passagen-Limit, 200-Wort-Abschnitte).
• GEO? AEO? LLMO? – mein KI-Such-Webinar – wo Abfrage-Pipelines und Embeddings in die KI-Suche passen.

Grundlegende Arbeiten (die Geschichte)

• word2vec – Mikolov et al., 2013 – dichte Wortvektoren und Vektorarithmetik.
• GloVe – Pennington, Socher, Manning, 2014 – globale Kookkurrenz-Wortvektoren.
• BERT – Devlin et al., 2018 – kontextuelle, bidirektionale Embeddings.
• Sentence-BERT – Reimers & Gurevych, 2019 – schnelle Satzebenen-Ähnlichkeit.

Von anderen

• Der Wandel zum semantischen SEO: Was Vektoren für Ihre Strategie bedeuten — Ann Robison, Search Engine Land: “Vectors are to AI what structured data is to search engines.” (Übersetzung) „Vektoren sind für KI das, was strukturierte Daten für Suchmaschinen sind.“
• So nutzen Sie Kosinus-Ähnlichkeit für E-Commerce-SEO — Praxisleitfaden von Search Engine Land zur Anwendung der Kosinus-Ähnlichkeit in realen SEO-Workflows.
• Einführung in Vektordatenbanken und wie Sie KI für SEO nutzen — Überblick von Search Engine Journal darüber, wie Vektordatenbanken mit SEO zusammenhängen.
• SEO-Anwendungsfälle für die Vektorisierung des Webs mit Screaming Frog — iPullRanks praxisorientierte Einführung in Embeddings für SEO.
• Semantische Suche erklärt: Auswirkungen von Vektormodellen auf SEO heute — Lumar über dichte vs. sparse, Kosinus-Ähnlichkeit und hybride Suche.
• Embeddings erklärt: Die Zukunft des SEO erschließen — Edd Dawsons SEO-fokussierter Erklärartikel mit praktischen Anwendungsfällen für Keyword-Clustering und interne Verlinkung.
• So funktioniert die Google-Suche (invertierter Index, RankBrain, RankEmbed, DeepRank) — die Sichtweise der DOJ-Aussage auf Googles Embedding-Systeme.
• sbert.net — die Sentence-Transformers-Bibliothek, falls Sie Embeddings selbst erzeugen möchten.

Änderungsprotokoll