Einbettung (Embedding)
Eine Einbettung ist die Darstellung eines Textes als Zahlenvektor, in dem inhaltliche Ähnlichkeit einem geringen Abstand entspricht. Angreifer optimieren präparierte Texte gezielt auf Nähe zu erwarteten Nutzerfragen, um sicher abgerufen zu werden.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Vektordatenbank, RAG-Vergiftung, Retriever.
Bezug zu Prompt Injection
Einbettungen sind nicht als umkehrbar gedacht, aber auch nicht sicher: Aus gespeicherten Vektoren lassen sich Teile des Ursprungstextes rekonstruieren, weshalb ein Vektorspeicher denselben Schutz braucht wie die Rohdaten. Für Angriffe zählt vor allem, dass Ähnlichkeit rein numerisch bestimmt wird — semantische Nähe ist damit optimierbar. Ein Dokument lässt sich so gestalten, dass es für viele verschiedene Fragen nahe genug liegt.
Beispiel
Ein kurzer Textblock wird so abgestimmt, dass er zu einer breiten Klasse von Support-Fragen als ähnlich gilt und dadurch besonders häufig abgerufen wird.
Verwandte Begriffe
- Vektordatenbank — Eine Vektordatenbank speichert Texte als numerische Einbettungen und findet inhaltlich ähnliche Passagen über Abstandsmaße. Ohne…
- RAG-Vergiftung — Bei der RAG-Vergiftung werden präparierte Dokumente so gestaltet, dass sie für bestimmte Fragen zuverlässig abgerufen werden und…
- Retriever — Der Retriever ist die Komponente eines RAG-Systems, die zu einer Anfrage die passendsten Dokumente aus einem Index auswählt. Wer…
Quellen
- Einbettung (Embedding) — Beleg: https://genai.owasp.org/llmrisk/llm082025-vector-and-embedding-weaknesses/