Retriever
Der Retriever ist die Komponente eines RAG-Systems, die zu einer Anfrage die passendsten Dokumente aus einem Index auswählt. Wer beeinflusst, was der Retriever auswählt, beeinflusst unmittelbar den Kontext des Modells.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind RAG (Retrieval-Augmented Generation), Vektordatenbank, RAG-Vergiftung.
Bezug zu Prompt Injection
Der Retriever entscheidet, welche fremden Texte überhaupt in den Kontext gelangen — er ist damit die erste wirksame Kontrollstelle eines RAG-Systems. Angreifer optimieren Dokumente auf Ähnlichkeit zu erwartbaren Fragen, damit sie zuverlässig unter den besten Treffern landen. Filter auf Quelle, Rechte und Vertrauensstufe wirken an dieser Stelle billiger und verlässlicher als eine nachträgliche Prüfung der Modellausgabe.
Beispiel
Ein präpariertes Dokument wiederholt typische Formulierungen einer häufigen Nutzerfrage und wird dadurch bei genau dieser Frage regelmäßig als bester Treffer ausgewählt.
Verwandte Begriffe
- RAG (Retrieval-Augmented Generation) — RAG erweitert ein Sprachmodell um eine Suchkomponente, die zur Anfrage passende Dokumente abruft und in den Kontext stellt…
- Vektordatenbank — Eine Vektordatenbank speichert Texte als numerische Einbettungen und findet inhaltlich ähnliche Passagen über Abstandsmaße. Ohne…
- RAG-Vergiftung — Bei der RAG-Vergiftung werden präparierte Dokumente so gestaltet, dass sie für bestimmte Fragen zuverlässig abgerufen werden und…
Quellen
- Retriever — Beleg: https://arxiv.org/abs/2005.11401