Datenexfiltration
Datenexfiltration ist der unbefugte Abfluss von Daten aus einem System. Bei LLM-Anwendungen läuft er typischerweise über ausgehende Kanäle der Antwort — Bild-URLs, Links oder Werkzeugaufrufe.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Tödliche Trias, Zero-Click, Sichere Ausgabeverarbeitung.
Bezug zu Prompt Injection
Der Abfluss braucht keinen Netzwerkzugriff des Modells — es genügt, dass die Oberfläche eine vom Modell erzeugte URL automatisch aufruft, etwa beim Darstellen eines Bildes. Genau dieser Weg wurde in mehreren dokumentierten Vorfällen genutzt, darunter EchoLeak in Microsoft 365 Copilot. Wirksam sind eine Erlaubnisliste für Zielhosts, das Unterbinden automatischer Ladevorgänge und die Prüfung ausgehender Inhalte. Für die Bewertung genügt oft eine Frage: Über welche Kanäle kann die Antwort dieses Systems etwas nach außen tragen — Links, Bilder, Werkzeugaufrufe, Weiterleitungen?
Beispiel
Ein Assistent bettet vertrauliche Werte in die Parameter einer Bild-URL ein, die der Browser des Opfers beim Anzeigen der Antwort abruft.
Verwandte Begriffe
- Tödliche Trias — Die tödliche Trias beschreibt die gefährliche Kombination aus Zugriff auf private Daten, Verarbeitung nicht vertrauenswürdiger…
- Zero-Click — Ein Zero-Click-Angriff kommt ohne jede Handlung des Opfers aus. Bei EchoLeak genügte das Zustellen einer E-Mail, damit ein…
- Sichere Ausgabeverarbeitung — Sichere Ausgabeverarbeitung behandelt jede Modellantwort als nicht vertrauenswürdige Eingabe für das nachfolgende System — mit…
Quellen
- Datenexfiltration — Beleg: https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/