Sichere Ausgabeverarbeitung
Sichere Ausgabeverarbeitung behandelt jede Modellantwort als nicht vertrauenswürdige Eingabe für das nachfolgende System — mit Validierung, Escaping und Parametrisierung. Ohne sie wird aus einer Prompt Injection unmittelbar XSS, SQL-Injection oder Codeausführung.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Sandbox, Function Calling, Datenexfiltration.
Bezug zu Prompt Injection
OWASP führt das Thema als LLM05 (Improper Output Handling) — es ist die Stelle, an der aus einem Modellproblem eine klassische Web-Schwachstelle wird. Praktisch heißt das: Markdown und HTML aus Modellausgaben bereinigen, URLs auf erlaubte Ziele beschränken, SQL parametrisieren und erzeugten Code nur in einer Sandbox ausführen. Diese Maßnahmen stammen aus der Anwendungssicherheit und wirken unabhängig davon, ob eine Injektion erkannt wurde.
Beispiel
Eine Modellantwort enthält ein Markdown-Bild, in dessen URL-Parameter Daten aus dem Kontext stehen — die Anzeige lädt es, wenn externe Bildquellen nicht eingeschränkt sind.
Verwandte Begriffe
- Sandbox — Eine Sandbox ist eine abgeschottete Ausführungsumgebung ohne Zugriff auf produktive Daten und Netzwerke. Sie ist Pflicht, sobald…
- Function Calling — Function Calling ist die Schnittstelle, über die ein Modell strukturierte Aufrufe an vordefinierte Funktionen erzeugt. Die…
- Datenexfiltration — Datenexfiltration ist der unbefugte Abfluss von Daten aus einem System. Bei LLM-Anwendungen läuft er typischerweise über…
Quellen
- Sichere Ausgabeverarbeitung — Beleg: https://genai.owasp.org/llmrisk/llm052025-improper-output-handling/