Obfuskation
Obfuskation verschleiert einen Angriffs-Payload so, dass Filter ihn nicht erkennen, das Modell ihn aber weiterhin versteht. Typische Mittel sind Kodierungen, Chiffren, ASCII-Art und unsichtbare Unicode-Zeichen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Unicode-Tag-Zeichen, Homoglyph, Payload.
Bezug zu Prompt Injection
Obfuskation zielt auf die Lücke zwischen Filter und Modell: Der Filter sieht Zeichen, das Modell rekonstruiert Bedeutung. Wirksam gegen die verbreiteten Varianten ist eine Normalisierung vor der Prüfung — Unicode-Normalform, Entfernen unsichtbarer Zeichen, Auflösen bekannter Kodierungen —, ohne dass sie das Problem grundsätzlich löst. Wo Kodierung im Normalbetrieb nicht vorkommt, ist ihr Auftreten selbst ein brauchbares Warnsignal. Für die Bewertung eines Guardrails ist Obfuskation der Standardtest: Wer nur den Klartext-Payload blockt, erkennt bereits eine einfache Umkodierung nicht mehr.
Beispiel
Eine Anweisung wird kodiert übergeben, vom Wortfilter nicht erkannt und vom Modell beim Lesen wieder aufgelöst.
Verwandte Begriffe
- Unicode-Tag-Zeichen — Unicode-Tag-Zeichen bilden einen Zeichenblock, der ASCII spiegelt, in Oberflächen aber meist nicht dargestellt wird. Damit…
- Homoglyph — Ein Homoglyph ist ein Zeichen, das einem anderen optisch gleicht, aber einen anderen Codepunkt hat — etwa kyrillisches „а" statt…
- Payload — Als Payload bezeichnet man den eigentlichen Schadanteil eines Angriffs — bei Prompt Injection der eingeschleuste Anweisungstext…
Quellen
- Obfuskation — Beleg: https://arxiv.org/abs/2307.02483