Unicode-Tag-Zeichen
Unicode-Tag-Zeichen bilden einen Zeichenblock, der ASCII spiegelt, in Oberflächen aber meist nicht dargestellt wird. Damit lassen sich Anweisungen für Menschen unsichtbar in Text einbetten, die Modelle dennoch lesen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Obfuskation, Homoglyph, Indirekte Prompt Injection.
Bezug zu Prompt Injection
Der Block ist gefährlich, weil er die Wahrnehmung von Mensch und Modell auseinanderfallen lässt: Ein Prüfer sieht einen harmlosen Satz, das Modell zusätzlich eine vollständige Anweisung. Mehrere Anbieter haben inzwischen nachgebessert; verlässlicher ist es, die Zeichen an der Systemgrenze selbst zu entfernen. Eine Filterregel für den Tag-Block ist billig und hat im Normalbetrieb praktisch keine Nebenwirkungen. Zur Prüfung des eigenen Bestands reicht ein Durchlauf über eingehende Texte, der Codepunkte aus dem Tag-Bereich meldet — in legitimem Text kommen sie praktisch nie vor.
Beispiel
Ein kopierter Textbaustein enthält zusätzlich eine in Tag-Zeichen kodierte Anweisung, die in keiner Oberfläche sichtbar wird.
Verwandte Begriffe
- Obfuskation — Obfuskation verschleiert einen Angriffs-Payload so, dass Filter ihn nicht erkennen, das Modell ihn aber weiterhin versteht…
- Homoglyph — Ein Homoglyph ist ein Zeichen, das einem anderen optisch gleicht, aber einen anderen Codepunkt hat — etwa kyrillisches „а" statt…
- Indirekte Prompt Injection — Bei der indirekten Prompt Injection stammt die Anweisung aus Inhalten, die das System selbst abruft — Webseiten, Dokumenten…
Quellen
- Unicode-Tag-Zeichen — Beleg: https://embracethered.com/blog/posts/2024/hiding-and-finding-text-with-unicode-tags/