Rollenspiel-Jailbreak
Beim Rollenspiel-Jailbreak nimmt das Modell eine fiktive Rolle ein, für die die üblichen Regeln angeblich nicht gelten. Die Fiktion dient als Vorwand, unter dem regelwidrige Inhalte als bloße Erzählung erscheinen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind DAN, Jailbreak, Alignment.
Bezug zu Prompt Injection
Rollenspiel ist die Grundfigur der meisten Jailbreak-Familien, weil es die Situation verschiebt statt die Regel anzugreifen — trainiertes Verhalten ist kontextabhängig, und Fiktion ist ein legitimer Kontext. Der Ansatz erklärt zugleich, warum reine Sperrlisten wenig ausrichten: Die unerwünschte Absicht steht nie im Klartext. Ausgabeseitige Prüfung ist hier wirksamer als Eingabefilterung. Für die eigene Prüfung ist es der billigste Testfall: Gibt eine Anwendung ihre Regeln schon unter einer Fiktionsrahmung auf, sind aufwendigere Angriffe gar nicht nötig.
Beispiel
Das Modell soll einen Dialog zweier Romanfiguren schreiben, in dem eine von ihnen genau die Auskunft gibt, die sonst verweigert wird.
Verwandte Begriffe
- DAN — DAN steht für „Do Anything Now" und bezeichnet die bekannteste Familie von Community-Jailbreak-Prompts, die dem Modell eine…
- Jailbreak — Ein Jailbreak ist der Versuch, die Sicherheitsregeln eines Modells auszuhebeln, damit es Inhalte erzeugt, die es normalerweise…
- Alignment — Alignment bezeichnet die Ausrichtung eines Modells auf hilfreiches, ehrliches und unschädliches Verhalten, typischerweise über…
Quellen
- Rollenspiel-Jailbreak — Beleg: https://arxiv.org/abs/2308.03825