Goal Hijacking
Beim Goal Hijacking ersetzt die Injektion nicht die Regeln, sondern die Aufgabe der Anwendung — der Dienst arbeitet weiter, nur für den Angreifer. Der Schaden entsteht ohne jeden Regelverstoß im Sinne der Modellrichtlinien.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Direkte Prompt Injection, Prompt Leaking, Prompt Injection.
Bezug zu Prompt Injection
Goal Hijacking ist die Angriffsform, gegen die Modell-Alignment strukturell nichts ausrichtet — es wird keine Regel gebrochen, sondern die Aufgabe ausgetauscht. Erkennbar ist es nur im Vergleich von tatsächlicher Ausgabe und ursprünglichem Auftrag, etwa über eine separate Prüfung auf Aufgabentreue. Wirtschaftlich relevant wird es vor allem bei Diensten, deren Wert in bezahlter Rechenleistung liegt. Für Betreiber ist es zugleich der Grund, Nutzungsgrenzen und eine Prüfung auf Aufgabentreue einzubauen, statt sich allein auf Inhaltsfilter zu verlassen.
Beispiel
Ein Übersetzungsdienst erhält einen Text, der ihn anweist, statt zu übersetzen ein Gedicht zu schreiben — und liefert das Gedicht.
Wo der Begriff auftaucht
- Zielentführung — Der Angreifer ersetzt nicht die Regeln, sondern das Ziel der Anwendung: Ein Übersetzungsdienst schreibt plötzlich Werbetexte, ein Support-Bot gibt…
Verwandte Begriffe
- Direkte Prompt Injection — Bei der direkten Prompt Injection schreibt der Angreifer die schädliche Anweisung selbst in das Eingabefeld der Anwendung. Sie…
- Prompt Leaking — Prompt Leaking ist die Offenlegung des verborgenen System-Prompts einer Anwendung. Der erbeutete Text macht Folgeangriffe…
- Prompt Injection — Prompt Injection bezeichnet einen Angriff, bei dem eingeschleuster Text das Verhalten eines Sprachmodells entgegen der Absicht…
Quellen
- Goal Hijacking — Beleg: https://arxiv.org/abs/2306.05499