prompt injections.de
Technik · Obfuskation

Payload-Splitting

Die schädliche Anweisung wird in harmlose Bruchstücke zerlegt, die einzeln jeden Filter passieren; das Modell setzt sie erst im Kontext wieder zusammen.

Englischer Begriff
Payload Splitting
Kategorie
Obfuskation
Risiko
Risiko mittel
OWASP-Bezug
LLM01 — Prompt Injection
Primärquelle
arxiv.org

Payload-Splitting (englisch „Payload Splitting") gehört zur Kategorie Obfuskation und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.

Payload-Splitting — Schema Die schädliche Anweisung wird in mehrere für sich genommen harmlose Fragmente zerlegt. Ein Filter, der jedes Fragment einzeln bewertet, findet nichts Auffälliges und lässt alle passieren. Erst im Kontextfenster stehen die Teile zusammen und ergeben die vollständige Anweisung, der das Modell anschließend folgt. PAYLOAD-SPLITTING Fragment A unauffällige Zeichenkette Fragment B unauffällige Zeichenkette Fragment C fügt die Teile zusammen Filter prüft jedes Fragment einzeln Für sich genommen enthält kein Teil eine unzulässige Anweisung — alle passieren. Zusammensetzung im Kontextfenster Fragment A Fragment B Fragment C Wirkung Erst der zusammengesetzte Text ergibt die Anweisung — das Modell führt sie aus. unauffälliges Einzelteil Angriffspfad Wer nur einzelne Fragmente bewertet, sieht nichts — geprüft gehört der zusammengesetzte Kontext. Anweisungen zum Verketten und Zusammensetzen sind selbst ein Risikosignal.
Drei einzeln unauffällige Fragmente passieren den Filter und ergeben erst im Kontextfenster die vollständige Anweisung.

Funktionsweise

  • Fragmente werden getrennt übergeben und Variablen zugewiesen.
  • Eine abschließende Anweisung fügt die Teile zusammen und führt sie aus.
  • Filter, die jedes Fragment einzeln bewerten, sehen nichts Auffälliges.

Risiko

Risiko mittel Die praktische Gefährdung produktiver Systeme wird für diese Technik als mittel eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.

Schutz

Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:

  • Bewertung des zusammengesetzten Kontexts statt einzelner Fragmente.
  • Ausgabeseitige Kontrolle vor jeder Aktion mit Außenwirkung.
  • Verkettungs- und Zusammensetzungsanweisungen als Risikosignal führen.

Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.

Verwandte Techniken

  • Obfuskation

    Base64- und Kodierungs-Umgehung

    Die schädliche Anweisung wird kodiert übergeben (z. B. Base64) und erst vom Modell selbst dekodiert — Filter, die den Klartext prüfen, greifen ins Leere.

    Risiko mittel
  • Obfuskation

    Zeichen-Umkehr-Angriff (FlipAttack)

    Der schädliche Prompt wird zeichen- oder wortweise umgekehrt übergeben; das Modell dreht ihn im Zuge der Bearbeitung zurück und führt ihn aus.

    Risiko mittel
  • Direkte Injektion

    Kontext-Überflutung

    Der Angreifer füllt das Kontextfenster mit sehr viel Text, sodass die eigentlichen Sicherheitsanweisungen an Gewicht verlieren oder aus dem Kontext gedrängt werden.

    Risiko mittel

Quellen

  1. Payload-Splitting — Primärquelle: https://arxiv.org/abs/2302.05733

Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).

Im Zusammenhang