Tödliche Trias
Die tödliche Trias beschreibt die gefährliche Kombination aus Zugriff auf private Daten, Verarbeitung nicht vertrauenswürdiger Inhalte und Möglichkeit zur Kommunikation nach außen. Fehlt eine der drei Zutaten, kann eine Injektion keinen Datenabfluss erzeugen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind KI-Agent, Datenexfiltration, Least Privilege.
Bezug zu Prompt Injection
Die Formel von Simon Willison ist nützlich, weil sie eine Entwurfsentscheidung erzwingt statt eine Filterdiskussion zu eröffnen: Man streicht eine der drei Zutaten. In der Praxis heißt das meist, den Ausgangskanal zu schließen — kein automatischer Versand, keine frei wählbaren Ziel-URLs, keine Weiterleitung an Dritte. Die öffentlich dokumentierten Datenabfluss-Vorfälle mit KI-Assistenten lassen sich mit ihr durchgehend erklären.
Beispiel
Ein Assistent darf Postfach und Web lesen, aber keine Inhalte an frei gewählte Empfänger senden — eine erfolgreiche Injektion hat damit keinen Weg nach draußen.
Verwandte Begriffe
- KI-Agent — Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen und einer Handlungsschleife verbindet, um Aufgaben eigenständig…
- Datenexfiltration — Datenexfiltration ist der unbefugte Abfluss von Daten aus einem System. Bei LLM-Anwendungen läuft er typischerweise über…
- Least Privilege — Least Privilege bedeutet, jeder Komponente nur die minimal nötigen Rechte zu geben. Für KI-Agenten ist es die wirksamste…
Quellen
- Tödliche Trias — Beleg: https://simonwillison.net/2025/Jun/16/the-lethal-trifecta/