CaMeL
CaMeL ist eine Architektur, die Kontroll- und Datenfluss aus der vertrauenswürdigen Anfrage ableitet und die Ausführung einer deterministischen Policy-Schicht unterwirft. Nicht vertrauenswürdige Daten können den Programmfluss dadurch grundsätzlich nicht mehr verändern.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Dual-LLM-Muster, KI-Agent, Least Privilege.
Bezug zu Prompt Injection
CaMeL ist der bislang weitestgehende Versuch, Prompt Injection als Frage der Systemarchitektur statt der Modellqualität zu behandeln: Aus der vertrauenswürdigen Nutzeranfrage wird ein Programm abgeleitet, dessen Kontrollfluss von fremden Daten nicht mehr veränderbar ist. Die Autoren berichten, dass sich damit ein erheblicher Teil der AgentDojo-Aufgaben mit nachweisbarer Sicherheitsgarantie lösen lässt. Der Ansatz kostet Flexibilität — Aufgaben, deren Ablauf sich erst aus den Daten ergibt, passen schlecht in dieses Muster.
Beispiel
Ein Agent darf laut abgeleiteter Policy nur an die Adresse schreiben, die in der ursprünglichen Nutzeranfrage stand; eine im Dokument genannte Adresse bleibt wirkungslos.
Verwandte Begriffe
- Dual-LLM-Muster — Beim Dual-LLM-Muster arbeitet ein privilegiertes Modell mit Werkzeugzugriff niemals direkt mit nicht vertrauenswürdigen…
- KI-Agent — Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen und einer Handlungsschleife verbindet, um Aufgaben eigenständig…
- Least Privilege — Least Privilege bedeutet, jeder Komponente nur die minimal nötigen Rechte zu geben. Für KI-Agenten ist es die wirksamste…
Quellen
- CaMeL — Beleg: https://arxiv.org/abs/2503.18813