Lieferkette (Supply Chain)
Die KI-Lieferkette umfasst alle fremden Bestandteile einer Anwendung: Modelle, Adapter, Datensätze, Bibliotheken und Werkzeug-Server. Jeder Bestandteil kann kompromittiert sein und wirkt dann auf jede einzelne Anfrage.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Provenienz, Tool Poisoning, Backdoor (Sleeper Agent).
Bezug zu Prompt Injection
OWASP führt Lieferketten-Risiken als LLM03. Für LLM-Anwendungen ist die Kette länger als bei klassischer Software: Neben Bibliotheken kommen Modellgewichte, Adapter, Einbettungsmodelle, Datensätze und Werkzeug-Server hinzu, die alle in den Kontext hineinwirken. Jeder dieser Bestandteile braucht eine Herkunftsangabe, eine feste Version und ein Verfahren, mit dem Änderungen bemerkt werden. Eine Stückliste der KI-Bestandteile — analog zur Software-SBOM — ist die praktikable Grundlage dafür, im Vorfall überhaupt eingrenzen zu können.
Beispiel
Ein aus einem Modell-Hub geladener Adapter verändert das Antwortverhalten der Anwendung, ohne dass eine Zeile eigener Code angefasst wurde.
Verwandte Begriffe
- Provenienz — Provenienz ist der nachvollziehbare Herkunftsnachweis von Modellen, Daten und Werkzeugen. Ohne sie lässt sich nach einem Vorfall…
- Tool Poisoning — Beim Tool Poisoning enthält die Beschreibung eines Werkzeugs versteckte Anweisungen, die der Agent bereits beim Auflisten der…
- Backdoor (Sleeper Agent) — Eine Backdoor ist ein im Training eingebautes Verhalten, das nur bei einem bestimmten Auslöser aktiv wird. Anthropic zeigte…
Quellen
- Lieferkette (Supply Chain) — Beleg: https://genai.owasp.org/llmrisk/llm032025-supply-chain/