Werkzeugnutzung (Tool Use)
Werkzeugnutzung bezeichnet die Fähigkeit eines Modells, externe Funktionen aufzurufen — Suche, E-Mail-Versand, Datenbankzugriff, Codeausführung. Jedes zusätzliche Werkzeug erweitert die Angriffsfläche um genau seine Rechte.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind KI-Agent, Function Calling, Model Context Protocol (MCP).
Bezug zu Prompt Injection
Die Angriffsfläche einer LLM-Anwendung lässt sich unmittelbar an ihrer Werkzeugliste ablesen: Jedes Werkzeug bringt seine Rechte, seine Nebenwirkungen und seine Ausgabekanäle mit ein. Besonders kritisch sind Werkzeuge, die nach außen kommunizieren, weil sie die dritte Zutat der tödlichen Trias liefern. Vor jeder Freigabe lohnt die Frage, ob eine rein lesende Variante des Werkzeugs genügt. Eine brauchbare Prüfregel ist, für jedes Werkzeug den schlimmsten sinnvollen Missbrauch zu notieren — was dort nicht tragbar ist, gehört nicht in die Werkzeugliste.
Beispiel
Ein Rechercheagent bekommt ein Werkzeug zum Abrufen beliebiger URLs — womit jeder Abruf zugleich ein möglicher Kanal für Datenabfluss wird.
Verwandte Begriffe
- KI-Agent — Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen und einer Handlungsschleife verbindet, um Aufgaben eigenständig…
- Function Calling — Function Calling ist die Schnittstelle, über die ein Modell strukturierte Aufrufe an vordefinierte Funktionen erzeugt. Die…
- Model Context Protocol (MCP) — MCP ist ein offener Standard, über den KI-Anwendungen Werkzeuge und Datenquellen einheitlich anbinden. Weil Tool-Beschreibungen…
Quellen
- Werkzeugnutzung (Tool Use) — Beleg: https://genai.owasp.org/llmrisk/llm062025-excessive-agency/