News zur LLM-Sicherheit
Der Nachrichten-Layer des Portals berichtet über neue Forschungsergebnisse, Advisories und Vorfälle rund um Prompt Injection. Jeder Beitrag verweist auf den Evergreen-Bestand — auf die betroffene Technik, den Angriffsvektor und die passende Schutzmaßnahme.
Die Beiträge sind wie der übrige Bestand quellengebunden: Jede Sachaussage nennt ihre Primärquelle in den Fußnoten. Belegte Zwischenfälle mit Zeitpunkt, Wirkung und Behebungsstand stehen zusätzlich in der Chronik der dokumentierten Vorfälle.
Beiträge 6
-
BSI-Handreichung „Evasion Attacks on LLMs": die Härtungs-Checkliste erklärt
Das BSI hat im November 2025 eine Handreichung zu Prompt Injections, Jailbreaks und Adversarial Attacks veröffentlicht. Aufbau, die zehn Basismaßnahmen und was die Checkliste in der Praxis verlangt.
-
CaMeL: Prompt Injection „by design" verhindern — Stand und Grenzen
CaMeL trennt Kontrollfluss und Daten in LLM-Agenten und erzwingt Richtlinien beim Werkzeugaufruf. Was der Ansatz von Google DeepMind und ETH Zürich leistet — und woran die Praxis hakt.
-
Coding-Agenten und RAG: der wachsende Angriffsweg 2026
Indirekte Prompt Injection verlagert sich 2026 in Entwicklungswerkzeuge und Wissensdatenbanken. Belegte Fälle bei Claude Code, Gemini CLI und Copilot, Zahlen aus der Telemetrie und wirksame Gegenmaßnahmen.
-
EchoLeak: Was Betreiber aus dem ersten Zero-Click-Fall lernen
EchoLeak ließ Microsoft 365 Copilot Daten ohne jede Nutzerinteraktion preisgeben. Der Fall, die umgangenen Schutzschichten und die Konsequenzen für den Betrieb von KI-Assistenten.
-
OWASP LLM Top 10: Warum Prompt Injection auf Platz 1 bleibt
LLM01:2025 führt die OWASP-Liste für LLM-Anwendungen weiterhin an. Die Kriterien dahinter, die belegte Ausnutzung in freier Wildbahn und was OWASP als Gegenmaßnahmen nennt.
-
Stand der Abwehr: Warum es keinen vollständigen Schutz gibt
Instruktions-Hierarchie, Dual-LLM, CaMeL, Filter: Was die drei Verteidigungsfamilien leisten, warum adaptive Angriffe die meisten Filter brechen und welche Faustregeln im Betrieb tragen.