Feintuning
Feintuning passt ein vortrainiertes Modell mit zusätzlichen Daten an eine spezifische Aufgabe an. Es kann Sicherheit erhöhen (StruQ, SecAlign) oder zerstören, wenn dabei vorhandenes Sicherheitstraining überschrieben wird.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind StruQ, SecAlign, Datenvergiftung.
Bezug zu Prompt Injection
Für die Sicherheit ist Feintuning zweischneidig: StruQ und SecAlign zeigen, dass es die Widerstandsfähigkeit gegen Injektion messbar erhöhen kann; zugleich ist dokumentiert, dass bereits kleine Trainingsläufe vorhandenes Sicherheitstraining aushebeln können. Wer ein Modell nachtrainiert, muss den Sicherheitsstand danach neu messen statt ihn vorauszusetzen. Bei fremden feingetunten Modellen gilt dasselbe als Frage der Lieferkette. Sinnvoll ist deshalb, denselben Angriffstestsatz vor und nach dem Training zu fahren und das Ergebnis gemeinsam mit dem Modell zu versionieren.
Beispiel
Ein auf Fachsprache getuntes Modell beantwortet nach dem Training Anfragen, die es in der Ausgangsversion abgelehnt hatte.
Verwandte Begriffe
- StruQ — StruQ ist ein Trainingsverfahren, das mit reservierten Sondertoken eine strukturelle Trennung von Anweisung und Daten erzwingt…
- SecAlign — SecAlign härtet Modelle über Preference-Optimierung: Trainiert wird auf simulierten Injektionen mit jeweils erwünschter und…
- Datenvergiftung — Datenvergiftung manipuliert Trainings-, Feintuning- oder Wissensdaten, um Verhalten oder Hintertüren in ein Modell einzubauen…
Quellen
- Feintuning — Beleg: https://arxiv.org/abs/2410.05451