Fine‑Tuning ist die Königsdisziplin: Du formst ein Modell zu einem Spezialisten — eigener Stil, Domain‑Wissen, fester Output‑Format. Vor dem Aufwand lohnt der ehrliche Test: lässt sich das Problem nicht doch mit einem klugen System‑Prompt oder RAG lösen?
Wann fine‑tunen wirklich Sinn macht:
- Konsistentes Output‑Format (JSON, eigener Markup‑Dialekt).
- Domänen‑Vokabular, das im Basismodell fehlt (Medizin, Recht, Industrie).
- Stilistische Imitation (Markenstimme, Autor).
- Latenz / Kosten: kleines Modell soll Aufgabe wie GPT‑4 lösen.
- On‑prem / offline Anforderung.
Wann lieber NICHT fine‑tunen:
- Aktualität: neue Fakten gehören in RAG, nicht ins Modellgewicht.
- Kleine Datensätze (< 100 Beispiele) → erwartet wenig Effekt.
- Einmalige Aufgaben → System‑Prompt + Few‑Shot reicht.
Faustregel: „Prompt → RAG → Fine‑Tuning. In dieser Reihenfolge probieren."
Zurück zu Künstliche Intelligenz