Methoden im Vergleich
| Methode | Wie | Hardware | Use‑Case |
|---|---|---|---|
| Full Fine‑Tune | alle Parameter trainieren | mehrere A100/H100 | Forschung, Großkonzerne |
| LoRA | kleine Adapter‑Matrizen | 1× A100 | Standard‑Lösung |
| QLoRA | 4‑Bit Quantisierung + LoRA | 1× RTX 4090 (24 GB) | Indie / Hobby |
| SFT | Supervised auf Pairs | — | Instruktions‑Tuning |
| DPO | Preference‑Pairs (chosen/rejected) | wie LoRA | RLHF‑Light |
| RLHF / PPO | Reward‑Model + RL | Cluster | Frontier‑Modelle |
LoRA Kernidee:
Statt alle Gewichte W zu ändern, lernen wir kleine Updates ΔW = A·B mit Rang r ≪ d. Originalmodell bleibt eingefroren, nur Adapter werden trainiert — Faktor 100–1000 weniger Parameter, vergleichbare Qualität.
Zurück zu Künstliche Intelligenz