KI 3.3 — Fine-Tuning

Praxis‑Aufträge

  1. QLoRA Hello‑World: Llama‑3.2‑3B mit Alpaca‑Sample fine‑tunen, lokal in Colab.
  2. Eigener Datensatz: 200 Beispiele in deinem Domain‑Stil (Mails, Tickets) — strukturieren, splitten.
  3. Hyperparameter‑Sweep: 3 Learning‑Rates, 2 Rangs — Loss vergleichen.
  4. DPO Pairs: 100 Paare (good/bad) erzeugen — Modell von Halluzinationen weg trainieren.
  5. Eval‑Suite: 50 Holdout‑Fragen + LLM‑Judge → Score vor und nach Fine‑Tune.
  6. Adapter‑Hub: 3 LoRA‑Adapter für verschiedene Tasks — Hot‑Swap zur Inferenz.
  7. Deployment: Modell als vLLM‑Server starten + REST‑Endpoint.
Zurück zu Künstliche Intelligenz