Praxis‑Aufträge
- QLoRA Hello‑World: Llama‑3.2‑3B mit Alpaca‑Sample fine‑tunen, lokal in Colab.
- Eigener Datensatz: 200 Beispiele in deinem Domain‑Stil (Mails, Tickets) — strukturieren, splitten.
- Hyperparameter‑Sweep: 3 Learning‑Rates, 2 Rangs — Loss vergleichen.
- DPO Pairs: 100 Paare (good/bad) erzeugen — Modell von Halluzinationen weg trainieren.
- Eval‑Suite: 50 Holdout‑Fragen + LLM‑Judge → Score vor und nach Fine‑Tune.
- Adapter‑Hub: 3 LoRA‑Adapter für verschiedene Tasks — Hot‑Swap zur Inferenz.
- Deployment: Modell als vLLM‑Server starten + REST‑Endpoint.
Zurück zu Künstliche Intelligenz