Halluzination & Limits
Halluzination: LLM gibt überzeugend formulierten Unsinn aus. Erfindet Quellen, Zahlen, Personen — präsentiert sie als Fakten.
Warum halluzinieren LLMs?
- Sie maximieren Wahrscheinlichkeit, nicht Wahrheit. Was klingt am plausibelsten?
- Sie haben kein eigenes Wissen — nur Muster aus Trainingsdaten.
- Sie erkennen nicht, wann sie etwas nicht wissen.
- Sie wurden auf Hilfsbereitschaft optimiert — "Ich weiß es nicht" widerspricht dem.
Beispiele für Halluzinations-Fallen
- Erfundene wissenschaftliche Quellen mit echten Autorennamen.
- Erfundene Gerichtsfälle (Anwalt 2023 vor New Yorker Gericht!).
- Falsche Telefonnummern, Adressen.
- Erfundene Funktionen, APIs, Bibliotheken in Code.
Gegenmaßnahmen
| Strategie | Wirkung |
|---|---|
| RAG (Retrieval Augmented Generation) | Echte Quellen vor jeder Antwort |
| System-Prompt: "Sage 'Ich weiß nicht' wenn unsicher" | Reduziert (nicht eliminiert) Halluzination |
| Tool-Use (Web-Search, Calculator) | Echte Daten statt geraten |
| Niedrige Temperature (0.0-0.3) | Mehr deterministisch |
| Chain-of-Thought-Prompting | Modell denkt explizit nach |
| Output validieren mit zweitem LLM-Call | Doppelte Prüfung |
| Quellen-Zwang: "Zitiere die genaue Stelle" | Erschwert Erfinden |
Goldene RegelVerwende KI-Output für Inspiration und Entwurf — nie ungeprüft als Fakten-Quelle. Besonders bei Recht, Medizin, Finanzen, technischen Spezifikationen.