Safety & Guardrails
Layer‑Ansatz:
- Input Filter: Prompt‑Injection erkennen (Lakera, Llama Guard).
- PII‑Redaction: Mailadressen, IBAN, Telefon vor Modell maskieren.
- Output Filter: Toxicity‑Klassifikator, Refusal‑Patterns.
- Citation Check: jede Faktenaussage muss in Quellen stehen.
- Human in the Loop: riskante Aktionen (Mail senden, Geld bewegen) confirm‑pflichtig.
Compliance‑Punkte (EU AI Act):
- Hochrisiko‑Anwendungen: Dokumentation, Audit‑Trail, Eval‑Reports.
- Transparenz: User wissen, dass sie mit KI sprechen.
- Datenherkunft: Modell‑Trainingsdaten dokumentieren.
- Right‑to‑Explanation: Begründung für Entscheidungen liefern können.
Zurück zu Künstliche Intelligenz