Fairness‑Metriken
Es gibt keine einzelne Definition von „Fairness". Verschiedene Metriken können sich gegenseitig ausschließen.
Wichtige Metriken:
- Demographic Parity: Anteil positiver Vorhersagen ist gleich über Gruppen.
- Equal Opportunity: True‑Positive‑Rate ist gleich (gleicher „Recall" für Berechtigte).
- Equalized Odds: TPR + FPR sind gleich über Gruppen.
- Predictive Parity: Precision ist gleich (positive Vorhersage gleich vertrauenswürdig).
- Calibration: Vorhergesagte Wahrscheinlichkeit entspricht tatsächlicher Häufigkeit.
- Individual Fairness: ähnliche Personen → ähnliche Vorhersage.
Impossibility Theorem (Kleinberg, Chouldechova 2017):
Bei unterschiedlichen Basisraten zwischen Gruppen kann ein Modell nicht gleichzeitig Predictive Parity, Equalized Odds und Calibration erfüllen. Trade‑off ist unvermeidbar — die Wahl ist eine Wertentscheidung, kein technisches Problem.
Mitigationen:
- Pre‑processing: balancierte Trainingsdaten.
- In‑processing: Fairness‑Constraint im Loss.
- Post‑processing: Schwellen je Gruppe anpassen.
Zurück zu Künstliche Intelligenz