Wo Bias entsteht
| Quelle | Beispiel |
|---|---|
| Sample Bias | Trainingsbilder zu 80 % Männer → schlechte Erkennung von Frauen |
| Label Bias | Annotatoren nennen schwarze Babys häufiger "ill" |
| Historical Bias | Gehaltshistorie zementiert Gender Pay Gap |
| Measurement Bias | "Recidivism" = "Verhaftungen" ≠ "Straftat" |
| Proxy Bias | Wohnort als Proxy für Ethnie |
| Aggregation Bias | Modell für alle Subgruppen ignoriert Unterschiede |
| Deployment Bias | Modell in anderem Kontext als trainiert eingesetzt |
| Confirmation Bias | Entwickler:innen bestätigen, was sie suchen |
Bias‑Audit‑Checkliste:
- Gibt es Datasheets für die Trainingsdaten?
- Welche Subgruppen sind unterrepräsentiert?
- Werden Labels von einer demografisch diversen Gruppe vergeben?
- Welche Metriken zeigen Performance je Subgruppe?
- Wurde das System extern auditiert?
Zurück zu Künstliche Intelligenz