Eine KI ist nie „neutral". Sie spiegelt, was wir ihr beibringen — Vorurteile, Lücken, gesellschaftliche Ungerechtigkeiten inklusive. Die Frage ist nicht ob ein KI‑System Bias hat, sondern welchen, wie wir ihn messen und wie wir ihn einhegen.
Drei berühmte Fälle:
- Amazon‑Recruiting (2018): ML‑Modell lernte „Frau" als Negativ‑Signal — abgeschaltet.
- COMPAS‑Justizsystem (USA): Algorithmus überschätzt Rückfallrisiko bei Schwarzen.
- Health‑Score Optum: bevorzugte weiße Patienten, weil Datenproxy „Kosten" rassistische Verzerrung trug.
Faustregel: „Garbage in, prejudice out."
Zurück zu Künstliche Intelligenz