Fairness (KI)
Fairness bei KI bedeutet, dass ein System Menschen nicht ungerechtfertigt benachteiligt, etwa wegen Herkunft, Sprache, Geschlecht oder Behinderung.
Definition
KI-Systeme lernen aus Daten, und Daten spiegeln oft bestehende Ungleichheiten. Dadurch kann eine KI bestimmte Gruppen schlechter bewerten oder seltener berücksichtigen, ohne dass das jemand beabsichtigt. Fairness heißt dabei nicht immer Gleichbehandlung. Manchmal ist gerade ein Nachteilsausgleich fair. Zudem lassen sich verschiedene Fairness-Maße in der Regel nicht alle gleichzeitig erfüllen. Für Hochrisiko-KI verlangt die KI-Verordnung, die Daten für Training und Tests auf mögliche Verzerrungen zu untersuchen und Gegenmaßnahmen zu treffen. Diese Pflicht gilt je nach Art des Systems ab dem 2. Dezember 2027 oder ab dem 2. August 2028. Im Alltag erkennst du Fairness-Probleme oft nur, wenn du Ergebnisse für verschiedene Kinder vergleichst und deine eigene Beobachtung danebenlegst.
Beispiel
Ein Sprachtool bewertet die Aussprache von Kindern, die Dialekt sprechen, durchgehend schlechter. Du bemerkst das beim Vergleich mit deinen eigenen Eindrücken, nutzt die Bewertung für diese Kinder nicht und meldest das Muster dem Anbieter.
Verwandte Begriffe
Weiterführend
Zuletzt aktualisiert: 18. Oktober 2026