Datenschutz & Recht
Diskriminierung durch KI
Diskriminierung durch KI entsteht, wenn KI-Systeme bestimmte Gruppen aufgrund fehlerhafter Daten oder Algorithmen benachteiligen.
Definition
Diskriminierung durch KI passiert, wenn ein KI-System Menschen aufgrund von Merkmalen wie Herkunft, Geschlecht oder Sprache ungerecht behandelt. Das geschieht oft unbeabsichtigt, weil die Trainingsdaten Vorurteile enthalten. Für dich als Fachkraft ist es wichtig, KI-Ergebnisse kritisch zu prüfen und darauf zu achten, dass kein Kind durch ein KI-Tool benachteiligt wird.
Beispiel
Ein KI-gestütztes Sprachtool bewertet Kinder mit Dialekt schlechter als Kinder mit Hochdeutsch. Du erkennst das Problem und nutzt das Tool nur ergänzend zu deiner eigenen Einschätzung.
Passende Begriffe
Mehr aus dem Bereich Datenschutz & Recht
Weiterführend
Zuletzt aktualisiert: 2. April 2026