Fairness, Vorurteile und Auswirkungen von KI

KI übernimmt Vorurteile aus ihren Trainingsdaten. Hier sind Beispiele, die Kinder und Jugendliche verstehen:

Berufsbilder: Wenn eine KI 'Arzt' hört, zeigt sie oft einen weißen Mann. Wenn sie 'Krankenschwester' hört, oft eine weiße Frau. Warum? Weil die Trainingsdaten diese Bilder häufiger enthalten.

Namen und Herkunft: Manche KI-Systeme bewerten Texte mit bestimmten Namen anders als mit anderen. Das ist unfair und passiert, weil die Daten nicht ausgewogen sind.

Sprache und Kultur: KI versteht manche Sprachen und Dialekte besser als andere, weil sie mit mehr Material in diesen Sprachen trainiert wurde.

Empfehlungen: Wenn eine KI immer nur ähnliche Dinge vorschlägt (Musik, Videos, Nachrichten), entsteht eine 'Filterblase'. Man sieht nur noch, was man schon kennt.

Diese Beispiele zeigen: KI ist nicht neutral. Sie spiegelt die Daten wider, mit denen sie trainiert wurde, mit allen Verzerrungen.

So bringst du das Thema Fairness altersgerecht in die Gruppe:

Szenario für Grundschule: 'Stell dir vor, eine KI entscheidet, welche Kinder in die Fußball-AG dürfen. Sie hat gelernt, dass meistens Jungen Fußball spielen. Was passiert jetzt mit Mädchen, die auch mitspielen wollen?'

Szenario für Sek I: 'Eine KI sortiert Bewerbungen für Praktikumsplätze vor. Sie bevorzugt bestimmte Namen. Ist das fair? Wer ist verantwortlich?'

Leitfragen für die Diskussion:

• Wem hilft KI besonders? Wem könnte sie schaden?
• Wer entscheidet, wofür KI eingesetzt wird?
• Was wäre, wenn eine KI über dich entscheidet, aber falsch liegt?
• Wie können wir KI fairer machen?

Methoden:

• Daumen hoch/runter bei Aussagen: 'KI sollte entscheiden dürfen, wer...' (Noten bekommt / Arzt wird / ins Team darf)
• Pro/Contra-Karten sammeln und sortieren
• Rollenspiel: Ein Kind ist die 'KI', die nach festen (unfairen) Regeln entscheidet

Kinder und Jugendliche erleben KI-Auswirkungen bereits:

Empfehlungsalgorithmen: TikTok, YouTube, Spotify schlagen Inhalte vor. 'Warum sehe ich immer das Gleiche? Wer entscheidet, was mir gezeigt wird?'

Filter und Bearbeitung: Gesichtsfilter in Apps verändern Aussehen. 'Warum sehen die meisten Filter nach einem bestimmten Schönheitsideal aus?'

Sprachassistenten: Siri, Alexa, Google verstehen manche Stimmen besser als andere. 'Warum versteht mich der Computer manchmal nicht?'

Schulischer Kontext: Plagiatserkennung, automatische Übersetzung, Rechtschreibhilfe, alles KI. 'Wie verändert das, was als Leistung zählt?'

Diese Alltagsbezüge machen das abstrakte Thema greifbar und relevant für die Lernenden.