Ein Kollege fragt dich in der Pause: „Darf ich ChatGPT eigentlich mit meiner 8. Klasse nutzen?“ Ehrliche Antwort: Es kommt darauf an. Der EU AI Act gilt stufenweise. Für KI in der Schule gibt es klare Regeln, und die sind einfacher zu durchschauen, als die 113 Artikel der Verordnung vermuten lassen.
Der Schlüssel ist das Ampel-Prinzip. Die KI-Verordnung, offiziell Verordnung (EU) 2024/1689, ordnet KI-Systeme nach Risiko in vier Stufen ein. Im Gesetz heißen sie unannehmbar, hoch, begrenzt und minimal. Wir zeigen sie als Ampel: Rot, Orange, Gelb, Grün. Wenn du weißt, in welcher Zone ein Tool steht, weißt du auch, was du tun darfst, was du dokumentieren musst und was du besser lässt.
Die KI-Ampel auf einen Blick
Die vier Risikostufen im Unterricht
| Stufe | Beispiel | Status |
|---|---|---|
| Rot: Unannehmbares Risiko | Emotionserkennung, Verhaltens-Scoring von Kindern | Komplett verboten |
| Orange: Hohes Risiko | Automatische Benotung, KI-gesteuerte Zuteilung von Schulplätzen | Erlaubt mit strengen Auflagen |
| Gelb: Begrenztes Risiko | ChatGPT, Claude, Bildgeneratoren, Transkription | Erlaubt mit Transparenzpflicht |
| Grün: Minimales Risiko | Rechtschreibprüfung, Übersetzer, Spamfilter | Erlaubt, keine besonderen Auflagen |
Rot: Was im Klassenzimmer nichts verloren hat
Artikel 5 der KI-Verordnung listet Praktiken, die in der EU seit dem 2. Februar 2025 komplett verboten sind. Drei davon betreffen Schule und Kita direkt:
- Emotionserkennung in Bildungseinrichtungen. Kameras oder Mikrofone, die erkennen sollen, ob ein Kind konzentriert, frustriert oder gelangweilt ist. Untersagt.
- Soziales Scoring. KI-Systeme, die Kinder anhand ihres Verhaltens einstufen und davon Zugang zu Angeboten abhängig machen.
- Manipulative Systeme. Tools, die gezielt Schwächen von Kindern ausnutzen, um sie zu bestimmten Reaktionen zu drängen.
Das ist keine Empfehlung, sondern geltendes Recht. Wenn ein Anbieter dir „motivationale Gesichtsanalyse“ verkaufen will, sag nein.
Orange: Hochrisiko, aber nicht verboten
Artikel 6 regelt Hochrisiko-KI. Im Bildungsbereich fallen unter anderem diese Anwendungsfelder in diese Zone:
- Automatisierte Bewertung von Klassenarbeiten, Abiturprüfungen oder Projekten ohne menschliche Prüfung
- KI-gesteuerte Zuteilung von Schulplätzen oder Aufnahme in Bildungsprogramme
- KI, die bei Prüfungen unerlaubtes Verhalten erkennen soll (Proctoring)
Verboten sind diese Systeme nicht. Aber sie kommen mit schwerem Gepäck: Risikomanagement, technische Dokumentation, Testprotokolle, menschliche Aufsicht. Die Pflichten für Hochrisiko-Systeme folgen stufenweise. In der Praxis heißt das: Deine Schule entscheidet das nicht in der Kaffeepause. Entweder ein Team trägt die Pflichten, oder ihr verzichtet auf solche Tools.
Mein Rat: Solange einfachere Alternativen funktionieren, meide die orange Zone. Eine KI darf dir Vorschläge für eine Note liefern. Die Note selbst bleibt bei dir.
Gelb: Hier leben die Tools, die du täglich nutzt
Die meisten Werkzeuge, die im Unterricht landen, gehören in die gelbe Zone. ChatGPT, Claude, Microsoft Copilot, Gemini, Bildgeneratoren, Transkriptionstools. Erlaubt, aber mit einer klaren Pflicht: Transparenz.
Für den Schulalltag heißt das vor allem: Sei gegenüber Kindern und Eltern transparent. Eine pauschale Kennzeichnungspflicht für jedes Arbeitsblatt gibt es nicht.
- Veröffentlichst du KI-Texte, die die Öffentlichkeit informieren sollen, kennzeichne sie. Für interne Arbeitsblätter ist ein Hinweis gute Praxis, keine Pflicht.
- Ist ein Bild KI-generiert und wirkt wie ein echtes Foto, kennzeichne es. Bei Illustrationen ist ein Hinweis gute Praxis.
- Wenn Schüler mit einem Chatbot arbeiten, müssen sie wissen, dass sie nicht mit einem Menschen reden.
Die DSGVO läuft hier parallel mit. Personenbezogene Daten von Kindern gehören nicht in öffentliche Chatbots ohne Auftragsverarbeitungsvertrag, egal wie nützlich sie sind. Für die Schule wählst du Varianten mit Auftragsverarbeitungsvertrag. Einen Überblick gibt dir unser Tool-Verzeichnis.
Grün: Alles, worüber du nicht mehr nachdenken musst
In die grüne Zone fallen Tools, die längst Teil deiner Routine sind. Rechtschreibprüfung in Word, automatische Übersetzung im Browser, Spamfilter im E-Mail-Postfach, einfache Bildbearbeitung. Keine besonderen Pflichten, keine Dokumentation, keine Transparenzhinweise.
Klingt banal, ist aber wichtig. Du musst nicht jede KI-Funktion problematisieren. Der größte Teil der KI, mit der du täglich zu tun hast, ist schlicht grün. Eine Pflicht gilt allerdings für alle Stufen: die KI-Kompetenz nach Artikel 4.
Was du jetzt konkret tun solltest
Drei Schritte, die dein Kollegium sofort angehen kann:
- Liste anlegen. Welche KI-Tools nutzt ihr im Unterricht? Jedes Tool in eine Zone einordnen.
- Transparenzregel beschließen. Wie macht ihr den KI-Einsatz gegenüber Kindern und Eltern transparent? Ein Satz reicht, Hauptsache einheitlich.
- Fortbildung ansetzen. KI-Kompetenz ist nach Artikel 4 seit dem 2. Februar 2025 Pflicht: Wer KI-Systeme betreibt, also auch Schulen und Träger, muss für die KI-Kompetenz des Personals sorgen; ein bestimmtes Niveau schreibt das Gesetz seit der Änderung im Sommer 2026 nicht mehr vor. Unser Online-Kurs deckt das praxisnah ab.
Die Ampel ersetzt nicht den gesunden Menschenverstand. Aber sie macht das Gespräch im Lehrerzimmer kürzer. Wenn der Kollege das nächste Mal mit einem neuen Tool ankommt, reicht eine Frage: Welche Farbe?
