Du bereitest Stunden mit ChatGPT vor, schreibst Elternbriefe mit KI oder hast im Kollegium schon mal darüber gesprochen, welche Tools ihr eigentlich nutzt. Seit dem 2. Februar 2025 gibt es dafür einen verbindlichen Rahmen: Artikel 4 des EU AI Act verpflichtet Einrichtungen, die KI einsetzen (im Gesetz „Betreiber“), dafür zu sorgen, dass ihre Mitarbeitenden KI-Systeme kompetent nutzen. Für Schulen und Kitas heißt das: Die Verantwortung liegt bei der Einrichtung und ihrem Träger. Wer im Alltag schon reflektiert mit KI arbeitet, ist näher dran an dem, was die Verordnung verlangt, auch wenn die Pflicht formal die Einrichtung trifft und nicht die einzelne Person.
Was im Gesetz steht
So lautete Artikel 4 in der ursprünglichen Fassung:
„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“
(Quelle: ai-act-law.eu/de/artikel/4)
Übersetzt: Wer KI einsetzt, muss dafür sorgen, dass sein Team versteht, was es da benutzt. Nicht abstrakt und allgemein, sondern angepasst an die eigene Rolle, das eigene Vorwissen, den eigenen Kontext. Wie viel Kompetenz genug ist, legt der AI Act nicht fest. Das entscheidet jede Einrichtung selbst.
Stand der Vorschrift: Der Digital Omnibus hat Artikel 4 inzwischen geändert. Die Pflicht für Einrichtungen bleibt bestehen, das Gesetz schreibt aber kein bestimmtes oder „ausreichendes“ Niveau mehr vor. Kommission und Mitgliedstaaten sollen Einrichtungen stattdessen mit Beispielen und Empfehlungen unterstützen. So beschreibt es die Kommission in ihren Fragen und Antworten zur KI-Kompetenz.
KI-Kompetenz im Sinne des Gesetzes (Artikel 3 Absatz 56) heißt: KI-Systeme sachkundig einsetzen können, Chancen und Risiken realistisch einschätzen, mögliche Schäden erkennen. Kein Expertenwissen, aber mehr als „ich hab mal ChatGPT ausprobiert“.
Wichtig für den Schulalltag: Reine Tool-Listen oder ein Newsletter im Intranet ersetzen kein Grundverständnis. Die EU-Kommission schreibt in ihren Fragen und Antworten zu Artikel 4, dass es in vielen Fällen nicht genügt, wenn Mitarbeitende nur die Gebrauchsanweisung eines Systems lesen.
Welche Risikostufe betrifft dich?
Der AI Act unterscheidet KI-Systeme nach ihrer potenziellen Gefährlichkeit. Das ist relevant, weil der Kompetenzbedarf von Risikoklasse und Rolle abhängt:
Die vier Risikostufen im Bildungsbereich
| Risikostufe | Beispiele im Bildungsbereich | Was gilt |
|---|---|---|
| Verboten | Emotionserkennung im Unterricht, manipulative KI | Einsatz vollständig verboten seit Februar 2025 |
| Hohes Risiko | Automatische Leistungsbewertung, KI-gestützte Schulplatzvergabe | Strenge Auflagen: Dokumentation, menschliche Kontrolle, Risikoprüfung |
| Begrenztes Risiko | KI-Chatbots, generierte Texte und Bilder | Transparenzpflichten: Menschen müssen erkennen können, dass sie mit KI zu tun haben. KI-Texte, die die Öffentlichkeit informieren sollen, kennzeichnen. |
| Minimales Risiko | Rechtschreibhilfe, automatische Übersetzung, Spamfilter | Keine besonderen Auflagen |
Für den Alltag der meisten Lehrkräfte sowie Erzieher gilt: ChatGPT, fobizz oder ähnliche Tools zur Unterrichtsvorbereitung liegen im unteren Bereich dieser Skala. Das ist meist unkritisch, solange du transparent damit umgehst und keine KI-Inhalte ungeprüft weitergibst.
Was das konkret bedeutet
Elternbriefe mit ChatGPT zu schreiben ist kein Hochrisiko-Einsatz. Eine formale Kennzeichnungspflicht besteht bei einem internen Elternbrief in der Regel nicht, aber der Text gehört gelesen, bevor er rausgeht.
Wer KI zur Beurteilung von Schülerleistungen einsetzen will, betritt Hochrisiko-Terrain. Ohne klare Dokumentation und menschliche Kontrolle wird das rechtlich heikel, und pädagogisch ebenfalls.
Ein Übersetzungstool in der GBS-Gruppe oder Nachmittagsbetreuung? Minimales Risiko, keine Sonderauflagen. Trotzdem: Zeig den Kindern, was das Tool macht. KI-Kompetenz hört nicht bei Erwachsenen auf.
Passende KI-Tools für den pädagogischen Einsatz findest du in unserem Tool-Verzeichnis, eingeordnet nach Einsatzbereich.
Was bei Nichteinhaltung gilt
Die Pflicht gilt bereits, aber sie ist bewusst offen gehalten. Eine Pflicht, KI-Kompetenzen zu messen oder zu zertifizieren, gibt es nicht. Zuständig für die Aufsicht sind die nationalen Marktüberwachungsbehörden, nicht das AI Office. Welche Sanktionen bei Verstößen möglich sind, regeln die Mitgliedstaaten in ihrem nationalen Recht. Die weiteren Pflichten des AI Act folgen stufenweise.
Wer nichts getan hat, geht trotzdem ein Risiko ein. Die Kommission schreibt, dass Sanktionen verhältnismäßig sein müssen und eher drohen, wenn ein Vorfall auf fehlende Schulung zurückgeht. Deshalb lohnt es sich, durchgeführte Maßnahmen zu dokumentieren, auch wenn das keine formale Pflicht ist.
Digital Omnibus: Die EU-Kommission hat Ende 2025 vorgeschlagen, Artikel 4 abzuschwächen und die Förderung von KI-Kompetenz stärker als staatliche Aufgabe zu definieren. Die Änderung ist inzwischen in Kraft (siehe oben). Wer ein Hochrisiko-System einsetzt, muss das Personal weiterhin für die menschliche Aufsicht schulen.
Was Datenschutz angeht, gilt unabhängig davon die DSGVO: keine Schülernamen, keine persönlichen Daten in cloudbasierte KI-Dienste, die das nicht explizit abdecken.
Was jetzt sinnvoll ist
Ein vorgeschriebenes Schulungsprogramm gibt es nicht. Aber ein ehrliches Gespräch im Kollegium ist ein guter Anfang: Welche Tools nutzen wir? Was verstehen wir davon? Welche Risikostufe haben sie? Und was tun wir, wenn jemand neu ins Team kommt?
Wer das mit Begleitung angehen möchte, findet in unserer Fortbildung Einstiegsmöglichkeiten aus dem Schulalltag, die KI-Kompetenz aufbauen, ohne Vorwissen vorauszusetzen.
