KI-Hochrisikobereich
Ein Bereich, in dem die KI-Verordnung bestimmte KI-Anwendungen als hochriskant einstuft, z. B. das Bewerten von Lernergebnissen.
Definition
Die KI-Verordnung zählt in Anhang III Bereiche auf, in denen bestimmte KI-Systeme als hochriskant gelten (Artikel 6 Absatz 2). Für die Bildung nennt Anhang III Nummer 3 vier Zwecke. Gemeint ist KI, die über Zugang, Zulassung oder Zuweisung zu Bildungseinrichtungen bestimmt, Lernergebnisse bewertet, das angemessene Bildungsniveau einer Person bewertet oder Schüler bei Prüfungen auf verbotenes Verhalten überwacht. Ein KI-Tool ist also nicht schon hochriskant, weil es in einer Schule oder Kita läuft. Auch bei diesen Zwecken gibt es Ausnahmen, etwa für eng gefasste Verfahrensaufgaben (Artikel 6 Absatz 3). Nach der Änderung durch die Verordnung (EU) 2026/1744 gelten die Pflichten für solche Systeme ab dem 2. Dezember 2027. Viele davon treffen die Anbieter. Als Betreiber muss die Einrichtung u. a. die menschliche Aufsicht Personen mit der nötigen Kompetenz übertragen (Artikel 26).
Beispiel
Ein KI-System, das automatisch über die Schulzulassung von Kindern mitentscheidet, fällt in den Hochrisikobereich. Ab dem 2. Dezember 2027 gelten dafür strenge Auflagen. Bei einem KI-Tool zur Entwicklungsdokumentation in deiner Kita kommt es auf den Zweck an. Die Leitung fragt deshalb den Anbieter, ob das Tool für einen der Zwecke aus Anhang III Nummer 3 bestimmt ist, etwa die Bewertung von Lernergebnissen, und wie er es einstuft.
Passende Begriffe
Mehr aus dem Bereich Datenschutz & Recht
Weiterführend
Zuletzt aktualisiert: 25. Oktober 2026