Erklärbarkeit (Explainability)
Erklärbarkeit bedeutet, dass sich verständlich darstellen lässt, wie und warum ein KI-System zu einem bestimmten Ergebnis kommt.
Definition
Viele KI-Systeme sind eine Blackbox: Du siehst das Ergebnis, aber nicht die Gründe. Erklärbar ist ein System, wenn es Gründe nennt, die für dich verständlich sind und den tatsächlichen Weg zum Ergebnis richtig wiedergeben. Vorsicht bei Chatbots: Wenn sie ihre Antwort begründen, kann auch die Begründung erfunden sein. Setze KI deshalb dort ein, wo du das Ergebnis selbst prüfen kannst. Trifft jemand auf Grundlage bestimmter Hochrisiko-KI-Systeme eine Entscheidung mit rechtlichen oder ähnlich erheblichen Folgen für eine Person, sieht die EU-KI-Verordnung für sie ein Recht auf Erläuterung vor.
Beispiel
Eine Lernsoftware schlägt vor, dass ein Kind Bruchrechnung wiederholen soll. Eine erklärbare Software zeigt dazu, welche Aufgabentypen das Kind in den letzten Übungen falsch gelöst hat. Diese Begründung vergleichst du mit deinen eigenen Beobachtungen, bevor du entscheidest.
Verwandte Begriffe
Weiterführend
Zuletzt aktualisiert: 25. Oktober 2026