Erklärbare KI (XAI)
Erklärbare KI, kurz XAI (Explainable AI), ist das Fachgebiet, das Methoden entwickelt, mit denen KI-Systeme ihre Ergebnisse verständlich begründen.
Definition
XAI-Methoden zeigen z. B., welche Angaben eine Empfehlung am stärksten beeinflusst haben, oder markieren die Bildbereiche, auf die ein Modell reagiert hat. Das US-Institut NIST nennt vier Grundsätze: Ein System liefert eine Erklärung, sie ist für die Zielgruppe verständlich, sie gibt den tatsächlichen Grund korrekt wieder, und das System arbeitet nur unter den Bedingungen, für die es gebaut ist, und nur bei ausreichender Sicherheit über sein Ergebnis. Gerade der dritte Punkt ist schwierig, denn eine plausibel klingende Erklärung kann trotzdem falsch sein. Eine gute Erklärung kannst du an deinen eigenen Beobachtungen überprüfen.
Beispiel
Eine Lern-App schlägt einem Kind leichtere Leseaufgaben vor. Die Erklärfunktion zeigt dir, dass vor allem die Lesezeit pro Satz den Ausschlag gab. Du weißt, dass das Kind an diesem Tag müde war, und entscheidest selbst über die nächste Aufgabe.
Verwandte Begriffe
Weiterführend
Zuletzt aktualisiert: 18. Oktober 2026