Halluzination (KI)
Eine Halluzination ist eine KI-Ausgabe, die überzeugend klingt, aber falsch oder erfunden ist.
Definition
Sprachmodelle erzeugen Texte, die statistisch gut zu deiner Eingabe passen. Das führt oft zu richtigen Antworten, manchmal aber zu erfundenen Fakten, Zahlen oder Quellen. Auch Zusammenfassungen können Dinge enthalten, die im Ausgangstext gar nicht stehen. Eine Ursache ist, dass Modelle beim Training und bei Tests eher für Raten belohnt werden als für ein ehrliches „Das weiß ich nicht“. Halluzinationen lassen sich verringern, z. B. durch die Anbindung an Quellen, aber nicht ganz ausschließen. Prüfe deshalb jede Tatsachenbehauptung, bevor du sie weitergibst.
Beispiel
Ein Chatbot nennt für ein Referat über Igel ein Buch mit Titel, Autor und Verlag. Im Bibliothekskatalog findet ihr es nicht, und auch der Verlag führt es nicht. Ihr besprecht, dass die KI die Angabe erfunden hat, und sucht gemeinsam eine echte Quelle.
Verwandte Begriffe
Weiterführend
Zuletzt aktualisiert: 18. Oktober 2026