Deepfake
Mit KI erzeugte oder veränderte Bilder, Videos oder Tonaufnahmen, die echt wirken, es aber nicht sind.
Definition
Die KI-Verordnung definiert Deepfakes als KI-erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich echt wirken würden (Artikel 3 Nummer 60). Wer ein KI-System beruflich oder für eine Einrichtung nutzt und damit Deepfakes erzeugt, muss seit dem 2. August 2026 offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert sind. Bei erkennbar künstlerischen oder satirischen Werken genügt ein passender Hinweis, der das Werk nicht beeinträchtigt. In Schulen können Deepfakes für Mobbing missbraucht werden, z. B. als gefälschte Sprachnachricht oder Bild eines Mitschülers. Ab dem 2. Dezember 2026 verbietet die KI-Verordnung KI-Systeme, die ohne Zustimmung der Betroffenen realistische intime oder sexuelle Darstellungen bestimmbarer Personen erzeugen sollen oder dies ohne ausreichende Schutzvorkehrungen ermöglichen. Erkennungswerkzeuge arbeiten oft nur unter bestimmten Bedingungen zuverlässig, deshalb zählen Quelle, Kontext und das Gespräch.
Beispiel
In einer Klassengruppe kursiert eine Sprachnachricht, in der angeblich ein Schüler andere beleidigt. Die Klassenleitung sichert die Nachricht, informiert die Schulleitung und spricht mit der Klasse darüber, dass sich Stimmen mit KI fälschen lassen.
Verwandte Begriffe
Weiterführend
Zuletzt aktualisiert: 19. Oktober 2026