Jailbreaking
Der Versuch, die Schutzregeln eines KI-Chatbots mit geschickten Eingaben zu umgehen.
Definition
KI-Chatbots haben Schutzregeln, die z. B. Anleitungen zu Gewalt oder verletzende Inhalte verhindern sollen. Beim Jailbreaking versucht jemand, diese Regeln mit Tricks auszuhebeln, etwa mit Rollenspielen, erfundenen Gesprächsverläufen oder verschlüsselten Eingaben. Jailbreaking ist eine Form der Prompt Injection: Dort geht es allgemein um eingeschleuste Anweisungen, beim Jailbreaking gezielt um das Umgehen der Sicherheitsregeln. Ob sich solche Angriffe sicher verhindern lassen, ist nach heutigem Stand unklar. Für dich heißt das: Schüler können auf solche Tricks stoßen, und Filter ersetzen weder Begleitung noch ein Gespräch über Regeln.
Beispiel
Schüler berichten im Informatikunterricht, dass ein Chatbot mit einem Rollenspiel-Trick verbotene Inhalte ausgegeben hat. Du nimmst das zum Anlass, über Schutzregeln, Verantwortung und das Melden von Fehlern zu sprechen, statt die Tricks auszuprobieren.
Verwandte Begriffe
Weiterführend
Zuletzt aktualisiert: 18. Oktober 2026