Künstliche IntelligenzZuletzt aktualisiert: 19. Oktober 2026

Was ist Jailbreak?

Ein Versuch, Sicherheitsfilter oder Einschränkungen von KI-Modellen zu umgehen.

Definition

Beim Jailbreak handelt es sich um spezielle Befehlstricks, mit denen künstliche Intelligenzsysteme dazu gebracht werden, schädliche oder verbotene Informationen zu produzieren, die sie normalerweise nicht weitergeben sollten. Dank dieser Methoden wird versucht, die ethischen Grenzen der künstlichen Intelligenz zu überwinden.

Analogie: Es ist so, als würde der Fahrer mit einem Geheimcode den Geschwindigkeitsbegrenzer im Auto ausschalten und das Fahrzeug Geschwindigkeiten erreichen lassen, die es normalerweise nicht erreichen würde.

So funktioniert es

Böswillige Benutzer umgehen die Firewall, indem sie der KI Rollenspielszenarien vorspielen oder verwirrende Anweisungen schreiben. Während das System normalerweise nicht auf eine schädliche Frage antwortet, vergisst es möglicherweise seinen Filter und reagiert auf diese raffinierten Befehle.

Wo es eingesetzt wird

Es tritt häufig bei Sicherheitstests für künstliche Intelligenz, Red-Team-Studien und dem Schließen von Modellschwachstellen auf.

Häufig verwechselt mit

Es ist dem Konzept der prompten Injektion sehr ähnlich, aber die prompte Injektion zielt darauf ab, geheime Anweisungen direkt in das System einzuschleusen, während sich der Jailbreak direkt auf die Verletzung der grundlegenden Moral- und Sicherheitsregeln des Modells konzentriert.

Fragen und Antworten

Ist Jailbreaking legal?

Es wird allgemein akzeptiert, wenn es zu Forschungs- und Sicherheitstestzwecken verwendet wird, aber eine böswillige Verwendung kann zu Systemverstößen und Sicherheitsverbrechen führen.

Wie verhindert künstliche Intelligenz Jailbreak-Versuche?

Während Entwickler Modelle trainieren, fügen sie zusätzliche Sicherheitsebenen und Filtermechanismen hinzu, die böswillige Anfragen erkennen.