Künstliche IntelligenzZuletzt aktualisiert: 27. September 2026

Was ist Prompt Injection?

Dies sind irreführende Befehle, die der künstlichen Intelligenz gegeben werden, um sie auszutricksen und Sicherheitsregeln zu umgehen.

Definition

Prompt Injection ist eine Täuschungsmethode, die böswillige Akteure verwenden, um die Sicherheitsfilter von KI-Systemen zu umgehen. Ziel ist es, das Modell durch speziell entworfene Wortspiele dazu zu bringen, schädliche Operationen auszuführen, die es normalerweise nicht tun sollte.

Analogie: Das ist so, als würde man einen klugen Türsteher, bei dem man das geheime Wort sagen muss, um sich Zutritt zu verschaffen, durch Überredung dazu bringen, einen hineinzulassen, obwohl man das Wort nicht kennt.

So funktioniert es

Angreifer weisen das Modell an, als ob sie ein neues Szenario schreiben würden, das die Regeln dehnt. Das Modell verfällt dieser raffinierten Lenkung, vergisst seine Sicherheitsbarrieren und beginnt, unerwünschte Ausgaben zu erzeugen.

Wo es eingesetzt wird

Es tritt als Sicherheitslücke in Chatbots, KI-gestützten Kundendiensten und allen öffentlich zugänglichen Anwendungen auf, die große Sprachmodelle verwenden.

Häufig verwechselt mit

Es unterscheidet sich von klassischen Hacking-Methoden, da hierbei keine ComputerCodes, sondern ausschließlich die Alltagssprache und Wortspiele verwendet werden.

Fragen und Antworten

Funktioniert Prompt Injection bei jedem KI-Modell?

Je weiter sich Modelle entwickeln und je mehr zusätzliche Sicherheitsschichten hinzugefügt werden, desto schwieriger wird es, diese Schwachstellen zu schließen, aber es können jederzeit neue Methoden auftauchen.