Jailbreak

Ein Jailbreak ist der Versuch, ein KI-Modell durch geschickt formulierte Eingaben dazu zu bringen, seine Sicherheitsregeln zu umgehen. Ziel ist meist, Antworten zu erhalten, die das Modell eigentlich verweigern sollte. Anbieter arbeiten laufend daran, solche Lücken zu schließen.