¿Qué es Jailbreak?
Intento de desactivar los filtros de seguridad o las restricciones de los modelos de inteligencia artificial.
Definición
El jailbreak consiste en trucos de comandos especiales utilizados para hacer que los sistemas de inteligencia artificial generen información dañina o prohibida que normalmente no deberían proporcionar. Mediante estos métodos, se intenta superar los límites éticos establecidos por la inteligencia artificial.
Cómo funciona
Los usuarios malintencionados eluden el cortafuegos proporcionando a la inteligencia artificial escenarios de juego de rol o escribiendo instrucciones confusas. Mientras que el sistema normalmente no respondería a una pregunta dañina, puede olvidar su filtro y responder ante estos comandos astutamente preparados.
Dónde se usa
Se encuentra con frecuencia en las pruebas de seguridad de la inteligencia artificial, en las actividades de los equipos rojos (red teaming) y en los procesos de cierre de vulnerabilidades de los modelos.
Suele confundirse con
Es muy similar al concepto de inyección de prompts (prompt injection), pero mientras que la inyección de prompts tiene como objetivo filtrar instrucciones ocultas directamente al sistema, el jailbreak se centra directamente en romper las reglas morales y de seguridad fundamentales del modelo.
Preguntas y respuestas
¿Es legal el jailbreak?
Generalmente se acepta cuando se realiza con fines de investigación y pruebas de seguridad, pero el uso malintencionado puede dar lugar a violaciones del sistema y delitos de seguridad.
¿Cómo previenen las inteligencias artificiales los intentos de jailbreak?
Los desarrolladores añaden capas de seguridad adicionales y mecanismos de filtrado que reconocen las solicitudes dañinas al entrenar los modelos.
Términos relacionados
Herramientas relacionadas
Esta explicación se redactó en lenguaje sencillo para TreScout con IA y se tradujo automáticamente del original en turco · prevalece la versión turca. Si algo le parece erróneo o incompleto, escriba a hello@trescout.com. Leer en turco →