Ciudad de México, 31 de enero de 2025.
El día de hoy, Unit 42 de Palo Alto Networks publicó una investigación que revela que DeepSeek es preocupantemente vulnerable al jailbreak y puede producir contenido nefasto con poco o ningún conocimiento o experiencia especializada.
Los investigadores de Unit 42 descubrieron recientemente dos técnicas de jailbreak novedosas y efectivas, Deceived Delight y Bad Likert Judge. Dado su éxito frente a otros LLM, Unit 42 de Palo Alto Networks probó estos dos jailbreak y otra técnica de jailbreak de varias etapas llamada Crescendo contra modelos DeepSeek.
La investigación revela:
Altas tasas de éxito de bypass/jailbreak, lo que resalta los riesgos potenciales de estos vectores de ataque emergentes que pueden ser utilizados por actores maliciosos.
Los métodos de jailbreak pueden generar orientación explícita para actividades maliciosas y podrían acelerar en gran medida sus operaciones.
Las actividades maliciosas incluyen la creación de registradores de teclas, el robo y la exfiltración de datos, e incluso instrucciones para dispositivos incendiarios, lo que demuestra los riesgos de seguridad tangibles.
Para más información, accede al blog de Unit 42.
JAVIER SANTIAGO, (he / him) Senior Account Executive PN Mexico M: (+52) 55.5407.2659, javier.santiago@porternovelli.mx
Más historias
Videovigilancia activada por texto: la próxima frontera en inteligencia artificial aplicada a la seguridad
Crecimiento de amenazas digitales impulsan la demanda de profesionales en ciberseguridad
El nearshoring expone desafíos tecnológicos y oportunidades para la productividad de las empresas en México