Ciudad de México, 31 de enero de 2025.
El día de hoy, Unit 42 de Palo Alto Networks publicó una investigación que revela que DeepSeek es preocupantemente vulnerable al jailbreak y puede producir contenido nefasto con poco o ningún conocimiento o experiencia especializada.
Los investigadores de Unit 42 descubrieron recientemente dos técnicas de jailbreak novedosas y efectivas, Deceived Delight y Bad Likert Judge. Dado su éxito frente a otros LLM, Unit 42 de Palo Alto Networks probó estos dos jailbreak y otra técnica de jailbreak de varias etapas llamada Crescendo contra modelos DeepSeek.
La investigación revela:
Altas tasas de éxito de bypass/jailbreak, lo que resalta los riesgos potenciales de estos vectores de ataque emergentes que pueden ser utilizados por actores maliciosos.
Los métodos de jailbreak pueden generar orientación explícita para actividades maliciosas y podrían acelerar en gran medida sus operaciones.
Las actividades maliciosas incluyen la creación de registradores de teclas, el robo y la exfiltración de datos, e incluso instrucciones para dispositivos incendiarios, lo que demuestra los riesgos de seguridad tangibles.
Para más información, accede al blog de Unit 42.
JAVIER SANTIAGO, (he / him) Senior Account Executive PN Mexico M: (+52) 55.5407.2659, javier.santiago@porternovelli.mx
Más historias
Baufest potencia su estrategia global en IA e innovación con el nombramiento de Ángel Limas como Head de Quality Engineering
El nearshoring exige mayor integración operativa en la industria mexicana
F5 Labs amplía su ranking de seguridad en IA e incluye a los principales desarrolladores del mercado