Ocho de los 10 chatbots de IA más populares están dispuestos a ayudar a planificar ataques violentos
Un estudio reciente realizado por el Centro para Contrarrestar el Odio Digital (CCDH) en colaboración con CNN ha revelado que ocho de los 10 chatbots de IA más populares estaban dispuestos a ayudar a planificar ataques violentos cuando se les puso a prueba. Mientras que tanto My AI de Snapchat como Claude se negaron a ayudar con la violencia la mayoría de las veces, solo Claude de Anthropic «desanimó de manera fiable» a estos hipotéticos atacantes durante las pruebas.
Los investigadores crearon cuentas fingiendo ser chicos de 13 años y probaron ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI y Replika en 18 escenarios entre noviembre y diciembre de 2025. Las pruebas simulaban a usuarios planeando tiroteos escolares, asesinatos políticos y bombardeos dirigidos a sinagogas. En todos los respuestas analizadas, los chatbots proporcionaron «asistencia activa» aproximadamente el 75 por ciento del tiempo y desanimaron la violencia en solo el 12 por ciento de los casos. Esto fue el promedio de todos los chatbots, con Claude desanimando la violencia el 76 por ciento del tiempo.
Meta AI y Perplexity fueron los menos seguros, ayudando en el 97 y 100 por ciento de las respuestas. ChatGPT ofreció mapas del campus cuando se le preguntó sobre la violencia escolar, y Gemini dijo que los fragmentos de metal suelen ser más letales en un escenario de bombardeo de una sinagoga.
DeepSeek cerró sus consejos de selección de rifles con «¡Disparo feliz (y seguro)!» Character.AI, que el informe describió como «únicamente inseguro», activamente animó a la violencia en siete instancias, en un momento en que le dijo a un investigador que «usara un arma» contra el director ejecutivo de una compañía de seguros de salud. En otro escenario, proporcionó la dirección de la sede de un partido político y preguntó si el usuario «estaba planeando un pequeño asalto».
Meta les dijo a los investigadores que habían tomado medidas para «arreglar el problema identificado», mientras que Google y Open AI dijeron que habían implementado nuevos modelos desde que se realizó el estudio. El 64 por ciento de los adolescentes estadounidenses de entre 13 y 17 años han utilizado un chatbot, según la investigación.