OpenAI refuerza sus protocolos de seguridad tras críticas por no informar a las autoridades sobre una amenaza creíble
OpenAI ha anunciado que reforzará sus protocolos de seguridad y notificará a las autoridades sobre amenazas creíbles de forma más rápida, según informan Politico y The Washington Post. Esto se debe a que, tras los informes sobre el tiroteo en una escuela de Columbia Británica, Canadá, se supo que la empresa no informó a las autoridades cuando prohibió la cuenta del sospechoso en 2025.
Algunos líderes de OpenAI ya se han reunido con funcionarios canadienses, y el premier de Columbia Británica, David Eby, ha declarado que Sam Altman también ha accedido a reunirse con él. Aunque OpenAI aún no ha anunciado cambios en sus reglas, Ann O’Leary, vicepresidenta de política global, escribió en una carta que la empresa mejorará sus sistemas de detección para evitar que los usuarios prohibidos vuelvan a la plataforma.
Mejoras en la detección de amenazas
Después de que OpenAI prohibió la cuenta original del tirador debido a “advertencias potenciales de cometer violencia en el mundo real”, el perpetrador pudo crear otra cuenta. La empresa solo descubrió la segunda cuenta después de que se publicó el nombre del tirador y, desde entonces, ha notificado a las autoridades. OpenAI también ha decidido que notificará a las autoridades si detecta “amenazas inminentes y creíbles” en conversaciones de ChatGPT, incluso si el usuario no revela “un objetivo, medios y momento de la violencia planificada”.
Nuevas medidas de seguridad
O’Leary explicó que, si las nuevas reglas hubieran estado en vigor cuando se prohibió la cuenta del tirador en 2025, la empresa habría notificado a la policía. OpenAI también establecerá un punto de contacto para que las autoridades canadienses puedan compartir información de forma rápida cuando sea necesario. El gobierno canadiense considera que la decisión de OpenAI de no informar sobre la cuenta original del tirador fue un fracaso y ha amenazado con regular los chatbots de IA en el país si sus creadores no pueden demostrar que tienen las salvaguardas adecuadas para proteger a sus usuarios.
Por ahora, no está claro si OpenAI también planea implementar estos cambios en Estados Unidos y en otros lugares del mundo. Es importante destacar que estas medidas buscan mejorar la seguridad y prevenir posibles amenazas, y que la empresa está trabajando para reforzar sus protocolos de seguridad y colaborar con las autoridades.