Anthropic lanza Project Glasswing para fortalecer la ciberseguridad ante ataques de inteligencia artificial
La empresa Anthropic ha anunciado una nueva iniciativa llamada Project Glasswing, cuyo objetivo es fortalecer la ciberseguridad de los software más críticos del mundo ante posibles ataques impulsados por la inteligencia artificial. Esta iniciativa cuenta con el apoyo de importantes empresas como Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks.
Los participantes en este proyecto utilizarán Claude Mythos Preview, un modelo de inteligencia artificial de propósito general no lanzado al público, para mejorar sus propios proyectos de seguridad. Según Anthropic, este modelo ha detectado miles de vulnerabilidades explotables, incluyendo algunas en todos los principales sistemas operativos y navegadores web. La empresa afirma que su objetivo es comenzar a utilizar sus herramientas de forma defensiva para prevenir el uso malicioso de la inteligencia artificial, que podría tener consecuencias graves para las economías y la seguridad.
Anthropic se ha convertido en una de las empresas de inteligencia artificial más destacadas en cuanto a la preocupación por la ética en este campo. A principios de este año, la empresa se negó a retirar las restricciones de sus servicios para su uso por el Pentágono, lo que llevó al Departamento de Defensa a sancionar a Anthropic con una designación de «riesgo de cadena de suministro». El lanzamiento de Project Glasswing podría ser un buen comienzo para mejorar la ciberseguridad en la era de la inteligencia artificial, pero ya se han producido algunos daños. Se informó que su propio modelo Claude fue utilizado por un hacker contra varias agencias gubernamentales en México en febrero.