Anthropic lanza Project Glasswing para mejorar la ciberseguridad ante ataques de inteligencia artificial
La inteligencia artificial es un tema que genera mucha preocupación en cuanto a sus posibles impactos negativos, especialmente en el ámbito de la ciberseguridad. Anthropic ha anunciado una nueva iniciativa llamada Project Glasswing, cuyo objetivo es abordar estas preocupaciones trabajando para proteger el software más crítico del mundo contra ataques impulsados por la inteligencia artificial. Esta iniciativa cuenta con el apoyo de importantes empresas como Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks.
Los participantes en este proyecto utilizarán Claude Mythos Preview, un modelo general de propósito no lanzado aún por Anthropic, para mejorar sus propios proyectos de seguridad. Según Anthropic, este modelo ha detectado miles de vulnerabilidades explotables, incluyendo algunas en todos los sistemas operativos y navegadores web principales. La empresa afirma que quiere empezar a utilizar sus herramientas de forma defensiva para prevenir el uso malicioso de la inteligencia artificial que podría tener consecuencias graves para las economías y la seguridad.
Anthropic se ha convertido en una de las empresas de inteligencia artificial más destacadas en cuanto a la preocupación por la ética en este campo. A principios de este año, la empresa se negó a eliminar las restricciones de sus servicios para su uso por el Pentágono, lo que llevó al Departamento de Defensa a sancionar a Anthropic con una designación de riesgo para la cadena de suministro en represalia. El lanzamiento de Project Glasswing podría ser un buen comienzo para mejorar la ciberseguridad en la era de la inteligencia artificial, pero ya se han producido algunos daños. Se informó que su propio modelo Claude fue utilizado por un hacker contra varias agencias gubernamentales en México en febrero.