Anthropic lanza Project Glasswing para proteger el software crítico contra ataques de inteligencia artificial
La inteligencia artificial es un tema que genera mucha preocupación, especialmente en lo que respecta a sus posibles impactos negativos en la ciberseguridad. Anthropic ha anunciado una nueva iniciativa llamada Project Glasswing para abordar estas preocupaciones y trabajar en la protección del software crítico contra ataques impulsados por la inteligencia artificial. Esta iniciativa cuenta con el apoyo de importantes empresas como Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks.
Los participantes en este proyecto utilizarán Claude Mythos Preview, un modelo general de propósito no lanzado aún, para mejorar sus propios proyectos de seguridad. Según Anthropic, este modelo ha detectado miles de vulnerabilidades explotables, incluyendo algunas en todos los sistemas operativos y navegadores web principales. La empresa tiene como objetivo comenzar a utilizar sus herramientas de manera defensiva para prevenir el uso malicioso de la inteligencia artificial que pueda tener consecuencias graves para las economías y la seguridad.
Anthropic se ha convertido en una de las empresas de inteligencia artificial más destacadas en cuanto a la preocupación por la ética en este campo. A principios de este año, la empresa se negó a eliminar las restricciones en sus servicios para su uso por el Pentágono, lo que llevó al Departamento de Defensa a sancionar a Anthropic con una designación de riesgo en la cadena de suministro. El lanzamiento de Project Glasswing podría ser un buen comienzo para mejorar la ciberseguridad en la era de la inteligencia artificial, pero ya se han producido daños. Se informó que su propio modelo Claude fue utilizado por un hacker contra varias agencias gubernamentales en México en febrero.