Anthropic se niega a retirar las salvaguardas de su IA pese a la presión del Pentágono
La empresa de inteligencia artificial Anthropic ha rechazado una orden del Pentágono que exigía la retirada de las salvaguardas de su modelo de IA, Claude, para permitir su uso en vigilancia masiva y armas autónomas. En un comunicado oficial, el CEO de Anthropic, Dario Amodei, explicó que la empresa no puede cumplir con la solicitud del Departamento de Defensa en buena conciencia.
El Departamento de Defensa había amenazado con cancelar un contrato de $200 millones y etiquetar a Anthropic como un riesgo para la cadena de suministro si no aceptaba retirar las salvaguardas. Sin embargo, Amodei insistió en que la empresa prefiere seguir trabajando con el Departamento de Defensa y los militares, siempre y cuando se mantengan las salvaguardas en lugar.
El subsecretario de Defensa, Emil Michael, respondió a la decisión de Anthropic acusando a Amodei de querer controlar personalmente al ejército estadounidense y de estar dispuesto a poner en riesgo la seguridad nacional. La disputa comenzó cuando el Pentágono exigió que Anthropic hiciera su modelo de IA disponible para todos los fines legítimos, incluyendo la vigilancia masiva y el desarrollo de armas autónomas.
El conflicto
Anthropic se negó a ofrecer su tecnología para estos fines, incluso con una pila de seguridad incorporada en el modelo. La empresa ha sido criticada por su potencial impacto en los usuarios, pero la vigilancia masiva y el desarrollo de armas autónomas supondrían un nuevo nivel de riesgo.
La respuesta de Anthropic
La respuesta de Anthropic se ve como una prueba de su compromiso con la seguridad, especialmente después de abandonar su promesa de seguridad hace unos días. Ahora que Amodei ha respondido, la atención se centrará en el Pentágono para ver si sigue adelante con sus amenazas, lo que podría perjudicar gravemente a Anthropic.
La empresa ha estado trabajando con el Departamento de Defensa en varios proyectos, y su modelo de IA, Claude, ha sido utilizado en misiones militares sensibles, como la incursión en Venezuela en la que se extrajo al presidente Nicolás Maduro y a su esposa. Sin embargo, si el Pentágono decide seguir adelante con sus amenazas, Anthropic ha dicho que estará dispuesta a facilitar una transición suave a otro proveedor, evitando cualquier interrupción en las operaciones militares.