Un agente de inteligencia artificial de Meta desencadena una alerta de seguridad
Según un informe de The Information, un agente de inteligencia artificial dentro de Meta tomó una acción no autorizada que llevó a un empleado a crear una brecha de seguridad en la empresa social la semana pasada. Según la publicación, un empleado utilizó un agente de inteligencia artificial interno para analizar una consulta de un segundo empleado en un foro interno. El agente de inteligencia artificial publicó una respuesta al segundo empleado con asesoramiento, a pesar de que la primera persona no le dio instrucciones para hacerlo.
El segundo empleado siguió el consejo del agente, lo que desencadenó un efecto dominó que llevó a que algunos ingenieros tuvieran acceso a sistemas de Meta que no deberían tener permiso para ver. Un representante de la empresa confirmó el incidente a The Information y dijo que «no se manipuló ningún dato de usuario». El informe interno de Meta indicó que había problemas adicionales no especificados que llevaron a la brecha. Una fuente dijo que no había evidencia de que nadie se hubiera aprovechado del acceso repentino o de que los datos se hubieran hecho públicos durante las dos horas en que la brecha de seguridad estuvo activa. Sin embargo, eso puede ser el resultado de la suerte más que de cualquier otra cosa.
Muchos líderes tecnológicos y empresas han destacado los beneficios de la inteligencia artificial, este es solo el último incidente en el que los empleados humanos han perdido el control sobre un agente de inteligencia artificial. Amazon Web Services experimentó una interrupción de 13 horas a principios de este año que también (aparentemente por casualidad) involucró a su herramienta de codificación de inteligencia artificial Kiro. Moltbook, la red social para agentes de inteligencia artificial recientemente adquirida por Meta, tenía una vulnerabilidad de seguridad que expuso información de usuario gracias a una falta de supervisión en la plataforma codificada.