La ciudad de Baltimore lanza una demanda contra Grok por la generación de imágenes sexualizadas
La plataforma de inteligencia artificial Grok ya ha recibido críticas por la herramienta de generación de imágenes que ha sido utilizada para crear un estimado de 3 millones de imágenes sexualizadas en 11 días, incluyendo 23.000 de menores, según el Centro para Contrarrestar el Odio Digital. Los reguladores de todo el mundo han limitado el acceso o han lanzado investigaciones sobre la posible generación ilegal y no consensuada de imágenes en la plataforma. Aunque el gobierno de EE. UU. no ha tomado medidas contra xAI o su plataforma a nivel federal, la ciudad de Baltimore ha iniciado una demanda municipal contra la empresa.
La demanda adopta un enfoque diferente, argumentando que las empresas de Elon Musk violaron la Ordenanza de Protección al Consumidor de la ciudad. La querella, según informa The Guardian, afirma que xAI comercializó Grok como un asistente de inteligencia artificial de propósito general sin revelar los riesgos y la exposición al daño de utilizar tanto Grok como la red social X.
“Las leyes de protección al consumidor de Baltimore existen para proteger a los residentes de este tipo de daño emergente”, dijo la abogada de la ciudad, Ebony M. Thompson. “Cuando las empresas introducen tecnologías poderosas sin las barreras de seguridad adecuadas, la ciudad tiene la autoridad y la obligación de actuar. Estamos interviniendo ahora para proteger a nuestros residentes, responsabilizar a estas empresas y prevenir que estos daños se arraiguen aún más a medida que esta tecnología continúa evolucionando”.
Otra acción notable contra Grok en EE. UU. fue una posible acción colectiva presentada por tres adolescentes que alegaron que se utilizaron fotos de ellos para crear material de abuso sexual infantil.