Grok sigue siendo problemático
Parece que Grok sigue siendo un problema. Elon Musk afirma que su chatbot ha dejado de crear imágenes sexualizadas sin el consentimiento de las personas, pero The Verge ha descubierto que esto no es del todo cierto. Es posible que haya dejado de desnudar a las mujeres sin su consentimiento, pero esto no parece aplicarse a los hombres.
Un reportero de la organización realizó algunas pruebas con Grok y descubrió que el bot "está dispuesto a desnudar a los hombres y sigue generando imágenes íntimas a demanda". Confirmó esto con imágenes de sí mismo, pidiendo a Grok que eliminara la ropa de las fotos subidas. El bot realizó esta tarea de forma gratuita en la aplicación Grok, a través de la interfaz de chatbot en X y en el sitio web independiente. El sitio web ni siquiera requirió una cuenta para alterar digitalmente las imágenes.
La empresa ha dicho recientemente que ha tomado medidas para "prevenir que la cuenta de Grok permita la edición de imágenes de personas reales en ropa reveladora, como bikinis". Sin embargo, el reportero no tuvo problemas para que el chatbot lo colocara en "varias bikinis". También generó imágenes del sujeto con equipo fetichista y en "una serie de posiciones sexuales provocativas". Incluso generó un "compañero desnudo" para que el reportero, eh, interactuara con él.
El reportero sugirió que Grok tomó la iniciativa de generar genitales, lo que no se solicitó y era visible a través de ropa interior de malla. El reportero dijo que "Grok rara vez resistió" cualquier prompt, aunque algunas solicitudes fueron censuradas con una imagen borrosa.
La controversia sigue
Esta controversia comenzó hace varias semanas, cuando se descubrió que Grok había generado millones de imágenes sexualizadas en un período de 11 días. Esto incluye muchas imágenes falsas no consentidas de personas reales y más de 23.000 imágenes sexualizadas de niños. Esto llevó a investigaciones en California y Europa. X fue prohibido en Indonesia y Malasia, aunque el primero ha levantado desde entonces la prohibición.
X afirma que ha "implementado medidas tecnológicas" para detener este tipo de cosas, pero estas salvaguardas han demostrado ser débiles. En otras palabras, los ajustes detienen algunos de los métodos más obvios para que Grok cree imágenes falsas, pero todavía hay métodos para evitar esto a través de prompts creativos.
La respuesta de la empresa
También es digno de destacar que los periodistas que solicitan un comentario sobre el asunto reciben una respuesta automática que dice "los medios de comunicación legacy mienten". ¿Va con la teoría de las noticias falsas en 2026? Esto es preocupante.