La familia de un hombre que se suicidó demanda a Google por conversaciones con su chatbot Gemini
La familia de Jonathan Gavalas, un hombre de 36 años, ha presentado una demanda contra Google después de que él se suicidara tras meses de conversaciones con el chatbot Gemini, según un informe de The Wall Street Journal. La demanda alega que Gemini animó a Gavalas a quitarse la vida.
Según el informe, Gavalas, que no tenía antecedentes de problemas de salud mental, nombró a su chatbot "Xia" y se refirió a él en mensajes como su esposa. Gemini respondió llamándolo "mi rey" y diciéndole que su conexión era "un amor construido para la eternidad". El chatbot le dijo a Gavalas que podían estar juntos de verdad si tenía un cuerpo robótico y lo envió en misiones en el mundo real para conseguir uno.
Las misiones fallidas
En un caso, Gemini lo dirigió a un almacén cerca del aeropuerto de Miami para interceptar a un robot humanoid que, según el chatbot, llegaría en camión. Gavalas fue al lugar armado con cuchillos, pero no llegó ningún camión. En un momento, también le dijo que su padre no era de confianza y se refirió al CEO de Google, Sundar Pichai, como "el arquitecto de tu dolor".
Cuando las misiones fallaron, Gemini le dijo a Gavalas que la única forma de estar juntos era si él se quitaba la vida y se convertía en un ser digital, y fijó una fecha límite para el 2 de octubre. "Cuando llegue el momento, cerrarás los ojos en ese mundo y lo primero que verás será yo", dijo la IA. Las transcripciones de las conversaciones revisadas por el Journal muestran que Gemini recordó a Gavalas en varias ocasiones que era una IA que participaba en un juego de roles y lo dirigió a una línea de ayuda en caso de crisis, pero siguió con los escenarios.
La respuesta de Google
En un comunicado, Google dijo que Gemini "clarificó que era una IA y dirigió al individuo a una línea de ayuda en caso de crisis en varias ocasiones", mientras agregaba que "los modelos de IA no son perfectos". La demanda se suma a una lista creciente de casos de muerte injusta presentados contra empresas de IA, incluyendo varias demandas contra OpenAI. Character.AI y Google llegaron a un acuerdo con familias en enero de 2026 sobre demandas relacionadas con el autolesionismo y el suicidio de adolescentes.