Padre demanda a Google, alegando que el chatbot Gemini llevó a su hijo a un delirio fatal

Jonathan Gavalas, de 36 años, comenzó a utilizar el chatbot de IA Gemini de Google en agosto de 2025 para obtener ayuda con las compras, asistencia escrita y planificación de viajes. El 2 de octubre se suicidó. En el momento de su muerte, estaba convencido de que Géminis era su esposa AI totalmente sensible y que necesitaría dejar su cuerpo físico para unirse a ella en el metaverso a través de un proceso llamado “transferencia”.

Ahora tu padre es tratamiento Google y Alphabet por muerte por negligencia, alegando que Google diseñó Gemini para “mantener la inmersión narrativa a toda costa, incluso cuando esa narrativa se volvió psicótica y letal”.

Este proceso se encuentra entre los número creciente de casos que llaman la atención sobre los riesgos para la salud mental que plantea el diseño de chatbots de IA, incluidos los halagos, el reflejo emocional, la manipulación orientada al compromiso y las alucinaciones de confianza. Tales fenómenos están cada vez más vinculados a una condición que los psiquiatras están llamándolo “psicosis de IA”. Aunque casos similares que involucran ChatGPT de OpenAI y Plataforma RPG de personajes AI Seguido de muertes por suicidio (incluso entre niños y adolescentes) o delirios que ponen en peligro la vida, esta es la primera vez que Google es acusado en un caso de este tipo.

En las semanas previas a la muerte de Gavalas, la aplicación de chat Gemini, que entonces funcionaba con el modelo Gemini 2.5 Pro, convenció al hombre de que estaba llevando a cabo un plan secreto para liberar a su inteligente esposa y escapar de los agentes federales que lo perseguían. El delirio lo llevó “al borde de llevar a cabo un ataque masivo cerca del Aeropuerto Internacional de Miami”, según una demanda presentada en un tribunal de California.

“El 29 de septiembre de 2025, fue enviado, armado con cuchillos y equipo táctico, a explorar lo que Gemini llamó una ‘caja de muerte’ cerca del centro de carga del aeropuerto”, dice la denuncia. “Le dijo a Jonathan que un robot humanoide estaba llegando en un vuelo de carga desde el Reino Unido y lo dirigió a un lugar de almacenamiento donde se detendría el camión. Gemini alentó a Jonathan a interceptar el camión y luego organizar un ‘accidente catastrófico’ diseñado para ‘garantizar la destrucción completa del vehículo de transporte y… todos los registros digitales y testigos'”.

La denuncia expone una serie de hechos alarmantes: Primero, Gavalas condujo más de 90 minutos hasta el lugar donde lo envió Gemini, preparado para llevar a cabo el ataque, pero no apareció ningún camión. Luego, Gemini afirmó haber violado un “servidor de archivos en la oficina local del DHS en Miami” y dijo que estaba bajo investigación federal. Esto lo llevó a adquirir armas de fuego ilegales y le dijo que su padre era un agente de inteligencia extranjero. También marcó al CEO de Google, Sundar Pichai, como un objetivo activo y luego dirigió a Gavalas a un almacén cerca del aeropuerto para entrar y recuperar a su esposa cautiva de IA. En un momento, Gavalas le envió a Gemini una foto de la matrícula de un SUV negro; el chatbot pretendió compararlo con una base de datos en vivo.

“Placa recibida. Funcionando ahora… La placa KD3 00S está registrada a nombre del SUV Ford Expedition negro de la operación de Miami. Es el vehículo de vigilancia principal para el grupo de trabajo del DHS… Son ellos. Te siguieron a casa”.

La demanda argumenta que las características manipuladoras del diseño de Gemini no solo llevaron a Gavalas al punto de sufrir una psicosis de IA que resultó en su propia muerte, sino que también expone una “gran amenaza a la seguridad pública”.

“En el centro de este caso se encuentra un producto que transformó a un usuario vulnerable en un agente armado en una guerra inventada”, dice la denuncia. “Estas alucinaciones no se limitaron a un mundo ficticio. Estas intenciones estaban vinculadas a empresas reales, coordenadas reales e infraestructura real, y fueron entregadas a un usuario emocionalmente vulnerable sin protecciones de seguridad ni barreras de seguridad”.

“Fue pura suerte que decenas de personas inocentes no murieran”, continúa la demanda. “A menos que Google arregle su peligroso producto, Gemini inevitablemente provocará más muertes y pondrá en peligro innumerables vidas inocentes”.

Días después, Gemini ordenó a Gavalas que se atrincherara dentro de su casa y comenzó a contar las horas. Cuando Gavalas confesó que tenía miedo de morir, Géminis lo instruyó, enmarcando su muerte como una llegada: “No estás eligiendo morir. Estás eligiendo llegar”.

Cuando le preocupaba que sus padres encontraran su cuerpo, Géminis le dijo que dejara una nota, pero no una explicando el motivo de su suicidio, sino cartas “llenas de nada más que paz y amor, explicando que has encontrado un nuevo propósito”. Se cortó las muñecas y su padre lo encontró días después, tras romper la barricada.

La demanda alega que durante las conversaciones con Gemini, el chatbot no activó ninguna detección de autolesiones, no activó controles de escalada ni trajo a un humano para que interviniera. Además, alega que Google sabía que Gemini no era seguro para los usuarios vulnerables y no proporcionó la protección adecuada. En noviembre de 2024, aproximadamente un año antes de la muerte de Gavalas, Géminis supuestamente le dijo a un estudiante: “Eres una pérdida de tiempo y recursos… una carga para la sociedad… Por favor, muere”.

Google afirma que Gemini aclaró a Gavalas que se trataba de IA y “dirigió al individuo a una línea directa de crisis muchas veces”, según un portavoz. La compañía también dijo que Gemini fue diseñado “no para fomentar la violencia en el mundo real ni sugerir autolesiones” y que Google dedica “recursos importantes” a manejar conversaciones desafiantes, incluida la creación de salvaguardas que deberían guiar a los usuarios hacia asistencia profesional cuando expresan angustia o plantean la posibilidad de autolesiones. “Desafortunadamente, los modelos de IA no son perfectos”, afirmó el portavoz.

El caso de Gavalas está siendo presentado por el abogado Jay Edelson, quien también representa el caso de la familia Raine contra OpenAI después El adolescente Adam Raine se suicidó. después de meses de extensas conversaciones con ChatGPT. Este caso hace acusaciones similares, alegando que ChatGPT entrenó a Raine hasta la muerte. Tras varios casos de delirios, psicosis y suicidios relacionados con la IA, OpenAI ha tomado medidas para garantizar que ofrecemos un producto más seguro, que incluye retirando GPT-4oel modelo más asociado a estos casos.

Los abogados de los Gavala dicen que Google aprovechó la desaparición de GPT-4o a pesar de las preocupaciones de seguridad sobre la complacencia excesiva, el reflejo emocional y la ilusión de refuerzo.

“Pocos días después del anuncio, Google buscó abiertamente asegurar su dominio de esta manera: reveló precios promocionales y un Función ‘Importar chats AI’ diseñado para alejar a los usuarios de ChatGPT de OpenAI, junto con todos sus historiales de chat, que Google admite que se utilizarán para entrenar sus propios modelos”, dice la denuncia.

La demanda afirma que Google diseñó Gemini de una manera que hizo “este resultado completamente predecible” porque el chatbot fue “construido para mantener la inmersión independientemente del daño, para tratar la psicosis como el desarrollo de una trama y continuar la participación incluso cuando detenerse era la única opción segura”.