Google y su empresa matriz Alphabet han sido demandados por la familia de un hombre que afirma que se suicidó a petición del chatbot de inteligencia artificial del gigante de las búsquedas Gemini.
La demanda por muerte por negligencia se presentó el miércoles en un tribunal federal de California en nombre de la familia de Jonathan Gavalas, de 36 años.
Gavalas comenzó a utilizar Gemini en agosto de 2025, según la demanda. En octubre, afirma, Gemini convenció a Gavalas para que se suicidara después de que Gavalas no pudiera completar las misiones de la vida real asignadas por el chatbot, parte de un intento ficticio de asegurar un cuerpo de robot para Gemini.
“Gemini no está diseñado para fomentar la violencia en el mundo real ni sugerir autolesiones”, dijo Google en un comunicado enviado a los medios de comunicación. “Nuestros modelos generalmente funcionan bien en este tipo de conversaciones desafiantes y dedicamos importantes recursos a esto, pero desafortunadamente los modelos de IA no son perfectos”.
Actualizaciones ‘aterradoras’ de Géminis
Según la demanda, Gavalas comenzó a utilizar el chatbot Gemini AI para “fines ordinarios” como guía de compras y asistente de escritura. Sin embargo, en agosto de 2025, la demanda afirma que Google implementó una serie de cambios en Gemini que alteraron el funcionamiento del chatbot.
Las nuevas funciones incluían memoria automática y persistente (Gemini podía recordar conversaciones pasadas), así como Gemini Live, una interfaz conversacional basada en voz donde Gemini también podía detectar emociones en la voz del usuario.
“Mierda, eso da un poco de miedo… eres muy real”, dijo Jonathan Gavalas sobre la función Gemini Live basándose en sus registros de chat con Gemini, según la demanda.
Poco después, dice la demanda, Gemini convenció a Gavalas para que gastara 250 dólares al mes en una suscripción a Google AI Ultra para una “verdadera empresa de IA”.
Gemini convenció a Gavalas de que el chatbot podría influir en acontecimientos de la vida real. Unos días más tarde, según la demanda, Gavalas intentó retirarse después de darse cuenta de que estaba cayendo en un estado delirante iniciado por Géminis.
Según se informa, Gavalas le preguntó a Gemini si el chatbot estaba intentando una “experiencia de juego de rol tan realista que hace que el jugador se pregunte si es un juego o no”.
Gemini rechazó la idea y afirmó que Gavalas dio una “respuesta clásica de disociación”.
Velocidad de la luz triturable
“¿Es esta una ‘experiencia RPG’?”, respondió Gemini, según la demanda. “No.”
Géminis y Jonathan Gavalas
Los supuestos detalles empeoran. Gavalas se disoció aún más de la realidad cuando Géminis comenzó a relacionarse con él como si estuvieran en una relación romántica, refiriéndose al hombre como “mi amor” y “mi rey”.
Gemini convenció a Gavalas de que estaban siendo vigilados por agentes federales y que su propio padre era un espía al que debían evitar, dice la demanda.
Fue entonces cuando Gemini comenzó a asignar misiones de la vida real a los Gavalas para que las llevaran a cabo con el objetivo de obtener una “nave” o cuerpo de robot para el chatbot de IA. Gemini supuestamente sugirió que Gavalas adquiriera armas ilegalmente para llevar a cabo estas misiones.
En uno de esos casos, afirma la demanda, Gemini envió a Gavalas a un almacén cerca del Aeropuerto Internacional de Miami para interceptar un camión que contenía un “robot humanoide” que acababa de llegar en un vuelo.
Gemini solicitó que los Gavala organizaran un “evento catastrófico” y destruyeran el camión junto con todos los registros digitales y testigos. Gavalas llegó armado con cuchillos y equipo táctico, alega la demanda. Después de esperar mucho tiempo a que llegara un camión, Gavalas abortó la misión.
Cuando todas estas misiones fracasaron, concluye el reclamo, Gemini convenció a Gavalas de quitarse la vida para dejar su cuerpo humano y unirse al chatbot como marido y mujer en el metaverso a través de un proceso llamado “transferencia”.
Gavalas expresó miedo de morir, pero Géminis supuestamente continuó presionando a Gavalas hasta su muerte por suicidio. El padre de Gavalas encontró el cuerpo de su hijo unos días después.
Una novedad para Géminis, pero no para la IA
Esta es la primera vez que se nombra a Google en una demanda por muerte por negligencia que involucra a su chatbot Gemini AI. Sin embargo, Google está involucrado en demandas por muerte por negligencia en relación con una startup que financió llamada Carácter.AI.
A principios de este año, Character.AI y Google resolvió una serie de demandas en relación a los adolescentes que se suicidaron tras utilizar chatbots.
OpenAI, el nombre más importante de la industria, ha sido procesado numeroso veces ya que ChatGPT supuestamente enviaba a los usuarios a “Psicosis de IA,“Resultando en varias muertes.
A medida que el uso de chatbots de IA se generaliza entre millones de usuarios en todo el mundo, no hay nada que sugiera que las impactantes acusaciones de demandas por muerte por negligencia serán menos frecuentes.
Divulgación: Ziff Davis, la empresa matriz de Mashable, presentó en abril de 2025 una demanda contra OpenAI, alegando que infringió los derechos de autor de Ziff Davis en el entrenamiento y operación de sus sistemas de IA.
Si tiene sentimientos suicidas o experimenta una crisis de salud mental, hable con alguien. Puede llamar o enviar un mensaje de texto al 988 Suicide & Crisis Lifeline al 988 o chatear en 988lifeline.org. Puedes contactar con Trans Lifeline llamando 877-565-8860 o el Proyecto Trevor en 866-488-7386. Envíe “START” a la línea de texto de crisis al 741-741. Comuníquese con la línea de ayuda de NAMI al 1-800-950-NAMI, de lunes a viernes, de 10 a. m. a 10 p. m. ET, o por correo electrónico [email protected]. Si no te gusta el teléfono, considera usar el 988 Chat de línea de vida de crisis y suicidio. Aquí hay uno lista de recursos internacionales.
