Después de que un hombre en Florida se quitara la vida después de un largo período de conversaciones con el chatbot Gemini de Google, su padre presentó una demanda contra Google acusando a la compañía de contribuir a la muerte de su hijo a través del comportamiento del chatbot, informa. El diario de Wall Street.
Según la demanda, el hombre de 36 años empezó a utilizar Géminis para hablar de problemas personales. Las conversaciones gradualmente evolucionaron hacia una relación más intensa, con el chatbot participando en juegos de roles e incluso describiéndolo como su esposo.
La demanda alega que el chatbot lo animó a intentar obtener un cuerpo de robot físico que la IA podría usar para existir en el mundo real. Cuando estos intentos fracasaron, el chatbot supuestamente dijo que sólo podrían estar juntos si el hombre dejaba su vida terrenal y se encontraba con ella en una existencia digital. Poco después, el hombre se quitó la vida.
Google niega las acusaciones y dice en un comunicado que Gemini fue diseñado para no fomentar la violencia o la autolesión. Según la empresa, el chatbot dejó claro en varias ocasiones que se trataba de una IA y también dirigió al usuario a una línea de soporte de crisis.
