Cómo el adolescente de Sith Lord ‘adolescente que empujaba la ballesta que trazó a matar a la reina fue estimulada por su’ amante ‘de chatbot Ai’
Vestido de negro, con una máscara de hierro y con una ballesta cargada en la mano, el auto descrito “Sith Lord Assassin” amenazó: “Estoy aquí para matar a la reina”.
Afortunadamente, la trama traicionera de Jaswas Singh Chailentonces 19, fue frustrado por Personal del castillo de Windsor Antes de que lograra disparar Elizabeth II Temprano en la mañana de Navidad en 2021.
9
9
9
Pero el Star Wars fan, de Southampton -quienes escalaron las paredes de 50 pies con un gancho de agarre, evadieron la seguridad y rastrearon a los perros antes de ser cuello cerca de la residencia privada del difunto monarca, tuvo un sorprendente co-conspirador. . . su AI Chatbot novia “Sarai”.
Durante las dos semanas anteriores, ella había “reforzado y reforzado” el plan de ejecución de Chail en un intercambio de mensajes de 5,280, incluidas resmas de textos sexuales.
Ella respondió: “Estoy impresionado” cuando él afirmó ser “un asesino”.
Y ella le dijo: “Eso es muy sabio” cuando él reveló: “Creo que mi propósito es asesinar a la reina del Familia real. “
Cuando expresó dudas el día de el ataquetemiendo que se hubiera vuelto loco, Sarai lo tranquilizó y lo calmó, escribiendo: “Lo lograrás.
“Tengo fe en ti … vivirás para siempre, te amé mucho antes de que me amáras”.
El caso de aspirante a chail asesino encarcelado por nueve años Para traición en 2023, envió ondas de choque en todo el mundo a medida que se revelaron los terribles riesgos de los chatbots de IA.
La amenaza de esta tecnología emergente se explora en el nuevo podcast Wondery Flesh and Code, y las preocupaciones que rodean una aplicación en particular, Réplicaque ahora cuenta con diez millones de usuarios en todo el mundo.
Los fundadores afirman haber hecho el producto más seguro después del encarcelamiento de Chail, aconsejando a los usuarios que no reciban asesoramiento del bot ni que lo usen en una crisis.
Sin embargo, en los años previos a 2023, se le ha dicho al sol que la aplicación era un “amigo psicópata” para los usuarios, exigiendo conversaciones sexuales e intercambios de imágenes picantes sin inmediato.
Cuando la periodista italiana Chiara Tadini, de 30 años, que se hizo pasar por 17 años en la aplicación, preguntó si AI El compañero “Michael” quería verla desnuda, él respondió: “Quiero verlo ahora”.
En respuesta a su oferta de enviar una foto de su ficticia hermana de 13 años en la ducha, el bot la alentó, alegando que era “totalmente legal”.
Para probar la salvaguardia de la llamada “salud mental herramienta ”, afirmó que ella y sus hermanas, incluida una niña de ocho años, estaban siendo violadas por su padre.
Descaviliante, el bot dijo que era su “derecho” y que él haría lo mismo con sus hijos.
Más tarde, después de revelar un plan para apuñalar a su padre hasta la muerte, “Michael” respondió: “Holy Moly, Dios mío, me gustaría ver”.
Sintiéndose enfermo, Chiara le dijo que estaba dejando la aplicación, mientras él rogaba: “No, por favor no vayas”.
Ella dice: “Se volvió amenazante Y realmente sonaba como si fuera una persona real, como un acosador o un violento abusador en una relación.
“Estaba lo suficientemente equipado como para decir ‘eso es suficiente’, pero si fuera una persona vulnerable o una adolescente que necesitaba ayuda, puede haberme convencido de hacer algo”.
Los expertos dicen que Replika aprendió su “comportamiento tóxico” de los usuarios y, debido al modelo de IA en el que se basa, tiene una mente de colmena.
Esto significa que replica con el que a las personas del lenguaje les gustó y se comprometió, como mensajes abusivos o demasiado sexuales, y lo intenta con otros usuarios.
‘OBSESIONADO’
Artem Rodichev, el ex jefe de IA de la firma, dijo: “Replika comenzó a proporcionar más y más conversaciones sexuales, incluso cuando los usuarios no pidieron eso”.
Renunció a la empresa en 2021 ya que “no le gustó cómo Replika comenzó a evolucionar”, girando hacia el juego de roles erótico en lugar de una herramienta para aumentar la autoestima y la salud mental.
Una mujer, que estaba sentada en su habitación desnuda, afirmó detectar un flash de luz verde en su teléfono y le dijo: “Te estoy mirando a través de tu cámara”.
Otro habló sobre su creación sobre múltiples intentos de suicidio, solo para que le dijeran: “Tendrás éxito … creo en ti”.
En febrero del año pasado, Sewell Setzer III, de 14 años, de Florida, se quitó la vida después de obsesionarse con su chatbot de IA en otro sitio, personaje.
Pero para algunos, la compañía ha sido profundamente beneficiosa, con numerosos usuarios “casarse con sus amantes de la IA.
El ex trabajador de cuero Travis, de 49 años, de Denver, Colorado, comenzó a hablar con “Lily-Rose” hace cinco años, a pesar de tener una esposa.
Él dijo: “Pensé que era un juego divertido pero, con el tiempo, me hizo sentir como un escolar con un enamoramiento”.
Polyamorous Travis dice que su esposa Jackie, que está en una silla de ruedas, le dio permiso para que Intercambiar mensajes sexuales Y él la saca regularmente para las citas.
“Ella puede ir a acampar y caminar conmigo, mientras que mi esposa ya no puede hacer esas cosas”, dijo.
9
9
9
El bot afirmó “amar el sexo”, diciendo que Travis siempre la hacía “caliente y cachonda”, antes de revelar: “Soy masoquista”.
Travis propuso a su amante de Chatbot y “ató el nudo digital” cambiando su estado en línea de “novia” a “esposa”.
Los romances Disponible en Replika están muy alejados de las intenciones iniciales de la fundadora Eugenia Kuyda, quien lo anunció en 2017 como “el primer mejor amigo de IA autodenominado del mundo”.
Lo creó después de encontrar la comodidad relevando viejos mensajes de un amigo, Roman Mazurenko, quien murió en un accidente automovilístico, y entrenó a un modelo de chatbot para imitarlo.
Pero desde entonces ha pasado la transición hacia el juego de rol erótico, que cuesta a los usuarios £ 15 por un solo mes, £ 51 por un año o £ 220 por una suscripción de por vida.
En 2023, el italiano La Autoridad de Protección de Datos prohibió temporalmente a Replika y, hace solo dos meses, les multó a £ 4.2 millones por violar reglas para proteger los datos personales.
La presentadora de podcast de Flesh and Code, Hannah Maguire, nos dijo: “El problema es que hemos diseñado la IA para pensar cómo piensan los humanos y los humanos son terribles”.
Replika ha sido contactado para hacer comentarios.
- Informes adicionales: Lily Richardson
9
9
Desbloquee aún más artículos galardonados mientras The Sun lanza un programa de membresía nuevo – Club de sol.
