El sospechoso en tiroteo masivo en Tumbler RidgeEn Columbia Británica, Jesse Van Rootselaar, advirtió a los empleados de OpenAI meses antes del tiroteo. En junio pasado, Jesse tuvo conversaciones con ChatGPT sobre descripciones de violencia armada que activaron el sistema de revisión automatizado del chatbot. Varios empleados planteó preocupaciones que sus publicaciones podrían ser un precursor de la violencia en el mundo real y alentaron a los líderes de la empresa a contactar a las autoridades, pero finalmente se negaron.
La portavoz de OpenAI, Kayla Wood, dijo a The Verge que, si bien la compañía consideró remitir la cuenta a las autoridades, finalmente decidió que no constituía un “riesgo inminente y creíble” de daño a terceros. Wood dijo que una revisión de los registros no indicó que hubiera una planificación activa o inminente de violencia. La empresa prohibió la cuenta de Rootselaar pero no parece haber tomado ninguna otra medida de precaución.
Wood dijo: “Nuestros pensamientos están con todos los afectados por la tragedia de Tumbler Ridge. Nos hemos puesto en contacto de manera proactiva con la Real Policía Montada de Canadá con información sobre el individuo y su uso de ChatGPT, y continuaremos apoyando su investigación”.
El 10 de febrero, nueve personas murieron y 27 resultaron heridas, incluido Rootselaar, en el tiroteo masivo más mortífero en Canadá desde 2020. Rootselaar fue encontrado muerto en el sitio de la escuela secundaria Tumbler Ridge por una aparente herida de bala autoinfligida, donde ocurrieron la mayoría de los asesinatos.
La decisión de no alertar a las fuerzas del orden puede parecer equivocada en retrospectiva, pero Wood dijo que el objetivo de OpenAI es equilibrar la privacidad con la seguridad y evitar introducir daños no deseados mediante un uso demasiado amplio de referencias a las fuerzas del orden.
Actualizado el 21 de febrero: Se agregó la declaración OpenAI.
