El director ejecutivo de OpenAI, Sam Altman, se disculpó con los miembros de una comunidad canadiense. tiroteo masivo Sucedió a principios de este año debido a que la cuenta ChatGPT no estaba marcada tirador a la aplicación de la ley.
“El dolor que ha soportado su comunidad es inimaginable”, escribió Altman en una carta. compartido por el primer ministro de Columbia Británica, David Eby, en las redes sociales el viernes. “He estado pensando en ti a menudo durante los últimos meses”.
Ocho personas murieron en una masacre el 10 de febrero en la pequeña comunidad de Tumbler Ridge en el noreste de Columbia Británica. Seis personas murieron a tiros cuando Jesse Van Rootselaar, de 18 años, abrió fuego en la escuela secundaria Tumbler Ridge, y la madre del pistolero y su hermano de 11 años murieron en una casa cercana, dijeron las autoridades. Las autoridades dijeron que Van Rootselaar murió de una herida de bala autoinfligida.
La cuenta ChatGPT de Van Rootselaar fue prohibida en junio de 2025, unos ocho meses antes del tiroteo, escribió Altman en su carta el jueves.
“Lamento profundamente que no hayamos alertado a las autoridades sobre la cuenta prohibida en junio”, dijo Altman.
En febrero, OpenAI le dijo a CBS News que la cuenta de Van Rootselaar fue marcada el año pasado por herramientas automatizadas de detección de abuso e investigadores humanos que identificaron posibles usos indebidos de ChatGPT para actividades violentas. OpenAI dijo que la cuenta fue prohibida por violar sus políticas de uso.
OpenAI dijo que la compañía sopesó si señalar la cuenta a las autoridades, pero decidió en ese momento que la cuenta no representaba un riesgo inminente y creíble de daño físico grave a otros y no cumplía con el umbral de referencia.
“Nuestros pensamientos están con todos los afectados por la tragedia de Tumbler Ridge”, dijo OpenAI en un comunicado a CBS News en febrero después del ataque. “Nos hemos comunicado de forma proactiva con la Real Policía Montada de Canadá para proporcionar información sobre el individuo y su uso de ChatGPT y continuaremos apoyando su investigación”.
OpenAI dice que ChatGPT está capacitado para disuadir daños en el mundo real y tiene instrucciones de rechazar asistencia cuando detecta intenciones ilegales. Según la compañía, los usuarios que indican planes para dañar a otros son marcados y remitidos a las autoridades, quienes determinan si un caso representa una amenaza inminente de daño físico.
OpenAI seguirá centrándose en los esfuerzos preventivos “para ayudar a garantizar que algo como esto nunca vuelva a suceder”, escribió Altman en su carta.
“Quiero extender mi más sentido pésame a toda la comunidad”, dijo Altman. “Nadie debería tener que soportar una tragedia así”.
A principios de esta semana, el Fiscal General de Florida, James Uthmeier anunciado Investigación criminal sobre OpenAI tras la revisión de mensajes entre ChatGPT y un estudiante de la Universidad Estatal de Florida Acusado del ataque al campus de abril de 2025 Mató a dos personas e hirió a varias más.
Uthmeier dijo que su equipo determinó que ChatGPT ofreció “consejos importantes” al presunto atacante. Su oficina está emitiendo citaciones a OpenAI en busca de registros de los protocolos de la compañía para informar delitos potenciales a las autoridades y sus protocolos para manejar las amenazas de los usuarios.
Con respecto al tiroteo en Florida, un portavoz de OpenAI dijo a CBS News el martes que “al enterarse del incidente”, se identificó una cuenta ChatGPT que se cree que está asociada con el sospechoso y esa información se compartió de manera proactiva con las autoridades.
