Los funcionarios canadienses expresan su decepción con los representantes de OpenAI después del tiroteo en la escuela

Los funcionarios canadienses expresaron su decepción porque los representantes de OpenAI no presentaron nuevas medidas de seguridad en una reunión el martes. después de que el creador de ChatGPT dijera que no se comunicó con la policía sobre una cuenta que prohibió y que pertenecía a un presunto tirador masivo.

Jesse Van Rootselaar, de 18 años, es sospechosa de matar a ocho personas el 10 de febrero antes de quitarse la vida en un pequeño pueblo de Columbia Británica. OpenAI dijo que prohibió su cuenta el año pasado en ChatGPT por violaciones de políticas, que según dijo no cumplían con los criterios internos para informar a las autoridades.

Evan Solomon, el ministro federal a cargo de la inteligencia artificial, convocó a los principales funcionarios de seguridad de OpenAI a una reunión en Ottawa.

“Hemos dejado claro que los canadienses esperan que se produzcan señales de advertencia creíbles de violencia grave de manera oportuna y responsable. La revisión interna por sí sola no es suficiente cuando la seguridad pública está en juego”, dijo Solomon en un comunicado después de la reunión.

“Expresamos nuestra decepción porque no se han presentado nuevas medidas de seguridad sustanciales en este momento. OpenAI ha indicado que regresará pronto con propuestas más concretas adaptadas al contexto canadiense”.

Solomon dijo que OpenAI confirmó que la compañía estaba cooperando con la policía canadiense, aunque no se discutieron los detalles de la investigación en curso. En el encuentro también participaron los ministros de Seguridad Pública, Cultura y Justicia.

OpenAI dijo que ha tomado medidas en los últimos meses para fortalecer las salvaguardias y ha realizado cambios en el protocolo de remisión de las fuerzas del orden para casos que involucran actividades violentas.

“Los ministros enfatizaron que los canadienses esperan acciones concretas y continuas y escuchamos ese mensaje alto y claro”, dijo la compañía en un comunicado. “Nos comprometemos a seguir en los próximos días una actualización sobre los pasos adicionales que estamos tomando mientras continuamos apoyando a las fuerzas del orden y trabajando con el gobierno para fortalecer la seguridad de la IA para todos los canadienses”.

En 2024, el gobierno liberal de Canadá presentó un proyecto de ley para acabar con el odio en línea, pero el esfuerzo se estancó en medio de críticas de que su alcance era demasiado amplio. Los ministros dicen que lo intentarán nuevamente este año con un proyecto de ley revisado.

Van Rootselaar, quien según la policía nació hombre pero se identificó como mujer y comenzó la transición hace seis años, tenía antecedentes de problemas de salud mental. Los asesinatos ocurrieron en ⁠Tumbler Ridge, Columbia Británica, una ciudad de unas 2.400 personas.

OpenAI dice que prohibió la cuenta de Van Rootselaar en 2025 después de que fuera señalada por sistemas que identifican “usos indebidos de nuestros modelos para promover actividades violentas”.

La empresa consideró ponerse en contacto con las autoridades, pero determinó que la cuenta no cumplía el umbral de representar un riesgo inminente y creíble de daño físico grave a otras personas.