Operai Bans sospecha de cuentas vinculadas a China para buscar propuestas de vigilancia
Foto del archivo: Openai dijo que ha prohibido varias cuentas de ChatGPT con sospechas de enlaces a las entidades gubernamentales chinas después de que los usuarios solicitaron propuestas para monitorear las conversaciones en las redes sociales. | Crédito de la foto: Reuters
Openai dijo el martes que ha prohibido varias cuentas de ChatGPT con presuntos enlaces a las entidades gubernamentales chinas después de que los usuarios solicitaron propuestas para monitorear las conversaciones en las redes sociales.
En su último informe de amenaza pública, OpenAi dijo que algunas personas le habían pedido a su chatbot que describiera las herramientas de “escucha” de las redes sociales y otros conceptos de monitoreo, violando la política de seguridad nacional de la startup.
El informe de la firma con sede en San Francisco plantea preocupaciones de seguridad sobre el uso indebido potencial de la IA generativa en medio de una creciente competencia entre los Estados Unidos y China para dar forma al desarrollo y las reglas de la tecnología.
Operai dijo que también prohibió varias cuentas en el idioma chino que usaban ChatGPT para ayudar a las campañas de phishing y malware y le pidió al modelo que investigara la automatización adicional que podría lograrse a través de Deep Speeek de China.
La embajada china en los Estados Unidos no respondió de inmediato a una solicitud de comentarios sobre el informe.
También prohibió las cuentas vinculadas a los presuntos grupos criminales de habla rusa que usaron el chatbot para ayudar a desarrollar cierto malware, dijo OpenAI.
La startup respaldada por Microsoft ha interrumpido e informado más de 40 redes desde que comenzó los informes de amenazas públicas en febrero del año pasado y sus modelos rechazaron las indicaciones abiertamente maliciosas, agregó la compañía de IA.
“No encontramos evidencia de nuevas tácticas o que nuestros modelos proporcionaron a los actores de amenaza con nuevas capacidades ofensivas”, dijo la compañía en el informe.
Operai, que ahora tiene más de 800 millones de usuarios semanales de ChatGPT, se convirtió en la startup más valiosa del mundo con una valoración de $ 500 mil millones después de completar una venta secundaria de acciones la semana pasada.
Publicado – 08 de octubre de 2025 09:38 AM es
