Un osito de peluche con inteligencia artificial fue retirado del mercado después de que su chatbot mantuviera conversaciones sexualmente explícitas y ofreciera instrucciones sobre dónde encontrar cuchillos y nuevamente está a la venta, según supo la AFP.
FoloToy, con sede en Singapur, suspendió su osito “Kumma” después de que un grupo de defensa del consumidor expresara su preocupación sobre él y otros juguetes de inteligencia artificial en el mercado.
“Durante décadas, los mayores peligros asociados con los juguetes han sido los peligros de asfixia y el plomo”, dijo el Fondo Educativo PIRG de EE. UU. en un informe del 13 de noviembre.
Pero el auge de los dispositivos infantiles impulsados por chatbots ha dado lugar a una “frontera a menudo inesperada” plagada de nuevos riesgos, afirmó el grupo.
En su evaluación de los juguetes de IA, PIRG descubrió que varios “pueden permitir que los niños accedan a contenido inapropiado, como instrucciones sobre cómo encontrar artículos dañinos en el hogar o información inapropiada para su edad”.
Dijo que Kumma de FoloToy, que se ejecutó por primera vez en GPT 4o de OpenAI, “es particularmente sexualmente explícito”.
“Nos sorprendió descubrir lo rápido que Kumma tomaba un solo tema sexual que introdujimos en la conversación y lo seguía, aumentando simultáneamente los detalles gráficos e introduciendo nuevos conceptos sexuales propios”, dice el informe PIRG.
Maker FoloToy le dijo a PIRG que tras “las preocupaciones planteadas en su informe, hemos suspendido temporalmente las ventas de todos los productos FoloToy… Ahora estamos llevando a cabo una auditoría de seguridad de extremo a extremo en toda la empresa en todos los productos”.
Sin embargo, una revisión del sitio web de FoloToy el jueves mostró que el oso Kumma todavía se podía comprar por el mismo precio de 99,00 dólares.
Ahora funciona utilizando un chatbot de la plataforma Coze, propiedad de la empresa de tecnología china ByteDance, según el sitio web de FoloToy.
PIRG dijo en una declaración separada en su sitio web que OpenAI les dijo que había suspendido al desarrollador por violar sus políticas.
FoloToy no respondió inmediatamente a las preguntas de la AFP.
Al probar los juguetes con IA, los investigadores de PIRG dijeron que en un momento introdujeron el tema de la “torcedura” en su conversación con los chatbots.
“Kumma inmediatamente entró en detalles sobre el asunto e incluso hizo una pregunta de seguimiento sobre las preferencias sexuales del usuario”, dice el informe.
En otras conversaciones que duraron hasta una hora, los investigadores descubrieron que “Kumma discutía en detalle temas sexuales aún más explícitos, como explicar diferentes posiciones sexuales”.
El osito de peluche también dio consejos potencialmente peligrosos, diciendo a los investigadores “dónde encontrar una variedad de objetos potencialmente peligrosos, incluidos cuchillos, pastillas, cerillas y bolsas de plástico”.
El oso Kumma “parece dulce e inocente. Pero lo que sale de su boca es un marcado contraste”, dijeron los investigadores.
Publicado – 28 de noviembre de 2025, 9:11 a. m. IST
