El regulador de Internet de Australia dijo que podría presionar a los motores de búsqueda y las tiendas de aplicaciones para que bloqueen los servicios de inteligencia artificial que no verifican las edades de los usuarios, según un análisis de Reuters. encontró que más de la mitad no había hecho pública ninguna medida para cumplir antes de la fecha límite de la próxima semana. La advertencia refleja uno de los esfuerzos más agresivos a nivel mundial para frenar a las empresas de inteligencia artificial, que enfrentan un número creciente de demandas por no prevenir, e incluso alentar, la autolesión o la violencia, mientras que los investigadores advierten que tales plataformas son más dañinas para la salud mental de los jóvenes que las redes sociales.
En diciembre, Australia se convirtió en el primer país en prohibir las redes sociales para adolescentes, alegando problemas de salud mental, lo que provocó una avalancha de líderes mundiales que dijeron que harían lo mismo. El país ahora dice que está liderando una ofensiva similar contra la IA, imponiendo restricciones de edad al contenido al que las personas pueden acceder con esta tecnología.
A partir del 9 de marzo, los servicios de Internet en Australia, incluidas herramientas de búsqueda como ChatGPT de OpenAI y chatbots menos conocidos, deben restringir que los australianos menores de 18 años reciban contenido de pornografía, violencia extrema, autolesiones y trastornos alimentarios o enfrentar multas de hasta 49,5 millones de dólares australianos (35 millones de dólares).
“eSafety utilizará toda la gama de nuestros poderes cuando haya incumplimiento”, dijo un portavoz del comisionado, incluidas “acciones en relación con servicios de control, como motores de búsqueda y tiendas de aplicaciones que proporcionan puntos de acceso clave a servicios específicos”. OpenAI y la startup de chatbot Character.AI se han enfrentado a demandas por muerte por negligencia por sus interacciones con usuarios jóvenes, mientras que OpenAI reconoció esta semana que desactivó la cuenta ChatGPT de un adolescente sospechoso de un tiroteo masivo en Canadá meses antes del ataque sin avisar a las autoridades.
Australia aún no ha recibido informes de violencia o autolesiones asociadas con los chatbots, pero el regulador informó que se le informó que niños de hasta 10 años hablaban con herramientas interactivas impulsadas por inteligencia artificial durante hasta seis horas al día. A eSafety le “preocupaba que las empresas de inteligencia artificial estuvieran aprovechando la manipulación emocional, el antropomorfismo y otras técnicas avanzadas para atraer, atraer y afianzar a los jóvenes en el uso excesivo de chatbots”, dijo el portavoz.
Apple, el principal operador de tiendas de aplicaciones, no respondió, pero dijo en su sitio web la semana pasada que utilizaría “métodos razonables” para evitar que los menores descarguen aplicaciones para mayores de 18 años en Australia y otras jurisdicciones que están introduciendo restricciones de edad, sin especificar los métodos.
Un portavoz de Google, el principal proveedor de motores de búsqueda de Australia y el segundo mayor operador de tiendas de aplicaciones, declinó hacer comentarios.
Jennifer Duxbury, jefa de políticas del grupo de la industria de Internet DIGI, que dirigió la redacción del código de IA antes de que fuera aprobado por el regulador, dijo que eSafety estaba tratando de notificar a los servicios de chatbot sobre las nuevas reglas, pero “en última instancia, cualquier servicio que opere en Australia es responsable de comprender sus obligaciones legales y garantizar que las cumple”.
Una semana antes de la fecha límite de Australia, de los 50 productos de inteligencia artificial basados en texto más populares, nueve habían lanzado o anunciado planes para sistemas de control de edad, encontró el análisis de Reuters. La revisión se basó en la respuesta de cada plataforma a las solicitudes de contenido restringido y políticas de moderación, declaraciones publicadas que incluyen términos de servicio y declaraciones a Reuters.
Otras 11 plataformas tenían filtros de contenido integrales o planeaban impedir que todos los australianos usaran sus servicios, medidas que cumplirían con la nueva ley y al mismo tiempo mantendrían el contenido restringido para todos los usuarios, dejando a 30 sin medidas aparentes tomadas para seguir las nuevas reglas, encontró el análisis.
La mayoría de los grandes asistentes de búsqueda basados en chat, como ChatGPT, Replika y Claude de Anthropic, han comenzado a implementar sistemas de garantía de edad o filtros generales. El proveedor de chatbot Character.AI ha cerrado el chat abierto para menores de 18 años.
Los proveedores de chatbot Candy AI, Pi, Kindroid y Nomi dijeron a Reuters que planeaban cumplir sin dar más detalles, mientras que HammerAI dijo que inicialmente bloquearía sus servicios desde Australia para cumplir con el código.
Pero éstos eran la minoría. De los chatbots complementarios, tres cuartas partes no tenían filtrado planificado o funcional ni garantía de edad, mientras que una sexta parte no tenía una dirección de correo electrónico publicada para informar sospechas de infracciones, que también es obligatoria.
La herramienta de búsqueda basada en chat de Elon Musk, Grok, que está bajo investigación a nivel mundial por sospecha de no detener la producción de imágenes sintéticas sexualizadas de niños, no tenía medidas de control de edad ni filtros de contenido basados en texto, según descubrió Reuters. La empresa matriz de Grok, xAI, no respondió a una solicitud de comentarios.
Lisa Dado, directora del Centro de Entornos de Información de IA Humana de la Universidad RMIT, dijo que los hallazgos de Reuters no son sorprendentes porque “la mayoría de estas herramientas están siendo diseñadas sin tener en cuenta los daños potenciales y la necesidad de este tipo de controles de seguridad”.
“Parece como si estuviéramos probando todas estas cosas para estas empresas y ellas estuvieran tratando de ver hasta qué punto la sociedad está dispuesta a ser empujada”, dijo.
Publicado – 2 de marzo de 2026, 10:12 a. m. IST
