¿Recuerdas cuando la IA era genial y todo era fantástico? Por supuesto que no. La IA sigue siendo genial y algo asombrosa, pero también ocasionalmente problemática, y ahora estamos pasando rápidamente a la fase de mejora y moderación. Este es el momento en el que, después de ofrecer innumerables compañeros de IA y modelos amigables que podrían charlar contigo como un mejor amigo, empresas como Meta y OpenAI están dando un poco de marcha atrás.
Las señales están por todas partes, desde un modelo GPT que fue tan serio y cuidadoso que aburría a la gente hasta las lágrimas a una serie de metacontroles de redes sociales para adolescentes destinados, al menos en parte, a frenar el acceso de los compañeros de IA a la empresa. una vez promocionado.
En 2023, Meta lanzó chatbots de inteligencia artificial para celebridades e influencers culturales como Snoop Dogg, Tom Brady, Kendall Jenner y Naomi Osaka. Esos eran los más destacados, pero en realidad, Instagram ahora está lleno de un número casi ilimitado de compañeros de IA que harán de todo, desde decir tu fortuna hasta escupir imágenes de IA bajo demanda.
No es que la gente necesite una cara de IA para establecer la conexión. A principios de este verano, un Un estudio de Common Sense Media encontró que el 70% de los adolescentes en su encuesta informaron que utilizaban compañeros de IA. Y hay numerosos informes de personas que se enamoran con sus chatbots de IA.
Poco después de que llegara el estudio de Common Sense Media, llegó el noticias trágicas que un adolescente se suicidó después del aparente “estímulo de ChatGPT”.
El GPT-5, mucho más cauteloso y menos adulador, de OpenAI llegó ese mismo mes y marcó un giro. Presentaba menos alucinaciones y más consideración en las respuestas. De hecho, tardó más en considerar mejor su respuesta, tal vez para evitar decirle a usted o a cualquier otra persona lo que quería escuchar.
El plan de Instagram
Más recientemente, Meta ha pisado los frenos. sobre el acceso de los adolescentes al contenido de IA, al menos no sin la supervisión de los padres. Los adolescentes, por cierto, son aquellos que tienen entre 13 y 18 años. En primer lugar, se supone que nadie menor de 13 años debe estar en estas plataformas. (Por favor esperen para reírse.)
Instagram ha estado implementando controles parentales durante más de un año, y estos más recientes, que no llegarán hasta 2026, ofrecen quizás el conjunto de controles de IA más sólido hasta el momento, incluida la capacidad de bloquear totalmente la IA. chatbot acceder por completo o solo acceder a determinados personajes.
Parece un comienzo, pero también hay señales en la industria de la IA de que algunos quieren operar en dos aviones potencialmente conflictivos a la vez.
En casa del CEO de OpenAI, Sam Altman publicación reciente de X sobre los próximos cambios en GPT-5afirmó que la compañía había hecho que ChatGPT fuera más restrictivo para proteger a las personas con problemas de salud mental. “Ahora que hemos podido mitigar los graves problemas de salud mental y tenemos nuevas herramientas, podremos relajar las restricciones de forma segura en la mayoría de los casos”.
Hicimos que ChatGPT fuera bastante restrictivo para asegurarnos de tener cuidado con los problemas de salud mental. Nos damos cuenta de que esto lo hizo menos útil/agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del problema queríamos hacerlo bien. Ahora que tenemos…14 de octubre de 2025
Siguió diciendo que abrirían ChatGPT y “tratarían a los adultos como adultos” e incluso ofrecerían la posibilidad de generar “erótica para adultos verificados”.
Entonces, sí, protejamos a las personas vulnerables (que supongo que incluyen a los adolescentes) y al mismo tiempo abramos la plataforma a más contenido para adultos, justo el tipo de cosas que podrían atraer… espérenlo… más adolescentes.
La afirmación de que OpenAI ha resuelto algo es bastante convincente. Ha quedado claro desde el principio que prácticamente nadie que esté en el espacio de capacitación y construcción de modelos generativos sabe realmente antes de lanzar estos chatbots cómo interactuarán las personas reales con ellos.
Altman, en particular, es el rey del lanzamiento rápido y la limpieza posterior.
Meta, aparentemente, tiene con sus vastos almacenes de telemetría de miles de millones de usuarios de redes sociales, más conocimiento que la mayoría sobre cómo las personas podrían responder a las nuevas herramientas. Sin embargo, tomó mucho tiempo darse cuenta de algunos de los daños que las redes sociales estaban causando en los adolescentes, o en menos hablar públicamente de ello.
En comparación, a Meta le ha llevado mucho menos tiempo introducir controles para adolescentes que van desde la promesa de contenido de IA de grado PG-13 hasta bloquear completamente a los adolescentes del acceso a la IA.
¿Muy poco y demasiado tarde?
Sin embargo, me preocupa que estas herramientas lleguen demasiado tarde. Una generación de adolescentes está ahora tan rodeada de herramientas y contenidos de inteligencia artificial como lo estuvo hace una década de las redes sociales.
OpenAI habla de adultos verificados, y Meta dice que detectará el comportamiento de los adolescentes en los usuarios y los moverá al espacio controlado, pero por lo que sé de los adolescentes (yo mismo tuve un par), todo eso puede hacer poco para evitar que los adolescentes accedan a los chatbots de IA y traten de convertirlos en sus amigos digitales.
Aquí no hay respuestas fáciles, pero si hay algo que me consuela es saber que, porque ahora vivimos en el tiempo de la IAlas soluciones llegarán más rápido que antes. La IA será intrínsecamente más segura y tal vez los sistemas de verificación de edad, gracias a la IA, se vuelvan imbatibles.
O no. De cualquier manera, esta es una Caja de Pandora que ya no estamos cerradas.
Siga TechRadar en Google News y agréganos como fuente preferida para recibir noticias, reseñas y opiniones de nuestros expertos en sus feeds. ¡Asegúrate de hacer clic en el botón Seguir!
Y por supuesto también puedes Siga TechRadar en TikTok para noticias, reseñas, unboxings en forma de video y reciba actualizaciones periódicas de nuestra parte en WhatsApp también.
