Sam Altman dice que ChatGPT pronto permitirá contenido erótico para usuarios adultos

El director ejecutivo de OpenAI, Sam Altman, anunció en un publicar en X El martes, la compañía pronto relajará algunas de las restricciones de seguridad de ChatGPT, permitiendo a los usuarios hacer que las respuestas del chatbot sean más amigables o más “humanas” y que los “adultos verificados” participen en conversaciones eróticas.

“Hicimos que ChatGPT fuera bastante restrictivo para asegurarnos de que tuviéramos cuidado con los problemas de salud mental. Nos damos cuenta de que esto lo hizo menos útil/agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del problema, queríamos hacerlo bien”, dijo Altman. “En diciembre, a medida que implementemos la restricción de edad de manera más completa y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como contenido erótico para adultos verificados”.

El anuncio es un giro notable en el esfuerzo de meses de OpenAI para abordar las relaciones preocupantes que algunos usuarios mentalmente inestables han desarrollado con ChatGPT. Altman parece declarar una victoria temprana sobre estos problemas, afirmando que OpenAI ha “pudo mitigar los graves problemas de salud mental” en torno a ChatGPT. Sin embargo, la compañía ha proporcionado poca o ninguna evidencia de esto y ahora sigue adelante con sus planes para que ChatGPT participe en chats sexuales con usuarios.

Este verano surgieron varias historias preocupantes en torno a ChatGPT, específicamente su modelo GPT-4o, lo que sugiere que el chatbot de IA podría llevar a los usuarios vulnerables a madrigueras delirantes. En un caso, ChatGPT pareció convencer a un hombre de que era un genio de las matemáticas que necesitaba salvar el mundo. En otro, los padres de un adolescente demandaron a OpenAIalegando que ChatGPT alentó las ideas suicidas de su hijo en las semanas previas a su muerte.

En respuesta, OpenAI lanzó una serie de características de seguridad para abordar la adulación de la IA: la tendencia de un chatbot de IA a enganchar a los usuarios al aceptar todo lo que dicen, incluso los comportamientos negativos.

Lanzamiento de OpenAI GPT-5 en agosto, un nuevo modelo de IA que muestra tasas más bajas de adulación y cuenta con un enrutador que puede identificar el comportamiento preocupante del usuario. Un mes después, OpenAI lanzó funciones de seguridad para menores, incluido un sistema de predicción de la edad y una forma de padres controlar la cuenta ChatGPT de sus hijos adolescentes. OpenAI anunció el martes la formación de un consejo de expertos de profesionales de la salud mental para asesorar a la empresa en materia de bienestar e IA.

Apenas unos meses después de que surgieran estas preocupantes historias, OpenAI parece pensar que los problemas de ChatGPT relacionados con los usuarios vulnerables están bajo control. No está claro si los usuarios siguen cayendo en delirantes madrigueras de conejo con GPT-5. Y aunque GPT-4o ya no es el predeterminado en ChatGPT, el modelo de IA todavía está disponible hoy y lo utilizan miles de personas.

OpenAI no respondió a la solicitud de comentarios de TechCrunch.

La introducción del erotismo en ChatGPT es un territorio desconocido para OpenAI y genera preocupaciones más amplias sobre cómo los usuarios vulnerables interactuarán con las nuevas funciones. Si bien Altman insiste en que OpenAI no maximiza el uso ni optimiza la participación, hacer que ChatGPT sea más erótico ciertamente podría atraer a los usuarios.

Permitir que los chatbots participen en juegos de roles románticos o eróticos ha sido una estrategia de participación eficaz para otros proveedores de chatbots de IA, como Character.AI. La empresa ha ganado decenas de millones de usuarios, muchos de los cuales utilizan sus chatbots a un ritmo elevado. Character.AI dijo en 2023 que los usuarios gastaron un promedio de dos horas al dia hablando con sus chatbots. La empresa también es enfrentando una demanda sobre cómo maneja a los usuarios vulnerables.

OpenAI está bajo presión para hacer crecer su base de usuarios. Si bien ChatGPT ya es utilizado por 800 millones de usuarios activos semanales, OpenAI está compitiendo contra Google y Meta para crear productos de consumo impulsados ​​por IA de adopción masiva. La compañía también ha recaudado miles de millones de dólares para una construcción histórica de infraestructura, una inversión que OpenAI eventualmente deberá devolver.

Mientras que los adultos son seguramente teniendo relaciones románticas con chatbots de IAtambién es bastante popular entre los menores. Un nuevo informe del Centro para la Democracia y la Tecnología encontró que 19% de los estudiantes de secundaria ha tenido una relación romántica con un chatbot de IA o conoce a un amigo que la tiene.

Altman dice que OpenAI pronto permitirá el erotismo para “adultos verificados”. No está claro si la compañía confiará en su sistema de predicción de edad, o en algún otro enfoque, para controlar la edad de las funciones eróticas de ChatGPT. Tampoco está claro si OpenAI extenderá el erotismo a sus herramientas de generación de voz, imágenes y videos de IA.

Altman afirma que OpenAI también está haciendo que ChatGPT sea más amigable y erótico debido al principio de la compañía de “tratar a los usuarios adultos como adultos”. Durante el último año, OpenAI ha evolucionado hacia una estrategia de moderación de contenido más indulgente para ChatGPT, lo que permite que el chatbot sea más permisivo y ofrezca menos rechazos. En febrero, OpenAI se comprometió a representar más puntos de vista políticos en ChatGPT, y en marzo, la compañía actualizó ChatGPT para permitir Imágenes de símbolos de odio generadas por IA.

Estas políticas parecen ser un intento de hacer que la respuesta de ChatGPT sea más popular entre una amplia variedad de usuarios. Sin embargo, los usuarios vulnerables de ChatGPT pueden beneficiarse de salvaguardas que limitan lo que puede interactuar con un chatbot. A medida que OpenAI se acerca a los mil millones de usuarios activos semanales, la tensión entre el crecimiento y la protección de los usuarios vulnerables sólo puede crecer.