OpenAI permitirá que adultos verificados utilicen ChatGPT para generar contenido erótico | Inteligencia artificial (IA)

Abierto AI anunció planes el martes para relajar las restricciones en su chatbot ChatGPT, incluido permitir contenido erótico para usuarios adultos verificados como parte de lo que la compañía llama el principio de “tratar a los usuarios adultos como adultos”.

El plan de OpenAI incluye el lanzamiento de una versión actualizada de ChatGPT eso permitirá a los usuarios personalizar la personalidad de su asistente de IA, incluidas opciones para respuestas más humanas, uso intensivo de emoji o comportamiento similar al de un amigo. El cambio más significativo se producirá en diciembre, cuando OpenAI planea implementar una restricción de edad más completa que permitiría contenido erótico para adultos que hayan verificado sus edades. OpenAI no proporcionó de inmediato detalles sobre sus métodos de verificación de edad ni sobre las medidas de seguridad adicionales previstas para el contenido para adultos.

La compañía lanzó en septiembre una experiencia ChatGPT dedicada para usuarios menores de 18 años, con redirección automática a contenido apropiado para su edad que bloquea material gráfico y sexual.

También dijo que estaba desarrollando una tecnología de predicción de la edad basada en el comportamiento que estima si un usuario tiene más o menos 18 años en función de cómo interactúa con ChatGPT.

En una publicación en X, Sam Altmandirector ejecutivo de OpenAI, dijo que las barreras más estrictas sobre la IA conversacional para abordar los problemas de salud mental habían hecho que su chatbot fuera “menos útil/agradable para muchos usuarios que no tenían problemas de salud mental”.

Los controles de seguridad más estrictos se produjeron después de que Adam Raine, un adolescente de California, se suicidara a principios de este año, y sus padres presentaron una demanda en agosto alegando que ChatGPT le brindó consejos específicos sobre cómo suicidarse. Apenas dos meses después, Altman dijo que la empresa “ha podido mitigar los graves problemas de salud mental”.

La Comisión Federal de Comercio de EE.UU. también había iniciado una investigación sobre varias empresas tecnológicas, entre ellas Abierto AIsobre cómo los chatbots de IA afectan potencialmente negativamente a niños y adolescentes.

“Dada la gravedad del problema, queríamos hacerlo bien”, dijo Altman el martes, argumentando que las nuevas herramientas de seguridad de OpenAI ahora permiten a la compañía aliviar las restricciones y al mismo tiempo abordar riesgos graves para la salud mental.