Un consejo tecnológico: OpenAi agrega controles parentales a ChatGPT por seguridad para adolescentes
Londres – Openai dijo el lunes que está agregando controles parentales a ChatGPT que están diseñados para proporcionar a los usuarios adolescentes de la plataforma popular con una experiencia más segura y “apropiada para la edad”.
La compañía está tomando medidas después de que AI Chatbot Safety para usuarios jóvenes ha llegado a los titulares. Los peligros de la tecnología han sido destacados recientemente por varios casos en los que los adolescentes Tomó su vida Después de interactuar con chatgpt.
En los Estados Unidos, la Comisión Federal de Comercio tiene incluso abrió una consulta En varias compañías tecnológicas sobre los posibles daños para niños y adolescentes que usan sus chatbots de IA como compañeros.
En una publicación de blog publicada el lunes, Openai describió los nuevos controles para los padres. Aquí hay un desglose:
Los controles de los padres estarán disponibles para todos los usuarios, pero tanto los padres como los adolescentes necesitarán sus propias cuentas para aprovecharlas.
Para comenzar, un padre o tutor necesita enviar un correo electrónico o mensaje de texto para invitar a un adolescente a conectar sus cuentas. O un adolescente puede enviar una invitación a un padre. Los usuarios pueden enviar una solicitud entrando en el menú Configuración y luego a la sección “Controles parentales”.
Los adolescentes pueden desbloquear sus cuentas en cualquier momento, pero los padres serán notificados si lo hacen.
Una vez que las cuentas están vinculadas, la cuenta adolescente obtendrá algunas protecciones incorporadas, dijo OpenAI.
Las cuentas para adolescentes “obtendrán automáticamente protecciones de contenido adicionales, que incluyen contenido gráfico reducido, desafíos virales, juego de roles sexual, romántico o violento e ideales de belleza extrema, para ayudar a mantener su experiencia apropiada para la edad”, dijo la compañía.
Los padres pueden optar por apagar estos filtros, pero los usuarios adolescentes no tienen la opción.
Operai advierte que tales barandillas “no son infalibles y se pueden pasar por alto si alguien intenta intencionalmente evitarlas”. Aconsejó a los padres que hablaran con sus hijos sobre el “uso saludable de la IA”.
Los padres están obteniendo un panel de control donde pueden ajustar una variedad de configuraciones, así como apagar las restricciones sobre el contenido sensible mencionado anteriormente.
Por ejemplo, ¿su adolescente se mantiene despierto más allá de la hora de acostarse para usar chatgpt? Los padres pueden establecer un momento tranquilo cuando no se puede usar el chatbot.
Otras configuraciones incluyen desactivar la memoria de la IA para que las conversaciones no se puedan guardar y no se usan en respuestas futuras; apagar la capacidad de generar o editar imágenes; apagar el modo de voz; y optar por no tener chats utilizados para entrenar a los modelos de IA de Chatgpt.
Operai también es más proactivo cuando se trata de dejar que los padres sepan que su hijo podría estar en peligro.
Está configurando un nuevo sistema de notificación para informarles cuándo algo podría estar “muy mal” y un usuario adolescente podría estar pensando en dañarse.
Un pequeño equipo de especialistas revisará la situación y, en el raro caso de que haya “signos de angustia aguda”, notificarán a los padres por correo electrónico, mensajes de texto y alerta a su teléfono, a menos que el padre haya optado por no participar.
Operai dijo que protegerá la privacidad del adolescente al compartir solo la información necesaria para los padres o los respondedores de emergencia para proporcionar ayuda.
“Ningún sistema es perfecto, y sabemos que a veces podríamos dar una alarma cuando no hay un peligro real, pero creemos que es mejor actuar y alertar a un padre para que puedan intervenir que para permanecer en silencio”, dijo la compañía.
____
¿Hay algún tema tecnológico que creas que necesita explicar? Escríbanos en oneTechtip@ap.org con sus sugerencias para futuras ediciones de un consejo tecnológico.
