Inteligencia artificial Los compañeros se han convertido en la corriente principal entre los adolescentes, según un nuevo informe.
Los hallazgos pueden sorprender a los padres familiarizados con los productos de chatbot de IA como el de Operai’s Chatgpt Y Géminis de Google, pero no ha oído hablar de plataformas que permitan específicamente a los usuarios formar amistades y relaciones románticas con los llamados compañeros de IA.
La última categoría incluye productos como Replika, Nomi, Talkie y personaje. Algunas de las plataformas son para usuarios mayores de 18 años, aunque los adolescentes pueden mentir sobre su edad para obtener acceso.
A Encuesta de representante a nivel nacional De 1.060 adolescentes de 13 a 17 años realizados esta primavera por Common Sense Media, una organización sin fines de lucro de defensa e investigación en los EE. UU., Encontró que el 52 por ciento de los encuestados usan regularmente compañeros de IA. Solo el 28 por ciento de los adolescentes encuestados nunca había usado uno.
Por qué los expertos dicen que los compañeros de IA no son seguros para los adolescentes, todavía
Los adolescentes aún no parecen reemplazar las relaciones humanas “al por mayor” con los compañeros de IA, dijo Michael Robb, jefe de investigación de Common Sense Media. La mayoría todavía pasan más tiempo con amigos humanos y todavía encuentran las conversaciones de persona a persona más satisfactorias.
Pero Robb agregó que hay razón para precaución: “Si miras, hay algunos patrones preocupantes debajo de la superficie”.
Cómo los adolescentes usan compañeros de IA
Un tercio de los adolescentes dijo que se comprometieron con los compañeros de IA para las interacciones y las relaciones sociales, haciendo cosas como jugar a roles y practicar conversaciones. También buscaron apoyo emocional, amistad e interacciones románticas.
En la encuesta, los adolescentes clasificaron el entretenimiento y la curiosidad como razones principales para usar un compañero de IA. Sin embargo, un tercio de los que usan compañeros de IA han optado por usarlos para discutir problemas importantes o serios, en lugar de una persona real. Robb dijo que esta tendencia apunta a posibles desventajas del uso de AI Companion.
Aunque algunas plataformas complementarias de IA comercializan su producto como antídoto contra la soledad o el aislamiento, Robb dijo que la tecnología no debería reemplazar la interacción humana para los adolescentes. Aún así, sin pruebas concluyentes de lo que les sucede a los adolescentes (y adultos) que confían en los compañeros de IA para una conexión vital, las compañías de tecnología aún pueden inclinarse en la idea de que el uso de su producto es mejor que sentirse solo.
“Están felices de llenar ese espacio de conocimiento con una esperanza y una oración”, dijo Robb.
Informe de tendencias de combate
También sospecha que, al igual que con las redes sociales, puede haber algunos jóvenes que se beneficien de practicar ciertas habilidades sociales con un compañero de IA y otros usuarios jóvenes que son más susceptibles a un ciclo de retroalimentación negativo que los hace más solos y ansiosos y menos propensos a construir relaciones fuera de línea.
A Nuevo informe de Internet Mattersuna organización sin fines de lucro de seguridad juvenil en línea con sede en Londres, sugiere que eso ya está sucediendo entre los niños en el Reino Unido que usan compañeros de IA.
Los niños definidos como vulnerables porque tienen discapacidades o necesidades de educación especial, o una condición de salud física o mental, particularmente usan compañeros de IA para la conexión y la comodidad, según los datos de la encuesta recopilados por los asuntos de Internet.
Casi una cuarta parte de los niños vulnerables en la encuesta informaron que usaron chatbots de IA del general porque no podían hablar con nadie más. Estos niños no solo tenían más probabilidades de usar chatbots, sino que también tenían casi tres veces más probabilidades de interactuar con chatbots de IA de estilo compañero.
El informe advirtió que cuando los niños comienzan a usar los chatbots de IA como compañeros, “la línea entre la conexión real y simulada puede desdibujarse”. Eso puede llevar a pasar más tiempo en línea.
A principios de este año, Common Sense Media describió AI Companions como inseguros para adolescentes menores de 18 años. Robb dijo que las compañías tecnológicas deberían establecer medidas de garantía de edad sólidas para evitar que los usuarios de menores de edad accedan a las plataformas complementarias de IA.
Banderas rojas para los padres
Los padres preocupados por el uso de compañeros de IA de su adolescente deben buscar las siguientes banderas rojas, dijo Robb:
Comportamiento que indica que el adolescente está reemplazando las relaciones humanas con las relaciones de IA.
El exceso de tiempo dedicado a las plataformas complementarias de IA, especialmente cuando desplaza actividades como el sueño, el ejercicio y la socialización en persona.
Estallidos emocionales cuando se le niegan el acceso a un compañero de IA.
Robb también sugirió que los padres discuten el uso de AI Companion con su adolescencia, y cualquier preocupación que ambas partes puedan tener. Estas preocupaciones podrían incluir declaraciones o respuestas inquietantes que los compañeros de IA pueden hacer y compartir información personal por parte de un adolescente, incluido su nombre real, ubicación o secretos personales.
Una cuarta parte de los usuarios complementarios de IA encuestados por Common Sense Media dijo que habían comunicado información confidencial a su compañero. Robb dijo que es importante que los adolescentes comprendan que los datos personales a menudo se consideran datos propietarios de propiedad de la plataforma complementaria una vez compartido por el usuario.
Incluso cuando se ha anonimizado, esa información puede ayudar a capacitar al modelo de idioma grande de la compañía. Potencialmente podría aparecer en copias de marketing o escenarios de conversación. En el peor de los casos, los datos personales podrían ser pirateados o filtrados.
Por ejemplo, como informó Anna Iovine de Mashable, 160,000 capturas de pantalla de mensajes directos Entre una aplicación AI “Wingman” y sus usuarios se filtraron gracias a un cubo de almacenamiento de Google Cloud sin protección propiedad de la compañía de la aplicación.
Robb alienta a los padres a establecer límites en torno al uso de AI para sus hijos, como prohibir plataformas específicas o compartir ciertos detalles personales.
“Está totalmente bien que un padre tenga reglas sobre la IA, como la forma en que lo hace con otros tipos de usos de pantalla”, dijo Robb. “¿Cuáles son tus propias líneas rojas como padre?”
