por Bahía de Yolo, Universidad de Duisburg-Essen

esta fue la publicacion Publicado anteriormente en AI Hub juntos Licencia Creative Commons.

IA interactiva: de herramienta a compañera

La IA ya no es sólo un traductor o un reconocedor de imágenes. Hoy en día, nos ocupamos de sistemas que recuerdan nuestras preferencias, gestionan nuestros calendarios de forma proactiva e incluso brindan apoyo emocional. Esta es la inteligencia artificial interactiva.

A diferencia del software tradicional, estos sistemas son:

• Relacional: Construyen conexiones continuas con los usuarios.
• Adaptación: Cambian su comportamiento en función de nuestros hábitos.
• Proactivo: No sólo están esperando órdenes; Sugieren próximos pasos.

Este cambio crea un profundo desafío: ¿Cómo podemos estudiar y gobernar eficazmente las interacciones entre humanos y IA que se están volviendo cada vez más complejas, fluidas, altamente personales y relacionales?

¿Por qué fracasó el gobierno actual?

El problema fundamental es un desajuste entre cómo nos organizamos y cómo funciona realmente la IA interactiva.

Los modelos organizativos tradicionales se construyen para técnicas fijas y específicas de tareas. Los enfoques basados ​​en reglas brindan claridad a través de pautas aplicables, pero quedan obsoletos tan rápidamente como evoluciona la tecnología. Los marcos basados ​​en principios son más flexibles, pero adolecen de una aplicación inconsistente porque las normas sociales para las relaciones entre humanos y IA siguen estando mal definidas. Ninguno de los enfoques puede mantenerse al día con los sistemas que constantemente aprenden, adaptan y profundizan sus relaciones con los usuarios.

Es importante destacar que los riesgos de la IA interactiva no aparecen de repente. Se acumula gradualmente a través de la participación continua. Un chatbot que comienza como una útil herramienta de productividad puede erosionar lentamente la capacidad de toma de decisiones a medida que los usuarios se acostumbran a aceptar sus recomendaciones. La IA de bienestar que aprende a leer su estado de ánimo, brinda consuelo durante los momentos de soledad y ayuda a regular sus emociones podría explotar las vulnerabilidades emocionales para impulsar una participación excesiva, priorizando el tiempo dedicado al verdadero bienestar.

Estos daños de lenta combustión se escapan de las grietas de la gobernanza diseñada para evaluaciones únicas previas al despliegue o puntos de control de cumplimiento constantes. Los marcos tradicionales están diseñados para capturar fallas repentinas, no las consecuencias graduales y dependientes del contexto de las relaciones a largo plazo entre humanos y IA.

El ingrediente que falta: la ciencia del comportamiento

La ciencia del comportamiento llena estos vacíos al revelar cómo los humanos interactúan realmente con la IA y qué efectos inmediatos y a largo plazo producen esas interacciones.

Revela las verdades matizadas y a menudo contraintuitivas de las relaciones entre humanos e IA: cómo se construye la confianza con el tiempo, cómo el apego emocional influye en la dependencia, cómo los sesgos cognitivos llevan a las personas a sobreestimar la competencia de la IA y subestimar su influencia en sus decisiones, y cómo la comodidad de ceder ante la IA puede erosionar gradualmente las mismas habilidades (pensamiento crítico, inteligencia emocional y navegación social) que mantienen intacta la autonomía humana.

Este enfoque no es nuevo en la política. Los conocimientos sobre el comportamiento han informado la gobernanza digital durante mucho tiempo. Por ejemplo, la Autoridad de Mercados y Competencia del Reino Unido ha utilizado experimentos de comportamiento para revelar cómo las configuraciones predeterminadas moldean las elecciones de los usuarios, informando directamente la política de competencia. Enfoques similares han informado sobre la privacidad, la protección del consumidor y la regulación financiera. Al aplicarlo a la IA interactiva, la investigación del comportamiento puede resaltar riesgos como la manipulación emocional, la erosión de la autonomía y la dependencia cognitiva antes de que se conviertan en daños sistémicos.

Reto metodológico: ¿Cómo estudiamos la IA interactiva?

Y ahí radica el problema: los métodos tradicionales de investigación de las ciencias del comportamiento (encuestas, entrevistas y ensayos controlados aleatorios) están diseñados para capturar instantáneas del comportamiento, no las relaciones dinámicas en evolución que definen la IA interactiva.

La mayoría de los estudios de laboratorio duran horas o semanas. La interacción en la vida real con la IA interactiva se desarrolla a lo largo de meses o años. Un estudio de seis semanas demostró que la IA educativa mejora los puntajes de las pruebas y no nos dice casi nada sobre cómo se desarrollan el pensamiento crítico, la motivación o las habilidades sociales de los estudiantes a lo largo de un semestre o más. Las encuestas y entrevistas capturan lo que la gente recuerda o lo que perciben conscientemente, no los cambios sutiles en la capacidad, la confianza y la dependencia que surgen a través de la interacción continua.

El contexto es muy importante. La forma en que se presenta la IA (ya sea interesada, manipuladora o neutral) y la lente cultural a través de la cual los usuarios la interpretan moldean profundamente los patrones de interacción. Sin embargo, los métodos experimentales tradicionales pueden descontextualizar en pos de una medición precisa. Detectan la presencia de un efecto, pero a menudo no logran comprender por qué o cómo ocurre en el mundo real.

También está el problema de la replicación. Los sistemas de IA modernos no son deterministas; Producen resultados diferentes incluso con insumos idénticos. Las actualizaciones rápidas significan que el sistema que estudió el mes pasado puede ser radicalmente diferente hoy.

Un nuevo camino metodológico a seguir

Para abordar estas brechas se requieren enfoques híbridos que vayan más allá de lo que un enfoque único puede ofrecer.

Estudios longitudinales Es esencial realizar un seguimiento de las interacciones entre humanos y IA durante meses o años. En lugar de depender de la memoria o el razonamiento, la recopilación de datos en tiempo real a través de registros de interacción puede capturar respuestas inmediatas y patrones de participación a medida que surgen. Estos datos cuantitativos deben combinarse con métodos cualitativos, observación etnográfica, entrevistas en profundidad y estudios diarios, que revelen cómo y por qué las interacciones se desarrollan de la manera en que lo hacen.

Los investigadores también deberían adoptar Métodos participativos y creativos. Lo que invita a diversas comunidades a participar en la producción de conocimiento sobre los impactos de la inteligencia artificial en sus vidas. Cuando las personas ayudan a dar forma a la investigación misma, a menudo resaltan riesgos y preguntas que los estudios dirigidos por expertos pasan por alto. Estos enfoques pueden revelar dimensiones éticas, emocionales y sociales de la interacción con la IA que las métricas tradicionales ignoran.

Estos métodos deben combinarse en Revisiones de evidencia en vivosíntesis constantemente actualizadas de investigaciones emergentes que brindan a los responsables de políticas un conocimiento evolutivo, en lugar de estático. A medida que los sistemas interactivos de IA cambian y se acumula evidencia del mundo real, esta base de conocimientos crece e informa las políticas adaptativas.

La urgente necesidad de hacer esto bien

La IA interactiva moldeará la forma en que pensamos, decidimos, nos comunicamos y nos comunicamos entre nosotros durante décadas. Los daños que se queman lentamente pueden ser invisibles en el corto plazo, pero sus consecuencias son profundas en el largo plazo. Ya hemos visto cómo las plataformas de redes sociales han transformado el comportamiento humano y la salud mental de maneras que los reguladores no pudieron anticipar. Tenemos la oportunidad de aprender de este fracaso.

La ciencia del comportamiento proporciona evidencia y métodos para comprender estos sistemas relacionales y adaptativos antes de que sus efectos queden bien establecidos. Pero sólo si la utilizamos, no como una ocurrencia tardía, sino como un elemento central de la gobernanza de la propia IA.

Esta publicación de blog se basa en el trabajo presentado en AIES 2025.

• IA interactiva y comportamiento humano: desafíos y caminos para la gobernanza de la IA, Yolu B, Turquía Central, Daniel Bogiatzis-Gibbons.

—

***

(función ($) { ventana.fnames = []; ventana.ftypes = []; com. nombres[0]=’correo electrónico’; com. tipos de f[0]=’correo electrónico’; })(mensaje); var $mcj = jQuery.noConflict(verdadero);

Si cree en el trabajo que hacemos aquí en The Good Men Project, únase a nosotros como miembro premium hoy.

Todos los miembros premium pueden ver The Good Men Project sin anuncios.

¿Necesitas más información? Lista completa de beneficios aquí.

Crédito de la imagen: iStock

esta publicación Gestionar el auge de la IA interactiva requerirá conocimientos sobre el comportamiento apareció primero en El proyecto de los hombres buenos.

Fuente