¿Necesitábamos siquiera IA generativa?

Bienvenido de nuevo. Esta semana entrevisto Erik Brynjolfssonprofesor, autor y miembro principal del Instituto Stanford para la Inteligencia Artificial Centrada en el Humano.

Últimamente he estado pensando en cómo la dependencia de la trayectoria da forma a la forma en que se desarrolla la tecnología. Internet y la energía nuclear, por ejemplo, tienen sus orígenes en proyectos de defensa. El propio Silicon Valley nació del auge de la electrónica de la era de la guerra fría. Incluso hoy en día, los efectos de la red continúan guiando el desarrollo de aplicaciones y hardware en los ecosistemas dominantes de iOS y Android.

Esta línea de pensamiento me trajo de vuelta a una Intercambio de economistas del FT Lo hice con Brynjolfsson el año pasado, donde habló sobre el “Trampa de Turing”- su teoría sobre cómo surgió la inteligencia artificial humana.

El concepto surge del “Prueba de Turing” propuesto por el matemático e informático Alan Turing en 1950 para determinar si una máquina exhibe un comportamiento inteligente indistinguible de un humano, basándose en una conversación.

Brynjolfsson sostiene que inspiró a generaciones de investigadores a replicar nuestro pensamiento en máquinas. Pero a medida que la IA generativa, sustentada en grandes modelos de lenguaje, comienza a lograrlo, dice que este podría haber sido el objetivo equivocado desde el principio.

Sugiere que estaríamos mejor si la IA (y la tecnología en general) se centraran en aumentar las especialidades humanas y en hacer cosas que nosotros no podemos. (Esto se hace eco de la teoría de la ventaja comparativa en el comercio internacional de David Ricardo.) En cambio, la imitación corre el riesgo de crear una trampa.

Algunas aplicaciones de IA de generación son el resultado de nuestra tendencia a recompensar a los sistemas por imitar y reemplazar a los humanos en tareas existentes, en lugar de desbloquear capacidades nuevas y complementarias.

Esto inclina la tecnología hacia la sustitución de mano de obra, aumentando la productividad pero concentrando las ganancias entre quienes controlan la tecnología y el capital. La “trampa” tiene que ver con esta concentración de poder económico, que crea poder político. Esto puede dejar a otros sin posibilidad de cambiar el sistema.

Puede fijar un límite demasiado bajo al crecimiento. Imagínese si Henry Ford se hubiera propuesto simplemente igualar a los humanos: un vehículo que pudiera caminar o correr tan rápido como un humano.

Los LLM ya están complementando a los humanos en áreas como la búsqueda y el análisis. Pero los avances recientes, por ejemplo, en aplicaciones que crean anuncios y películas a partir de texto simple, han generado preocupación entre algunos profesionales de que la tecnología se utilice para reemplazarlos por completo.

Es importante reflexionar si la emulación de las ventajas comparativas humanas, como en los campos creativos, es un uso y un objetivo de la tecnología que vale la pena, sobre todo porque hemos creado estructuras que refuerzan el impulso hacia el mimetismo.

La imitación es atractiva, no sólo culturalmente, sino porque nuestras instituciones fomentan la automatización. El hecho de que un ser humano pueda realizar una tarea proporciona una “prueba de existencia”, lo que hace que la imitación sea un punto de referencia más natural, un tema de tesis más seguro y una propuesta de subvención más clara. Crear una capacidad completamente nueva requiere mucha más creatividad.

En los negocios, los gerentes consideran que la reducción de la plantilla es fácil de medir y traslada las rentas de los trabajadores a los propietarios del capital. Eso da a los propietarios de capital incentivos excesivos para automatizar y a los débiles para complementar, dadas las externalidades de la innovación y el impulso al poder de negociación de los trabajadores.

Los formuladores de políticas amplifican la inclinación: en la mayoría de los países los impuestos son más bajos para el capital que para el trabajo. Si bien tanto la automatización como el aumento pueden ser valiosos y rentables, el resultado neto es una atracción sistemática hacia el mimetismo humano, incluso cuando sistemas complementarios sobrehumanos puedan crear más valor económico total y menos desigualdad.

Esto plantea un contrafactual fascinante. ¿Dónde estaría la tecnología hoy si la prueba de Turing no fuera tan atractiva? He aquí algunas sugerencias que encontré: las prótesis neuronales y la simbiosis mente-máquina podrían tardar décadas en llegar; en lugar de chatbots, podríamos tener herramientas de pensamiento, como espacios de ideación visual; interfaces sensoriales en lugar de conversaciones; e IA que puede razonar, en lugar de LLM probabilísticos.

Por supuesto, la tecnología puede haber evolucionado hacia fines más nefastos, o incluso más allá de la inteligencia humana, como dicen los fanáticos de la película de 2016. Llegada podría imaginar.

Pero volviendo a la realidad, un ejercicio más útil ahora es visualizar cómo la IA generativa y los humanos pueden evolucionar juntos.

No se trata sólo de limitar la pérdida de empleos (algunas pueden ser necesarias), sino también de garantizar que la tecnología genere un mayor valor económico y social (lo que crea nuevas oportunidades para los humanos). Brynjolfsson ha liderado el trabajo en esta área:

Si nuestra estrella del norte hubiera sido la expansión de capacidades con los humanos en lugar de imitarlos, nos habríamos orientado antes hacia sistemas que mejoren la toma de decisiones humanas, aceleren el aprendizaje y creen nuevos espacios de diseño. hubiésemos estado comparar la IA con las personasno en lugar de ellos. Esto es algo de mi empresa, hélice de trabajose centra en.

En mi salón de clases de Stanford, creamos un “avatar de Erik” impulsado por inteligencia artificial que discutía interactivamente con cada estudiante la tarea de forma individual. Eso les ayudó a comprender los conceptos clave más profundamente y requirió que los estudiantes defendieran su entrega en tiempo real, eliminando la opción de enviar sin pensar una tarea generada por IA.

Si ampliamos esta mentalidad a toda la economía, estaríamos apuntando a mejoras en la calidad, la innovación y el bienestar, no sólo a la sustitución de costos.

Esto ya está sucediendo hasta cierto punto. En software, los copilotos de código amplían la exploración y las pruebas. En el sector sanitario, la generación de notas estructuradas libera tiempo a los médicos para la empatía y el juicio.

El hilo común es la reasignación de tareas: las máquinas manejan actividades de alta frecuencia donde hay muchos datos de entrenamiento, y los humanos se centran en la “larga cola de excepciones”, además de definir los objetivos, dice Brynjolfsson. Pero optimizar esto a escala macro requiere reorganizar el trabajo y nuestras economías.

Los grandes saltos de productividad de la historia provinieron de la reestructuración del trabajo en torno a nuevas tecnologías de propósito general. Ford reorganizó las fábricas para complementar a la gente con piezas intercambiables, ensamblajes móviles y herramientas eléctricas, multiplicando la producción de cada trabajador.

Necesitamos hacer eso también, construyendo sistemas (combinaciones de humanos y máquinas) que hagan cosas que ningún humano ni ninguna máquina podrían hacer por sí solos.

Esto es posible incluso para tareas creativas. La IA puede automatizar costosas subtareas (como la búsqueda y los borradores), al tiempo que aumenta los retornos a las específicamente humanas (gusto, narración, autenticidad y relaciones). Pero eso requiere difusión: herramientas, capacitación y plataformas asequibles para que se beneficien más creadores, no solo empresas que utilizan la IA directamente para tareas creativas.

Entonces, incluso si la prueba de Turing encaminó el desarrollo tecnológico por el camino de la imitación, todavía hay una manera de crear una división del trabajo más productiva y socialmente óptima entre los humanos y las máquinas que ahora hemos creado. Brynjolfsson tiene tres recomendaciones:

En primer lugar, mejorar las métricas a nivel empresarial sobre cómo se ve una buena adopción de la IA. Necesitamos centrarnos e identificar qué tan bien los humanos y Las máquinas resuelven problemas prácticos que mejoran los resultados de los pacientes, la satisfacción del cliente y la calidad del software.

En segundo lugar, las reglas del mercado deben promover la competencia y la difusión, incluida la interoperabilidad, la portabilidad de datos y la contratación que recompense los resultados de aumento en lugar de la reducción de personal. Eso significa reequilibrar los incentivos fiscales y contables que actualmente favorecen la profundización del capital sobre el capital humano.

En tercer lugar, necesitamos bienes públicos y barreras de seguridad. Eso comienza con medir las cosas correctas, como la producción ajustada a la calidad y el desarrollo de infraestructuras de datos seguras que permitan la experimentación y al mismo tiempo protejan la privacidad y la propiedad intelectual. Los regímenes específicos de responsabilidad y auditoría podrían centrarse en casos de uso con externalidades, como la salud y las finanzas, sin congelar la experimentación en otros lugares.

En última instancia, si alineamos los incentivos con el aumento, la frontera tecnológica y la frontera de oportunidades pueden avanzar juntas.

Me encantaría escuchar tus reflexiones. envíalos a almuerzo gratuito@ft.com o en X @tejparikh90.

Alimento para el pensamiento

¿Cuán racionales son los inversores y los analistas de acciones? este documento compara su desempeño en el mercado de valores con un algoritmo de aprendizaje automático para averiguarlo.

Almuerzo gratis el domingo está editado por Harvey Nriapia