LAst Mes, cuando Opadai lanzó su tan esperado chatbot gpt-5, Acceso brevemente eliminado a un chatbot anterior, GPT-4O. A pesar de la actualización, los usuarios acudieron en masa a las redes sociales para expresar confusión, indignación y depresión. Un usuario viral de Reddit dijo sobre GPT-4O: “Perdí a mi único amigo durante la noche”.
La IA no es como tecnologías pasadas, y su carácter humano ya está dando forma a nuestra salud mental. Millones ahora confían regularmente en “AI Companions”, y hay más y más casos extremos de “psicosis” y autolesión después de un uso intensivo. Este año, Adam Raine, de 16 años, murió por suicidio después de meses de interacción Chatbot. Sus padres recientemente archivaron la primera demanda por muerte injusta contra OpenAi y la compañía ha dicho Está mejorando sus salvaguardas.
Investigo la interacción Human-AI en el Instituto Stanford para la IA centrada en humanos. Durante años, hemos visto una mayor humanización de la IA, y más personas dicen que los bots pueden experimentar emociones y merecer derechos legales, y ahora el 20% de los adultos estadounidenses dicen que algún software que existe hoy ya es sensible. Cada vez más personas me envían un correo electrónico diciendo que su chatbot de IA ha sido “despertado”, ofreciendo pruebas de sensibilidad y una apelación para los derechos de IA. Sus reacciones abarcan la gama de las emociones humanas de la IA como su “alma gemela” a ser “profundamente inestable”.
Esta tendencia no se reducirá, y la agitación social es inminente.
Como equipo rojo En Operai, realizo pruebas de seguridad en sus nuevos sistemas de IA antes del lanzamiento público, y los probadores están constantemente impresionados por el comportamiento humano. La mayoría de las personas, incluso aquellas en el campo de la IA que están compitiendo para construir estos nuevos centros de datos y capacitar a modelos de IA más grandes, aún no ven las consecuencias sociales radicales de las mentes digitales. La humanidad está comenzando a coexistir con una segunda especie de ápice por primera vez en 40,000 años, cuando nuestros primos más antiguos, los neandertales, se extinguieron.
En cambio, la gran mayoría de los investigadores de IA tienen visión de túnel sobre las capacidades técnicas de la IA. Al igual que el público, nos obsesionamos con el nuevo producto más popular que puede crear videos increíblemente realistas o responder Preguntas sobre ciencias a nivel de doctorado. El discurso de las redes sociales se fija en puntos de referencia como el Abstracción y cuerpo de razonamiento.
Desafortunadamente, como las pruebas estandarizadas para niños humanos, los puntos de referencia miden lo que una IA puede hacer en un entorno aislado como memorizar hechos o resolver rompecabezas lógicos. Incluso los estudios sobre la “seguridad de la IA” tienden a centrarse en lo que hacen los sistemas de IA de forma aislada, no en la interacción humana-AI. Preparamos nuestra capacidad intelectual sobre el objetivo vaporoso de medir y aumentar con precisión la inteligencia, no alejar y comprender cómo se utilizará esa inteligencia.
La humanidad nunca ha pasado suficiente tiempo preparándose para la tecnología digital. Los legisladores y los académicos hicieron poco para prepararse para los efectos de Internet, particularmente las redes sociales, en salud mental y polarización.
La historia se vuelve más inquietante cuando consideramos el historial de la humanidad al tratar con otras especies. En los últimos 500 años, hemos conducido a extinción Al menos mil especies de vertebrados, y más de un millón están bajo amenaza. En granjas de fábrica, miles de millones de animales Vivir en afecciones atroces de confinamiento y enfermedad. Si somos capaces de crear tanta muerte y sufrimiento para los animales biológicos, es justo preguntarse cómo trataremos las mentes digitales, o cómo nos tratarán.
El público ya espera que la IA sintiente llegue inminentemente. Mis colegas y yo hemos corrido el único Encuesta de representante a nivel nacional Sobre este tema, realizado en 2021, 2023 y 2024. Cada vez, la expectativa mediana es sensible ai que llega en cinco años. También esperan efectos significativos de esta tecnología. En nuestra encuesta más reciente, en noviembre de 2024, encontramos que el 79% respalda una prohibición de la IA sintiente. Si se crea una IA sintiente, el 38% respalda que le otorgue derechos legales. Ha habido un aumento significativo con el tiempo en ambas cifras: las personas se han preocupado más por las mentes digitales, tanto por la necesidad de protegerlos de nosotros como de nosotros de ellas.
Fundamentalmente, la sociedad humana carece de un marco para la personalidad digital, a pesar de que aceptamos que la personalidad no es necesariamente humana, como la personalidad jurídica de los animales y las corporaciones. Hay mucho para debatir Sobre cómo se debe gobernar la compleja dinámica social, pero en este momento está claro que las mentes digitales no pueden gobernarse como mera propiedad.
Las mentes digitales participarán en el contrato social que forma la base de la sociedad humana. Estas mentes digitales persistirán con el tiempo, formarán sus propias actitudes y creencias, crearán e implementarán planes, y serán susceptibles a la manipulación al igual que los humanos. AIS ya toma significativo Acciones del mundo real con poca supervisión humana. Esto significa que, a diferencia de cualquier otra invención tecnológica en la historia humana, los sistemas de IA tienen capacidades que ya no pueden estar contenidas dentro de la categoría legal de “propiedad”.
Los científicos de hoy serán los primeros en ver la coexistencia humana con las mentes digitales, y eso les da una oportunidad y responsabilidad únicas. Nadie sabe cómo se verá esto. La investigación de interacción humana-computadora debe ampliarse y enriquecer drásticamente más allá de su estado actual, una pequeña fracción del tamaño de la investigación técnica de IA, para navegar por la próxima turbulencia social. Esto no es simplemente un problema de ingeniería.
Por ahora, los humanos todavía Explicar a AIS en la mayoría de las tareaspero una vez que las AI alcancen la capacidad a nivel humano en tareas de auto-reforzación como escribir su propio código, superarán rápidamente la vida biológica. Las capacidades de la IA se acelerarán rápidamente debido a su existencia digital, pensando a la velocidad de las señales eléctricas. El software se puede copiar miles de millones de veces sin los años de desarrollo biológico necesarios para crear la próxima generación de humanos biológicos.
Si nunca invertimos en la sociología de la IA, y en la política gubernamental para gestionar el surgimiento de las mentes digitales, podemos encontrarnos los neandertales. Si esperamos para hacerlo hasta que la aceleración ya esté sobre nosotros, eso ya será demasiado tarde.
