La IA que parece ser consciente podría llegar en los próximos años, planteando una amenaza “peligrosa” para la sociedad, dice un líder de IA.
Microsoft AI CEO Mustafafa Suleyman, de 41 años, escribió en un ensayo personal Publicado a principios de esta semana que AI aparentemente consciente (SCAI), que es la inteligencia artificial tan avanzada que puede convencer a los humanos de que es capaz de formular sus propios pensamientos y creencias, está a solo unos años de distancia.
Aunque hay “evidencia cero” de que la IA es consciente en este momento, es “inevitable y desagradable” que Scai pueda aparecer en los próximos dos o tres años, escribió Suleyman.
La “preocupación central” de Suleyman es que Scai podría parecer empático y actuar con una mayor autonomía, lo que llevaría a los usuarios de Scai a “comenzar a creer en la ilusión de AIS como entidades conscientes” hasta el punto de que abogan por Derechos de IA e incluso la ciudadanía de IA. Esto marcaría un “giro peligroso” para la sociedad, donde las personas se apegan a la IA y se desconectan de la realidad.
“Este desarrollo será un giro peligroso en el progreso de la IA y merece nuestra atención inmediata”, escribió Suleyman en el ensayo. Más tarde agregó que AI “desconecta a las personas de la realidad, deshilacha y estructuras sociales frágiles, distorsionando prioridades morales apremiantes”.
Suleyman dijo que se estaba volviendo “cada vez más preocupado” por AI Piosiso humanos que experimentan falsas creencias, delirios o sentimientos paranoicos después de interacciones prolongadas con chatbots de IA. Ejemplos de psicosis de IA incluyen usuarios que forman una relación romántica con un chatbot de IA o sintiendo que tienen superpoderes después de interactuar con ella.
La psicosis de IA se aplicará a algo más que personas que corren el riesgo de problemas de salud mental, predijo Suleyman. Dijo que los usuarios tienen que “discutir con urgencia de” barandas “en torno a la IA para proteger a las personas de los efectos negativos de la tecnología.
Microsoft AI CEO Mustafa Suleyman. Fotógrafo: David Ryder/Bloomberg a través de Getty Images
Suleyman se convirtió en el CEO de AI de Microsoft el año pasado después de cofundar y ejecutar su propia startup de IA durante dos años llamada Inflection AI, por LinkedIn. Microsoft es el segundo más valioso Compañía en el mundo, con una capitalización de mercado de $ 3.78 billones al momento de escribir.
Relacionado: El CEO de Microsoft AI dice que casi todo el contenido en Internet es un juego justo para el entrenamiento de IA
Suleyman también cofundó DeepMind, una empresa de investigación y desarrollo de IA adquirido por Google por alrededor de $ 600 millones en 2014.
Suleyman no es el primer CEO en advertir sobre los efectos nocivos de AI. En una charla en una Reserva Federal conferencia El mes pasado en Washington, DC, el CEO de Openai, Sam Altman, dijo que la “excesiva excesiva emocional” en ChatGPT lo mantiene despierto por la noche.
“La gente confía demasiado en chatgpt”, Altman dicho en el evento. “Eso me parece realmente mal”.
