Karen Hao en el imperio de la IA, los evangelistas agi y el costo de la creencia

En el centro de cada imperio hay una ideología, un sistema de creencias que impulsa el sistema hacia adelante y justifica la expansión, incluso si el costo de esa expansión desafía directamente la misión establecida de la ideología.

Para los poderes coloniales europeos, era el cristianismo y la promesa de salvar almas mientras extraían recursos. Para el Imperio de IA de hoy, es inteligencia general artificial “beneficiar a toda la humanidad”. Y Openai es su principal evangelista, que difunde el celo en toda la industria de una manera que ha reformulado cómo se construye la IA.

“Estaba entrevistando a personas cuyas voces temblaban del fervor de sus creencias en AGI”, Karen Hao, periodista y exitosa autora de “”Imperio de AI“, Dijo TechCrunch en un episodio reciente de Equidad.

En su libro, Hao compara la industria de la IA en general, y OpenAi en particular, con un imperio.

“La única forma de comprender realmente el alcance y la escala del comportamiento de OpenAi … en realidad es reconocer que ya se han vuelto más poderosos que casi cualquier estado nación del mundo, y han consolidado una cantidad extraordinaria no solo de poder económico, sino también de poder político”, dijo Hao. “Están terraformando la tierra. Están volviendo a cablear nuestra geopolítica, todas nuestras vidas. Por lo tanto, solo puedes describirla como un imperio”.

Operai ha descrito a AGI como “un sistema altamente autónomo que supera a los humanos en la mayoría de los trabajos económicamente valiosos”, uno que de alguna manera “elevará a la humanidad al aumentar la abundancia, el turbocompresor de la economía y ayudando en el descubrimiento de un nuevo conocimiento científico que cambia los límites de la posibilidad”.

Estas promesas nebulosas han alimentado el crecimiento exponencial de la industria: sus demandas masivas de recursos, océanos de datos raspados, redes de energía tensas y disposición para liberar sistemas no probados en el mundo. Todo en servicio de un futuro que, según muchos expertos, puede que nunca llegue.

Hao dice que este camino no era inevitable, y esa escalada no es la única forma de obtener más avances en la IA.

“También puede desarrollar nuevas técnicas en algoritmos”, dijo. “Puede mejorar los algoritmos existentes para reducir la cantidad de datos y calcular que necesitan usar”.

Pero esa táctica habría significado sacrificar la velocidad.

“Cuando define la búsqueda para desarrollar AGI beneficioso como uno en el que el vencedor toma todo, que es lo que hizo OpenAi, entonces lo más importante es la velocidad sobre cualquier otra cosa”, dijo Hao. “Velocidad sobre la eficiencia, la velocidad sobre la seguridad, la velocidad sobre la investigación exploratoria”.

Para Operai, dijo, la mejor manera de garantizar la velocidad era tomar las técnicas existentes y “simplemente hacer lo intelectualmente barato, que es bombear más datos, más supercomputadoras, a esas técnicas existentes”.

Operai preparó el escenario y, en lugar de quedarse atrás, otras compañías tecnológicas decidieron caer en la cola.

“Y debido a que la industria de la IA ha capturado con éxito a la mayoría de los principales investigadores de IA en el mundo, y esos investigadores ya no existen en la academia, entonces tienes una disciplina completa que ahora está siendo moldeada por la agenda de estas compañías, en lugar de por una exploración científica real”, dijo Hao.

El gasto ha sido y será astronómico. La semana pasada, Operai dijo que espera quemarse $ 115 mil millones en efectivo Para 2029. Meta dijo en julio que gastaría hasta $ 72 mil millones en la construcción de infraestructura de IA este año. Google espera llegar a $ 85 mil millones En gastos de capital para 2025, la mayoría de los cuales se gastarán en expandir la IA y la infraestructura en la nube.

Mientras tanto, los postes de objetivos se siguen moviendo, y los “beneficios más altos para la humanidad” aún no se han materializado, incluso cuando los daños aumentan. Daños como pérdida de empleo, concentración de riqueza y Chatbots de IA que alimentan delusiones y psicosis. En su libro, HAO también documenta a los trabajadores en países en desarrollo como Kenia y Venezuela a quienes estuvieron expuestos a contenido inquietante, incluido el material de abuso sexual infantil, y se les pagó salarios muy bajos, alrededor de $ 1 a $ 2 por hora, en roles como moderación de contenido y etiquetado de datos.

Hao dijo que es una falsa compensación para enfrentar el progreso de AI contra los daños actuales, especialmente cuando otras formas de IA ofrecen beneficios reales.

Señaló a Google Deepmind’s Nobel Premio Alfafoldque está entrenado en datos de secuencia de aminoácidos y estructuras de plegamiento de proteínas complejas, y ahora puede predecir con precisión la estructura 3D de las proteínas de sus aminoácidos, profundamente útil para el descubrimiento de fármacos y la comprensión de la enfermedad.

“Esos son los tipos de sistemas de IA que necesitamos”, dijo Hao. “Alfafold no crea crisis de salud mental en las personas. Alfafold no conduce a daños ambientales colosales … porque está entrenado en una infraestructura sustancialmente menos. [the datasets don’t have] Toda la basura tóxica que se acumuló cuando estaba raspando Internet “.

Junto con el compromiso cuasirreligioso con AGI ha sido una narración sobre la importancia de las carreras para vencer a China en la carrera de IApara que Silicon Valley pueda tener un efecto liberalizante en el mundo.

“Literalmente, lo contrario ha sucedido”, dijo Hao. “La brecha ha seguido cerrando entre Estados Unidos y China, y Silicon Valley ha tenido un efecto iliberalizante en el mundo … y el único actor que ha salido indemne, se podría argumentar, es el mismo Valle de Silicon”.

Por supuesto, muchos argumentarán que Operai y otras compañías de IA han beneficiado a la humanidad al publicar ChatGPT y otros modelos de idiomas grandes, que prometen grandes ganancias en la productividad al automatizar tareas como la codificación, la escritura, la investigación, la atención al cliente y otras tareas de trabajo de conocimiento.

Pero la forma en que Openai está estructurada, en parte sin fines de lucro, parte con fines de lucro, complica cómo define y mide su impacto en la humanidad. Y eso se complica aún más por las noticias de esta semana que Operai llegó a un acuerdo con Microsoft Eso lo acerca a que eventualmente se haga público.

Dos ex investigadores de seguridad de Operai le dijeron a TechCrunch que temen que el laboratorio de IA haya comenzado a confundir sus misiones con fines de lucro y sin fines de lucro, que debido a que las personas disfrutan usando ChatGPT y otros productos construidos en LLM, esto marca la casilla de beneficiar a la humanidad.

Hao se hizo eco de estas preocupaciones, describiendo los peligros de ser tan consumidos por la misión de que la realidad es ignorada.

“Incluso cuando la evidencia se acumula que lo que están construyendo realmente está dañando cantidades significativas de personas, la misión continúa avanzando todo eso”, dijo Hao. “Hay algo realmente peligroso y oscuro en eso, de [being] Así que envuelto en un sistema de creencias que construyó que pierde el contacto con la realidad “.