Hola y bienvenido a Eye on AI… En esta edición: el nuevo acuerdo de OpenAI con Microsoft…Elon Musk lanza Grokipedia…los ingenieros de datos luchan con las cargas de trabajo de IA...¿Son los navegadores de IA un riesgo para la seguridad?
Hola, aquí Beatrice Nolan, reemplazando a Jeremy Kahn, quien regresa del Foro Global de Fortuna hoy en Riad. En grandes noticias sobre IA, OpenAI y Microsoft anunciaron que habían llegado a un acuerdo sobre el futuro de su asociación que permitirá a OpenAI completar una reestructuración corporativa tan esperada.
El acuerdo convierte la anterior rama con fines de lucro de OpenAI en una corporación de beneficio público que puede emitir acciones tradicionales y dará a los accionistas una voz potencialmente más prominente en la gobernanza de OpenAI, dos cambios que se consideraron críticos para que OpenAI continúe recaudando los miles de millones de dólares de capital que necesitará para construir modelos de IA más avanzados, construir centros de datos masivos y continuar su impulso para convertirse en una plataforma tecnológica clave para consumidores y empresas.
Según el acuerdo, el nuevo OpenAI Group PBC seguirá controlado por la Fundación OpenAI, una organización sin fines de lucro. Las negociaciones de casi un año con Microsoft, que supuestamente causaron importantes tensión entre las dos empresas, Había sido el principal obstáculo de OpenAI para completar la reestructuración. Y a primera vista, Microsoft parece haber obtenido importantes concesiones del laboratorio de IA.
El gigante tecnológico, que ha invertido más de $13 mil millones en OpenAI desde 2019: adquirirá una participación del 27% en OpenAI. Dada la valoración actual de OpenAI, la posición de Microsoft valdrá unos 135.000 millones de dólares. Él también conservará el acceso a la tecnología OpenAI hasta 2032, incluido cualquier modelo que alcance el hito de la inteligencia artificial general (AGI). Ahora un panel de expertos independientes también verificará si los modelos han superado este umbral, que OpenAI había definido públicamente anteriormente como un sistema de IA capaz de realizar la mayoría de las tareas cognitivas económicamente valiosas tan bien o mejor que un humano.
Anteriormente, OpenAI por sí solo podía decidir cuándo se alcanzaba el AGI, lo que se consideraba un posible punto de apalancamiento poner fin o cambiar los derechos de Microsoft en virtud de su asociación. Según se informa, este acuerdo generó tensiones, y a Microsoft le preocupaba que OpenAI pudiera declarar prematuramente AGI, utilizando un modelo de IA de alto rendimiento como hito, lo que tendría importantes implicaciones financieras y de propiedad intelectual para ambas empresas. Así que esta decisión del panel independiente es una victoria para Microsoft.
El acuerdo también permite a Microsoft buscar AGI de forma independiente o con terceros, al tiempo que exige que OpenAI comparta muchas de sus técnicas de investigación y avances. Según el nuevo acuerdo, Microsoft conserva el acceso a gran parte de los métodos y sistemas de investigación subyacentes de OpenAI, aunque la compañía no tendrá acceso al hardware de consumo de OpenAI, ni a los pesos de los modelos ni a los detalles arquitectónicos centrales de ningún modelo considerado “de investigación”. (Conservará los derechos sobre estos detalles técnicos clave para los modelos de producción de OpenAI hasta 2032).
Aún así, esto le da a Microsoft visibilidad sobre cosas como la infraestructura de entrenamiento de modelos y los métodos de optimización de OpenAI, junto con la oportunidad de tomar lo que ha aprendido de los métodos de investigación de OpenAI y aplicar ese conocimiento para desarrollar sus propios modelos AGI. Lo que potencialmente complica aún más esto es la creciente asociación de Microsoft con Anthropic, con Claude ahora disponible en Microsoft 365 y Excel.
Microsoft renunció a su exclusividad en la nube con OpenAI, lo que el analista de tecnología Zeus Kerravala calificó como una “gran concesión de su parte”. Sin embargo, también señaló que la compañía había obtenido a cambio varias concesiones estructurales críticas de OpenAI que compensaban esto.
“Estas concesiones garantizan la longevidad y el valor de la inversión de Microsoft”, dijo. Fortuna. “Esencialmente, Microsoft cambió la exclusividad de la computación en la nube, algo que de todos modos estaba luchando por lograr, por certeza tecnológica y acceso IP a largo plazo”.
Los inversores parecieron estar de acuerdo cuando las acciones de la compañía subieron un 2%, elevando su valoración de mercado nuevamente a más de 4 billones de dólares el día antes de que la compañía informara sus ganancias del tercer trimestre.
Una victoria regulatoria para OpenAI
Por su parte, OpenAI ahora tendrá acceso a la financiación total prometida por los inversores, incluidos SoftBank, Thrive y otras empresas de capital de riesgo que dependían de la reestructuración. La medida también posiciona a OpenAI para recaudar capital adicional más fácilmente en el futuro.
La empresa también parece haber superado un obstáculo regulatorio crítico. Tras la noticia del acuerdo, la fiscal general de Delaware, Kathy Jennings, anunció que su oficina ha emitido una “Declaración de No Objeción” a la recapitalización corporativa propuesta.
El fiscal general de California, Rob Bonta, dijo Fortuna en un comunicado dijo que había “obtenido concesiones que garantizan que los activos benéficos se utilicen para el propósito previsto, se priorizará la seguridad, así como el compromiso de que OpenAI permanecerá aquí en California”. Como resultado, Bonta dijo que su oficina “no comparecería ante los tribunales oponiéndose al plan de recapitalización de OpenAI”.
Este es un golpe para varias organizaciones sin fines de lucro que han estado haciendo campaña contra la reestructuración, argumentando que OpenAI se había desviado de su misión principal de desarrollar AGI de una manera que “beneficiara a toda la humanidad” y que había priorizado el envío de productos sobre la seguridad de la IA.
Estos grupos sin fines de lucro habían estado presionando a las oficinas del Fiscal General para bloquear el acuerdo. Grupos de defensa, organizaciones sin fines de lucro y algunos ex empleados de OpenAI, así como el cofundador de OpenAI convertido en acérrimo rival comercial, Elon Musk, se han opuesto abiertamente a la reestructuración por diversos motivos. Musk ha argumentado que la medida es evidencia de que el director ejecutivo de OpenAI, Sam Altman, y el cofundador, Greg Brockman, lo engañaron cuando hizo las donaciones multimillonarias iniciales que establecieron el laboratorio. Otros han argumentado que la reestructuración corre el riesgo de canalizar ganancias que deberían haber tenido un propósito público caritativo hacia los bolsillos de los inversores de riesgo, cofundadores y empleados de OpenAI.
OpenAI ha tratado de mitigar algunas de estas objeciones prometiendo que su Fundación OpenAI, una organización sin fines de lucro, otorgará grandes subvenciones para fines benéficos, incluido un compromiso recién anunciado de 25 mil millones de dólares para proyectos que apuntan a mejorar la salud y curar enfermedades o que apuntan a aumentar la resiliencia de la sociedad a algunas de las perturbaciones que la IA probablemente cause, incluida la posible pérdida generalizada de empleos.
No obstante, una vez asegurada la aprobación regulatoria y abordadas las preocupaciones de Microsoft, OpenAI finalmente tiene su estructura con fines de lucro y miles de millones de dólares en capital. Y Microsoft conserva la mayor parte de lo que consideró valioso en la asociación OpenAI, al tiempo que se asegura una gran participación accionaria que podría resultar una ganancia inesperada para sus propios accionistas.
Dicho esto, aquí hay más noticias sobre IA.
Beatriz Nolan
FORTUNA EN LA IA
Después de que Microsoft invirtiera 13 mil millones de dólares en OpenAI, su jefe de IA critica características eróticas como ChatGPT: “Esto es muy peligroso” — Sasha Rogelberg
OJO A LAS NOTICIAS DE IA
Elon Musk lanza Grokipedia como nuevo rival de Wikipedia. Elon Musk ha promocionado su nueva empresa, Grokipediauna enciclopedia basada en inteligencia artificial, como una alternativa imparcial a Wikipedia. Las primeras páginas se parecen al formato de Wikipedia pero, según el Correo de Washington, se presentan con un tono más derechista. El medio también identificó múltiples errores fácticos. Musk ha planteado problemas con Wikipedia antes, denunciando públicamente lo que considera un giro hacia la izquierda del sitio. El sitio, que se lanzó esta semana, alberga actualmente alrededor de 885.000 artículos, mucho menos que los más de 8 millones de Wikipedia. Leer más en el Correo de Washington.
Claude agrega integración de Excel y herramientas de datos de mercado en tiempo real. Anthropic ha lanzado una actualización centrada en las finanzas para su chatbot Claude, agregando integración directa con Microsoft Excel y siete nuevos conectores de datos en tiempo real. Claude de Anthropic ahora puede analizar, editar y generar hojas de cálculo directamente dentro de Excel, ofreciendo a los profesionales financieros una forma más interactiva de trabajar con datos. Los nuevos conectores vinculan a Claude con plataformas financieras clave, incluidas Moody’s, el London Stock Exchange Group y MT Newswires, lo que le permite acceder a actualizaciones del mercado en vivo, transcripciones de llamadas de ganancias e investigaciones de inversiones. Anthropic también presentó seis nuevas “habilidades de agente” adaptadas a las finanzas, que permiten a Claude producir informes, modelar flujos de efectivo y generar perfiles de empresas automáticamente. Leer más aquí.
Qualcomm entra en la carrera de chips de IA con procesadores para centros de datos. Qualcomm ha anunciado un importante paso hacia el mercado de centros de datos de IA con dos nuevos chips aceleradores diseñados para desafiar el dominio de Nvidia y AMD. Los chips, diseñados para impulsar la inferencia de IA en lugar del entrenamiento, pueden llenar un bastidor de servidor completo refrigerado por líquido y están construidos sobre las unidades de procesamiento neuronal Hexagon de Qualcomm, que se utilizan en sus chips para teléfonos inteligentes. Dado que se espera que la demanda de informática de IA genere hasta 6,7 billones de dólares en gastos en centros de datos hasta 2030, la entrada de Qualcomm marca una expansión significativa más allá de su negocio tradicional de chips móviles. Las acciones de Qualcomm subieron un 11% tras el anuncio. Leer más en CNBC.
OpenAI insta a EE. UU. a aumentar la producción de energía para mantenerse a la cabeza en la carrera de la IA. OpenAI está pidiendo al gobierno de EE. UU. que expanda drásticamente la producción nacional de energía, advirtiendo que el país corre el riesgo de quedarse atrás de China en la carrera global de IA sin nuevas inversiones masivas en energía. En una presentación de 11 páginas a la Oficina de Política Científica y Tecnológica de la Casa Blanca, la compañía instó a Estados Unidos a comprometerse a construir 100 gigavatios de nueva capacidad energética cada año, casi el doble de lo que la nación añadió en 2024. OpenAI señaló que China añadió 429 gigavatios el año pasado en comparación con los 51 gigavatios de Estados Unidos, creando lo que llamó una “brecha electrónica” emergente. Leer más en CNBC.
OJO EN LA INVESTIGACIÓN EN IA
Otro informe del MIT dice que los beneficios de la IA pueden no ser tan claros como se esperaba. Esta vez en codificación. un nuevo Informe MIT Technology Review Insightsrealizado en colaboración con Snowflake, descubrió que el 77% de los ingenieros de datos enfrentan cargas de trabajo más pesadas a pesar de la adopción generalizada de herramientas de inteligencia artificial destinadas a aumentar la productividad. La encuesta realizada a 400 altos ejecutivos de tecnología encontró que el 83% de las organizaciones ya han implementado herramientas de ingeniería de datos basadas en IA, pero el 45% cita la complejidad de la integración y el 38% informa la expansión y fragmentación de las herramientas como los principales desafíos de la adopción. Si bien la IA está automatizando muchas tareas de datos, la proliferación de sistemas desconectados ha creado una paradoja de productividad en la que las tareas individuales son más rápidas, pero los flujos de trabajo generales son más lentos, según el informe. Los ingenieros de datos ahora dedican el 37% de su tiempo a proyectos relacionados con la IA, frente al 19% hace dos años, y esperan que alcance el 61% dentro de dos años.
TIENES UN CALENDARIO
10-13 de noviembre: Cumbre Web, Lisboa.
26 y 27 de noviembre: Congreso Mundial de IA, Londres.
Del 2 al 7 de diciembre: NeurIPS, San Diego.
8 y 9 de diciembre: Fortune Brainstorm AI San Francisco. Aplicar para asistir aquí.
ALIMENTO PARA EL CEREBRO
¿Son los navegadores web con IA un riesgo para la seguridad? Después de que OpenAI lanzara su tan esperado navegador web la semana pasada, escribí sobre algunos de los riesgos relacionados con las inyecciones inmediatas. Desde entonces, tal vez como era de esperar, han surgido más riesgos de seguridad. Seguridad empresa LayerX descubrió una vulnerabilidad potencialmente importante en el navegador ChatGPT Atlas que permite a los atacantes inyectar instrucciones maliciosas en la memoria de ChatGPT. Mediante un ataque de falsificación de solicitudes entre sitios (CSRF), los piratas informáticos pueden explotar la sesión de un usuario que ha iniciado sesión para implantar instrucciones ocultas que persisten en todos los dispositivos y navegadores. Una vez infectado, ChatGPT puede ejecutar estas instrucciones sin saberlo, lo que podría implementar malware. Las pruebas de LayerX mostraron que el navegador ChatGPT Atlas es especialmente vulnerable, ya que bloquea solo alrededor del 5,8% de los ataques de phishing que probaron, lo que hace que los usuarios estén hasta un 90% más expuestos en comparación con Chrome o Edge, que bloquearon aproximadamente la mitad de dichos ataques. La ciberseguridad siempre es una especie de juego del gato y el ratón, en el que las empresas identifican y luego reparan las fallas de seguridad, pero la escala de los riesgos de seguridad plantea la pregunta de si los navegadores de IA son demasiado arriesgados para confiarles el tipo de acceso profundo al sistema que necesitan para ser útiles.
