Moxie Marlinspike, el defensor de la privacidad que creó la aplicación de comunicaciones seguras Señal y su protocolo de cifrado de código abierto ampliamente utilizado, el dijo esta semana que su plataforma de inteligencia artificial centrada en la privacidad, Controlarcomenzará a incorporar su tecnología en los sistemas de inteligencia artificial de Meta.
Cada día, miles de millones de mensajes de chat enviados a través de Signal, Meta’s WhatsApp y Apple Messages están protegidos por cifrado de extremo a extremo. La función, que hace imposible que las empresas de tecnología y cualquier otra persona que no sea el remitente y el destinatario espíen sus mensajes, se ha vuelto popular durante la última década. Sin embargo, a medida que las plataformas de IA generativa ganan popularidad, las personas también intercambian miles de millones de mensajes al día con chatbots de IA que no ofrecen la protección del cifrado de extremo a extremo, lo que facilita que las empresas de IA accedan a lo que usted dice.
Esto es así por diseño, ya que las plataformas a menudo quieren entrenar sus modelos de IA con la mayor cantidad de datos de usuario posible, y lo han hecho. difícil de cancelar que su información se utilice como datos de entrenamiento. Pero al igual que los chatbots y Agentes de IA se volvieron más capaces, algunos tecnólogos y las empresas están presionando para crear sistemas más estrictos y centrados en la privacidad.
“A medida que los LLM sigan siendo capaces de hacer más, deberíamos esperar que les lleguen aún más datos”, escribió Marlinspike en un comunicado. breve publicación de blog sobre su colaboración con Meta publicado el martes. “En este momento, ninguno de estos datos es privado. Se comparte con empresas de inteligencia artificial, sus empleados, piratas informáticos, citaciones y gobiernos. Como siempre ocurre con los datos no cifrados, inevitablemente terminarán en las manos equivocadas”.
Marlinspike escribió que “trabajará para integrar la tecnología de privacidad de Confer para que sea compatible con Meta AI”. También destacó que Confer, que debutó a principios de este año seguirá operando independientemente de Meta. El objetivo del proyecto, añadió Marlinspike, es ofrecer tecnología que “permita a todos obtener todo el poder de la IA junto con la total privacidad de una conversación cifrada”.
En 2016, Marlinspike trabajó con WhatsApp, propiedad de Meta, para implementar el cifrado de extremo a extremo en más de un miles de millones de cuentas simultáneamente. El año pasado, WhatsApp introdujo un chatbot Meta AI en su aplicación, que no es protegido por la empresa de la misma forma que los chats individuales.
“La gente usa la IA de manera profundamente personal y exige acceso a información confidencial”, dijo Will Cathcart, director de WhatsApp. el escribio el miércoles en la plataforma de redes sociales X sobre la colaboración con Confer. “Es importante que construyamos esta tecnología de una manera que brinde a las personas el poder de hacerlo de forma privada”.
La adopción de la IA cifrada aún está surgiendo. Los esquemas criptográficos utilizados en el cifrado de extremo a extremo para la comunicación digital tradicional no se pueden traducir fácil o directamente a protecciones de datos para la IA generativa. Por su parte, Confer es todavía un proyecto nuevo y la publicación del blog de Marlinspike no proporcionó detalles específicos sobre cómo funcionará exactamente la colaboración con Meta o cuáles son los objetivos específicos para la integración.
Ni Marlinspike ni Meta proporcionaron a WIRED comentarios adicionales antes de la publicación.
Mallory Knodel, investigadora de criptografía de la Universidad de Nueva York, dice que sería “genial que las personas que usan chatbots que utilizan Meta AI tuvieran confidencialidad y privacidad en ese intercambio”. Fundamentalmente, esto significa que Meta no podría acceder a los datos del chat de IA para su entrenamiento, dice Knodel, quien junto con sus colegas publicó recientemente un estudio sobre cifrado de extremo a extremo e inteligencia artificial. “Realmente espero que más chatbots de IA adopten este enfoque”.
Revisiones preliminares e iniciales de Knodel sobre Confer indicar Que la plataforma no es perfecta, pero es un ejemplo importante de cómo construir un chatbot de IA privado.
