Moxie Marlinspike tiene una alternativa a ChatGPT consciente de la privacidad

Si le preocupa la privacidad, el auge de los asistentes personales con inteligencia artificial puede parecer alarmante. Es difícil utilizar uno sin compartir información personal, que conserva la empresa matriz del modelo. Con OpenAI ya probando publicidadEs fácil imaginar la misma recopilación de datos que impulsa a Facebook y Google a introducirse en las conversaciones de los chatbots.

Un nuevo proyecto, lanzado en diciembre por el cofundador de Signal, Moxie Marlinspike, muestra cómo podría ser un servicio de inteligencia artificial consciente de la privacidad. Controlar está diseñado para parecerse a ChatGPT o Claude, pero el backend está organizado para evitar la recopilación de datos, con el rigor de código abierto que hace que Signal sea tan confiable. Sus conversaciones de Confer no se pueden utilizar para entrenar el modelo o orientar anuncios, por la sencilla razón de que el anfitrión nunca tendrá acceso a ellas.

Para Marlinspike, estas protecciones son una respuesta a la naturaleza íntima del servicio.

“Es una forma de tecnología que invita activamente a la confesión”, dice Marlinspike. “Las interfaces de chat como ChatGPT saben más sobre las personas que cualquier otra tecnología anterior. Cuando combinas eso con publicidad, es como si alguien le pagara a tu terapeuta para convencerte de que compres algo”.

Garantizar esta privacidad requiere que varios sistemas diferentes trabajen juntos.

Primero, Confer cifra los mensajes hacia y desde el sistema usando el sistema de contraseñas WebAuthn. (Desafortunadamente, este patrón funciona mejor en dispositivos móviles o Mac que ejecutan Sequoia, aunque también puedes hacerlo funcionar en Windows o Linux con un administrador de contraseñas). Del lado del servidorTodo el procesamiento de inferencia de Confer se realiza en un entorno de ejecución confiable (TEE), con sistemas de certificación remota implementados para verificar que el sistema no se haya visto comprometido. Dentro de esto hay una variedad de plantillas básicas de peso abierto que manejan cualquier consulta entrante.

El resultado es mucho más complicado que una configuración de inferencia estándar (que ya es bastante complicada), pero cumple la promesa básica de Confer a los usuarios. Siempre que existan estas protecciones, podrá tener conversaciones confidenciales con el modelo sin que se filtre ninguna información.

El nivel gratuito de Confer está limitado a 20 mensajes por día y cinco chats activos. Los usuarios que estén dispuestos a pagar $35 por mes obtendrán acceso ilimitado, además de plantillas y personalización más avanzadas. Eso es un poco más que el plan Plus de ChatGPT, pero la privacidad no es barata.