La farsa de reconocimiento facial – el Atlántico

Si va a prometer la privacidad de los usuarios, entonces realmente necesita seguir. Asesoramiento de citas de té, un servicio que se anunciaba como un espacio seguro para que las mujeres sean anónimas Compartir información sobre ex socios—Cominar a otros sobre el abuso y las trampas, dice que está bloqueado. Los usuarios no pueden tomar capturas de pantalla, y la aplicación dice que verifica que sus usuarios son mujeres. Entonces, ¿por qué Tea Let Me, un hombre de mediana edad, creó una cuenta solo unos días después de sufrir dos infracciones de seguridad importantes?
El mes pasado, los piratas informáticos se abrieron paso en el té y accedieron a los datos confidenciales de los usuarios; 70,000 imágenes de usuarios y más de 1 millón de mensajes privados Según se informa, se filtraron, incluidas las comunicaciones sobre abortos, fotos de licencia del conductor de los usuarios y números de teléfono que se habían compartido en mensajes privados. Incluso después de que todo esto se hizo público, todavía pude engañar la función de verificación de la aplicación con un enfoque básico: encontré una fotografía genérica de una mujer en Google y sostuve la cámara selfie de mi teléfono. No está claro si TEA usa un algoritmo de reconocimiento facial o un humano para aprobar las fotos de verificación; La compañía no aclaró cuándo pregunté. De cualquier manera, 30 minutos después de mi truco de selfies, tenía una cuenta. Rápidamente eliminé la aplicación, pero un usuario malicioso (un acosador, por ejemplo, o un hombre curioso sobre si su abuso había sido mencionado en la aplicación por su novia) habría tenido rienda suelta. Sonia Portaluppi, una portavoz de Tea, declinó hacer comentarios, señalando “la naturaleza legal de este tema”. (Había incluido mi pregunta sobre cómo obtener acceso al té en un correo electrónico sobre las infracciones de seguridad recientes; no estaba claro a qué, específicamente, Portaluppi se refería).
Las fallas de seguridad de TEA son notables dado el argumento de venta de la aplicación. Pero estamos entrando en una era en la que tales problemas pueden convertirse en rutina. Como defensor y abogado contra la surveilancia, me preocupa la normalización de los mandatos de vigilancia facial y verificación de identificación, que limitan el acceso a los servicios digitales y disuelven el status quo de anonimato, todo para una idea defectuosa de “seguridad” de Internet. En el Reino Unido, por ejemplo, La Ley de Seguridad en línea recién promulgada Requiere que muchos sitios web y aplicaciones verifiquen que los usuarios tengan 18 años o más, en muchos casos haciendo que presenten identificación o selfies emitidos por el gobierno. En los Estados Unidos, los legisladores federales están sopesando un proyecto de ley similar, la Ley de Seguridad en línea de los niños o Kosa. Y algunos estados ya han establecido mandatos similares. Aunque mantener a los menores alejados del contenido dañino es un objetivo noble, el resultado será una constelación de servicios en línea con controles de seguridad invasivos, inseguros y, en última instancia, ineficaces.
Según la Ley de Seguridad del Reino Unido, las empresas que se niegan a implementar un software de vigilancia de edad podrían enfrentar miles de millones en multas o tiempo en la cárcel. Los propietarios de los sitios pornográficos pueden no tener mucha simpatía como una clase perseguida, pero el “contenido de prioridad primaria” de la ley es tan general que se aplica a plataformas mucho menos controvertidas, como Bluesky y Discord. Wikipedia ha dicho que puede tener que Limite el acceso a su sitio en el Reino Unido como consecuenciay otras plataformas han promulgado restricciones amplias para evitar cualquier posible violación de la ley. De acuerdo a Techdirtlas personas en el Reino Unido han tenido que Verificar su edad Para acceder a videos de protesta en comunidades X o Reddit sobre abuso de sustancias y menstruación.
Como era de esperar, todo esto ha llevado a las personas a eludir las características de verificación, al igual que yo con el té. Algún uso VPNSlo que lleva a los sitios a creer que está accediendo a ellos desde un país diferente; Forbes y Pcgamer informaron que los adolescentes del Reino Unido también han logrado engañar a los escaneos de reconocimiento facial “en vivo” al señalar sus teléfonos a personajes realistas de videojuegos. En principio, un proceso de verificación de identidad engorrosa hace que los usuarios se sientan seguros y evita el acceso no autorizado. En la práctica, estos procesos de verificación son fácilmente subvertidos por personas con voluntad y conocimientos técnicos. Posiblemente se convierta en un sitio web con contenido sensible menos Seguro de usar, porque las apuestas de una violación se vuelven mucho más altas. (Los sitios que requieren verificación de identidad pueden usar terceros—Muyo de los cuales dice que la información personal está encriptada y no almacenada permanentemente, aunque las intermediarios puede traer sus propias preocupaciones de privacidad, pero no tienen que hacerlo).
Aquí en Estados Unidos, numerosos estados están implementando requisitos de verificación de edad para Contenido para adultos y aplicaciones de redes sociales. Leyes ambiguas en Utah, Louisianay otros estados también bloquean ampliamente a los niños del contenido “dañino”. Hablando de pornografía, Senador Todd Weilerel patrocinador de la medida de Utah, ha dicho: “No creo que sea útil cuando un niño está formando sus impresiones de sexo y género para tener toda esta inmundicia y representaciones lascivas en su mente”. El hecho de que él haga referencia al género en particular se siente como motivo de preocupación: dada su ambigüedad, estos estatutos podrían y muy bien pueden ser abusados como una herramienta política para bloquear el contenido LGBTQ, la información médicamente precisa sobre el aborto y otro material similar.
Este patrón no está acumulado a los estados conservadores. El año pasado, Nueva York promulgó el “Ley Safe for Kids” requerir que las empresas de medios sociales monitoreen las edades de los usuarios. Si bien el impulso de los legisladores de proteger a los adolescentes de la toxicidad de las redes sociales es fácil de entender, al igual que el del Reino Unido, el diablo está en los detalles: no está claro cómo Nueva York verificará qué usuarios son niños, y existe el riesgo de que los legisladores repitan los errores de otros estados y países mediante la tecnología como el reconocimiento facial.
Hay muchas razones para preocuparse por los efectos de las redes sociales en los usuarios más jóvenes. Pero los legisladores podrían impulsar medidas de seguridad generalmente aplicables que protegieran tanto a los niños como a los adultos. Las redes sociales pueden ser un lugar difícil y tóxico, ya sea que tenga 13 o 23 años. Ciertamente, los efectos pueden ser más pronunciados para los adolescentes, pero hay poca evidencia que sugiera que el cerebro se inocule contra los efectos de la tecnología en el momento en que los usuarios cumplan 18 años, y muchos adultos vulnerables están en riesgo también, como aquellos con Desafíos sostenidos de salud mental. Las medidas que Nueva York propone para los niños (notificaciones de la noche en la noche, una restricción en los alimentos algorítmicos) podrían, en teoría, aplicarse a los adultos. Y si la ley se aplicara uniformemente a todos, no habría necesidad de vigilancia invasiva.
La verdad es que hay muy pocas formas de verificar bien la identidad de alguien en línea, y no hay formas de hacerlo tanto de manera efectiva como anónima. Con todo el contenido horrible flotando en Internet hoy, renunciar al anonimato puede parecer un pequeño precio para proteger la seguridad pública, pero la adopción de estas leyes significaría sacrificar más que la privacidad. Perder el acceso anónimo a Internet significa dar a las empresas y a las agencias gubernamentales más poder que nunca para rastrear nuestras actividades en línea. Significa transformar la concepción estadounidense de Internet abierto en algo que recuerda a los sistemas de seguimiento centralizados a los que nos hemos opuesto durante mucho tiempo en China y países similares. En este momento, la perspectiva de un Internet vinculado a nuestra identidad real nunca se ha sentido tan amenazante.