La policía arrestó a un hombre por robo en una ciudad que nunca había visitado después de que un software de escaneo facial implementado en todo el Reino Unido lo confundiera con otra persona de ascendencia del sur de Asia.
Alvi Choudhury, 26 años, ingeniero de software, trabajaba en la casa que comparte con sus padres en Southampton en enero, cuando la policía llamó a su puerta, lo esposó y lo mantuvo bajo custodia durante casi 10 horas antes de liberarlo a las 2 a.m.
La policía de Thames Valley utilizó un software de reconocimiento facial automatizado que lo comparó con imágenes de un sospechoso de un robo de £3.000 a 100 millas de distancia en Milton Keynessegún documentos compartidos con The Guardian por Liberty Investigates.
Pero las imágenes de CCTV mostraron a un hombre visiblemente más joven con rasgos diferentes además del cabello rizado similar, dijo Choudhury, quien no sabía por qué había sido arrestado.
“Me enojé mucho porque el niño parecía 10 años menor que yo”, dijo Choudhury, que tiene barba. “Todo era diferente. La piel era más clara. El sospechoso parecía tener 18 años. Su nariz era más grande. No tenía vello facial. Sus ojos eran diferentes. Sus labios eran más pequeños que los míos.
“Simplemente supuse que el investigador vio que yo era una persona de piel oscura y cabello rizado y decidió arrestarme”.
Las fuerzas policiales del Reino Unido utilizan un algoritmo adquirido por el Ministerio del Interior de Cognitec, una empresa alemana. Realiza alrededor de 25.000 búsquedas al mes en alrededor de 19 millones de fotografías policiales conservadas en la base de datos nacional de la policía del Reino Unido. Las coincidencias faciales deben tratarse como inteligencia y no como hechos, según el Consejo de Jefes de la Policía Nacional. La policía de Thames Valley dijo que la decisión de arrestar a Choudhury también se tomó después de una evaluación visual humana.
Pero en diciembre se reveló que la tecnología produce una tasa mucho mayor de falsos positivos en rostros negros (5,5%) y asiáticos (4,0%) que en rostros blancos (0,04%) en ciertos entornos, según el Ministerio del Interior. oficial para buscar. Comisarios de policía y delitos prevenido de “sesgo inherente” y dijo que si bien “no hay evidencia de impacto adverso en ningún caso individual, esto es más por suerte que por diseño”.
Desde diciembre, la policía de Thames Valley también ha implementado tecnología de reconocimiento facial en vivo para escanear al público en ubicaciones en Oxford, Slough, Reading, Wycombe y Milton Keynes. Él tiene capturó alrededor de 100.000 rostroslo que provocó seis detenciones.
Dadas las diferencias entre el hombre del CCTV y su propio rostro, Choudhury asumió que sería liberado rápidamente. Dio testimonio de reuniones de trabajo en Southampton el día del crimen, pero fue detenido.
Choudhury reclama daños y perjuicios a la policía de Thames Valley y a la policía de Hampshire, que llevaron a cabo su arresto. Sus vecinos vieron cómo se lo llevaban esposado, su padre estaba muy ansioso por la posibilidad de que lo detuvieran y no pudo trabajar al día siguiente, dijo. También pide una mayor transparencia sobre el número de detenciones injustas que involucran tecnología de reconocimiento facial.
La foto de Choudhury se mantuvo en el sistema policial solo porque fue arrestado por error en 2021 cuando fue atacado en una noche de fiesta mientras estaba en la universidad en Portsmouth. La policía lo liberó sin más acciones. Ahora que ha tomado una segunda foto, teme que el sistema automatizado pueda provocar más arrestos injustos.
“En mi opinión, si una persona de color en Escocia roba un banco, ¿vendrán a arrestarme?” dijo.
A veces necesita autorización de seguridad para trabajar para clientes del gobierno y le preguntan sobre los arrestos y dice: “Me hace parecer cada vez más astuto”.
La policía de Thames Valley admitió ante Choudhury que el arresto “puede haber sido el resultado de un sesgo en la tecnología de reconocimiento facial”. Pero un directivo le dijo que “como el uso del reconocimiento facial ya está sujeto a revisión a nivel estratégico, no siento la necesidad de plantear esta cuestión como parte de un aprendizaje organizacional más amplio”.
Un portavoz de la policía de Thames Valley negó que el arresto fuera ilegal y dijo: “Si bien nos disculpamos por la angustia causada al denunciante en este caso, el arresto se basó en la propia evaluación visual de los oficiales investigadores de que el individuo coincidía con el sospechoso en las imágenes de CCTV luego de una coincidencia retrospectiva de reconocimiento facial, y no fue influenciado por perfiles raciales”.
Pero Choudhury dijo que los agentes de la comisaría de Hampshire se rieron cuando preguntó: “¿Se parece a mí?”. Y dijo que los agentes de policía de Thames Valley que llegaron para entrevistarlo dijeron “sabían que yo no era el sospechoso después de ver las imágenes del sospechoso y mi foto”.
En repetidas ocasiones se han emitido advertencias sobre el uso de tecnología de reconocimiento facial automatizado. En diciembre de 2024, el Comisionado de Cámaras de Vigilancia y Biometría del Reino Unido, William Webster, apodado Preocupa que la policía siguiera reteniendo y utilizando imágenes de personas que, una vez detenidas, nunca fueron acusadas ni citadas posteriormente. El mes pasado, la policía de Gales del Sur pagado daño a un hombre negro que fue arrestado injustamente y detenido durante 13 horas siguiendo la tecnología de reconocimiento facial.
El abogado de Choudhury, Iain Gould, socio de DPP Law, dijo que la policía “debe garantizar que la inteligencia artificial no sea reemplazada por la inteligencia humana y la diligencia debida, sino que se utilice en cuidadosa colaboración con ella”.
EL oficina en casa dicha orientación y capacitación para minimizar errores y mantener la confianza del público en el reconocimiento facial retrospectivo estaba siendo revisada por la Inspección de Policía. Dijo que se está desarrollando un nuevo sistema nacional de comparación facial, con un algoritmo mejorado y probado de forma independiente.
