Un jefe de policía admitió que la inteligencia artificial utilizada para impulsar la lucha contra el crimen contendrá prejuicios, pero prometió abordar los riesgos.
Los laboristas quieren una expansión espectacular del uso de la IA por parte de la policía en Inglaterra y Gales, y los jefes de policía también creen que podría ayudar a mantener a las fuerzas del orden al día con las nuevas amenazas criminales.
Alex Murray dijo a The Guardian que un nuevo centro de inteligencia artificial de la policía nacional reconocería los riesgos de parcialidad y los minimizaría.
El sesgo en el uso de la IA en la actividad policial puede dar lugar a casos en los que los algoritmos (a menudo entrenados con datos históricos que reflejan prejuicios humanos del pasado) producen sistemáticamente resultados injustos, como centrarse excesivamente en comunidades minoritarias o identificar erróneamente a personas por motivos de raza, género o estatus socioeconómico.
Murray, director de liderazgo de amenazas de la Agencia Nacional contra el Crimen y líder nacional de IA, dijo: “Después de reconocer y minimizar [bias]¿Cómo se capacita a los agentes para que afronten los resultados y garanticen que se minimicen aún más?
“Si se habla de reconocimiento facial en vivo o vigilancia policial predictiva, habrá sesgos y será necesario contratar científicos e ingenieros de datos para limpiar los datos, entrenar el modelo adecuadamente y luego probarlo.
“No tiene sentido revelar a la policía algo que contiene prejuicios que no se reconocen, y se debe hacer todo lo posible para minimizarlos a un nivel en el que puedan ser comprendidos y mitigados”.
Ya han surgido ejemplos de sesgo en el uso policial del reconocimiento facial retrospectivo, que funciona con inteligencia artificial. Aquí es donde se compara a un sospechoso con una base de datos de imágenes posteriores a un crimen.
El reconocimiento facial en vivo, que es más controvertido y menos utilizado por las fuerzas del orden, busca sospechosos en tiempo real y también contiene prejuicios. Un informe en diciembre descubrió que un sistema de reconocimiento facial retrospectivo utilizados por la policía se utilizaron con salvaguardias inadecuadas.
La Asociación de Policía y Crime Commissioners (APCC), que supervisa las fuerzas locales en Inglaterra y Gales, dijo: “Las fallas en el sistema se conocen desde hace algún tiempo, pero no se han compartido con las comunidades afectadas ni con las partes interesadas clave del sector”.
El líder de ciencia forense de APCC, Darryl Preston, comisionado de policía y delitos de Cambridgeshire, dijo: “El descubrimiento de sesgos incrustados en el sistema de reconocimiento facial retrospectivo de la base de datos nacional de la policía, aunque sólo sea en circunstancias limitadas, demuestra la necesidad de una supervisión independiente de estas poderosas herramientas.
“No es aceptable que se utilice tecnología a menos y hasta que haya sido probada exhaustivamente para eliminar sesgos. Claramente, ese no fue el caso en este caso”.
El nuevo centro nacional de IA, que costará £115 millones, tendría como objetivo reducir el sesgo, dijo Murray, así como evaluar y decidir qué productos de proveedores privados funcionan. Actualmente, cada una de las fuerzas en todo el Reino Unido toma sus propias decisiones, lo que se considera lento y derrochador.
Murray dijo que la policía estaba en una “carrera armamentista” con los delincuentes que usaban tecnología: “Cualquiera con imaginación puede usar la IA”.
En un caso, un pedófilo afirmó que las imágenes que lo mostraban involucrado en abuso infantil eran falsas, lo que la policía tuvo que refutar para condenarlo.
Murray dijo que los beneficios de la IA van mucho más allá del “cliché que rodea Informe de minorías y vigilancia policial predictiva”.
Agregó que en una variedad de delitos y desafíos que enfrenta la policía, la IA va desde una ayuda hasta un cambio de juego, pero un oficial de policía humano tendrá que tomar las decisiones finales sobre qué hacer con los resultados que produce la IA.
Dijo que esto podría ayudar a la policía a lidiar con los agitadores políticos que infectan las redes sociales con imágenes falsas para intentar provocar violencia callejera.
Con el tiempo, dijo Murray, esto podría ayudar con las persecuciones humanas, o acelerar las búsquedas de automóviles vinculados a sospechosos y ahorrar los cientos de horas que les toma a los detectives revisar extensas imágenes de CCTV, o acelerar la búsqueda de dispositivos digitales incautados a los sospechosos en la búsqueda de pruebas incriminatorias.
“Lo que llevó días, semanas y a veces meses, puede llevar horas”, afirmó.
En un caso recienteCuatro sospechosos de Luton han sido arrestados por ataques a cajeros automáticos y robos. La policía descargó datos de los teléfonos de los sospechosos y, gracias a la IA, consiguió una declaración de culpabilidad en unas semanas.
Los datos estaban en rumano y la IA los analizó, los tradujo, identificó el material relacionado con posibles delitos, identificó los delitos y lo presentó todo en un paquete para los detectives.
Trevor Rodenhurst, jefe de policía de la policía de Bedfordshire, dijo a The Guardian: “Esto nos ha permitido extraer pruebas de muchos dispositivos con una gran cantidad de datos, algo que de otro modo no hubiéramos podido hacer”.
Rodenhurst dijo que a medida que los agentes utilizan la IA y se dan cuenta de sus beneficios, la visión de primera línea está cambiando: “Ya no sospechan, preguntan cuándo podrán tenerla. Esta capacidad es transformadora”.
