Coventry Council para usar Palantir AI en trabajo social, Send y Servicios para Niños | Coventry

Los trabajadores del sector público han expresado “profunda preocupación” después de que el Ayuntamiento de Coventry firmó un contrato de inteligencia artificial de £ 500,000 al año con la compañía de tecnología de datos de EE. UU. Palantir.

El acuerdo es el primero de su tipo entre una autoridad local del Reino Unido y la compañía con sede en Denver, que Tecnología de suministros a las Fuerzas de Defensa de Israel (IDF) y a Ayuda a los esfuerzos de deportación masiva de Donald Trump.

El contrato sigue un esquema piloto en el departamento de servicios para niños del Consejo, incluido el uso de IA para la transcripción de la nota de casos y para resumir los registros de los trabajadores sociales. El Consejo planea extender el sistema Palantir a los procesos para brindar apoyo a los niños con necesidades educativas especiales.

La directora ejecutiva del consejo, Julie Nugent, dijo que tenía como objetivo “mejorar la integración de datos internos y la prestación de servicios” y “explorar las oportunidades transformadoras de la inteligencia artificial”.

Palantir ya tiene una serie de contratos del sector público en el Reino Unido, incluida la proporcionar IA para ayudar a abordar el crimen organizado en Leicestershire y Construyendo la nueva plataforma de datos federados del NHS. Keir Starmer recorrió la oficina de la compañía en Washington en febrero con su director ejecutivo y cofundador, Alex Karp. Palantir también fue cofundado por Peter Thiel, el multimillonario de PayPal que ayudó a financiar las elecciones de Trump en 2016 Camapign.

Los sindicatos que representan a los maestros y otros trabajadores del consejo han dicho que el acuerdo plantea “preguntas éticas serias”, y el concejal independiente Grace Lewis pidió que el consejo cancele el contrato de inmediato “y se asegure de que las £ 500,000 se gasten aquí en nuestra comunidad”.

“Es indefendible que el Consejo celebró un contrato con Palantir, una compañía infame por su papel en proporcionar armas y vigilancia a las FDI y su papel en la privatización del NHS, en un momento en que el consejo ha hecho recortes al sector público y voluntario”, dijo Lewis.

Coventry recientemente comenzó a usar la IA de Palantir para detectar aplicaciones para fondos de apoyo a los hogares. Un alto funcionario dijo en una reunión de concejales en junio: “Hay muy pocas áreas que no se beneficiarían de la inteligencia artificial”. Un concejal en la reunión respondió: “Suena un poco como Big Brother para mí”.

En una carta a Nugent, el Secretario Conjunto de la Rama Coventry de la Unión Nacional de Educación, Nicky Downes, destacó el uso de AI de Palantir en los sistemas de vigilancia y armas, y planteó preocupaciones sobre su recopilación y almacenamiento de datos sobre ciudadanos, en particular con respecto a su provisión de sistemas de vigilancia predictiva.

“Hay algunas preguntas éticas serias sobre las prácticas comerciales de Palantir Foundry, que es una subsidiaria de Palantir”, dijo Downes. “También hay preguntas relacionadas con su uso y abastecimiento de datos personales. Cuestionaríamos el proceso de adquisición, particularmente con respecto a las consideraciones éticas y las evaluaciones de riesgos que lo acompañan, lo que llevó a la decisión de gastar £ 500,000 en un paquete de IA de Palantir Foundry”.

Nugent respondió: “Hemos designado a Palantir durante 12 meses para explorar las oportunidades transformadoras de la inteligencia artificial al ejecutar pruebas de conceptos en varias de nuestras áreas clave. Esto construirá nuestro caso comercial para una inversión futura adicional y nuestro enfoque general para la IA. Comprendemos que las implicaciones éticas de la procuración de AI son de importancia paramparable.

Un portavoz de Palantir dijo: “Estamos entusiasmados de ayudar a la IA del Consejo de la Ciudad de Coventry a aprovechar la IA para mejorar los servicios que brindan al público. La tecnología ofrece un gran potencial, como permitir que los trabajadores sociales y los profesionales de necesidades educativas especiales pasen menos tiempo en el papeleo y más tiempo que apoyan directamente a los niños que son vulnerables o tienen necesidades especiales. Las señales tempranas son extremadamente prometedores, mostrando el potencial para una reducción significativa en la burde de la administración de administración”.

Dijeron que Palantir no era partidista y se había comprometido con varias administraciones del gobierno de los Estados Unidos desde que comenzó a trabajar con el Departamento de Seguridad Nacional en 2010.

Un portavoz del consejo dijo que estaba explorando cómo la IA podría ayudar a mejorar los servicios y hacerlos más eficientes. “Como parte de esta iniciativa, estamos evaluando una variedad de socios de soluciones y tecnología de IA, incluido Palantir, para apoyar nuestros objetivos de IA … a medida que continuamos evaluando el valor de la IA para futuras inversiones, mantener la protección de datos sólida y los estándares de gobernanza seguirán siendo nuestra máxima prioridad”.

Dijo que el contrato se adjudicó en línea con los procedimientos de adquisición estándar y cumplió con sus “rigurosos requisitos de seguridad y cumplimiento”.