En las últimas semanas, ex trabajadores de seguridad e investigadores de OpenAI y Anthropic han hecho públicas sus quejas, generando un debate sobre la seguridad de la IA.
Mrinank Sharma renunció a su trabajo como investigador de seguridad en Anthropic y libros Días después, Zoe Hitzig, investigadora de OpenAI, Anunciar Su renuncia en New York TimesDijo que tenía “profundas reservas” sobre su estrategia para dirigir anuncios a los usuarios. Luego vino la noticia de que OpenAI tenía Despedir al director de seguridad – que generó preocupaciones sobre la publicación de contenido provocativo en ChatGPT – por motivos de sexismo, y disolvió su equipo de coordinación de tareas.
Las últimas medidas se producen en un momento de creciente preocupación por… pérdida de empleo Desde Amnistía Internacional, Efectos sobre la salud mental Desde chatbots impulsados por inteligencia artificial, y Impactos ambientales Centros de datos de inteligencia artificial. Si bien a algunos países se les ofrece Regulaciones de inteligencia artificialEl presidente Donald Trump se ha referido a él. Falta de voluntad para frenar la inteligencia artificial. Creciente Influencia económica y política La cantidad de empresas de inteligencia artificial, junto con sus estrechos vínculos con la administración Trump, ha tenido un efecto paralizador en los trabajadores, dijo Mary Inman, quien ha representado a denunciantes durante más de tres décadas. resto del mundo.
Mucha gente ahora tiene más ojos puestos en la tecnología. Entonces tal vez tengamos otro despertar.
Inman es miembro fundador del Consejo de Administración hora del pacíficouna organización sin fines de lucro que proporciona una bóveda digital segura para divulgaciones, así como apoyo legal para denunciantes. Al igual que una bóveda digital, que hace coincidir los intereses de un individuo con los de otros empleados de la misma organización, facilita la participación incluso para los trabajadores extraterritoriales mal protegidos, dijo Inman. Denunciantes de facebook Frances Haugen y Tyler Schultz, denunciantes de Theranos.
La entrevista ha sido editada para mayor extensión y claridad:
¿Cuáles son algunos de los métodos que utilizan las empresas de IA para disuadir a sus empleados de hablar?
El mayor problema es que estos países no sólo tienen acuerdos de confidencialidad, sino que también tienen una cláusula de arbitraje obligatoria, lo que significa que las disputas nunca ven la luz del día. Las disputas se resuelven esencialmente en una caja negra, en lugar de en los tribunales, y no se hacen públicas. Lo que también vemos es que el acuerdo de confidencialidad que firmas al entrar es muy diferente al que firmas al salir; Es más restrictivo. [Anthropic has committed to reviewing and updating its whistleblower policy. OpenAI revised its policy following criticism, including from its own employees.]
Los acuerdos de confidencialidad a menudo contienen lenguaje silenciador que viola la SEC [Securities and Exchange Commission] La ley que dice que no se puede interferir con la capacidad de un denunciante de presentar informes a reguladores externos. Las empresas también pueden tener una cláusula de no desvío y, si la gente se niega a firmarla, se les dice que perderán sus acciones. el [Berlin-based] Iniciativa de denuncia de irregularidades de Amnistía Internacional el llamo Las empresas de IA están obligadas a publicar sus propias políticas de denuncia de irregularidades, y sólo unas pocas lo han hecho.
Representé a Frances Haugen, una denunciante de Facebook. Aunque no fue hace tanto tiempo, parece una época completamente diferente. Lo que es diferente ahora es que todas las grandes empresas de inteligencia artificial se creen intocables. Se sintieron alentados porque Carrera armamentista de inteligencia artificialTenemos que ganarlo antes de que lo haga China. No hay ningún deseo de frenarlos o frenarlos. La industria está en riesgo porque hay demasiados inmigrantes En él, el incentivo para hacer algo bajo esta administración es muy pequeño. Los obstáculos son muy grandes, pero hay algunas personas que hablan, por lo que hay un rayo de esperanza.
¿Cómo puede presentarse un psst denunciante?
Psst se creó para tratar de proporcionar un espacio seguro para alentar a los denunciantes de IA, en particular, a hablar. Para los denunciantes, a menudo existe el problema de ser el primero en actuar. La bóveda digital en la que las personas pueden depositar está encriptada y no desbloqueamos las claves hasta que haya coincidencias. Haremos que un abogado lo llame y le diga: “Hay otros dos corresponsales que están interesados en formar pareja. Si está interesado, ¿lo reconsideraría?”. Es como Tinder para denunciantes. Intenta hacer que la denuncia de irregularidades sea colectiva, creando seguridad y fuerza en la unión. Es posible que no arriesgue su carrera basándose en una pequeña pieza del rompecabezas, pero considerará arriesgar su carrera si otros aportan otras piezas, y eso aumenta las probabilidades de tener un impacto. Si puedes ser parte de Colectivo-Puedes ser anónimo.
Es como Tinder para denunciantes. “Intenta unir colectivamente a los denunciantes, creando seguridad y fuerza en la unión”.
También está la parte global: tienes moderadores de contenido en Nigeria, etiquetadores de datos y Operadores de robots En Filipinas. India tiene una enorme industria tecnológica, pero… Criminalización Algunas conductas de denuncia de irregularidades. Con PSSt, incluso los trabajadores extranjeros pueden enviar información. Lo más importante es que puede obtener asesoramiento legal gratuito. Los denunciantes necesitan apoyo psicológico y social, y necesitan diferentes tipos de apoyo legal; Estamos aquí para asegurarnos de que no sean silenciados por los documentos que se les pide que firmen al entrar y salir. Les decimos a estos trabajadores tecnológicos: “No lo firmen sin obtener asesoramiento legal gratuito. Hable con nosotros antes de firmar”. No queremos que se sientan vulnerables: “Oh, estoy en el África subsahariana, ¿qué puedo hacer?”.
¿Cuáles son algunas áreas potenciales en la industria de la IA sobre las que los trabajadores podrían denunciar?
Podría tratarse de un daño a los inversores: cosas que suceden en otras partes del mundo pueden alcanzar un nivel que podría considerarse un riesgo para la seguridad. Podría tratarse de un lavado de IA: varias industrias afirman que pueden lograr mucho gracias a la IA, cuando no es así. Puede haber lavado de dinero, preocupaciones antimonopolio o facilitación de negocios en un país sancionado. También puede haber preocupaciones éticas sobre los derechos de autor o el medio ambiente. Todos los laboratorios de IA de vanguardia están emparejados ejército Contratistas: Anduril con muertosantrópico con palantir. [Anthropic is battling the Pentagon after it was revealed that Claude was used in the capture of Venezuelan leader Nicolás Maduro.] La inteligencia artificial se utiliza en el control de fronteras. Por eso creo que puedes convertirte en denunciante en algunos de estos lugares.
La gente es más escéptica ante la inteligencia artificial, hay más dudas. La generación de mis hijos ve a Silicon Valley de manera diferente gracias a Elizabeth Holmes y Sam Bankman Fried. Así que creo que el florecimiento de Silicon Valley ha terminado. Mucha gente ahora tiene más ojos puestos en la tecnología. Entonces tal vez tengamos otro despertar.
