Identidad indígena distorsionada por la IA: ¿es su empresa parte del problema?

Como alguien que trabaja con una combinación de propiedad cultural y excelencia organizacional, he visto el uso de la IA. con cuidado — Ayudar a las empresas a crear una política laboral integral. Presenta historias que celebran la riqueza cultural. e incluso presentar un lenguaje que celebre el Día de los Pueblos Indígenas de una manera que refleje fuerza y ​​posibilidad.

Pero también he visto la otra cara de la moneda: la IA recrea viejos traumas y convierte las experiencias vividas por los pueblos indígenas modernos en estereotipos planos y unidimensionales. En lugar de representar el presente y el futuro de las comunidades indígenas, la IA a menudo hace circular caricaturas obsoletas.

Esto plantea una pregunta difícil pero necesaria: ¿se convertirá la IA en una herramienta para honor Pueblos indígenas, ¿o profundizará el ciclo de exclusión, apropiación y distorsión? Veamos cómo la IA les ha fallado a los pueblos indígenas.

RELACIONADO: Simplemente reconocer el Día de los Pueblos Indígenas no es suficiente. Aquí hay cuatro formas en que los empleadores pueden actuar, ayudar y apoyar a los nativos americanos.

Cuando la IA viola el consentimiento

El motor de reconocimiento de voz Whisper de OpenAI Entrenado con miles de horas de sonidos, incluido el te reo Māori, la lengua indígena de Nueva Zelanda. Los activistas locales advierten que sus datos culturales se están recopilando sin su consentimiento. Para muchos, esto parece ser una “colonización digital”

Cuando la IA aprende el idioma nativo sin permiso no solo distorsiona la cultura. Pero también destruye a las comunidades que tienen control sobre su herencia. El lenguaje es sagrado representa singularidad, historia y propiedad. Para los partidarios de los maoríes, el temor es claro: las empresas de inteligencia artificial que se benefician de su idioma sin protección es otro capítulo de una larga historia de personas externas que lo aceptan sin preguntar.

Relacionado: Simplemente reconocer el Día de los Pueblos Indígenas no es suficiente. Aquí hay cuatro formas en que los empleadores pueden actuar, ayudar y apoyar a los nativos americanos.

Por qué es importante la autenticidad: los errores de Adobe al representar a los aborígenes

en australia Adobe enfrenta reacciones violentas por algunas de sus imágenes de archivo generadas por IA Descubrí que había una etiqueta que decía “Australianos indígenas” para representar representaciones estereotipadas y culturalmente inexactas de los aborígenes. La foto muestra tatuajes y marcas corporales no relacionados. Esto no refleja el verdadero significado sagrado que se encuentra en las comunidades aborígenes.

Los críticos lo calificaron de “colonialismo tecnológico”. — Desmantelar tradiciones complejas y dispares en un modelo único cuando la IA representa de manera inexacta a los pueblos indígenas. Envía el mensaje de que las identidades indígenas pueden mercantilizarse. hacerlo más fácil o más barato para el consumo general

Los trópicos no tan sutiles de MidJourney

Uno de los ejemplos más obvios proviene de plataformas artísticas de inteligencia artificial como MidJourney, cuando la gente solicita palabras clave. El resultado a menudo parece una escena de una vieja película de Hollywood, como un tipo con un sombrero de plumas, pintura de guerra y un tipi de fondo.

Los nativos de hoy son profesores. Ingenieros de software, emprendedores, artistas y líderes en sus comunidades. Viven en ciudades y reservas. Use la moda que usted y yo hicimos y cree cosas nuevas tanto dentro como fuera de sus tradiciones. Pero la imaginación de la IA parece atrapada en un mundo obsoleto. Borra la experiencia indígena moderna en favor de una historia más antigua.

¿Por qué debería importarles a los empresarios?

Si eres un emprendedor que utiliza herramientas de inteligencia artificial para crear imágenes, texto o marcas que hacen referencia a los pueblos indígenas, esto es más que una cuestión cultural. Pero también se trata de honestidad, confianza y estar en el lado correcto de la historia.

La publicación de contenido generado por IA que tergiversa o estereotipa intencionalmente a los pueblos indígenas corre el riesgo de dañar su credibilidad. alienar a la comunidad y puede provocar batallas legales o de reputación.

Pero aparte de los riesgos empresariales, los empresarios también tienen una responsabilidad más profunda, especialmente aquellos comprometidos con la igualdad. Su trabajo es ayudar a la IA a contar historias más precisas y respetuosas.

Relacionado: Por qué todo emprendedor debe centrarse en la IA ética, ahora

Tres formas en que los emprendedores pueden hacerlo bien

1. Verifique su producción de IA

Antes de presionar publicar, pregúntese si el contenido honra o destruye la cultura. Examine los resultados de su IA con ojo crítico. Si las imágenes de los nativos son amplias, estereotipadas o inexactas, no utilices esa imagen. Si el texto generado por IA se basa en texto desactualizado, simplemente aléjese

Piénselo de esta manera: si su empresa está comprometida con la diversidad y la inclusión en el lugar de trabajo. Su contenido generado por IA debe reflejar los mismos valores. Si no, no es sólo un error de marca. Es un abuso de confianza.

Relacionado: Representar los avances de la IA: siga estos cinco principios para hacer que la IA sea más inclusiva para todos.

2. Confiar y apoyar la soberanía de los datos

Las comunidades indígenas de todo el mundo abogan por la soberanía de los datos. El derecho a controlar y controlar el uso de su información, incluido el lenguaje, las historias y las imágenes.

Organizaciones como Cooperación para la gobernanza de datos indígenas y Grupo de trabajo sobre el Protocolo de los Pueblos Indígenas y la IA está liderando Dijeron que la IA no debería utilizar los datos de los pueblos indígenas sin su consentimiento. Y cuando eso suceda, también debería ser beneficioso para las comunidades indígenas.

Para los emprendedores, esto significa elegir herramientas, conjuntos de datos y socios que se alineen con estos principios. También significa ampliar las iniciativas de IA lideradas por indígenas. Apoyar la soberanía de los datos es decir: tu voz importa. Tu conocimiento es importante. Y estamos siguiendo su liderazgo.

3. Consultar y colaborar con expertos locales.

Una de las mejores maneras de evitar obstáculos es presentar las voces indígenas.

¿Si su empresa crea campañas, productos o estrategias impulsados ​​por IA que sean relevantes para los pueblos indígenas? Colabore con expertos indígenas Encuentre un consultor que comprenda tanto la cultura como la tecnología. Trabajar con empresarios y científicos de datos creativos indígenas

La representación es importante no sólo en el resultado sino también en el proceso. Al permitir que los pueblos indígenas ayuden a diseñar, probar y revisar su implementación de IA, irá más allá de “marcar la casilla” hacia la promoción de una verdadera propiedad.

Pensamientos finales

La IA no es neutral, refleja prejuicios. historia y las elecciones de los humanos que la diseñaron y entrenaron. Eso significa que también tenemos una opción: podemos permitir que la IA perpetúe la vieja historia, o podemos exigir que se convierta en una herramienta de pertenencia e igualdad.

Para los pueblos indígenas, la IA no debería significar la eliminación. tergiversación o búsqueda de beneficios Pero deberían elevar sus historias. ampliar su innovación y reflejar la diversidad de sus vidas actuales.

y para los emprendedores la responsabilidad es clara: si usas IA, úsala con intención. No permita que la conveniencia prevalezca sobre la corrección cultural. No permita que la velocidad anule la responsabilidad. No dejemos que la tecnología silencie el ruido que debería estar amplificando. Mantente en el lado correcto de la historia

Como alguien que trabaja con una combinación de propiedad cultural y excelencia organizacional, he visto el uso de la IA. con cuidado — Ayudar a las empresas a crear una política laboral integral. Presenta historias que celebran la riqueza cultural. e incluso presentar un lenguaje que celebre el Día de los Pueblos Indígenas de una manera que refleje fuerza y ​​posibilidad.

Pero también he visto la otra cara de la moneda: la IA recrea viejos traumas y convierte las experiencias vividas por los pueblos indígenas modernos en estereotipos planos y unidimensionales. En lugar de representar el presente y el futuro de las comunidades indígenas, la IA a menudo hace circular caricaturas obsoletas.

Esto plantea una pregunta difícil pero necesaria: ¿se convertirá la IA en una herramienta para honor Pueblos indígenas, ¿o profundizará el ciclo de exclusión, apropiación y distorsión? Veamos cómo la IA les ha fallado a los pueblos indígenas.