El comportamiento de Grok no es sorprendente, pero no necesitamos conformarnos con la visión del futuro de Musk | Samuel Woolley
miChatbot Grok de Lon Musk se realizó diatriba odiosa a principios de este mes. La cuenta impulsada por IA elogió a Hitler y publicó una serie de comentarios antisemitas sobre X, la plataforma digital también propiedad de Musk. La CEO de la compañía, Linda Yaccarino, renunció al día siguiente, aunque es no claro Si su salida estaba directamente relacionada con la diatriba del bot.
Publicando en X, la Liga Anti-Defamación (ADL) dijo que el comportamiento de Grok era “irresponsable, peligroso y antisemita”. Xai y la cuenta de Grok en X se disculparon por el incidente, pero días después liberado Dos “compañeros” de chatbot, incluido un avatar de anime NSFW disponible para niños y un personaje de panda rojo construido para emitir insultos crudos.
Almizcle, mientras tanto, tiza El comportamiento de Grok hasta que está “demasiado ansioso por complacer” y para responder a las indicaciones generadas por el usuario. Dijo que el problema se había solucionado. Los políticos y los anunciantes de la plataforma de los Estados Unidos dijeron poco, a diferencia de respuestas pasadas a incidentes similares en X. Su silencio y el minimismo de Musk del evento hablan más fuerte que si hubiéramos escuchado denuncias públicas significativas de las acciones del chatbot de los poderes que son.
El relativo silencio en la parte superior es ilustrativo de dos cosas. Primero, el comportamiento de Grok no es sorprendente. En este punto, es predecible. Segundo, poco sobre Grok, incógnitao es probable que Xai cambie a corto plazo.
Grok compartiendo contenido odioso está trabajando precisamente como fue diseñado. Antes de que el chatbot inflamatorio naciera “y se lanzó en X a fines de 2023, almizcle habló Sobre la necesidad de alternativas de IA a ChatGPT, que consideraba demasiado políticamente correcta. Se ha referido constantemente a su IA anti-despierta como “Truthgpt“. Grok fue construido deliberadamente para ser provocativo, y”para decirlo como es“.
Grok es una representación adecuada de la cultura actual de X y, más ampliamente, de las redes sociales y las de sus riendas. En los años transcurridos desde que Musk compró la plataforma de Internet, originalmente llamada Twitter, muchos han señalado que se ha convertido en un espacio lleno de “racismo, misoginia y mentiras“. También está lleno de Spam y estafas.
Poco después de que la plataforma cambió de nombre y manos, la mayoría de las personas detrás de la moderación de contenido y la confianza y la seguridad disparado sin ceremonias. Extremistas y teóricos de la conspiración que habían sido deplatados de Twitter fueron restablecidos en X. A finales de 2024, el primer informe de transparencia de la organización de redes sociales en años reveló Problemas serios con este nuevo enfoque de laissez-faire, que incluyen inquietantes nuevos casos de explotación infantil.
Según el almizcleGrok fue construido para buscar y revelar verdades más allá del contenido supuestamente desinfectado visto en sistemas de IA generativos competitivos o plataformas de redes sociales anteriores. Pero Grok lo que realmente hace es decir la “verdad” de la actualización actual, maligna, la versión de X y de otras plataformas de redes sociales y el liderazgo tecnológico. Desde la adquisición de X de Musk, y la desregulación del contenido que siguió, otras plataformas han seguido su ejemplo.
Estos cambios siguen a un orden ejecutivo y otros movimientos de la administración Trump destinada a reducir la “censura” a través de la moderación de contenido digital y, aparentemente, el estudio colaborativo de la propaganda de las redes sociales. Mientras tanto, las redes sociales y las empresas de IA se están volviendo más acogedores con Washington: Xai solo firmado Un contrato de $ 200 millones con el Pentágono para proporcionar “Grok para el gobierno”.
En investigación anteriorDescubrí que las afirmaciones de multimillonarios y líderes políticos globales sobre la censura de los medios digitales y la preservación de la libertad de expresión en línea a menudo son sospechosos en el mejor de los casos. En el peor de los casos, y más cerca de lo que he encontrado en mis análisis, tales afirmaciones son egoístas para aquellos en el poder. Estas cifras no solo poseen una participación significativa en el entorno de información digital; También han cultivado el espacio en línea para ser favorable a sus objetivos e ideas. Buscan controlar artificialmente qué tendencias, o lo que las personas ven como un comportamiento popular, y hacer que tales declaraciones o acciones sean aceptables.
Pero un mundo en línea donde el odio, el spam y las estafas se rampan es solo una versión de lo que puede ser Internet y la tecnología de medios digitales. Lo contrario, como lo han señalado Musk y otros en Silicon Valley y Washington, es un espacio en línea abiertamente censurado. Las plataformas de Internet y redes sociales de China, por ejemplo, han sido estrechamente controladas por el gobierno desde el principio.
No tenemos que aceptar ninguno de los extremos. Investigación empírica y lecciones de historia reciente Muéstranos que de hecho podemos tener herramientas de comunicación más saludables, más conectivas. Podemos tener plataformas de redes sociales que se moderan de manera sensata y sistemática desde arriba hacia abajo y de abajo hacia arriba.
Pero para tener tales espacios debemos exigir mejor, más reflexivo, moderación de contenido y diseño de herramientas de tecnólogos y formuladores de políticas. También debemos romper el dominio del Big Tech en la innovación en el espacio de las redes sociales. Demasiado poder en línea se consolida en manos de muy pocas empresas e individuos. Necesitamos nuevas plataformas digitales que genuinamente centren los derechos humanos, el pluralismo y el discurso democrático, y mejores políticas que permitan tal experiencia.
