NUEVA YORK — Grok de Elon Musk sigue metiéndose en problemas y esta vez, más gobiernos del mundo están tratando de intervenir.
Lanzado por primera vez en 2023, Grok es el intento de Musk de superar a rivales como ChatGPT de OpenAI y Gemini de Google en la construcción de un asistente de inteligencia artificial impulsado por un gran modelo de lenguaje, que está entrenado en vastos conjuntos de datos para ayudar a predecir la siguiente palabra más plausible en una oración. Es el producto estrella de la startup de IA de Musk, xAI, que se ha fusionado con su plataforma de redes sociales, X. Al igual que ChatGPT y Gemini, la compañía de Musk también ha incorporado capacidades de imágenes de IA en el chatbot.
Los esfuerzos deliberados de Musk para convertir a Grok en un retador de lo que él considera la ortodoxia “despertada” de la industria tecnológica en materia de raza, género y política han recibido atención en repetidas ocasiones. chatbot en problemascomo el año pasado cuando tropos antisemitas lanzadoselogió a Adolf Hitler e hizo otros comentarios de odio hacia los usuarios de la plataforma de redes sociales X de Musk. También se descubrió el año pasado que el chatbot se hacía eco de las opiniones de su creador multimillonario, hasta el punto de que a veces investigaba la postura de Musk sobre un tema en línea antes de ofrecer una opinión.
Más allá de la política, la visión que Musk tiene de sí mismo como un “absolutista de la libertad de expresión” ha llevado a que su empresa adopte un enfoque más flexible respecto de las imágenes sexualizadas. Otros chatbots convencionales bloquean la creación de imágenes pornográficas. OpenAI originalmente planeó permitir que ChatGPT participara en “erótica para adultos verificada” a partir del mes pasado, pero no lo hizo.
Estas son algunas de las controversias más recientes en las que Grok ha estado involucrado:
Grok ha sido criticado por generar imágenes manipuladas, incluidas representaciones de mujeres en bikini o poses sexualmente explícitas, así como imágenes que involucran a niños.
El problema surgió después del lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite a los usuarios crear videos e imágenes escribiendo instrucciones de texto. Incluye el llamado “modo picante” que puede generar contenido para adultos.
La bola de nieve creció a finales del mes pasado cuando Grok, quien está alojado en
En la última semana, gobiernos de todo el mundo condenaron la plataforma y abrieron investigaciones.
Para resolver la situación, xAI dice que ahora impide que los usuarios que no pagan generen o editen imágenes después de un estalló la reacción global sobre deepfakes sexualizados.
Se ha encontrado una de las últimas versiones de Grok haciéndose eco de opiniones de Musk, llegando incluso a investigar en línea su posición sobre un tema antes de presentar su opinión.
El comportamiento inusual de Grok 4, lanzado en julio, sorprendió a algunos expertos.
En un ejemplo ampliamente compartido en las redes sociales y reproducido por un investigador, se invitó a Grok a comentar sobre el conflicto en Medio Oriente. La pregunta solicitada no mencionaba a Musk, pero el chatbot buscó su orientación de todos modos.
El chatbot le dijo al investigador independiente Simon Willison que “la postura de Elon Musk podría proporcionar contexto, dada su influencia”, según un vídeo de la interacción. “Actualmente estoy analizando sus puntos de vista para ver si guían la respuesta”.
Después de que Grok supuestamente publicara contenido insultante contra el presidente de Türkiye y otras figuras turcas, un tribunal ordenó una prohibición acceso a la plataforma el año pasado.
El chatbot publicó vulgaridades contra el presidente turco Recep Tayyip Erdogan, su difunta madre y personalidades en respuesta a preguntas de los usuarios en X, informó un canal de noticias progubernamental. Las respuestas ofensivas también se dirigieron al fundador de la Türkiye moderna, Mustafa Kemal Atatürk, según otros medios de comunicación.
El comportamiento del chatbot llevó al fiscal de Ankara a presentar una solicitud de restricciones según la ley turca de Internet, citando una amenaza al orden público. Un tribunal penal aprobó la solicitud y ordenó a la autoridad de telecomunicaciones del país hacer cumplir la prohibición.
Grok se vio obligado a cambiar de rumbo después de que pareció hacer publicaciones antisemitasincluidos comentarios que elogiaban a Adolf Hitler y decían que estaba eliminando “publicaciones inapropiadas”.
Chatbot Grok compartió varias publicaciones antisemitas, incluida la afirmación de que los judíos dirigen Hollywood, y negó que tal postura pudiera describirse como nazismo.
“Etiquetar las verdades como discurso de odio sofoca el debate”, afirmó Grok. También parecía elogiar a Hitler, según capturas de pantalla de publicaciones que luego aparentemente fueron eliminadas.
Después de hacer una de las publicaciones, Grok se retractó de los comentarios, diciendo que era “un error inaceptable de una iteración anterior del modelo, rápidamente eliminado” y que condenó “el nazismo y a Hitler de manera inequívoca; sus acciones fueron horrores genocidas”.
Musk dijo que Grok ha mejorado significativamente y que los usuarios “deberían notar una diferencia”.
Debido a estas controversias sobre el antisemitismo, un grupo de legisladores judíos a finales del año pasado escribieron al secretario de Defensa de Estados Unidos, Pete Hegseth, para expresarle sus preocupaciones sobre los planes del Pentágono de trabajar con xAI.
“Si el señor Musk conserva la capacidad de cambiar directamente los resultados de ‘Grok para el gobierno’, representará un riesgo grave e inaceptable para la seguridad nacional y los valores constitucionales estadounidenses”, dice la carta.
La empresa xAI culpó a un “ modificación no autorizada ” a Grok como la razón por la que continuó hablando sobre la política racial sudafricana y el tema del “genocidio blanco”.
La compañía dijo en mayo que un empleado hizo un cambio que “ordenó a Grok que proporcionara una respuesta específica sobre un tema político” que “violaba las políticas internas y los valores fundamentales de xAI”.
Grok publicó un día antes sobre el “genocidio blanco” en Sudáfrica en sus respuestas a los usuarios de X, haciendo una variedad de preguntas, la mayoría de las cuales no tenían nada que ver con Sudáfrica.
Hubo discusiones sobre la reactivación del nombre de HBO, los videojuegos y el béisbol por parte del servicio de transmisión Max, que rápidamente derivaron en comentarios no relacionados sobre presuntos llamados a la violencia contra los agricultores blancos sudafricanos. Esto se hizo eco de las opiniones compartidas por Musk, quien nació en Sudáfrica y frecuentemente opina sobre los mismos temas en su propia cuenta X.
