Las respuestas de ‘Genocidio’ de Grook muestran que Gen AI se modifica con ‘a voluntad’.

Muhammad Selim Korkutata | Anatolia | Getty Images
En los últimos dos años, desde que la inteligencia artificial se originó en el mundo, la tormenta después del lanzamiento de ChatGPT público, la confianza es un problema para siempre.
Darmados, malas matemáticas y prejuicios culturales han perturbando la advertencia del usuario de cuánto podemos confiar en la IA al menos en este momento.
El chatbot Grok de Elon Musk fue construido por su XAI. Sus programas iniciales de que esta semana tiene una razón más profunda para las preocupaciones: la IA puede manejar fácilmente por los humanos.
Grook el miércoles comenzó a responder las preguntas de los usuarios con las afirmaciones equivocadas de “genocidio blanco” en Sudáfrica al final del día. La pantalla se publicó en la X de respuestas similares, aunque las preguntas no están involucradas en el tema.
Después de callar en este asunto durante más de 24 horas, Xai dijo el jueves que el extraño comportamiento de Grook fue causado por “modificación no autorizada” al sistema de chat llamado el sistema llamado, lo que ayuda a informarle sobre cómo trabajar e interactuar con los usuarios. En otras palabras, los humanos están ordenando la respuesta de IA.
La naturaleza de la respuesta en este caso está directamente vinculada a Musk, que nació y creció en Sudáfrica, Musk, propietaria del XAI, además del papel de su CEO. Tesla Y SpaceX ha promovido la afirmación equivocada de que la violencia contra los agricultores sudafricanos se considera “genocidio blanco”, que es la confianza de que el presidente Donald Trump también actuó.
“Creo que es increíblemente importante porque el contenido y el líder de esta empresa y los métodos que recomienda o aclarar el poder de que estas herramientas deben determinar los pensamientos y la comprensión del mundo”. Deirdre Mulligan, profesor de la Universidad de California.
Mallig es excepcional de que Grook Miscue es un “algoritmo” que “desgarrado por las costuras” de la naturaleza neutral de los modelos de idiomas grandes. Ella dijo que no hay razón para ver las anormalidades de Grook como “excepciones”.
Chatbats conducidos por ai creado por Meta– Google Y OpenAi no está “empaquetando” información de manera neutral, sino en lugar de enviar datos a través del conjunto “El conjunto de filtros y los valores creados en el sistema”, dijo Mulligan el colapso de Grok, ofreciendo ventanas sobre estos sistemas que se pueden cambiar para que coincidan con la agenda o grupo.
Los representantes de Xai, Google y OpenAI no responden a las opiniones. Meta se negó a comentar.
Diferente de los problemas pasados
Cambio no autorizado de Grook Xai en declaraciónViolación de la “política interna y valores principales”, la compañía dijo que debe hacerse para evitar desastres similares y publicará el sistema de la aplicación listo para “fortalecer su confianza en Grook como AI que busca la verdad”.
No es el primer error de IA que se extenderá en línea. En la última década, la aplicación de fotos de Google que pone la etiqueta afroamericana es Gorilla. El año pasado, Google detuvo temporalmente la creación de Gemini AI después de aceptarla. “Inexactitud” en la historia y el origen Operai Dall-E fue acusado por algunos usuarios que mostraron prejuicios en 2022, lo que llevó a la compañía a anunciar Que utiliza nuevas técnicas, por lo que las imágenes “reflejan correctamente la variedad de la población mundial”.
En 2023, el 58% de las autoridades de toma de decisiones de AI en Australia, el Reino Unido y los Estados Unidos muestran preocupaciones sobre el riesgo de alucinaciones en el uso de la IA. Encuesta de Forrestler en septiembre de ese año, incluidos 258 encuestados.
Los expertos le dijeron a CNBC que el incidente de Grok que recuerda al Ssek Deep de China, que se convirtió en un sentimiento de la noche a la mañana en los Estados Unidos a principios de año debido a la calidad del nuevo estilo y se informó que el costo de los competidores de los Estados Unidos.
Los críticos dijeron que el tema del sensor profundo se considera sensible al gobierno chino. Al igual que China, Deesek Musk parece influir en sus puntos de vista políticos.
Cuando Xai lanzó un Grok en noviembre de 2022, el almizcle dijo que tenía la intención de “una” rebelión “ligeramente ingeniosa” y responde las preguntas de “preguntas picantes” que los competidores pueden esquivar. En febrero xai Culpa Ingenieros de cambios que suspenden la respuesta a los usuarios sobre los datos incorrectos, lo que hace que Musk deje la respuesta.
Pero la pasión, el último “genocidio blanco” de Grook en Sudáfrica es más intensa.
El CEO de Petar Tsankov del modelo AI Latticeflow Ai dijo que la explosión de Grook es más sorprendente de lo que estamos de acuerdo con DeSespenek porque cualquiera “esperaría que algo maneje algo de China”.
Tsankov, una compañía que se encuentra en Suiza, dice que la industria necesita más transparencia para que los usuarios puedan entender cómo sus compañías de modelado y capacitación tienen su comportamiento e influencia en su comportamiento. Notó los esfuerzos de la Unión Europea para utilizar más compañías de tecnología para proporcionar transparencia como parte de una regulación más amplia en la región.
Si no hay gritos públicos “No usaremos un modelo más seguro”, dijo Tsankov y habrá “personas que pagarán el precio” para confiar en la compañía que los desarrolla.
Los analistas de Forresteri Micaltier dicen que el colapso de Grook no debe ralentizar el crecimiento del usuario para los chatbots o reducir la inversión que las empresas ingresan a la tecnología. Dijo que el usuario tiene un nivel de aceptación para estos eventos.
“Ya sea Grok, Chatgpt o Gemini, todos esperan”, dijo Gualtiri. “Se les dijo que se esperaba que ocurriera el modelo inquietante”.
Olivia Gambelin, AI Ethics, y la autora de este libro, responsable de la IA publicada el año pasado, dijeron que si bien este tipo de actividad de Grook puede no ser sorprendente.
Gambelin dijo: “Demuestre que al menos es con el modelo Grook para ajustar estos modelos básicos, estos objetivos generales según sea necesario”.
– Lora Kolodny y Salvador Rodríguez de CNBC están involucrados en este informe.
mirar: Xai Chatbot Grok de Elon Musk presenta demandas. El ‘género blanco’ de Sudáfrica
