ChatGPT está usando Grokipedia como fuentey no es la única herramienta de IA que hace esto. También están empezando a aparecer citas de la enciclopedia generada por IA de Elon Musk en las respuestas a AI Overviews, AI Way y Gemini de Google. Los datos sugieren que esto va en aumento, lo que genera preocupaciones sobre la precisión y la desinformación que busca Musk. remodelar la realidad a tu imagen.
Del clon distorsionado de Wikipedia. lanzado a finales de octubre pasadoGrokipedia técnicamente sigue siendo una fuente de información más pequeña en general. Glen Allsopp, jefe de estrategia de investigación y marketing de la empresa de SEO Ahrefs, dijo el borde Las pruebas de la compañía encontraron que se hace referencia a Grokipedia en más de 263.000 respuestas de ChatGPT de 13,6 millones de solicitudes, citando alrededor de 95.000 páginas individuales de Grokipedia. En comparación, Allsopp dijo que Wikipedia en inglés apareció en 2,9 millones de respuestas. “Están bastante lejos, pero aún así es impresionante lo nuevos que son”, dijo.
“Están bastante lejos, pero aún así es impresionante lo nuevos que son”.
Basándose en un conjunto de datos que rastrea miles de millones de citas, el investigador de la plataforma de marketing Profound, Sartaj Rajpal, dijo que Grokipedia recibió entre el 0,01 y el 0,02 por ciento de todas las citas de ChatGPT por día, una pequeña porción, pero que ha ido aumentando constantemente desde mediados de noviembre.
Semrush, que rastrea cómo aparecen las marcas en las respuestas de IA de las herramientas de Google con su AI Visibility Toolkit, encontró un avance similar en la visibilidad de Grokipedia en las respuestas de IA a partir de diciembre, pero señaló que sigue siendo una fuente secundaria en comparación con plataformas de referencia establecidas como Wikipedia.
Las citas de Grokipedia aparecen en ChatGPT más que en cualquier otra plataforma que los analistas el borde Dije que están rastreando. Sin embargo, Semrush encontró un aumento similar en los productos de inteligencia artificial de Google (Gemini, AI Overviews y AI Mode) en diciembre. Allsopp de Ahrefs dijo que se hizo referencia a Grokipedia en aproximadamente 8.600 respuestas de Gemini, 567 respuestas de AI Overviews, 7.700 respuestas de Copilot y 2 respuestas de Perplexity, de aproximadamente 9,5 millones, 120 millones, 14 millones y 14 millones de mensajes, respectivamente, con apariciones en Gemini y Perplexity significativamente por debajo de pruebas similares en el mes anterior. Ninguna de las empresas el borde habló para localizar citas de Claude de Anthropic, aunque varios anecdótico informes en las redes sociales sugieren que el chatbot también cita a Grokipedia como fuente.
En muchos casos, las herramientas de inteligencia artificial parecen citar a Grokipedia para responder preguntas objetivas específicas, oscuras o muy específicas, como el guardián reportado a finales de la semana pasada. Los analistas están de acuerdo. Jim Yu, director ejecutivo de la firma de análisis BrightEdge, dijo el borde que ChatGPT y AI Overviews utilizan Grokipedia para “consultas no confidenciales”, como búsquedas y definiciones enciclopédicas, aunque están surgiendo diferencias en la cantidad de autoridad que confieren. Para las resúmenes de IA, Grokipedia tiende a no estar sola, dijo Yu, y “normalmente aparece junto con varias otras fuentes” como “una referencia complementaria en lugar de una fuente primaria”. Sin embargo, cuando ChatGPT utiliza Grokipedia como fuente, le otorga mucha más autoridad, dijo Yu, “a menudo presentándola como una de las primeras fuentes citadas para una consulta”.
Incluso para usos relativamente mundanos, los expertos advierten que utilizar Grokipedia como fuente corre el riesgo de difundir información errónea y promover temas de conversación partidistas. A diferencia de Wikipedia, que es editada por humanos en un proceso transparente, Grokipedia es producida por el chatbot Grok de xAI. Grok es quizás mejor conocido por su colapso nazi, llamándose a sí mismo MechaHitler, idolatrar almizcley, más recientemente, desnudar digitalmente a personas en líneaincluidos menores de edad. Cuando se lanzó, la mayoría de los artículos de Grokipedia eran clones directos de Wikipedia, aunque muchos otros reflejaba opiniones racistas y transfóbicas. Por ejemplo, los artículos sobre Musk minimizan convenientemente la riqueza de su familia y los elementos desagradables de su pasado (como las opiniones neonazis y pro-apartheid) y la entrada de “pornografía gay” falsamente vinculado el material para el empeoramiento de la epidemia de VIH/SIDA en los años 1980. El artículo sobre la esclavitud en Estados Unidos contiene incluso una larga sección sobre “justificaciones ideológicas”, incluido el “paso del mal necesario al bien positivo”. La edición es también supervisado por Grok y tiene defectos similares. Grokipedia es más susceptible a lo que se conoce como “eliminación de datos LLM” o envenenamiento de datos.
en un comentario a el bordeEl portavoz de OpenAI, Shaokyi Amdo, dijo: “Cuando ChatGPT busca en la web, su objetivo es aprovechar una amplia gama de fuentes disponibles públicamente y puntos de vista relevantes para la pregunta del usuario”. Amdo también dijo que los usuarios pueden ver las fuentes y juzgarlas por sí mismos: “Aplicamos filtros de seguridad para reducir el riesgo de que surjan enlaces asociados con daños de alta gravedad, y ChatGPT muestra claramente qué fuentes informaron una respuesta a través de citas, lo que permite a los usuarios explorar y evaluar directamente la confiabilidad de las fuentes”.
“ChatGPT muestra claramente qué fuentes informaron una respuesta a través de citas, lo que permite a los usuarios explorar y evaluar directamente la confiabilidad de las fuentes”.
El portavoz de Perplexity, Beejoli Shah, se negó a comentar sobre los riesgos de la preparación de un LLM o citar material generado por IA como Grokipedia, pero dijo que la “ventaja central de la compañía en la investigación es la precisión”, en la que está “centrada incansablemente”. Antropica se negó a responder oficialmente. xAI no regresó el bordesolicitud de comentario. Google se negó a hacer comentarios.
El problema es que Grokipedia no puede ser citada de forma fiable como fuente, por muy rara que sea y a pesar de que Musk haya tomado una decisión. vuelta de victoria infundada sobre el supuesto gran éxito de la enciclopedia en los resultados de Búsqueda de Google. Es un sistema generado por IA, que carece de supervisión humana y que a menudo depende de material opaco y difícil de verificar, como sitios web personales y publicaciones de blogs, y cuestionable, suministro potencialmente circular. Existe un riesgo real de reforzar diversos sesgos, errores o problemas de encuadre si se cita algo como Grokipedia, dijo Taha Yasseri, catedrático de tecnología y sociedad en el Trinity College Dublin, y agregó que “la fluidez puede confundirse fácilmente con la confiabilidad”.
“Grokipedia se siente como un cosplay de credibilidad”, dijo Leigh McKenzie, directora de visibilidad en línea de Semrush. “Puede que funcione dentro de su propia burbuja, pero la idea de que Google u OpenAI traten algo como Grokipedia como una capa de referencia seria y estándar a escala es sombría”.
