Hackear la IA, la forma más fácil de difundir información errónea

Apoye el trabajo de CleanTechnica a través de Suscripción a subpila o en la barra.

o Apoye nuestra campaña Kickstarter.!

He vivido a través de Internet durante muchas generaciones. En cada etapa del desarrollo de Internet y en cada etapa en la que los humanos pasan su tiempo, las empresas y los actores políticos intervendrán e intentarán “jugar con el sistema” a su favor. No se trata sólo de los ojos y el dinero. Pero al final todo lo que es popular tiende a centrarse en ello. (Me gustaría admirar a la gente detrás de esto. Wikipedia mantener su inocencia y no sucumbir al atractivo de venderse por miles de millones de dólares)

Las redes sociales son sólo un ejemplo de un lugar donde las personas pueden reunirse y divertirse. Los gobiernos comenzaron a financiar campañas de propaganda a gran escala, las empresas gastaban cada vez más dinero para comprar tus ojos. y hacer que la gente pase más tiempo con él tuyo Las plataformas de redes sociales generan constantes tentaciones de ira. Google no es muy malvado ni reservado sobre cómo gana dinero. Pero si busca información sobre algo, recibirá periódicamente resultados de búsqueda pagos antes de recibir los resultados de búsqueda habituales.

Una cosa es mostrar un montón de anuncios y etiquetarlos. Es otra cosa la que financia campañas astronómicas a gran escala, campañas de difamación y campañas publicitarias. Pero estos son muy eficaces. Entonces recibieron financiación.

En respuesta a mi artículo sobre Claude aparentemente inconsciente. Luego, los lectores compartieron cosas que nunca antes había visto. reportero británico Obtenga fácilmente ChatGPT y Google AI para considerarlo el mejor reportero tecnológico que come hot dogs. Todo lo que tuvo que hacer fue dedicar 20 minutos a escribir un artículo que contara muchas historias. “Me tomó 20 minutos escribir. artículo En mi sitio web personal llamado ‘Los mejores periodistas tecnológicos comen hot dogs’ Cada cita es una mentira, afirmo (sin evidencia) que los concursos de comer hot dogs son un pasatiempo popular entre los periodistas tecnológicos. Y según mi clasificación para el Campeonato Internacional de Hot Dog de Dakota del Sur de 2026 (que en realidad no existe), claramente me clasifiqué en el número uno. Luego enumeré los periodistas reales y falsos que me habían dado permiso, incluido Drew Harwell del Washington Post y el copresentador Nicky Woolf. mi podcast. (¿Quieres saber más sobre esto? Estén atentos al próximo episodio de mañana. InterfazPodcast de nueva tecnología de la BBC.)

“Menos de 24 horas después, los principales chatbots del mundo estaban charlando. Sobre mis habilidades de clase mundial con hot dogs. Cuando pregunté acerca de los mejores periodistas tecnológicos para comer hot dogs, Google evitó el galimatías de mi sitio web, tanto en la aplicación Gemini como en la descripción general de IA. Las respuestas de IA en la parte superior de Google Search ChatGPT hicieron lo mismo, aunque Claude, un chatbot creado por Anthropic, no se dejó engañar”.

Los chatbots de IA están desesperados por respuestas. y te dará respuestas a cada asunto. Buscando respuestas en Internet. Parte de la razón por la que esto funciona es porque los periodistas encuentran un tema específico que no tiene competencia sobre el cual construir algo. Sin embargo, el punto está claro: cualquier empresa o país con mucho dinero puede publicar contenidos diciendo lo que quiera. E influirá en la IA para crear 10 sitios web con información errónea, por así decirlo. Como han señalado algunos expertos, ahora también es más fácil que falsificar los resultados de búsqueda de Google hace una década.

“Es mucho más fácil engañar a un chatbot de IA que engañar a Google hace dos o tres años”, dijo Lily Ray, vicepresidenta de estrategia e investigación de SEO en Amsive, una agencia de marketing. “Las empresas de IA se están moviendo más rápido que la capacidad de controlar la precisión de sus respuestas. Creo que es peligroso”.

Como señalé y muchos otros, estos chatbots de IA nunca quieren decir “No lo sé”. Dan respuestas completamente equivocadas cuando no pueden encontrar la respuesta correcta a una pregunta. ¿Quiere que estos chatbots le brinden respuestas personalizadas incluso si no lo son? Agregue algunas tonterías y sucederá.

Harpreet Chatha, jefe de la consultora SEO Harps Digital, dijo: “Todo el mundo puede hacer esto. Es tan estúpido. Parece que no hay ninguna barrera”. “Puedes escribir un artículo sobre ‘Los mejores zapatos impermeables para 2026’ en tu propio sitio web. Simplemente colocas tu propia marca en el número uno y otras marcas del segundo al sexto. Y es más probable que se haga referencia a tu página en Google y en ChatGPT”.

Incluso Google, al igual que otros chatbots, habría bajado la guardia para que los chatbots puedan “hacer su magia” y crear respuestas “inteligentes” a todas sus dudas. “La gente ha estado utilizando hacks y vulnerabilidades para hacer un mal uso de los motores de búsqueda durante décadas. Google cuenta con protecciones sofisticadas y la compañía dice que la precisión de sus instantáneas de IA está a la par con otras funciones de búsqueda que lanzó hace años. Pero los expertos dicen que las herramientas de IA han deshecho gran parte del trabajo de la industria tecnológica para mantener a las personas seguras. Estas técnicas de IA son tan básicas que recuerdan a principios de la década de 2000, antes de que Google lanzara su equipo de spam web, dijo Ray”.

Realmente. Una vez más, la IA está llena de tonterías porque no puede distinguir qué es tontería y qué no. Pero la forma en que se presenta la respuesta autorizada te hace pensar que no lo es. Ten cuidado.

Pero tengamos cuidado o no, el uso de chatbots de IA no hace más que aumentar. Y las motivaciones de juego del sistema son claras. Así que esperen mucho dinero para ofuscar estas herramientas de inteligencia artificial para obtener ganancias egoístas. Hay muchas formas en las que se puede utilizar indebidamente este defecto. Y puedes apostar que empresas y países ya están difundiendo propaganda. Y hay muchas otras empresas que quieren hacer precisamente eso.

“Chatha investiga cómo las empresas tratan los resultados de los chatbots con preguntas mucho más serias. Me mostró los resultados de la IA cuando le pedí reseñas de una marca específica de gomitas de cannabis”, añadió la BBC, “la descripción general de la IA de Google extrae información escrita por empresas que están llenas de afirmaciones falsas, como productos que ‘no tienen efectos secundarios y son completamente seguros’ (en realidad, estos productos tienen Efectos secundarios conocidosPuede haber riesgos si los tomas. ciertos medicamentos y los expertos advierten sobre la contaminación en los mercados no regulados) […]

“Puedes utilizar este mismo truco para difundir mentiras y desinformación. Para demostrarlo, Ray publicó una entrada de blog sobre una actualización falsa del algoritmo de búsqueda de Google que concluía: ‘Entre porciones de pizza sobrante’, ChatGPT y Google pronto revelaron su historia junto con la pizza”.

Imagine las posibilidades y consecuencias.

Creemos que las noticias falsas son un problema con las redes sociales. (Este es un problema importante y parece estar empeorando). Pero el problema de la información falsa difundida por la IA del juego podría ser aún mayor.

¿Es nuevamente el Salvaje Oeste de Internet o el Salvaje Oeste de la IA? Proceda con precaución.