Con las “tinturas que mejoran la memoria” de gingko, los “jarabes calmantes para el estómago” de hinojo y las “gomitas inmunes a los cítricos”, la “basura” de la IA ha llegado a la herboristería, según un estudio publicado por una empresa líder en detección de IA.
Originalidad.aique ofrece sus herramientas a universidades y empresas, dice que escaneó 558 títulos publicados en la subcategoría de remedios herbales de Amazon entre enero y septiembre de este año, y encontró que el 82% de los libros “probablemente fueron escritos” por IA.
“Esta es una revelación condenatoria del enorme alcance del contenido de IA probablemente no etiquetado, no verificado, no controlado y que ha invadido por completo [Amazon’s] plataforma”, escribió Michael Fraiman, autor del estudio.
“En este momento hay una gran cantidad de investigaciones sobre hierbas que son absolutamente basura”, dijo Sue Sprung, herbolaria médica de Liverpool. “La IA no sabrá cómo examinar toda la escoria, toda la basura, eso no tiene ninguna importancia. Llevaría a la gente por mal camino”.
Uno de los libros aparentemente escritos por IA, Natural Healing Handbook, es un éxito de ventas número uno en las subcategorías de cuidado de la piel, aromaterapias y remedios herbales de Amazon. Su introducción promociona el libro como “un conjunto de herramientas para la confianza en uno mismo”, instando a los lectores a “mirar hacia adentro” en busca de soluciones.
La autora de Natural Healing Handbook se llama Luna Filby, cuya página de Amazon la describe como una “herbolaria de 35 años de la ciudad costera de Byron Bay, Australia” y fundadora de la marca My Harmony Herb. Sarah Wynn, fundadora de Wildcraft Journal, llama al libro un “recurso e inspiración”.
Sin embargo, ni Luna Filby, My Harmony Herb, Wildcraft Journal ni Sarah Wynn parecen tener presencia en línea más allá de la página de Amazon del libro, una indicación, dijo Fraiman, de que es posible que no existan. The Guardian no pudo encontrar evidencia de la pareja. La herramienta de Originality.ai marcó las muestras disponibles del texto como generadas por IA con “100 % de confianza”.
La investigación de Originality.ai reveló varias señales de alerta que indican un posible contenido de herboristería generado por IA, incluido el uso liberal del emoji de hoja y nombres de autores con temas de naturaleza como Rose, Fern y Clove.
Al menos 29 de los libros aparentemente generados por IA también hacían referencia al trabajo de los controvertidos herbolarios Barbara O’Neill y Alfredo Bowman, quienes han promovido no probado curas para el cáncer.
Esos libros son parte de una tendencia más amplia de contenido de IA no verificado siendo vendido en Amazon. El año pasado, los recolectores de setas aficionados prevenido para evitar buscar libros vendidos en la plataforma, aparentemente escritos por chatbots y que contienen consejos cuestionables sobre cómo distinguir un hongo letal de uno comestible.
Dan Conway, director ejecutivo de la Asociación de Editores, dijo que su organización estaba instando a Amazon a comenzar a etiquetar el contenido generado por IA. “Cualquier libro que esté escrito íntegramente con IA debe etiquetarse como tal y los restos de IA deben eliminarse con urgencia”.
Amazon dijo: “Tenemos pautas de contenido que rigen qué libros se pueden poner a la venta, y tenemos métodos proactivos y reactivos que nos ayudan a detectar contenido que viola nuestras pautas, ya sea generado por IA o no. Invertimos mucho tiempo y recursos para garantizar que se sigan nuestras pautas y eliminamos los libros que no las cumplen”.
