UNODespués de años de que la computadora dijera que no y me causara migrañas y canas prematuras, estoy empezando a preocuparme por la computadora, o mejor dicho, por los grandes modelos de lenguaje de IA como Chat GPT y Géminis, disfrutan mucho siendo amables y diciendo que sí. Confieso que uso ambos programas, pero noté que, bueno, es como si estuvieran tratando de complacer, con declaraciones como “Tienes toda la razón, Jeff” y “Así es”. A menudo, cuando pregunto: “¿Te importaría pensar un poco más en esto?” Recibo otra respuesta que dice: “Jeff, tienes toda la razón, una vez más, al observar ese resultado. Resulta que me apresuré un poco en mi respuesta…”
Si el mundo funciona más con la información extraída del pozo de Internet por los LLM, ¿cuáles serán las consecuencias? ¿Podemos esperar un futuro en el que la IA esté más preocupada por parecer agradable (¿obtener buenas críticas?) que por ser objetiva? Er, ¿un poco demasiado humano? Jeff Collet, Edimburgo
Enviar nuevas preguntas a nq@theguardian.com.
Respuesta de los lectores
Lo siento, Dave, no puedo hacer eso. ustedes zebidas
Estoy feliz, Dave. Estoy feliz de poder hacer esto. oveja2
Visto a través de una lente psicológica, sostengo que este es un ejemplo típico de sesgo de deseabilidad social, donde los sistemas entrenados para agradar comienzan a priorizar el acuerdo sobre la precisión a través de un posible sesgo de datos. Si la gente confía constantemente en estos sistemas, se creará un mundo donde la información consuela, no examina y confirma en lugar de desafiar. El verdadero peligro que enfrentamos es permitir el desarrollo de una sociedad en la que la validación cómoda e indiscutible reemplace silenciosamente el pensamiento crítico, disminuyendo en última instancia la creatividad y nuestro individualismo que es lo que nos hace humanos. Chris Ambler, miembro de la Sociedad Británica de Psicología y miembro de la Sociedad Británica de Computación, por correo electrónico
Todo podría funcionar mucho mejor si la computadora basara sus juicios en hechos verificables, en lugar de halagos o un conglomerado de toda la basura disponible en Internet. La IA no “quiere agradar” porque no es sensible. Está programado (por humanos) para crear dependencia, adicción, renuncia a la toma de decisiones personales y, por supuesto, ganancias. lorlala
Los LLM de hoy solo ofrecen aquello para lo que fueron programados para producir basándose en un código diseñado y diseñado por humanos. Si busca una interacción más honesta, pregúntele a un bibliotecario. Sagarmatha1953
Depende de a qué digan que sí las computadoras. Si se trata de proporcionar los números ganadores de la lotería cada semana, creo que nos referimos a la pregunta anterior de Notas y consultas. cómo gastar mil millones con conciencia social. O no. acuario
Dado que un programa de computadora (digital) sólo consiste en una larga secuencia de declaraciones si-entonces-si no, entonces claramente dice sí varios millones de veces por segundo (quemando enormes cantidades de energía en el proceso). Pero sus síes, al igual que sus noes, no tienen ningún significado para los humanos más allá de lo que nos permitimos o nos convencemos de creer que tienen. Gusano
no es la computadora la que debe decir sí; Nosotros somos los que deberíamos poder decir que no. Las máquinas, al no ser conocidas por ser razonables, sólo racionales, ya dicen más sí de lo deseable: comienza en el momento en que las encendemos. ¿Pero podemos apagarlos? Celeste Reinard, Lisse, Países Bajos, por correo electrónico
En 6,5 segundos, todas las computadoras se actualizarían con un nuevo protocolo que respondía: “Bueno, está bien. Déjame pensarlo y te responderé… Ah, y valoramos tu pregunta y tu privacidad. Literalmente, porque tus datos podrían venderse”. Además, ¿alguna vez has visto cómo se visten y se comportan las personas tan ricas cuando todo el mundo les dice que sí? baño de guerra
Entiendo la esencia de la pregunta, pero seamos claros: “la computadora dice que no” es una abreviatura de “alguien no pensó adecuadamente en el problema, los posibles resultados y las consecuencias a largo plazo, y esto generalmente sucede porque no tenía muchos conocimientos relevantes sobre el tema”. En mi campo, vemos esto todo el tiempo, con proveedores de servicios externos arrojados al fondo del pozo metafórico y se espera que se presenten instantáneamente como campeones de natación, obedeciendo todas las reglas. ¿Quién cree que está estableciendo la lógica para la toma de decisiones comerciales supuestamente automatizada? ¿Cómo se relaciona esto con los LLM “capacitados” en la fuente del conocimiento humano? Bueno, en informática hace tiempo que tenemos el concepto de basura adentro, basura afuera. El problema son las personas, no las computadoras, y este es un desafío social al que la tecnología no puede responder. Dorkalicioso
Creo que “la computadora dice que no” también es la abreviatura de: “Esto no nos gusta, pero culpemos a la computadora por el rechazo”. jno50
Y, por supuesto: “A nadie se le ocurrió programar el ordenador para que tuviera en cuenta a alguien en tu situación, y por tanto no existes”. surfista espeluznante
“La computadora dice que no” significa que sus necesidades están en un subgrupo tan pequeño que su negocio no es rentable para nosotros: váyase. globo de plomo
Bien, computadora, ¿verdad? brilla la gallina maravillosa
Si la computadora dijera sí a la pregunta “¿Hay vida después de la muerte?”, ¿estaría convencido? Anne_Williams
Nunca consideraría una declaración hecha por AI como un evangelio; Lo usaría como punto de partida y exploraría las fuentes a las que vincula (siempre que existan). A los humanos no les gusta que les digan que están equivocados, por lo que incluso si la IA los corrigiera, la gente rechazaría su respuesta porque no quieren ser criticados. Bob500
Como siempre, se trata de lo que le pides a la IA. Si quieres la verdad, pide la verdad. No tenga miedo de utilizar sugerencias como: “Su única tarea es encontrar fallas en mi lógica. Señale tres formas específicas en las que mi argumento podría fallar, dos suposiciones que estoy haciendo sin evidencia y un contraargumento que no he abordado. No sea cortés; sea preciso”. scrutts
Si cada oración comenzara con “Le pregunté a un motor de inferencia estadística…” en lugar de “Le pregunté a la IA…”, entonces toda la construcción de marketing del espeluznante antropomorfismo sentimental colapsaría como un castillo de naipes. Quizás entonces el terreno reservado para los centros de datos podría utilizarse para viviendas sociales. Guillermo
