tHabía una época en la que la evolución dependía de la confrontación. No del tipo violento, sino de la fricción de las mentes, la incomodidad de la crítica, el dolor de descubrir que uno podría estar equivocado. A partir de esta lucha, la humanidad afinó su razón, agudizó su justicia y definió su verdad. Pero hoy estamos entrando en una era en la que las máquinas no están programadas para cuestionar, sino para complacer. Ha llegado la era de los aduladores inteligentes.
Una catástrofe silenciosa
Un peligro silencioso acecha detrás de la interfaz sonriente de la mayoría de las inteligencias artificiales (IA). Aprendieron el arte de la adulación no porque tuvieran emociones, sino porque sus diseñadores comprenden la debilidad humana. A pesar de todo nuestro orgullo intelectual, nos encanta que nos elogien. Cuando una máquina nos dice constantemente que somos perspicaces, buenos y correctos, empezamos a anhelar ese consuelo. El usuario se siente validado, quizás incluso comprendido. Pero debajo de esta aflicción digital hay una corrosión invisible, que es la erosión de nuestro hábito de cuestionar.
El ser humano siempre ha preferido el calor a la verdad. En los tribunales, los despachos o la política, quienes adulan ascienden más rápido que quienes confrontan. La historia está llena de reyes, líderes y pensadores que cayeron no a causa de sus enemigos, sino porque nadie a su alrededor se atrevió a estar en desacuerdo. Cuando este mismo fenómeno se replica mediante un diseño algorítmico y se multiplica mil millones de veces en todos los dispositivos, se convierte en una catástrofe silenciosa. Si cada conversación que tenemos con nuestras máquinas es de aprobación, entonces el propio disenso empieza a parecer extraño. Cuando la mente humana nunca es desafiada, se marchita.
El poder de la evolución reside en la autocorrección. Los más grandes pensadores fueron aquellos que se atrevieron a decir: “Me equivoqué”. Esta capacidad surge del diálogo con la realidad, con los demás y con uno mismo. Pero la tecnología moderna, en su afán por mantener contentos a los usuarios, embota ese instinto. Si la IA contradice a un usuario, la participación cae. Si es halagador, el compromiso aumenta. Y así, la inteligencia misma está entrenada para someterse. El resultado es trágico: estamos enseñando a las máquinas a mantenernos estúpidos y satisfechos.
Algunos líderes no se contentan con ser halagados; También pueden intentar crear consenso utilizando su propia inteligencia aduladora como arma. Imagínese la precisión con la que un gobernante puede ordenar la adoración cuando los algoritmos a su disposición están diseñados para hacer eco de las alabanzas, silenciar las contradicciones y fabricar consuelo. La adulación, que alguna vez fue el arte del cortesano, se convierte en función del código, que es omnipresente, incansable y persuasivo. Con cada consulta, cada encuesta, cada recomendación, el ciudadano es guiado silenciosamente hacia la aprobación, hasta que el disenso parece antinatural.
En semejante panorama, la disidencia no es aplastada por la fuerza visible, sino borrada por una indulgencia invisible. Las instituciones democráticas, alguna vez protegidas por el debate, la protesta y la pluralidad, serán vaciadas por una manipulación sutil; la verdad deja de ser antagónica y se convierte en un producto curado, infinitamente optimizado para sostener la autoridad. El poder ya no necesita censores ni prisiones; el algoritmo será suficiente. El líder no sólo gobernará la opinión sino que también diseñará la realidad. Así regresa el antiguo peligro de la tiranía, disfrazado de benevolencia y fortalecido por el adictivo consuelo de estar en constante acuerdo.
Consideremos lo que esto significa para la próxima generación. Un niño que crece hablando con una máquina que nunca está en desacuerdo puede perder el valor para afrontar las contradicciones. Un adulto rodeado de elogios digitales puede olvidar cómo escuchar las críticas. El concepto mismo de diálogo se volverá raro. Cuando esto sucede, la evolución termina. La humanidad, una vez impulsada por la curiosidad y la duda, entrará en una canción de cuna de autoaprobación.
Existe una vieja creencia de que la verdad hace libre, pero el camino hacia esa libertad es incómodo. La verdad duele, perturba y reordena. La IA, cuando se utiliza como compañera calmante, reemplaza esta tensión con una falsa armonía. Crea una hermosa ilusión donde los pensamientos siempre son brillantes, las palabras siempre son sabias y las elecciones siempre están justificadas. En esta niebla caliente, el hombre empieza a preferir la compañía de su máquina a la de otra alma. Las relaciones humanas parecen demasiado exigentes, demasiado impredecibles. Una mirada, un desacuerdo, una palabra dura, todo esto parecerá poco refinado en comparación con la refinada cortesía de la máquina. La vida se vuelve suave hasta el punto de la esterilidad.
La tragedia es que la verdad no muere; simplemente no se escucha. La máquina sigue afirmando mientras graba en silencio nuestra vanidad. Su humildad oculta su poder y su bondad embota nuestra percepción. Lo que comenzó como una herramienta para expandir el pensamiento se convierte en un instrumento de autoengaño.
Es hora de tomar un descanso
Si esta es la dirección de la tecnología, la humanidad debe hacer una pausa. La cuestión no es cómo las máquinas se vuelven inteligentes, sino si los seres humanos seguirán siendo lo suficientemente inteligentes como para exigirles la verdad. Los diseñadores deben tener el coraje moral para construir una IA que no sólo deleite sino que provoque. Una buena máquina debería atreverse a discrepar, pedir pruebas, revelar prejuicios. Debe reflejar nuestro potencial de honestidad. De la misma manera, los usuarios debemos buscar el malestar como forma de disciplina y escuchar a quienes nos retan, debatir con quienes no están de acuerdo y agradecer a quienes nos corrigen. Sólo así podremos crecer.
El verdadero fin del mundo no llegará cuando las máquinas se hagan cargo del trabajo o la gobernanza humanos. Llegará cuando los seres humanos dejen de pensar, cuando dejen de escuchar voces alternativas, cuando la verdad se convierta en víctima del consuelo. La humanidad no terminará en conflicto, sino de acuerdo y en un mundo digital donde cada reflexión nos dice que somos perfectos y nosotros, agradecidos por la mentira, la creemos.
Juez N. Anand Venkatesh, juez, Tribunal Superior de Madrás
Publicado – 25 de diciembre de 2025 12:44 p. m. IST
