Tus pensamientos ya no son tuyos

Piensa en algo que quieras ahora mismo, y no me refiero a comida ni a agua, sino a algo que hayas decidido querer: un producto, una experiencia, una postura política.

Ahora pregúntate: ¿cómo llegó ahí ese deseo?

La versión oficial es que lo formaste tú. Observaste el mundo, reuniste información, sopesaste las opciones y llegaste a una preferencia. Una preferencia tuya, tuya de verdad.

Yo creo que esa historia es cada vez más falsa. Del todo no, pero sí lo bastante como para que importe, porque ahora vivimos en un entorno diseñado a propósito para fabricarnos los deseos antes de que nos demos cuenta de que alguien nos los fabrica.

¿Cómo cambiaba la publicidad nuestra cognición antes de la IA?

La publicidad siempre ha intentado influir en lo que la gente quiere; lo nuevo es la precisión.

En los años cincuenta, un anunciante podía plantar una valla en la carretera y confiar en que la viera la gente adecuada. Podía emitir un anuncio en televisión durante un programa de éxito y cruzar los dedos. La segmentación era tosca: lanzaban mensajes a poblaciones enteras con la esperanza de que alguno calara.

El sistema actual es otra cosa, y la diferencia es de naturaleza, no de grado. El algoritmo no se dirige a poblaciones: se dirige a ti. A la versión de ti que existe a las 23:47, cuando estás cansado y con las defensas bajas; a la que acaba de leer una noticia sobre la incertidumbre económica; a la que se detuvo tres décimas de segundo más de la cuenta en la foto de alguien que vive la vida que tú querrías. El perfil que tienen de ti es más fino de lo que te imaginas.

A esto ya no se le puede llamar publicidad: es ingeniería del deseo.

¿Cómo fabrica el deseo el bucle de retroalimentación de la IA?

Esto es lo que la distingue de la manipulación de toda la vida: el sistema aprende.

Cada vez que haces clic, haces scroll, te paras o te largas, le dices al algoritmo qué funciona contigo: qué te dispara la atención, qué te pone ansioso, envidioso o esperanzado. El algoritmo no sabe por qué funcionan esos resortes, y tampoco le hace falta saberlo. Le basta con saber que enseñarte cierto contenido en ciertos contextos cambia tu comportamiento de maneras predecibles.

Y entonces te da más de lo mismo.

El resultado es un sistema que cada día que pasa influye mejor en ti, precisamente en ti. Tu motor de manipulación personal, entrenado con años de datos de tu propio comportamiento y afinado sin descanso. Y la mecánica merece que la miremos de cerca.

¿Por qué no notamos que la IA nos cambia la manera de pensar?

Lo raro es que un deseo fabricado se vive exactamente igual que uno auténtico. Cuando yo quiero algo, no lo siento como algo que venga de fuera; lo siento como un querer mío.

Ahí está el truco. El sistema no te obliga a hacer nada contra tu voluntad: lo que hace es cambiarte la voluntad. Para cuando sientes el deseo, ya es tuyo. La manipulación ocurrió antes, en el origen: en la elección de qué información te llegaba, en qué orden y envuelta en qué contexto emocional.

Un estudio de 2014 demostró que Facebook podía hacer que sus usuarios se sintieran más alegres o más tristes con solo ajustar el tono emocional de las publicaciones que aparecían en su feed. Los usuarios no tenían ni idea de lo que pasaba; sencillamente, ese día se sentían distintos, y su estado de ánimo les parecía suyo.

Ahora multiplícalo. ¿Y tus creencias? ¿Y tus miedos, tu idea de lo que es normal, de lo que es posible, de lo que es deseable?

¿Qué consecuencias políticas tiene que la IA nos remodele el pensamiento?

Cambridge Analytica dio mucho que hablar y luego, más o menos, nos olvidamos todos del asunto. Pero la infraestructura no se fue a ninguna parte. La capacidad de trazar el perfil psicométrico de los votantes y bombardearlos con mensajes calibrados al milímetro existe, y la usan empresas y la usan campañas electorales. Lo que hicieron de verdad fue peor de lo que contaron los titulares.

Y aquí va la idea que me incomoda: si un sistema de segmentación afinado para tocarte las teclas justas te hubiera ido moldeando las opiniones políticas de manera sistemática, ¿lo sabrías? ¿Serías capaz de notarlo? ¿O esas opiniones te parecerían, sin más, conclusiones a las que habías llegado razonando?

Yo no creo que lo supiéramos, ni creo que podamos saberlo, al menos no con certeza. La manipulación opera por debajo del nivel al que llega la introspección, allí donde no alcanzamos a ver nuestros propios procesos.

¿Puede la cognición humana seguir siendo independiente en entornos mediados por la IA?

Nos gusta creer en un yo que existe antes que sus influencias, un «tú» de fondo que recibe la información y decide qué pensar, al margen de cómo se haya seleccionado y presentado esa información.

Pero ¿y si no existe tal núcleo? ¿Y si el yo está, en buena medida, construido por su entorno informativo, y quien eres depende sobre todo de lo que te han enseñado a ver?

A mí me parece que esto se acerca más a la verdad que el yo autónomo que imaginamos. Y si es así, controlar el entorno informativo de alguien es, en un sentido nada trivial, controlar a ese alguien.

No lo digo en plan conspiranoico, con una camarilla repartiéndose el mundo en un despacho, sino en un sentido peor: un sistema emergente en el que millones de algoritmos de optimización compiten entre sí por capturar la atención y moldear la conducta, sin nadie al mando y sin ningún plan maestro. Pura evolución: lo que funciona se propaga y lo que no, muere. Y resulta que lo que funciona es cualquier cosa que capture y retenga la atención humana, sea o no buena para los humanos.

Empecé este ensayo pidiéndote que pensaras en algo que quieres. Lo termino pidiéndote que te preguntes de dónde salió ese querer. ¿Lo elegiste tú? ¿Lo montaste tú, a partir de la experiencia en bruto y a fuerza de pura razón?

¿O lo puso ahí otra cosa, con tanta suavidad que no lo notaste, con tanta precisión que jurarías que siempre fue tuyo?

Fuentes

Sunstein, C. (2017). #Republic: Divided Democracy in the Age of Social Media. Princeton University Press. ISBN 978-0-691-17543-2

Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs. ISBN 978-1-61039-569-4

Sparrow, B. et al. (2011). «Google Effects on Memory». Science, 333(6043), 776-778. doi:10.1126/science.1207745

Bail, C. et al. (2018). «Exposure to Opposing Views on Social Media Can Increase Political Polarization». PNAS, 115(37), 9216-9221. doi:10.1073/pnas.1804840115

del Puerto, J. & Molina, R. (2025). Mindkind: The Cognitive Community. Kwalia Books. ISBN 978-1-917717-13-7