El algoritmo te conoce mejor que tú mismo

En 2015, investigadores de las universidades de Stanford y Cambridge publicaron un estudio que debería haber resultado bastante más alarmante de lo que fue. Descubrieron que un algoritmo informático, analizando únicamente los «me gusta» de Facebook, podía predecir rasgos de personalidad con mayor precisión que los amigos, la familia e incluso el cónyuge. Con unos trescientos «me gusta», el algoritmo superaba al cónyuge. Merece la pena mirar cómo lo obtuvieron.

Déjalo calar un momento. La persona que vive contigo, que duerme a tu lado, que conoce tus hábitos, tus miedos y tus secretos, puede ser superada en capacidad predictiva por una máquina que se limita a analizar en qué publicaciones pulsaste un botón.

Estudios posteriores han replicado y ampliado el resultado, así que de casualidad, poca. Y la precisión solo mejora a medida que se incorporan más datos.

Lo que realmente mide

El término técnico es «perfilado psicométrico». El algoritmo predice tus puntuaciones en las dimensiones estandarizadas de la personalidad: apertura a la experiencia, responsabilidad, extraversión, amabilidad y neuroticismo. Pero no se detiene ahí. Orientación política, creencias religiosas, inteligencia, probabilidad de consumo de drogas, orientación sexual: todo ello se puede predecir a partir de datos de comportamiento.

¿Cómo? Porque tu comportamiento es más constante que lo que cuentas de ti. Puedes considerarte una persona aventurera, pero si tu historial de reproducciones sugiere lo contrario, el algoritmo lo sabe. Puedes creerte apolítico, pero el patrón de tus interacciones cuenta otra historia. Al sistema le da igual lo que digas de ti; lo que le importa es lo que haces.

La ilusión de conocerse

Creemos que nos conocemos. Al fin y al cabo, tenemos acceso a nuestros propios pensamientos: podemos mirar hacia dentro, examinar nuestras motivaciones y explicar por qué decidimos lo que decidimos.

Pero décadas de investigación en psicología sugieren que ese autoconocimiento es sorprendentemente limitado. Confabulamos, racionalizamos, tenemos puntos ciegos respecto a nuestros propios sesgos y construimos relatos a posteriori para explicar conductas que en realidad venían empujadas por factores de los que no somos conscientes.

El algoritmo no arrastra esas limitaciones. No le hace falta explicar por qué te comportas como te comportas; le basta con predecir qué harás a continuación. Y resulta que la predicción, cuando se hace bien, saca a la luz patrones estables que ni siquiera tú ves, lo cual pone en cuestión unas cuantas suposiciones muy arraigadas.

Qué hacen con ello

Una vez que un sistema puede predecir tu personalidad, puede optimizar su trato contigo, y no en el sentido vago de la «publicidad segmentada»: de una manera concreta, calibrada.

Si puntúas alto en neuroticismo, los mensajes que insisten en la seguridad y la protección te harán más efecto. Con mucha apertura a la experiencia, funcionan mejor los reclamos de novedad. A una persona introvertida la prueba social le pesa menos; a una extravertida, le pesa más.

Así es como funcionan hoy las grandes plataformas publicitarias. La segmentación se hace individuo a individuo, las variantes de cada mensaje se ponen a prueba, y el sistema aprende qué funciona contigo, contigo en concreto, y hace más de eso. Las aplicaciones políticas de todo esto son inquietantes.

El problema de la asimetría

La relación de poder que más me molesta es esta: ellos te conocen mejor de lo que te conoces tú, y tú no sabes casi nada de cómo funciona el sistema.

No ves tu perfil psicométrico. No sabes en qué categorías te han clasificado, ni qué versión de un mensaje estás viendo, ni por qué. El sistema está optimizado contra ti, y su herramienta principal es la asimetría de información.

Es como jugar al póquer contra alguien que ve tus cartas mientras tú no ves las suyas: juegas en desventaja y, encima, sin saber que la partida está amañada.

El tú que cambia

Y esta es la parte que de verdad me quita el sueño: el sistema, además de predecirte, te moldea.

Si te muestran una y otra vez contenido que encaja con tus intereses previstos, tus intereses se estrechan; si te ofrecen opciones optimizadas para tus preferencias previstas, tus preferencias se anquilosan; y cuando tu atención la captura un contenido diseñado para tu perfil psicométrico, tu perfil se acentúa.

El algoritmo que te conoce mejor que tú mismo está construyendo también al tú de mañana: además de leer tus datos, los escribe.

Qué se puede hacer

La respuesta sincera es que no lo sé. Que cada uno cuide sus propios datos ayuda un poco, pero no toca el problema estructural. La regulación es lenta y, con frecuencia, ineficaz. Las empresas que se benefician del perfilado psicométrico tienen todos los incentivos para continuar y perfeccionarlo.

Pero sí creo una cosa: entender la situación importa. Cuando sabes que el contenido que estás viendo ha sido seleccionado para encajar con tu perfil psicológico, al menos puedes cuestionarlo. Cuando sabes que tu comportamiento se analiza y se predice, al menos puedes intentar actuar con más intención. Cuando sabes que el juego está amañado, al menos puedes negarte a jugar como un ingenuo.

Empecé con un estudio en el que los algoritmos superan a los cónyuges prediciendo la personalidad, y acabo con una pregunta: si una máquina te conoce mejor que las personas más cercanas a ti, ¿qué significa eso para la intimidad? ¿Para la identidad? ¿Para lo que entendemos, en el fondo, por conocer a alguien?

Durante mucho tiempo pensamos que el conocimiento de una persona se ganaba con tiempo, atención y cuidado. Hoy se extrae mediante vigilancia y se procesa mediante estadísticas. El resultado es más preciso. Si es mejor, esa es otra cuestión.