Lo que nos enseñó Cambridge Analytica (y que ignoramos)

Cambridge Analytica se hizo con los datos de 87 millones de usuarios de Facebook. Con ellos levantó perfiles psicológicos a gran escala, probó miles de variantes de anuncios, dirigió cada mensaje a un tipo de personalidad concreto y explotó las vulnerabilidades de cada cual para cambiar su comportamiento político.

La empresa se hundió. Sus directivos se enfrentaron a investigaciones, se rodaron documentales y la palabra «microsegmentación» entró en la conversación pública. Y después pasamos página: tratamos a Cambridge Analytica como un escándalo y no como una advertencia.

Lo que hicieron en realidad

El relato más extendido presenta a Cambridge Analytica como una historia de robo de datos: se llevaron datos que no debían tener, los usaron para fines que nadie había consentido y traicionaron la confianza de millones de personas. Todo eso es cierto, pero ese enfoque pasa por alto lo que hacía importante la operación.

La verdadera novedad estaba en el perfilado psicológico al servicio de la persuasión política. Correlacionando los «me gusta» de Facebook con rasgos de personalidad, podían predecir con una precisión razonable la apertura a la experiencia, la responsabilidad, la extraversión, la amabilidad y el neuroticismo de cada usuario. Podían saber quién era persuadible, qué mensajes lo moverían y en qué momentos era más vulnerable a la influencia.

No era la primera vez que la psicometría se cruzaba con la política, pero sí la primera en que la combinación funcionaba a escala de internet, con ciclos de retroalimentación que permitían probar y afinar a gran velocidad. Las técnicas eran toscas para lo que hoy conocemos; la arquitectura de la influencia, en cambio, quedó demostrada.

La lección que se nos escapó

Cuando estalló el escándalo, la atención pública se centró en lo que Facebook hacía con los datos. Llegaron nuevas normas de privacidad, hubo quien borró su cuenta, y la indignación fue real pero apuntaba mal.

La lección de fondo tenía que ver con la posibilidad de manipular psicológicamente a la gente a gran escala, más que con la privacidad. Los datos eran el medio; el fin era construir un sistema capaz de detectar las vulnerabilidades de cada individuo y explotarlas con fines políticos.

Esa capacidad no se esfumó cuando Cambridge Analytica se disolvió. Los investigadores se fueron a otra parte, las técnicas quedaron documentadas y la infraestructura de fondo, las redes sociales que hacen posible este tipo de segmentación, siguió intacta y continuó creciendo. Lo que hicimos fue responder a un escándalo concreto; a la capacidad nueva que ese escándalo había dejado a la vista no le respondió nadie.

La aceleración de la IA

Cambridge Analytica trabajaba con la tecnología de 2016: modelos de aprendizaje automático relativamente simples, categorías psicológicas básicas, anuncios de imagen fija y texto. Las limitaciones eran reales.

Piensa en lo que ha cambiado desde entonces. Los grandes modelos de lenguaje generan texto persuasivo sobre cualquier tema, en cualquier estilo y a cualquier escala; los generadores de imágenes producen contenido fotorrealista a la medida de cada grupo demográfico, y los sistemas de recomendación han afinado muchísimo su capacidad de predecir el comportamiento humano.

También han mejorado los modelos psicométricos. Hoy se puede inferir la personalidad de alguien a partir de muestras de datos mucho más pequeñas: unos textos que ha escrito, cómo se mueve por la pantalla, qué compra, una grabación de su voz. Cada rastro digital se convierte en combustible para la inferencia psicológica.

Junta todas esas piezas y tienes algo con lo que Cambridge Analytica solo podía soñar: un sistema que genera persuasión personalizada individuo a individuo, con contenido diseñado a propósito para explotar la psicología particular de cada persona, y distribuido por plataformas que saben exactamente cuándo y cómo llegar a ella.

La automatización de la manipulación

Cambridge Analytica necesitaba juicio humano en varios puntos del proceso. Los estrategas decidían qué resortes psicológicos tocar, los redactores componían los mensajes y los compradores de medios colocaban los anuncios. Esos cuellos de botella humanos limitaban la escala y la velocidad.

La IA actual los elimina. El sistema puede generar, probar y optimizar contenido persuasivo sin que intervenga nadie; puede lanzar miles de experimentos a la vez y aprender qué funciona con cada individuo. Los ciclos de retroalimentación que hacen tan potente el aprendizaje automático pasan a ser los ciclos de retroalimentación de la manipulación.

Esto ya está ocurriendo: las campañas políticas usan la IA para generar mensajes y segmentar a su público. El grado de sofisticación varía, pero la trayectoria está clara, y cada ciclo electoral trae más automatización, más personalización y más optimización algorítmica de la influencia.

El problema para la democracia

La democracia presupone algo parecido al consentimiento informado: los ciudadanos evalúan a los candidatos, sopesan las propuestas, se forman una opinión y votan. El proceso es imperfecto, pero descansa en que las personas tomen decisiones que se puedan reconocer como suyas.

La microsegmentación algorítmica rompe ese supuesto. Si yo puedo identificar tus vulnerabilidades psicológicas y explotarlas con contenido hecho a tu medida, tus «decisiones» pasan a ser un producto de mi intervención. Tú sigues teniendo la sensación de elegir, pero el terreno sobre el que eliges lo ha diseñado otro.

Nos han influido siempre las campañas, los medios, las conversaciones, y eso no es el problema; el problema es la asimetría de esta influencia y su invisibilidad. No puedes negociar con una manipulación que no ves, diseñada por sistemas que no entiendes y dirigida a debilidades que quizá ni sabes que tienes.

Cambridge Analytica era tosca: trabajaba con tipos de personalidad, con categorías psicológicas amplias. ¿Qué pasa cuando la segmentación opera al nivel de la psicología de cada individuo, momento a momento, en todas las plataformas que usas?

Más allá de las elecciones

Nos fijamos en las elecciones porque están acotadas en el tiempo, tienen consecuencias y son fáciles de leer. Pero las mismas técnicas valen en cualquier ámbito donde importe la influencia psicológica: la comunicación corporativa, las campañas de salud pública, el reclutamiento religioso, los circuitos de radicalización, el fraude financiero. Cualquier terreno en el que cambiar opiniones genere valor se convierte en objetivo de la persuasión algorítmica.

El manual de Cambridge Analytica lo han estudiado agencias de inteligencia, empresas de marketing, grupos de presión y actores individuales de todo el mundo. El genio salió de la botella en 2016 y desde entonces seguimos haciendo como si pudiéramos devolverlo a ella.

¿Qué se puede hacer?

Ojalá tuviera una respuesta limpia. No la tengo, pero sí puedo señalar dónde está la dificultad.

Las soluciones técnicas chocan con que la detección siempre va por detrás de la generación: podemos construir herramientas que identifiquen contenido manipulador, pero los sistemas que lo generan se adaptarán. Es una carrera armamentística que la defensa casi siempre pierde.

Por la vía regulatoria el problema es la definición. ¿Qué cuenta como manipulación ilegítima y qué como persuasión legítima? La línea es de verdad borrosa, y cualquier intento de trazarla corre el riesgo de silenciar discursos legítimos.

A la educación le falla la escala. La alfabetización mediática ayuda, pero la manipulación psicológica explota partes de la mente que la educación no protege con facilidad, y saber que te manipulan no te inmuniza contra la manipulación.

La respuesta más honesta es que tenemos que tomarnos este problema mucho más en serio de lo que lo hemos hecho: reconocer que 2016 fue un anticipo y no una anomalía, y dejar de tratar cada nuevo escándalo como un incidente aislado cuando es un punto más de una trayectoria.

Cambridge Analytica se convirtió en el símbolo de la corrupción de la democracia digital. El nombre evoca manipulación en la sombra, injerencia extranjera, tecnología usada para fines turbios: un villano útil para las historias que nos contamos a nosotros mismos.

Pero el símbolo tapa la sustancia. Cambridge Analytica no fue una excepción: fue una avanzadilla. Las capacidades que demostró se han refinado, ampliado y democratizado desde entonces, y los sistemas de los que fue pionera están hoy al alcance de cualquiera con recursos y motivación.

Tuvimos la oportunidad de aprender de 2016 y aprendimos las lecciones equivocadas. Nos centramos en proteger los datos cuando deberíamos habernos centrado en la manipulación psicológica; castigamos a una empresa cuando lo que había que cuestionar era una capacidad; pasamos página cuando deberíamos haber seguido alarmados.

La prueba de concepto funcionó, la demostración salió bien, y a nosotros se nos olvidó tener miedo.