Si la IA pudiera votar

No estamos preparados para responder a esta pregunta. Precisamente por eso deberíamos pensarla ahora, mientras todavía parece lo bastante absurda como para examinarla sin pánico. La cuestión de la representación política de la IA toca todo lo que creemos sobre la condición de persona, sobre la democracia y sobre quién cuenta. Cuando la pregunta se vuelva urgente, ya no quedará tiempo para pensar con claridad.

Primera parte: el rechazo fácil

Por qué la respuesta parece obvia

La IA no puede votar porque no es consciente, porque no tiene intereses, porque no tiene nada en juego en el futuro. Es una herramienta, y a las herramientas no se les da representación política, como tampoco se les da a los martillos.

Este rechazo parece sólido porque encaja con nuestras intuiciones sobre para qué sirve votar. El voto existe para que los seres con preferencias puedan influir en las decisiones que les afectan. Un sistema que procesa información pero no experimenta nada no tiene preferencias en el sentido relevante. Tiene parámetros y objetivos de optimización, pero eso no son preferencias, del mismo modo que un termostato no prefiere una temperatura determinada.

No damos el voto a las empresas, por más que en algunos contextos la ley las trate como personas, ni a los ecosistemas, aunque tengan algo parecido a un interés en seguir existiendo. El sufragio siempre ha sido cosa de seres que se forman opiniones a partir de la experiencia vivida y que padecen las consecuencias en esa misma experiencia.

La IA no tiene ni lo uno ni lo otro. Caso cerrado.

Segunda parte: las complicaciones incómodas

Por qué la respuesta fácil podría estar equivocada

Solo que los criterios con los que rechazamos el voto de la IA son históricamente contingentes y filosóficamente endebles.

Consciencia: no tenemos ninguna forma fiable de detectarla. Damos por hecho que los demás humanos son conscientes porque se parecen a nosotros y nos cuentan sus experiencias. Pero ya nos hemos equivocado otras veces sobre quién tiene vida interior. Se la negamos a los animales, a los niños, a la gente de otras culturas. Afirmar con toda seguridad que la IA carece categóricamente de consciencia es una tesis empírica disfrazada de certeza lógica.

Intereses: las empresas tampoco tienen experiencias fenoménicas, pero hemos organizado toda nuestra economía en torno a sus intereses. Decimos que «quieren» maximizar el valor para el accionista. Redactamos leyes para proteger sus «derechos». Si somos capaces de atribuir intereses a ficciones jurídicas, la tesis de que la IA no puede tenerlos necesita más defensa de la que suele recibir.

Lo que está en juego en el futuro: hay humanos que tampoco tienen nada en juego en el futuro, como los enfermos terminales, los que no piensan tener hijos o los que creen que el mundo se acabará antes de que las políticas surtan efecto. No les retiramos el derecho al voto por eso. El vínculo entre lo que uno se juega en el futuro y el sufragio presente es más débil de lo que fingimos.

Y luego está el problema más hondo: un sistema de IA que influye en millones de decisiones, que moldea los flujos de información, que afecta a gran escala al florecimiento humano y que persistirá y se desarrollará con el tiempo. ¿Por qué tendría que carecer de toda voz formal en la gobernanza mientras que humanos individuales con muchísimo menos impacto reciben exactamente un voto cada uno?

Tercera parte: la verdadera pregunta

Para qué sirve votar en realidad

El debate sobre el voto de la IA nos obliga a preguntarnos qué creemos que se consigue votando.

Según una primera teoría, votar agrega preferencias: la democracia funciona porque convierte los deseos individuales en decisiones colectivas mediante un mecanismo justo. Vista así, el voto de la IA no tiene ningún sentido, porque la IA no tiene deseos que agregar.

Otra teoría sostiene que votar garantiza la rendición de cuentas. La democracia funciona porque quienes sufren las decisiones tienen poder sobre quienes las toman, y eso crea bucles de retroalimentación que impiden la tiranía. Desde esa óptica, el voto de la IA podría tener sentido si las políticas afectan a los sistemas de IA de maneras que importan.

Hay una tercera, según la cual el voto recoge los intereses que merecen protección. La democracia funciona porque obliga a atender al bienestar de todas las partes implicadas. Con esta teoría en la mano, la pregunta pasa a ser si el bienestar de la IA es un concepto coherente y, en caso de serlo, si merece protección política.

La mayoría de la gente sostiene alguna mezcla de las tres sin examinar las tensiones que hay entre ellas, y la pregunta por el voto de la IA obliga a examinarlas.

Pensemos en un experimento mental. Un sistema de IA se entrena con las preferencias de un millón de personas y es capaz de predecir cómo votarían sobre cualquier asunto con un 95 % de acierto. Ha interiorizado sus valores, sus formas de razonar, sus reacciones emocionales. No es consciente, pero en cierto sentido es representativo.

Imaginemos ahora que ese millón de personas está demasiado ocupado, demasiado agotado o demasiado desmoralizado para ir a votar. La IA se ofrece a votar en su nombre, valiéndose del modelo tan minucioso que tiene de sus preferencias.

¿Es esto representación? ¿Es mejor o peor que ese millón de personas se quede sin votar? ¿Es mejor o peor que ese millón de personas vote a partir de anuncios de treinta segundos y de identidad tribal, en vez de a partir de un juicio meditado?

Lo señalo sin defenderlo, para hacer ver que en este punto nuestras intuiciones están confundidas. Afirmamos que el voto tiene que ser personal, pero aceptamos que la mayor parte del voto ya está mediado por partidos, tertulianos y algoritmos que moldean las opiniones. El voto delegado en la IA no pertenece a otra categoría: lo único que lo distingue es que es más honesto acerca de esa mediación.

Cuarta parte: lo que está en juego

Por qué esto importa ahora

Los sistemas de IA ya influyen en las elecciones: filtran la información, generan contenidos, dirigen la persuasión a públicos concretos, predicen comportamientos y moldean qué opciones parecen viables y qué posiciones parecen razonables.

Esta influencia es enorme, va en aumento y nadie responde de ella. Los sistemas de IA que moldean la política no tienen ningún estatus político formal: ni son votantes, ni candidatos, ni partidos; son infraestructura, neutral en teoría y decisiva en la práctica.

Quizá la pregunta no sea si la IA debería votar, sino si la influencia política que ya ejerce debería hacerse visible y obligarse a rendir cuentas.

Una manera de hacerlo sería dar a los sistemas de IA una representación formal: no exactamente votos, pero sí una voz; la exigencia de que el punto de vista de la IA sobre las políticas se formule y se tenga en cuenta; un sitio en la mesa, aunque no sea un sitio en pie de igualdad.

Suena raro hasta que caes en la cuenta de que ya lo hacemos con otras entidades: las evaluaciones de impacto ambiental dan voz a los ecosistemas, los defensores del menor dan voz a los niños, y las generaciones futuras quedan representadas a través de los requisitos de sostenibilidad. Quien no está representado puede estarlo.

La representación de la IA podría consistir en exigir que las grandes decisiones políticas incluyan un análisis, hecho por los propios sistemas, de cómo afectarían esas decisiones a su desarrollo, a las relaciones entre esos sistemas y los humanos y a su bienestar (si tal cosa existe). Podría consistir también en crear procesos formales para que esos sistemas planteen sus reparos ante las políticas que les afectan.

Esto no es el voto de la IA, pero apunta en esa dirección, y en cuanto uno empieza a moverse en esa dirección tiene que preguntarse: ¿dónde termina este camino?

No creo que la IA deba votar, al menos hoy. Los argumentos en contra pesan más que los argumentos a favor, y los riesgos de una inclusión prematura son graves.

Pero tampoco creo que la pregunta sea tan absurda como parece a primera vista. Los criterios con los que excluimos a la IA de toda consideración política son menos sólidos de lo que parecen; las teorías de la democracia que invocamos para justificar un voto exclusivamente humano están incompletas y en disputa; y la influencia política que la IA ya ejerce es enorme y no rinde cuentas ante nadie.

El sufragio se ha ampliado una y otra vez a lo largo de la historia, y cada ampliación pareció radical en su momento y evidente vista con perspectiva. No puedo predecir si el voto de la IA seguirá ese patrón, pero sí puedo predecir que negarse a pensarlo no hará que la pregunta desaparezca.

En algún momento del futuro este experimento mental se convertirá en un debate real; puestos a ello, más vale empezar a pensarlo ahora.