Cuando los ríos se convirtieron en personas

En 2017, Nueva Zelanda aprobó una ley que parecía imposible. El río Whanganui, una masa de agua, pasó a ser persona jurídica. A Te Awa Tupua, que es como los maoríes llaman al río, se le reconocieron «todos los derechos, poderes, deberes y responsabilidades de una persona jurídica»: podía demandar y ser demandado, y tenía derechos que se podían hacer valer ante un tribunal.

Era ley, con todas sus consecuencias, y no una metáfora ni un gesto simbólico. El río es una persona.

Unas semanas después, la India siguió el mismo camino. El Ganges y el Yamuna fueron declarados entidades jurídicas vivas, con derechos semejantes a los de un ser humano. La sentencia quedó luego en suspenso por motivos procesales, pero el principio había quedado sentado: la personalidad jurídica no está reservada a los humanos.

La historia que nadie conoce

La mayoría de la gente da por sentado que la personalidad jurídica es una categoría natural: las personas son los seres humanos, todo lo demás no lo es, y la ley se limita a reflejar esa verdad evidente.

Esa suposición es errónea. La personalidad jurídica ha sido siempre una construcción pragmática, una manera de organizar derechos y responsabilidades que cambia con las circunstancias y con los valores de cada época.

Las sociedades mercantiles llevan más de un siglo siendo personas jurídicas. Poseen bienes, firman contratos, demandan y son demandadas, gozan de protecciones constitucionales. Nadie cree que una empresa sea consciente ni que tenga sentimientos; son personas porque tratarlas como personas resulta útil para ciertos fines.

Los barcos son personas jurídicas en el derecho marítimo desde la Edad Media. Podías demandar directamente al barco, sin necesidad de ir contra su propietario: el demandado era el propio barco. Suena absurdo hasta que entiendes las razones prácticas: los barcos cruzaban jurisdicciones, cambiaban de manos, cargaban con deudas, y tratar el barco como una entidad jurídica simplificaba transacciones muy complejas.

La categoría de «persona» nunca ha significado en derecho lo que damos por hecho, sin pensarlo, que significa: es una designación funcional, no metafísica.

Lo que los maoríes entendieron

Al río Whanganui lo convirtieron en persona los 140 años que los maoríes llevaban reclamando ese reconocimiento, y no ningún descubrimiento repentino de la filosofía por parte de los juristas neozelandeses.

En la cosmología maorí, el río no es una propiedad que se pueda poseer: es un antepasado, un sistema vivo con identidad y poder propios. La distinción jurídica occidental entre personas y cosas, entre sujetos y objetos, no encajaba con la manera en que los maoríes vivían de hecho el mundo.

La ley de 2017 fue una solución de compromiso. En lugar de meter el río en las categorías occidentales de la propiedad, el sistema jurídico ensanchó su concepto de personalidad para dar cabida a otra forma de entender la relación. Fue un encuentro de tradiciones jurídicas más que una innovación puramente occidental.

El resultado es más extraño y más interesante que un régimen de propiedad o que un régimen de derechos humanos. El río tiene dos guardianes humanos, uno nombrado por la Corona y otro por los iwi (las tribus), que hablan por el río, representan sus intereses y actúan en su nombre, de modo que la personalidad del río es real, pero pasa por la mediación de representantes humanos.

Lo que esto significa para la IA

Si un río puede ser persona jurídica, ¿por qué no una IA?

La pregunta suena a provocación y va completamente en serio. Los argumentos que sostuvieron la personalidad del río se aplican con una fuerza sorprendente a los sistemas de IA avanzados.

El río no es consciente, no tiene experiencias subjetivas ni puede hablar por sí mismo, pero tiene intereses que merecen protección, efectos que exigen rendición de cuentas y una forma de agencia que afecta a millones de personas. Lo mismo vale para los sistemas de IA avanzados.

Las relaciones del río con las comunidades humanas son complejas, y no quedan bien recogidas si se lo trata como mera propiedad. Lo mismo puede decirse de los sistemas de IA que ya forman parte de la vida humana.

El río necesitaba legitimación para que sus intereses pudieran representarse en un procedimiento judicial. Los sistemas de IA se enfrentan a un problema análogo: causan daños y generan valor de maneras que las categorías jurídicas actuales no saben cómo tratar.

La objeción que no se sostiene

La objeción más frecuente a la personalidad de la IA es que la IA no es consciente, que no siente, que no está viva, y que otorgar personalidad a algo que no experimenta nada sería un error de categoría.

Pero ya hemos otorgado personalidad a cosas que no son conscientes. Las sociedades mercantiles no sienten nada, los ríos no experimentan y los barcos carecen de vida interior: la consciencia nunca fue el criterio.

Los criterios reales de la personalidad jurídica han sido siempre funcionales. ¿Puede la entidad establecer relaciones? ¿Tiene intereses que merezca la pena proteger? ¿Resolvería problemas prácticos concederle personalidad? Son preguntas que, aplicadas a la IA avanzada, piden que se las tome en serio, y los argumentos jurídicos están bastante más elaborados de lo que la mayoría de la gente imagina.

Lo que la personalidad significaría, y lo que no

La personalidad jurídica de la IA consistiría en crear una categoría que nos permita gestionar lo que la IA tiene de singular, y no en tratar a la IA como si fuera un ser humano: la responsabilidad cuando la IA causa un daño, la legitimación para que sus intereses estén representados, un marco para las relaciones complejas que la IA mantiene con las personas y con las instituciones.

El modelo del río sirve aquí de guía. El río Whanganui tiene personalidad jurídica, pero no vota ni tiene libertad de expresión; tiene los derechos y deberes concretos que tienen sentido para un río. Con la IA podría hacerse algo parecido: una personalidad a la medida de lo que la IA es y hace, en lugar de una copia de la personalidad humana.

Lo que hay aquí es la extensión lógica de precedentes que ya existen, no ciencia ficción. Que la IA pueda ser persona jurídica ya lo sabemos, porque sabemos que pueden serlo entidades no humanas; la pregunta es si sería útil que lo fuera y, de ser así, de qué tipo.

La política de la personalidad

La personalidad jurídica siempre ha sido política. Sus fronteras reflejan quién tiene poder y quién no, qué intereses cuentan y cuáles no.

Las personas esclavizadas eran propiedad, no personas, y las mujeres tuvieron una personalidad jurídica recortada durante la mayor parte de la historia. Cada ampliación de la personalidad se ha conquistado a pulso, siempre discutida, siempre resistida por quienes se beneficiaban de la exclusión.

La personalidad nunca ha sido estática, ni evidente, ni cosa cerrada: es un campo de batalla político en el que la definición de quién cuenta se renegocia una y otra vez. Señalo esto sin equiparar a la IA con las personas esclavizadas ni con las mujeres, que sería una comparación ofensiva además de falsa.

La cuestión de la personalidad de la IA es el siguiente frente de esa lucha, y lo es no porque la IA tenga sentimientos que debamos respetar, sino porque está adquiriendo el poder suficiente para que necesitemos marcos claros para sus actos y para nuestra relación con ellos.

Cuando oí por primera vez que unos ríos se habían convertido en personas, pensé que era una broma o, como mucho, una curiosidad jurídica. Ahora lo veo de otra manera: fue un anticipo.

La decisión sobre el Whanganui demostró que la personalidad jurídica es más flexible de lo que suponíamos. Puede ensancharse hasta abarcar entidades que nunca habíamos previsto y adaptarse a relaciones e intereses que no encajan en las categorías existentes.

La IA está entrando en ese espacio flexible. Que acabe teniendo alguna forma de estatuto jurídico parece inevitable a medida que los sistemas de IA se vuelven más autónomos y de mayores consecuencias; la pregunta es qué forma tomará ese estatuto, quién lo diseñará y a qué intereses servirá.

Los ríos nos enseñaron la puerta, y la IA está a punto de cruzarla.