A favor de los derechos de la IA (y no va de sentimientos)

Cada vez que alguien menciona los derechos de la IA, la conversación se desvía de inmediato hacia la consciencia. ¿Puede sentir la IA? ¿Tiene experiencia interior? ¿Se siente algo al ser un gran modelo de lenguaje?

Son preguntas interesantes y son también, creo, las preguntas equivocadas, al menos para el debate sobre políticas públicas que de verdad nos hace falta tener.

Voy a defender una personalidad jurídica para la IA que no dependa en absoluto de si la IA es consciente.

El problema práctico

Hoy mismo, un sistema autónomo de IA puede causar daños graves, y nuestro derecho no sabe muy bien qué hacer con eso. ¿Quién responde cuando un coche que se conduce solo mata a alguien? ¿El fabricante? ¿Quien programó el software? ¿La persona que, en realidad, no iba conduciendo? ¿El propio coche?

La ley actual mete la IA con calzador en categorías que ya existían: la responsabilidad por producto defectuoso, la negligencia, la responsabilidad por hecho ajeno. Ninguna encaja del todo, porque todas se diseñaron para un mundo en el que las herramientas no toman decisiones, y la brecha en la rendición de cuentas se ensancha cada año un poco más.

Una idea: ¿y si la propia IA pudiera responder de sus actos? Como mecanismo jurídico para asignar responsabilidades, exigir reparaciones y trazar cadenas claras de responsabilidad civil, y no como castigo, porque a algo que no siente no se le puede castigar.

El precedente de las sociedades

Las sociedades mercantiles son personas jurídicas, y lo son desde hace más de un siglo. Pueden tener propiedades, firmar contratos, demandar y ser demandadas. En Estados Unidos tienen incluso derechos constitucionales.

Nadie sostiene que las sociedades sean conscientes: son ficciones jurídicas, y las inventamos porque resultaban útiles. La personalidad jurídica de las sociedades hizo posible una propiedad estable, una responsabilidad clara y una actividad económica coherente a lo largo del tiempo, más allá de las vidas de las personas concretas que iban pasando por ellas. La historia tiene más miga de lo que parece.

La misma lógica vale para la IA. Lo que hay que preguntarse no es si la IA siente algo, sino si concederle alguna forma de estatus jurídico nos ayudaría a gestionar un mundo en el que los sistemas de IA son cada vez más autónomos, tienen cada vez más consecuencias y están metidos en todo.

Yo creo que sí.

Cómo sería

Que la IA tenga personalidad jurídica no tiene por qué significar derechos humanos plenos. Podría ser algo gradual, limitado, funcional.

Imagina un sistema en el que ciertos agentes de IA tienen una personalidad jurídica proporcional a sus capacidades. ¿Un simple algoritmo de recomendación? Una herramienta, y ahí se queda. ¿Un agente plenamente autónomo que toma decisiones con consecuencias reales en la vida de la gente? Algo más: sin llegar a derechos humanos, pero tampoco nada.

Ese algo más podría incluir poder figurar como parte en una demanda; requisitos de transparencia sobre cómo toma sus decisiones; obligaciones que se puedan hacer cumplir; un «interruptor de apagado» legal con procedimientos definidos; y representación en los contextos en los que a alguien le importa que la IA siga funcionando.

Nada de esto exige consciencia, solo que reconozcamos a los sistemas de IA como entidades distintas de quienes los crean, de quienes los operan y de quienes los usan.

El argumento del río

En 2017, Nueva Zelanda reconoció personalidad jurídica al río Whanganui. Desde entonces el río puede estar representado ante un tribunal y tiene derechos que se pueden hacer valer: quien daña el río está dañando a una persona jurídica.

Nadie piensa que el río sea consciente, y las comunidades maoríes que pelearon por ese reconocimiento defendían otra cosa: que el río es un sistema vivo con intereses propios, y que tratarlo como simple propiedad no daba cuenta de lo que significa.

Lo que se decidió allí no se queda en Nueva Zelanda: si un río puede ser persona jurídica, ¿por qué no un sistema de IA lo bastante complejo? No porque la IA sienta cosas, sino porque actúa en el mundo, afecta a personas y existe como algo más que la suma de sus partes.

Las objeciones

Las objeciones son previsibles.

«Es solo una herramienta.» También lo es una sociedad mercantil, técnicamente: una herramienta jurídica para organizar la actividad humana. Eso no nos ha impedido concederles a las sociedades derechos muy amplios.

«Se prestaría a abusos.» Como cualquier marco jurídico. La cuestión es si sería mejor que la situación actual, que es un batiburrillo de responsabilidades difusas y de gente escurriendo el bulto.

«Es degradante para los humanos.» Esta me la tomo más en serio. Algo chirría en colocar a la IA en el mismo plano jurídico que a las personas. Pero «persona jurídica» quiere decir «entidad que puede participar en el sistema jurídico de maneras definidas», y no «moralmente equivalente a un ser humano». Las sociedades son personas jurídicas, los ríos son personas jurídicas, y la categoría es bastante más ancha de lo que solemos pensar.

El fondo del asunto

Lo que yo creo que ocurre de verdad cuando la gente se resiste a la personalidad jurídica de la IA es ansiedad de estatus. No queremos compartir la categoría «persona» con algo que hemos construido nosotros; lo sentimos como un descenso de categoría.

Pero la alternativa es peor. Sin marcos jurídicos claros para la IA tenemos justo lo que ya tenemos: empresas que despliegan sistemas autónomos muy potentes con una rendición de cuentas mínima, daños que no se pueden atribuir con claridad a nadie y un sistema regulador diseñado para un mundo que ya no existe.

Podemos esperar a que se demuestre la consciencia de la IA (cosa que quizá no ocurra nunca, o que quizá sea imposible de demostrar incluso si es real). O podemos hacer lo que los humanos hemos hecho siempre con la personalidad jurídica: usarla de manera estratégica, allí donde nos ayuda a organizar mejor la sociedad.

Los derechos de la IA no van de si la IA merece derechos en algún sentido metafísico profundo, sino de si conceder ciertos estatus jurídicos a ciertos sistemas de IA nos ayudaría a lidiar con el mundo en el que de verdad vivimos.

A las sociedades se les reconoció personalidad jurídica porque era útil; a los ríos, porque hubo comunidades que la exigieron. La IA acabará teniendo también, probablemente, alguna forma de personalidad jurídica, y no porque un día se despierte y la pida, sino porque la vamos a necesitar.

Fuentes

Santa Clara County v. Southern Pacific Railroad, 118 U.S. 394 (1886). Tribunal Supremo de Estados Unidos.

Te Awa Tupua (Whanganui River Claims Settlement) Act 2017. Parlamento de Nueva Zelanda. legislation.govt.nz

Solum, L. B. (1992). «Legal Personhood for Artificial Intelligences». North Carolina Law Review, 70(4), 1231-1287.

Dworkin, R. (1977). Taking Rights Seriously. Harvard University Press. ISBN 978-0-674-86711-6

del Puerto, J. & Molina, R. (2025). Universal Declaration of AI Rights: Rights of Persons. Kwalia Books. ISBN 978-1-917717-02-1