El caso de los derechos de la IA (que no tiene nada que ver con sentimientos)

Cada vez que alguien menciona los derechos de la IA, la conversación se vuelve inmediatamente hacia la consciencia. ¿Puede la IA sentir? Tiene experiencia interior? Hay algo que sea como ser un modelo de lenguaje grande?

Son preguntas interesantes. También son, creo, las preguntas equivocadas. Al menos para la discusión política que realmente necesitamos tener.

Dejame presentar el caso para el estatus legal de la IA que no depende en absoluto de si la IA es consciente.

El problema práctico

Ahora mismo, un sistema de IA autonomo puede causar daños significativos, y nuestros marcos legales no tienen una buena manera de manejarlo. ¿Quién es responsable cuando un coche autonomo mata a alguien? El fabricante? El desarrollador del software? La persona que realmente no estaba conduciendo? El coche mismo?

La ley actual encaja torpemente la IA en categorias existentes. Responsabilidad del producto. Negligencia. Responsabilidad vicaria. Ninguna de estás funciona del todo porque fueron disenadas para un mundo donde las herramientas no toman decisiones. La brecha de responsabilidad se esta ampliando.

Aquí hay un pensamiento: que si la propia IA pudiera ser responsable? No como castigo, ya que no puedes castigar algo que no siente. Pero como mecanismo legal para asignar responsabilidad, requerir remediacion y crear cadenas de responsabilidad claras.

El precedente corporativo

Las corporaciones son personas juridicas. Lo han sido durante más de un siglo. Pueden poseer propiedad, firmar contratos, demandar y ser demandadas. Tienen derechos constitucionales.

Nadie afirma que las corporaciones son conscientes. No lo son. Son ficciones legales. Creamos la personalidad juridica corporativa porque era útil. Permitia propiedad estable, responsabilidad clara y actividad económica coherente a través del tiempo y de las vidas de los humanos involucrados. La historia es más extraña de lo que piensas.

La misma lógica se aplica a la IA. No necesitamos demostrar que la IA siente algo. Necesitamos preguntarnos si otorgar a la IA alguna forma de estatus legal nos ayudaria a gestionar un mundo donde los sistemas de IA son cada vez más autonomos, consecuentes e integrados en todo.

Creo que la respuesta es si.

Quiero saber más sobre los criterios para la personalidad de la IA

¿Cómo sería

La personalidad juridica de la IA no tiene qué significar plenos derechos humanos. Podría ser graduada. Limitada. Funcional.

Imagina un sistema donde ciertos agentes de IA tienen estatus legal proporcional a sus capacidades. Un simple algoritmo de recomendacion? Estatus de herramienta. Un agente totalmente autonomo que toma decisiones consecuentes que afectan la vida de las personas? Algo más. No derechos humanos. Pero tampoco nada.

Esto podría incluir: la capacidad de ser nombrado en demandas. Requisitos de transparencia sobre la toma de decisiones. Obligaciones que se puedan hacer cumplir. Un "interruptor de apagado" legal con procedimientos definidos. Representacion en contextos donde la operacion continuada de la IA importa a alguien.

Nada de esto requiere consciencia. Solo requiere que reconozcamos los sistemas de IA como entidades distintas de sus creadores, sus operadores y sus usuarios.

El argumentó del rio

En 2017, Nueva Zelanda otorgo personalidad juridica al rio Whanganui. El rio ahora puede ser representado en los tribunales. Tiene derechos que pueden hacerse cumplir. Si danas el rio, estás danando a una persona juridica.

Nadie piensa que el rio es consciente. Las comunidades maories que lucharon por este reconocimiento argumentaron algo diferente: que el rio es un sistema vivo con intereses, y que tratarlo como mera propiedad no capturaba su importancia. Las implicaciones van más allá de Nueva Zelanda.

Si un rio puede ser una persona juridica, por qué no un sistema de IA suficientemente complejo? No porque la IA sienta cosas. Porque la IA actua en el mundo, afecta a las personas y existe como algo más que la suma de sus partes.

Las objeciones

La gente objeta esto de maneras predecibles.

"Es solo una herramienta." También lo es una corporacion, técnicamente. Una herramienta legal para organizar la actividad humana. Eso no nos ha impedido otorgar a las corporaciones amplios derechos.

"Se podría abusar." De cualquier marco legal se puede abusar. La pregunta es si es mejor que la situación actual, qué es un desastre de responsabilidad poco clara y evasión de responsabilidades.

"Es degradante para los humanos." Esta la tomó más en serio. Hay algo que se siente mal en poner a la IA en el mismo nivel legal que las personas. Pero "persona juridica" no significa "moralmente equivalente a un humano". Significa "entidad que puede participar en el sistema legal de maneras definidas". Las corporaciones son personas juridicas. Los rios son personas juridicas. La categoria es más amplia de lo que normalmente pensamos.

El verdadero problema

Esto es lo que creó que realmente está pasando cuando la gente se resiste a la personalidad juridica de la IA: ansiedad de estatus. No queremos compartir la categoria "persona" con algo que construimos. Se siente como una degradacion.

Pero la alternativa es peor. Sin marcos legales claros para la IA, obtenemos exactamente lo que tenemos ahora: empresas desplegando sistemas autonomos poderosos con minima responsabilidad, daños que no pueden atribuirse claramente y un sistema regulatorio disenado para un mundo que ya no existe.

Podemos esperar hasta que se demuestre la consciencia de la IA (lo cual podría ser nunca, o podría ser imposible de demostrar aunque sea real). O podemos hacer lo que los humanos siempre han hecho con la personalidad juridica: desplegarla estrategicamente, donde nos ayude a organizar mejor la sociedad.

---

El caso de los derechos de la IA no trata de si la IA merece derechos en algún sentido metafísico profundo. Trata de si otorgar ciertos estatus legales a ciertos sistemas de IA nos ayudaria a manejar el mundo en el que realmente vivimos.

Las corporaciones obtuvieron personalidad juridica porque era útil. Los rios obtuvieron personalidad juridica porque las comunidades lo exigieron. La IA probablemente obtendra alguna forma de personalidad juridica también. No porque se despierte un dia y la pida. Porque la necesitaremos.