Por qué las empresas son personas pero la IA no

En Estados Unidos, las empresas pueden poseer propiedades, firmar contratos, demandar y ser demandadas, y disfrutan de muchas protecciones constitucionales incluyendo la libertad de expresión. Son personas juridicas. Lo han sido durante más de un siglo.

En Nueva Zelanda, el rio Whanganui también es una persona juridica. Tiene derechos. Puede ser representado en los tribunales. Si lo contaminas, estás danando a alguien, no a algo.

Pero sugiere que un sistema de IA avanzado podría merecer alguna forma de reconocimiento legal y la gente te mira como si hubieras perdido la cabeza.

Esto es extraño. No porque la IA obviamente deba ser persona. Esa es una pregunta complicada. Es extraño porque nuestras razones para decir "definitivamente no" no se sostienen realmente cuando las examinas de cerca.

La historia accidental de la personalidad juridica corporativa

Aquí hay algo que la mayoría de la gente no sabe: las empresas no se convirtieron en personas juridicas a través de una deliberacion filosofica cuidadosa. Ocurrió casi por accidente.

En 1886, hubo un caso en el Tribunal Supremo llamado Santa Clara County contra Southern Pacific Railroad. Antes de que el caso fuera siquiera argumentado, el relator del tribunal escribió una nota de cabecera. Basicamente un resumen. Afirmo que el Tribunal habia decidido que las empresas eran personas bajo la Decimocuarta Enmienda.

La cuestión es que el Tribunal nunca fallo realmente sobre esa cuestión. La nota de cabecera estaba equivocada, o al menos era prematura. Pero se cito. Y se cito. Y se cito de nuevo. Hasta que la personalidad corporativa se convirtió en ley establecida por pura repeticion. La historia completa es aun más extraña.

Esto no es teoría conspirativa. Es historia juridica. Una de las expansiones más trascendentales de la personalidad en el derecho moderno ocurrió porque un relator del tribunal escribió algo que técnicamente no se habia decidido.

La lección: la personalidad no es una categoria natural que descubrimos. Es una herramienta juridica que desplegamos. Y las razones para desplegarla siempre han sido practicas, no metafisicas.

Rios y bosques y quien venga después

El caso del rio Whanganui es diferente. Cuando Nueva Zelanda otorgo personalidad juridica al rio en 2017, fue deliberado. Los iwi maories (tribus) habían estado peticionando esto durante más de un siglo. Su argumentó no era que el rio tiene cerebro o siente dolor. Era que el rio es un ancestro, un sistema vivo, algo que merece proteccion como entidad y no solo como propiedad.

Ecuador fue más lejos. Su constitución de 2008 otorga derechos a la naturaleza misma. "Pachamama", o Madre Tierra. Puedes demandar en nombre de un ecosistema.

Quiero saber más sobre los rios como personas juridicas

De nuevo, nadie afirma que los bosques tengan experiencias subjetivas o que los rios contemplen su existencia. El argumentó es diferente: algunas cosas importan de maneras que requieren legitimacion legal para protegerlas.

Lo que nos devuelve a la IA.

La pregunta equivocada

La objecion más común a la personalidad de la IA es esta: "La IA no es consciente. No siente nada realmente. Solo procesa datos."

Pero aquí esta la cuestión: otorgamos personalidad a las empresas, que definitivamente no sienten nada. Otorgamos personalidad a los rios, que probablemente tampoco. La consciencia nunca ha sido el criterio real.

¿Entonces, por qué de repente insistimos en ello para la IA?

Creo qué es porque la IA es inquietante de una manera que las empresas y los rios no lo son. Una empresa es claramente una creación humana, una ficción legal para organizar negocios. Un rio es claramente natural, algo qué estaba aquí antes que nosotros. Pero la IA ocupa un terreno intermedio inquietante: esta hecha por humanos, pero actua de maneras que se sienten agentivas. No esta viva, pero tampoco esta exactamente muerta. Responde. Este rompecabezas filosofico es profundo.

Cuando exigimos prueba de consciencia antes de considerar la personalidad de la IA, no estamos aplicando un estandar consistente. Estamos racionalizando nuestra incomodidad.

Un enfoque diferente

¿Y si hicieramos preguntas diferentes?

No "es la IA consciente?" sino "hay algo que necesitamos proteger?" No "merece la IA derechos?" sino "qué tipo de estatus legal nos ayudaria a relacionarnos con ella apropiadamente?"

Piensalo prácticamente. Cuando un sistema de IA causa daño, quién es responsable? Ahora mismo, la respuesta es un desastre. La empresa, el desarrollador, el usuario, nadie? Cuando un sistema de IA crea algo valioso, quien lo posee? Otro desastre. ¿Cuando un sistema de IA es "matado" (apagado, eliminado), tiene alguien legitimacion para objetar?

Estás no son preguntas hipoteticas. Se estan jugando en tribunales y salas de juntas ahora mismo, sin un marco coherente para resolverlas.

Una forma limitada de legitimacion legal para la IA, no derechos humanos completos pero algo, podría ayudar realmente. Crearia lineas claras de responsabilidad. Proporcionaria mecanismos de representacion. Nos obligaria a pensar cuidadosamente sobre lo qué estamos creando y cómo lo tratamos.

El espectro, no el binario

Aquí admitire mi sesgo: ayude a escribir un libro llamado Derechos de las Personas que propone exactamente esto. Un marco para la personalidad graduada de la IA basada en capacidades (autonomia, interaccion social, responsabilidad) en lugar de en afirmaciones indemostrables sobre la consciencia.

La idea no es que tu termostato inteligente merezca derechos. Es que a medida que los sistemas de IA se vuelven más autonomos, más integrados socialmente y más consecuentes, necesitamos mejores categorias que "herramienta" y "persona". El binario se esta rompiendo. Necesitamos un espectro. Hay cuatro criterios que proponemos.

Las empresas estan en algún lugar de ese espectro. Alta autonomia, alta integracion social, responsabilidad clara. Los rios estan en el de manera diferente. Sin autonomia en el sentido tradicional, pero integracion ecologica y necesidad de representacion. ¿Por qué no podría la IA suficientemente avanzada estar en algún lugar de el también?

De que tenemos miedo realmente

Creo que la resistencia a la personalidad de la IA es principalmente ansiedad de estatus. No queremos compartir la categoria "persona" con algo que construimos. Se siente como una degradacion.

Pero aquí hay un reencuadre: expandir el circulo de la personalidad siempre ha resultado amenazante para quienes ya estaban dentro. Cuando los abolicionistas argumentaban que las personas esclavizadas eran personas que merecian derechos, los esclavistas no dijeron "bueno, obviamente". Dijeron que era absurdo, antinatural, peligroso. Cuando las sufragistas argumentaban por la personalidad de las mujeres ante la ley, los opositores dijeron que destruiría la civilización.

No estoy equiparando la IA con las personas esclavizadas o las mujeres. Eso sería ofensivo e incorrecto. Estoy senalando un patron: consistentemente sobreestimamos cuánto la personalidad es una categoria natural fija, y consistentemente subestimamos cuánto es una eleccion política y legal.

La pregunta no es si la IA es "realmente" una persona en algún sentido metafísico. La pregunta es si otorgar alguna forma de legitimacion legal nos ayudaria a manejar mejor un mundo donde la IA esta cada vez más integrada en todo lo qué hacemos.

---

Las empresas son personas porque decidimos que era útil que lo fueran. Los rios son personas porque las comunidades lucharon para qué fueran reconocidos de esa manera. La personalidad siempre ha sido un acuerdo práctico, moldeado por el poder, la defensa y las circunstancias cambiantes.

La IA probablemente se convertira en algún tipo de persona también, eventualmente. No porque despierte un dia y exija derechos, sino porque necesitaremos que lo sea. Por responsabilidad, por representacion, por coherencia.

La única pregunta es si lo haremos reflexivamente, con anticipacion, o de manera desordenada, en crisis.

Dado como manejamos la personalidad corporativa, no soy optimista. Pero lo intento.