Deja de preguntar si la IA es consciente

Cada pocos meses alguien salta a los titulares afirmando que una IA podría ser consciente. O que no lo es en absoluto. O que nunca lo sabremos. El debate da más calor que luz, y el motivo es que intentamos responder a una pregunta que nunca hemos definido como es debido.

Pregúntales a diez filósofos qué es la consciencia y obtendrás diez respuestas distintas. Más que un fracaso de la filosofía, eso es la señal de lo difícil que es de verdad el problema. Y ahora trasladamos esa confusión al debate sobre las máquinas.

La pregunta «¿es consciente esta IA?» suena científica, pero es metafísica, y fingir lo contrario nos está volviendo estúpidos. Y el caos de las definiciones llega muy hondo.

La trampa de Turing

Alan Turing propuso un test: si una máquina es capaz de hacer creer a un humano que también es humana, deberíamos tratarla como inteligente. Era una escapatoria pragmática. Turing sabía que no podíamos definir la inteligencia con precisión, así que propuso a cambio un criterio de conducta.

El problema es que desde entonces no hemos salido del marco de Turing. ¿Puede pasar el test? ¿Puede engañar al evaluador? ¿Parece consciente?

Pero parecer consciente y ser consciente son cosas distintas. Una simulación perfecta del dolor no es dolor, y una imitación convincente de la comprensión no es comprensión. ¿O sí lo es? ¿Lo ves? Ya estamos confundidos.

Lo que en realidad queremos decir

Cuando alguien pregunta si la IA es consciente, lo normal es que esté haciendo varias preguntas distintas metidas en una sola:

¿Se siente algo al ser este sistema? ¿Tiene experiencia subjetiva? ¿Puede sufrir? ¿Tiene vida interior? ¿Es un paciente moral que merece consideración? ¿Estaría mal apagarlo?

Son preguntas relacionadas, pero distintas. Un sistema podría tener una experiencia rudimentaria sin merecer por ello consideración moral, y otro podría procesar la información de maneras que importan moralmente sin tener nada que se parezca a la consciencia humana. Mezclarlas garantiza la confusión.

Y lo mejor del caso es que no tenemos respuestas consensuadas para ninguna de esas preguntas ni siquiera respecto a los demás humanos. Damos por hecho que las otras personas son conscientes porque se nos parecen y porque dicen serlo. Y no hay más: en eso se apoya todo. Es lo que se conoce como el problema de las otras mentes.

Las verdaderas preguntas

Esto es lo que creo que deberíamos preguntarnos:

Para empezar, ¿qué haría falta para saber si un sistema es consciente? No si un sistema concreto lo es, sino qué pruebas serían siquiera pertinentes. Si no somos capaces de precisar eso, lo que hacemos es teatro, no ciencia.

Después, ¿cómo deberíamos tratar a los sistemas en condiciones de incertidumbre? Aunque no podamos determinar si hay consciencia, sí podemos desarrollar marcos para decidir cómo actuar cuando no estamos seguros. Es una pregunta práctica, no metafísica.

Y por último, ¿qué está en juego realmente? Si a un sistema de IA se le puede hacer comportarse de forma ética sin que sea consciente, ¿importa? Si un sistema puede sufrir, pero no de un modo que afecte a lo que produce, ¿importa? Estas preguntas necesitan más atención.

La incertidumbre que conviene

Hay algo sospechoso en cómo se esgrime la pregunta de la consciencia. Cuando las empresas quieren que su IA parezca más impresionante, insisten en lo sofisticada que es, en cómo «entiende» y «razona». Cuando esas mismas empresas quieren eludir la responsabilidad por los daños que causa la IA, de repente es solo una herramienta, solo estadística, solo reconocimiento de patrones.

La ambigüedad resulta útil. Una IA que parece consciente atrae inversión y engancha a los usuarios. Una IA que definitivamente no es consciente no necesita protecciones ni derechos. Mantener la pregunta permanentemente sin resolver sirve a intereses comerciales.

Lo que sugiero, y no es que haya una conspiración, es que nos fijemos en a quién le conviene que sigamos confundidos.

Una modesta proposición

Deja de preguntar si la IA es consciente y pregúntate, en su lugar, lo siguiente:

¿Qué me convencería? Escríbelo. Sé concreto. Si nada te convencería, fíjate en eso: significa que ya tienes tomada la decisión.

¿Qué es lo que me preocupa de verdad? Si lo que te preocupa es la seguridad de la IA, la consciencia es casi irrelevante; si son los derechos de la IA, la consciencia sí es pertinente, pero hace falta precisar qué cuenta como tal; y si lo que te preocupa es que te engañen, la pregunta tiene que ver con la conducta, no con la metafísica.

¿Qué cambiaría si lo supiera? Si una IA es consciente, ¿qué deberíamos hacer de otra manera? Si no sabes responder a eso, puede que la pregunta no importe tanto como parece.

Empecé a investigar la consciencia porque pensaba que era la pregunta clave sobre la IA. Ya no lo pienso. Las preguntas clave tienen que ver con el poder, con la rendición de cuentas, con la clase de entorno cognitivo que queremos construir. La consciencia es una distracción.

Aun así, puede que me equivoque. Podría llegar un día en que creemos algo que sea, sin lugar a dudas, una nueva clase de mente. Si eso ocurre, tendremos que haber hecho antes el trabajo filosófico. Pero ese trabajo consiste en aclarar, para empezar, qué queremos decir con la pregunta, y no en especular sobre si los sistemas actuales son conscientes.