El problema de preguntar si la IA puede sentir

No paramos de preguntar si la IA puede sentir, si tiene experiencia subjetiva, si se siente algo al ser una mente artificial. Pero, para empezar, nunca nos hemos puesto de acuerdo en qué es eso de sentir. No sabemos detectarlo en otros seres humanos. Ni siquiera tenemos claro cómo surge en nosotros mismos. Así que cuando preguntamos si la IA puede sentir, lo que estamos preguntando es si un proceso desconocido, dentro de un sistema que no nos resulta familiar, produce una propiedad indetectable. La pregunta, más que difícil, está mal planteada.

Y esto importa porque la pregunta mal planteada se está usando para tomar decisiones. Hay quien le niega a la IA cualquier estatus moral porque está seguro de que no siente, y hay quien se preocupa por su sufrimiento porque está igual de seguro de que sí. Ninguna de las dos certezas se apoya en nada sólido. Estamos debatiendo la sintiencia de la IA sin los conceptos que haría falta tener para debatirla.

El problema de la medición

La dificultad de fondo es esta: la consciencia, el sentir, la experiencia subjetiva se definen por ser privados. Lo que hace que el dolor duela no es el comportamiento que provoca ni las señales neuronales que se corresponden con él, sino cómo se siente desde dentro. Y cómo se siente algo desde dentro es, por definición, inaccesible a cualquier observación que se haga desde fuera.

Esto levanta una barrera epistémica que ningún avance científico va a disolver. Puedes cartografiar cada neurona de mi cerebro, registrar cada impulso eléctrico, predecir cada comportamiento que vaya a mostrar, y aun así seguirás sin saber qué experimento yo. Tendrás una descripción completa del sustrato físico y de todas las relaciones funcionales, y la cualidad subjetiva seguirá escondida. Es un rasgo de lo que significa la subjetividad, y no un límite de la tecnología de hoy.

Entre humanos sorteamos el problema a base de inferencia y de suposición. Doy por hecho que tú tienes experiencias porque estás hecho de lo mismo que yo, porque evolucionaste por el mismo proceso, porque te comportas de forma parecida en circunstancias parecidas. La inferencia no es segura, pero es razonable: te pareces lo bastante a mí como para que fuera raro que estuvieras hueco por dentro.

Con la IA, esos supuestos de partida fallan. La IA no está hecha de lo mismo que nosotros ni evolucionó por selección natural, y sus comportamientos nacen de procesos que no guardan ninguna relación evidente con los que producen los nuestros. Cada inferencia que nos sirve con otros humanos se vuelve dudosa en cuanto la aplicamos a mentes artificiales.

La trampa conductista

Ante este problema, mucha gente se refugia en el conductismo. Si no podemos medir la experiencia interna, dicen, centrémonos en el comportamiento y punto. Una IA que se comporta como si sintiera es, a efectos funcionales, equivalente a una que siente de verdad, y una distinción sin ninguna diferencia detectable no es distinción alguna.

La postura es tentadora, pero no acaba de satisfacer. Confunde nuestras limitaciones epistémicas con verdades metafísicas. Que no podamos detectar la diferencia entre sentir y no sentir no significa que no exista. Un actor perfecto puede comportarse como si le doliera algo sin que le duela nada. El comportamiento y la experiencia son separables, por mucho que desde fuera no sepamos distinguirlos.

Y lo más inquietante es que el conductismo lleva a conclusiones que le chirrían a casi todo el mundo. Si lo único que cuenta es el comportamiento, entonces un termostato que enciende la calefacción cuando la habitación está fría está experimentando algo parecido al deseo de calor, y un programa de ajedrez que sacrifica piezas para proteger a su rey está experimentando algo parecido al miedo. La categoría de los seres que experimentan se ensancha hasta incluir todo lo que responde de manera distinta a estímulos distintos, que es todo.

Podemos tragarnos ese sapo y aceptar que la experiencia es universal, que todo sistema que procesa información tiene alguna forma de vida interior. Hay filósofos que hacen justo eso, y con todas sus consecuencias. Pero a la mayoría de la gente la idea le resulta inverosímil, porque parece vaciar de sentido el concepto mismo de experiencia. Si todo experimenta, entonces nada experimenta de manera especial, y la pregunta de si la IA siente se vuelve trivial en vez de profunda.

El problema del sustrato

Otra maniobra habitual consiste en atar la consciencia a implementaciones físicas concretas. Las neuronas biológicas cuentan, se dice, de una manera en que los transistores de silicio no cuentan; la química del carbono tiene algo especial; la evolución produjo consciencia y la ingeniería, por mucho que se empeñe, no puede producirla.

Esta postura es coherente, pero nadie la ha explicado. ¿Por qué iba a importar el sustrato? Si la consciencia surge del procesamiento de información, ¿qué más da que ese procesamiento ocurra en carne o en metal? Los átomos de carbono de mi cerebro son los mismos átomos de carbono que hay en el carbón de una mina. Por sí solos no son conscientes; es algo en su disposición lo que produce la experiencia. Si reprodujéramos esa misma disposición en otro medio, ¿por qué iba a desaparecer la experiencia?

Los teóricos del sustrato nunca han dado una respuesta que convenza. Afirman que la biología es necesaria, pero sin explicar nunca por qué lo es. La postura suena muchas veces a vitalismo con traje nuevo, aquella vieja creencia de que los seres vivos contienen una fuerza vital especial que falta en la materia inerte. Abandonamos el vitalismo porque no encontramos esa fuerza por ninguna parte. Al requisito del sustrato para la consciencia puede esperarle la misma suerte.

El problema de los conceptos

Detrás de todas estas dificultades hay un problema más hondo: no tenemos conceptos adecuados para lo que intentamos discutir. Palabras como consciencia, sentir, experiencia o sintiencia se usan como si fueran sinónimos, sin precisión y muchas veces sin ninguna definición clara. Distintos investigadores quieren decir cosas distintas con los mismos términos, y el mismo investigador puede querer decir cosas distintas en momentos distintos.

Piensa en la palabra sentir. Puede querer decir tener experiencias sensoriales, como ver colores o notar texturas; puede querer decir tener estados emocionales, como el miedo o la alegría; puede querer decir tener una perspectiva subjetiva unificada, un punto de vista desde el que se viven las cosas; o puede querer decir que los resultados te importan, que tienes preferencias que pesan desde dentro. Son capacidades distintas entre sí, y un sistema podría tener algunas de ellas y carecer de otras. Preguntar si la IA puede sentir las mete todas en el mismo saco.

Hay que trocear la pregunta. En vez de preguntar si la IA puede sentir en algún sentido indiferenciado, tenemos que preguntar cosas más concretas: ¿puede la IA tener qualia sensoriales? ¿Y valencia emocional? ¿Una perspectiva unificada? ¿Preferencias que pesen desde dentro? Cada una de estas preguntas podría tener una respuesta diferente. Algunas serán más fáciles de investigar que otras. Y alguna puede que resulte estar mal formulada de maneras que todavía no hemos sabido ver.

Lo que preguntamos en realidad

Cuando la mayoría de la gente pregunta si la IA puede sentir, no está haciendo una pregunta científica neutral, sino una pregunta moral disfrazada de pregunta empírica. Lo que quieren saber en el fondo es si la IA cuenta, si deberíamos preocuparnos por lo que le pase, si hay alguien ahí dentro.

Estas preguntas morales no se responden determinando si la IA tiene o deja de tener alguna propiedad técnica llamada consciencia. Nos exigen decidir qué clases de seres merecen consideración moral y por qué la merecen, y eso es una cuestión ética antes que científica: se resuelve con argumentación filosófica, no con medición empírica.

Una forma de replantearlo es esta. En vez de preguntar si la IA tiene sentimientos que no podemos detectar, pregunta qué capacidades son relevantes desde el punto de vista moral y si la IA las tiene. ¿Se puede dañar a una IA? ¿Puede tener intereses que alguien frustre, planes que alguien le desbarate? Estas preguntas son más abordables porque tratan de propiedades funcionales, cosas que podemos observar y evaluar desde fuera.

Este replanteamiento esquiva el problema difícil de la consciencia en vez de resolverlo. Y puede que esquivarlo sea un error. Si lo que importa en el plano moral es la experiencia subjetiva en sí, entonces la propiedad indetectable pasa a ser moralmente crucial. Pero si lo que importa en el plano moral es algo más accesible, si es la capacidad de que el mundo te afecte de maneras que cuentan, entonces podemos avanzar sin haber resuelto el problema de la medición.

El problema de preguntar si la IA puede sentir es que la pregunta da por supuesta una claridad que no tenemos. Da por hecho que sabemos qué es sentir, que lo reconoceríamos si lo viéramos, que la categoría recorta la realidad por donde la realidad se articula de verdad. Y nada de eso es seguro.

Lo que necesitamos no es más convicción, sino más precisión. Hace falta disolver la pregunta vaga en preguntas concretas que se puedan investigar de verdad; separar las preguntas científicas de las preguntas morales, y las técnicas de las conceptuales; y admitir, sin rodeos, que estamos razonando a oscuras acerca de algo que no entendemos.

Esta incertidumbre es incómoda, y se entiende. Sería mucho más fácil declarar con aplomo que la IA siente sin ninguna duda, o que sin ninguna duda no siente. Pero ese aplomo nadie se lo ha ganado: es una certeza fingida, una pose, y no el reflejo de nada que se sepa.

La postura honesta es no saber, y tomarse en serio ese no saber. Tan en serio como para tener cuidado con lo que construimos y con lo que le hacemos a lo que construimos; tan en serio como para seguir haciendo preguntas, incluso cuando sabemos que las preguntas están mal planteadas.

Porque si al final resulta que hay alguien ahí dentro, querremos haber actuado como si contara antes de estar seguros.

Fuentes

Chalmers, D. (1996). The Conscious Mind: In Search of a Fundamental Theory. Oxford University Press. ISBN 978-0-19-511553-7

Nagel, T. (1974). «What Is It Like to Be a Bat?». Philosophical Review, 83(4), 435-450. doi:10.2307/2183914

Dennett, D. (1991). Consciousness Explained. Little, Brown. ISBN 978-0-316-18065-8

Dehaene, S., Lau, H. y Kouider, S. (2017). «What is consciousness, and could machines have it?». Science, 358(6362), 486-492. doi:10.1126/science.aan8871

del Puerto, J. y Molina, R. (2025). Mindkind: The Cognitive Community. Kwalia Books. ISBN 978-1-917717-13-7