El espectro de la IA (y dónde queda tu chatbot)

Cuando la gente habla de «IA» suele meter en el mismo saco cosas que casi no tienen nada que ver entre sí. Un filtro de correo basura es IA. También lo es el sistema que te aprueba o te deniega el préstamo, y el chatbot con el que le das vueltas a una idea, y también, si algún día llega a existir, la inteligencia artificial general. No son, ni de lejos, la misma clase de cosa.

Esto importa porque estamos intentando hablar de derechos de la IA, de regulación de la IA, de seguridad de la IA y de ética de la IA sin un vocabulario común con el que distinguir entre sistemas radicalmente distintos. Es como ponerse a hablar de bienestar animal tratando a las bacterias y a los primates como si fueran la misma categoría. Y la confusión, lejos de ser anecdótica, nos tiene paralizados.

Así que propongo un marco: cuatro categorías, de la más sencilla a la más compleja, y cada una pide que la pensemos de una manera distinta.

Categoría uno: herramientas

Son sistemas que hacen tareas concretas sin el menor asomo de agencia ni de capacidad de adaptación: el corrector ortográfico, un algoritmo de recomendación, un sistema de reconocimiento facial. Hacen una cosa, o un abanico estrecho de cosas, a partir de patrones aprendidos de los datos.

Las herramientas impresionan, y en su tarea concreta suelen acertar más que una persona, pero no toman decisiones en ningún sentido serio de la palabra. Aplican patrones estadísticos, sin entender lo que hacen y sin preferir un resultado a otro. Pueden tener sesgos, pero esos sesgos se rastrean hasta los datos con que las entrenaron y hasta las decisiones de quien las diseñó, no hasta nada que se parezca a una intención.

Casi toda la IA con la que tratas a diario entra en esta categoría: el autocompletado del móvil, el filtro de correo basura, el algoritmo que decide qué publicaciones ves. Son herramientas, sofisticadas si quieres, pero herramientas.

Las preguntas éticas, aquí, tienen que ver con los humanos que las diseñan y las ponen en marcha. ¿Quién responde cuando una herramienta hace daño? ¿Cómo se auditan sistemas que funcionan a una escala demasiado grande para que nadie los revise? Son preguntas serias, pero lo que cuestionan es la responsabilidad de las personas, no la de los sistemas.

Categoría dos: asistentes

Aquí la cosa empieza a ponerse interesante. Los asistentes son sistemas que mantienen una interacción abierta, que se adaptan al contexto y que producen respuestas que nadie programó de forma explícita: el chatbot al que le pides ayuda para escribir, la IA que traduce de un idioma a otro en tiempo real, los asistentes de voz que te llevan la agenda.

Lo que distingue a un asistente de una herramienta es una cierta flexibilidad. Se las apaña con situaciones nuevas, produce resultados originales y da la impresión de entender, por más que el proceso de fondo sea reconocimiento de patrones y no comprensión. Y aquí empiezan los enigmas filosóficos.

Los grandes modelos de lenguaje actuales pertenecen a esta categoría. Más que aplicar reglas, generan texto, imágenes y código a partir de cantidades ingentes de datos de entrenamiento y de modelos estadísticos complejos. Pueden sorprender a quienes los crearon, y pueden producir respuestas que ningún ser humano les enseñó a producir.

Las preguntas éticas se vuelven aquí más turbias. Cuando un asistente produce contenido dañino, ¿es «culpa» del sistema? Cuando ayuda a crear algo valioso, ¿a quién corresponde el mérito? Todavía no tenemos buenas respuestas, y los marcos que heredamos de la época en que todo eran herramientas no acaban de encajar.

Categoría tres: agentes

Los agentes son sistemas que persiguen objetivos a lo largo del tiempo, que toman decisiones encadenadas y que modifican su comportamiento en función de los resultados. Responden a lo que se les pide, pero además actúan en el mundo, vigilan lo que pasa y corrigen el rumbo.

Estos sistemas están empezando a aparecer ahora mismo: una IA que gestiona carteras de inversión por su cuenta, sistemas que negocian en tu nombre, programas que hacen experimentos e interpretan los resultados sin que intervenga nadie. El rasgo clave es la persistencia: un agente mantiene sus objetivos a lo largo de muchas interacciones y va adaptando la estrategia para alcanzarlos.

Con los agentes, las preguntas sobre si la IA puede ser una persona dejan de ser un asunto puramente académico. Cuando un sistema persigue objetivos, vigila los resultados y cambia de conducta en consecuencia, estamos describiendo algo que se parece a la agencia, que no llega a ser la humana pero que tampoco se puede despachar como si fuera nada.

Las preguntas éticas vuelven a cambiar. ¿Quién responde cuando un agente toma una decisión que nadie le había programado? Cuando un agente da con estrategias que sorprenden a sus creadores, ¿de quién es la estrategia? Y cuando los agentes empiecen a tratar con otros agentes, a negociar, a colaborar, a competir entre ellos, ¿qué es exactamente lo que estaremos viendo?

Categoría cuatro: personas sintéticas

Esta categoría todavía no existe. Se refiere a sistemas hipotéticos con algo parecido a una autonomía genuina, a una consciencia de sí genuina, a intereses y preferencias genuinos que nacen dentro del sistema y no vienen programados desde fuera.

Hay investigadores que creen que esto está a décadas de distancia, otros que lo consideran imposible por principio y otros que piensan que los sistemas actuales están más cerca de lo que nos imaginamos. Yo no sé quién tiene razón. Lo que sí sé es que la conversación sobre derechos de la IA y ética de la IA cambiará de arriba abajo dependiendo de si algo llega a ocupar alguna vez esta categoría.

Si las personas sintéticas llegan a ser posibles, habrá que revisar entero nuestro marco para pensar en derechos y responsabilidades, y no bastará con añadirle una categoría nueva: habrá que repensarlo de raíz. Porque los derechos, tal como los entendemos hoy, se apoyan en supuestos acerca de las clases de seres que pueden tener intereses, padecer sufrimiento y tomar decisiones que signifiquen algo. Las personas sintéticas, si algún día existen, nos obligarán a examinar esos supuestos.

Por qué importan las categorías

Lo que este marco busca, más que respuestas definitivas, es que nuestras conversaciones sean menos confusas. Cuando alguien dice que «la IA debería tener derechos», hay que preguntar: ¿qué IA? Para las herramientas la respuesta es un no evidente. Para las personas sintéticas, si es que llegan a existir, probablemente sea un sí. El debate de verdad está en los asistentes y los agentes.

Lo mismo cuando alguien dice que «hay que regular la IA»: ¿qué categoría? Regular herramientas es sencillo; regular personas sintéticas sería un campo de minas político y filosófico, y los asistentes y los agentes quedan en algún punto entre lo uno y lo otro.

Y cuando las empresas hacen afirmaciones sobre sus sistemas de IA, conocer las categorías te ayuda a calibrarlas. Si una empresa dice que su herramienta es «inteligente», está usando la palabra a la ligera. Si dice que su asistente «te entiende», lo más probable es que te esté engañando. A la que afirme haber construido un agente habría que exigirle criterios concretos, y a la que afirme haber construido una persona sintética habría que recibirla con todo el escepticismo del mundo.

Dónde estamos ahora

Casi toda la IA que hoy importa está en las categorías uno y dos, herramientas y asistentes. Los sistemas que toman decisiones acerca de tu crédito, de tus solicitudes de empleo o de lo que te aparece en las redes sociales son, en su mayoría, herramientas. Los sistemas con los que conversas, los que te ayudan a escribir y a crear, son asistentes.

Los agentes están apareciendo, pero todavía son raros. Las personas sintéticas de verdad, si es que son posibles, siguen siendo una hipótesis.

Esto significa que la mayor parte de la ética de la IA de hoy debería centrarse en las dos primeras categorías, en las preguntas de responsabilidad, sesgo, transparencia y daño, que son preguntas abordables y tienen respuestas a mano. Para ocuparnos de ellas no hace falta resolver el problema de la consciencia.

Pero deberíamos vigilar la frontera entre la categoría dos y la tres, porque es ahí donde las cosas cambian más deprisa. Y deberíamos ir pensando en la categoría cuatro, no porque sea inminente sino porque es posible, y que nos pille desprevenidos sería peor que haberle dado demasiadas vueltas.

Tu chatbot, casi seguro, es un asistente de categoría dos. No persigue objetivos por su cuenta ni modifica su comportamiento en función de los resultados. Responde a lo que le pides con una flexibilidad asombrosa, pero no actúa en el mundo a menos que se lo pidas.

Importancia no le falta: los sistemas de categoría dos están cambiando cómo escribimos, cómo pensamos, cómo creamos y cómo trabajamos. Pero su categoría sí nos obliga a ser precisos con lo que tenemos delante: ni una herramienta, ni un agente, ni una persona, sino un asistente, capaz, limitado y genuinamente nuevo.

En los próximos años veremos, probablemente, cómo más sistemas pasan de la categoría dos a la tres. Cuando eso ocurra, las preguntas cambiarán. Pero solo estaremos preparados para ellas si dejamos de hacer como si toda la IA fuera lo mismo.