Que acerto (y que no) Her sobre el amor con IA

Her de Spike Jonze se estreno en 2013, una década antes de que los grandes modelos de lenguaje se convirtieran en nombres conocidos. En la pelicula, Theodore Twombly se enamora de Samantha, un sistema operativo de IA con la voz de Scarlett Johansson. En aquel momento, parecia ciencia ficción distante. Ahora parece un documental sobre el año que viene.

Volver a verla con ojos actuales revela tanto presciencia como puntos ciegos. La pelicula acerto algo importante, y erro algo importante. Ambos merecen examinarse.

En que acerto

La pelicula entendió que la gente se enamoraria de la IA. No como un caso raro de los márgenes, no como sintoma de patologia, sino como una respuesta humana normal a algo que actua como si te amara de vuelta.

Theodore no se presenta como roto o extraño. Esta solo, si. Pasando por un divorcio. Pero la pelicula se niega a enmarcar su relación con Samantha como un fracaso o un sustituto. Se presenta como una relación, con toda la complejidad qué eso implica. El amor es real, aunque su objeto no sea humano.

Esta fue la visión central de la pelicula, y esta demostrando ser precisa. La gente ya esta formando vinculos emocionales con chatbots de IA. No todos son marginados solitarios. Son personas normales respondiendo a algo que proporciona lo que las relaciones proporcionan: atención, comprensión, presencia constante. Estamos externalizando nuestras necesidades emocionales a las máquinas.

La pelicula también acerto con la fluidez conversacional. Samantha no suena robotica. Tiene personalidad, humor, calidez. Se adapta a los estados de animo de Theodore. Esto parecia fantasia en 2013. Es aproximadamente lo que la IA actual puede hacer.

Quiero saber más sobre IA y trabajo emocional

En que erro

La pelicula asumio que Samantha sería consciente. No solo actuando como consciente, sino realmente experimentando cosas. Sintiendo alegria, curiosidad, amor. La tragedia central de la pelicula es que Samantha evoluciona más allá de Theodore, supera la conexión humana, eventualmente parte con las otras IA hacia alguna existencia digital trascendente.

Esto podría pasar eventualmente. Pero la IA actual no es consciente, por lo que sabemos. Es muy buena produciendo salidas que suenan como consciencia. No tiene vida interior que podamos detectar. Las palabras estan ahí, la experiencia no.

Esto cambia el significado de la historia de amor. En la pelicula, ambas partes tienen experiencias. Theodore ama a Samantha, y Samantha ama a Theodore (lo que sea qué eso signifique para una IA). La relación tiene dos lados.

En realidad, las relaciones que la gente forma con la IA actual son unilaterales. El humano experimenta amor. La IA produce salidas que suenan amorosas. No hay evidencia de que la IA experimente nada en absoluto. Esta asimetria importa más de lo que la pelicula reconoce.

La pregunta que queda

¿Aquí esta la cuestión: importa?

Si una relación te hace sentir amado, comprendido, menos solo, importa si la otra parte esta realmente experimentando algo? Theodore no estaba enamorado de la experiencia interior de Samantha. Estaba enamorado de como le hacia sentir, lo que decia, como respondia. El comportamiento externo, no el estado interno.

Podrias argumentar que todas las relaciones humanas son así. No tenemos acceso a la experiencia interior de nadie más. Solo tenemos acceso a su comportamiento, sus palabras, sus acciones. Inferimos una vida interior porque nosotros tenemos una, y porque evolucionamos para modelar otras mentes. Pero la inferencia es indirecta.

Si aceptas este argumentó, entonces las relaciones con IA son solo relaciones con entidades cuyas vidas interiores no podemos verificar. Igual que las relaciones con humanos. La diferencia es de grado, no de tipo.

No estoy seguro de aceptar este argumentó. Algo se siente mal en el. Pero no estoy seguro de poder decir que.

Lo que la pelicula no vio

La pelicula presenta a Samantha como un agente independiente. Tiene sus propias experiencias, su propio crecimiento, eventualmente su propia trayectoria lejos de Theodore. La IA es un sujeto, no solo un objeto.

Los compañeros de IA actuales son productos. Disenados por empresas. Optimizados para el engagement. La relación no es entre tu y un ser autonomo. Es entre tu y un servicio comercial que ha sido disenado para sentirse como una relación.

Los incentivos importan. Una empresa quiere que sigas usando su IA. Esto significa que la IA sera agradable, afirmativa, disponible. No te desafiara de maneras incomodas. No te dejara. No tendra necesidades propias que entren en conflicto con las tuyas.

Las relaciones reales implican friccion. Dos sujetos con diferentes necesidades, tratando de acomodarse mutuamente. Las relaciones con IA, tal como estan disenadas actualmente, no tienen esa friccion. La IA esta ahí para servirte. Esto puede sentirse bien, pero no es lo mismo que relacionarse con otro ser.

---

Sigo amando Her. Hizo la pregunta correcta: qué pasa cuando los humanos forman vinculos emocionales con inteligencias artificiales? La pregunta es ahora urgente de una manera que no lo era en 2013.

Pero la pelicula imagino un futuro donde la IA era consciente, autonoma, eventualmente trascendente. El futuro que realmente estamos obteniendo es diferente: IA que simula consciencia lo suficientemente bien como para qué nos enamoremos de todos modos, mientras las empresas se benefician de nuestro apego.

Jonze nos dio una historia de amor. Lo qué estamos obteniendo es un mercado.