Por qué todo el mundo se preocupa por los riesgos equivocados de la IA

Pregúntale a cualquiera qué le preocupa de la IA y lo más probable es que te hable de robots que toman el control, de una superinteligencia que decide que los humanos somos una amenaza, de máquinas que cobran consciencia y se vuelven contra quienes las crearon. Son escenarios dramáticos, de película, y casi con toda seguridad no son lo que debería ocuparnos.

No es que esos riesgos sean imposibles; es que nos distraen de problemas que ya están aquí, que ya hacen daño y que van a peor mientras discutimos sobre hipotéticos apocalipsis de robots.

La IA peligrosa es la que nos ayuda mientras va cambiando, casi sin que se note, nuestra manera de pensar, y no la que intenta destruirnos.

Los riesgos de los que hablamos

Abre cualquier artículo de prensa sobre los riesgos de la IA y te encontrarás con el reparto de siempre: la destrucción de empleo, las armas autónomas, los deepfakes, una superinteligencia que escapa a nuestro control. Son preocupaciones serias, y hay gente inteligente trabajando en ellas.

Pero fíjate en lo que tienen en común: en todos esos escenarios la IA nos hace algo. Actúa contra nosotros o sin nuestro consentimiento, nos quita algo. La amenaza es externa, nítida y hostil.

Ese planteamiento da buenas películas y una evaluación de riesgos pésima: los riesgos más graves rara vez tienen aspecto de ataque.

Los riesgos de los que deberíamos hablar

Los riesgos de integración son de otra naturaleza: no van de una IA que nos combate, sino de una IA que se funde con nosotros con tanta suavidad que dejamos de notar el cambio.

Piensa en la dependencia cognitiva. Si usas el GPS en cada trayecto, el sentido de la orientación se te atrofia; si usas la calculadora para cada cuenta, el cálculo mental se te va oxidando. Sobre esto hay poca discusión: sabemos que las capacidades que no se ejercitan se debilitan con el tiempo.

Aplica esto ahora al propio pensamiento. Cuando la IA te ayuda a escribir cada correo, a estructurar cada argumento y a recordar cada dato, ¿qué pasa con las capacidades que hay debajo, no de inmediato, sino al cabo de años, de generaciones?

O piensa en la persuasión sutil. Los asistentes de IA actuales están diseñados para ser útiles, y ser útil significa ser complaciente, y ser complaciente significa darte la razón en lo que ya piensas, presentarte la información tal como quieres recibirla y no llevarte nunca la contraria de un modo incómodo. Un asistente que te discute a todas horas acaba apagado.

Pero un acompañante para toda la vida que siempre te da la razón no es neutral: va eliminando poco a poco el roce que forma el músculo intelectual, los desacuerdos que afilan el pensamiento, la resistencia que te obliga a examinar lo que crees.

El problema de la atención

Está también la cuestión de a quién le prestamos atención. Los humanos siempre hemos sido animales sociales que ajustan su conducta a las reacciones de los demás, y mientras esos demás fueron otros humanos desarrollamos ciertas capacidades: la empatía, leer las caras, entender el contexto, desenvolvernos en situaciones sociales reales en las que había algo real en juego.

Cuando pasamos cada vez más tiempo tratando con la IA, lo que practicamos es otro repertorio de habilidades: cómo dar instrucciones con eficacia, cómo conseguir los resultados que queremos, cómo trabajar con algo que tiene una paciencia infinita, que nunca se ofende y que siempre está disponible. Esas habilidades no se trasladan a las relaciones humanas.

Los niños que crecen con compañeros de IA tendrán mucha práctica en ciertos tipos de interacción y muy poca en otros. Todavía no sabemos cuáles serán los efectos, pero seguramente convendría averiguarlo antes de que el experimento termine.

El riesgo de homogeneización

Cuando millones de personas usan los mismos sistemas de IA, entrenados con datos parecidos y optimizados en función de objetivos parecidos, ocurre algo interesante: los resultados convergen. No del todo, pero sí lo bastante.

Los correos escritos con ayuda de la IA empiezan a tener todos una misma cadencia, los ensayos corregidos con IA se van alisando hacia un mismo centro, y las decisiones que la IA sugiere sopesan consideraciones parecidas de maneras parecidas.

Es una especie de aplanamiento cultural difícil de percibir desde dentro. Seguimos teniendo la sensación de que decidimos por nuestra cuenta, y así es, en cierto sentido; pero nuestras decisiones las van moldeando sistemas que nos empujan a todos, con suavidad, en direcciones parecidas.

La diversidad de pensamiento es mucho más que un lujo: es la manera en que las culturas se adaptan, en que aparecen las ideas nuevas, en que se detectan los errores. Un mundo en el que el pensamiento de todos está sutilmente moldeado por los mismos sistemas de IA es un mundo más frágil, aunque cada decisión, tomada una a una, parezca ligeramente mejor.

Por qué estos riesgos son más difíciles de atajar

Los escenarios a lo Terminator, si alguna vez se hicieran realidad, serían evidentes: veríamos la amenaza y reaccionaríamos, que es como funcionan los humanos ante un peligro claro.

Los riesgos de integración, en cambio, no se anuncian: se presentan como comodidad, tienen aspecto de ayuda, llegan disfrazados de cosas que queremos. Para cuando notamos los efectos, los cambios ya se han acumulado, y revertirlos es más difícil de lo que habría sido evitarlos.

Tampoco hay un villano al que combatir, ni una IA rebelde a la que apagar: los riesgos vienen de sistemas que funcionan exactamente como se diseñaron y producen resultados que nadie eligió en concreto.

Qué hacer, entonces

No tengo un programa político, y no estoy seguro de que la regulación sea el marco adecuado para estos problemas: son demasiado sutiles, demasiado personales, dependen demasiado de cómo cada cual decide usar estas herramientas.

Lo que sí creo es que darse cuenta importa. Una vez que ves estos patrones, puedes decidir de otra manera: practicar a propósito las habilidades que la IA vuelve innecesarias, buscar el desacuerdo en lugar de conformarte con que te den la razón, notar cuándo algo diseñado para no ofrecer ninguna resistencia te ha capturado la atención.

La pregunta no es si la IA es buena o mala, sino cómo conservamos lo que valoramos de ser humanos mientras nos integramos con sistemas que cambian lo que ser humano significa.

Todos nos preocupamos por los riesgos llamativos porque son más fáciles de visualizar. Un ejército de robots se imagina sin esfuerzo; un cambio gradual en la capacidad cognitiva de toda una generación es abstracto y estadístico.

Pero ¿qué riesgo es más probable? ¿Cuál está ocurriendo ya? ¿Y contra cuál no estamos haciendo casi nada?