El mito de la herramienta neutral

Hay una frase que aparece cada vez que alguien no quiere pensar en serio sobre la tecnología: «Es solo una herramienta. Depende de cómo la uses». Las armas no matan personas, las redes sociales no son malas, la IA es neutral: el usuario determina el resultado.

Suena razonable, pero no lo es. Las herramientas nunca son neutrales. Encarnan los valores, los supuestos y las intenciones de quienes las crean; hacen unas acciones más fáciles y otras más difíciles; moldean lo que se puede pensar. Es un fenómeno estudiado a fondo.

El martillo es el mejor argumento a favor de la neutralidad, y hasta el martillo tira hacia el golpe. Para eso existe: hace más fácil golpear que no golpear, y su diseño codifica un propósito.

El problema de las affordances

El psicólogo James Gibson acuñó el término affordances para describir lo que los objetos nos invitan a hacer. Una silla invita a sentarse; un botón, a pulsarlo; una ranura, a meter algo. Percibimos las posibilidades a través del diseño de las cosas.

El software también tiene affordances. Un botón de «me gusta» invita al juicio rápido, y una caja de comentarios, a responder. El scroll infinito invita a seguir, y el puntito de la notificación, a mirar. Son invitaciones, no características neutras.

Y los diseñadores de estos sistemas lo saben. Prueban versiones distintas para ver cuál engancha más y ajustan el diseño para favorecer ciertos comportamientos. La «herramienta neutral» está calibrada con mucho cuidado para que actúes de formas concretas.

Las opciones por defecto también son decisiones

Piensa en una sola decisión de diseño: mostrar las notificaciones en el momento o agruparlas en un resumen. La mayoría de las aplicaciones eligen, por defecto, el momento. Ahí no hay neutralidad, sino una elección que favorece la interrupción frente a la concentración, la interacción frente a la presencia, la métrica de la aplicación frente a tu atención.

El mismo patrón se repite en todas partes. El autoplay es una decisión. El scroll infinito es una decisión. La ordenación algorítmica es una decisión. Obligar a abrir una cuenta es una decisión. Cada opción por defecto codifica un valor, y la mayoría de los usuarios nunca la cambia.

Cuando alguien dice que la tecnología es neutral, pregunta: ¿neutral comparada con qué? ¿Con no tener la tecnología? Porque la línea de base importa, y lo que la investigación dice sobre las opciones por defecto es llamativo.

Los datos de entrenamiento están cargados de valores

Los sistemas de IA hacen todavía más visible el problema de la neutralidad. Un modelo de lenguaje entrenado con internet reflejará lo que hay en internet; un sistema de reconocimiento facial entrenado con ciertos rostros se comportará de otra manera con los demás; y un algoritmo de recomendación entrenado para maximizar la interacción recomendará contenido que enganche, que no tiene por qué ser contenido exacto, ni útil, ni saludable.

Ni los datos son neutrales, ni lo es la función objetivo, ni la elección de qué medir. En cada paso hay decisiones humanas sobre qué cuenta, qué importa y qué se optimiza.

Y cuando estos sistemas se despliegan a escala, los supuestos que llevan incorporados pasan a formar parte del entorno: se convierten en el agua en la que nadamos, y dejamos de percibirlos.

¿A quién beneficia afirmar que la tecnología es neutral?

Fíjate en quién suele argumentar que la tecnología es neutral: quienes la construyen y se benefician de ella. Si la tecnología es neutral, ellos no tienen responsabilidad alguna por sus efectos. Si los problemas los causan los usuarios, la solución es educar al usuario, y no regular.

Es un marco cómodo: elude la rendición de cuentas, trata los efectos sistémicos como si fueran decisiones individuales y oculta el poder de quienes diseñan los sistemas que estructuran nuestras decisiones. La brecha de responsabilidad es real.

Una formulación más honesta: la tecnología es un entorno diseñado que moldea el comportamiento, y quienes lo diseñan lo saben. La cuestión no es si moldea el comportamiento, sino al servicio de qué intereses lo hace.

Más allá de lo bueno y lo malo

No estoy diciendo que la tecnología sea mala; eso sería el reverso de afirmar que es neutral. La tecnología, más que neutral, buena o mala, es específica: cada tecnología, cada elección de diseño, cada valor por defecto, cada parámetro algorítmico tiene efectos específicos que benefician a unos y perjudican a otros.

El trabajo consiste en entender esos efectos en concreto. ¿Quién diseñó esto y qué quería optimizar? ¿Qué comportamientos vuelve más fáciles y qué alternativas cierra? ¿Quién se beneficia y quién asume el coste?

Son preguntas que se resisten a las respuestas sencillas: exigen mirar tecnologías particulares en contextos particulares, con una atención particular al poder y a los incentivos.

Qué ayuda de verdad

Que cada uno se dé cuenta es un comienzo, pero no una solución. Puedes notar cuándo una aplicación te está manipulando, cambiar los valores por defecto, actuar con más deliberación; pero esas tácticas individuales no abordan el problema estructural.

¿Y qué sí lo abordaría? Una regulación que responsabilice a los diseñadores de los efectos, y no meramente de las intenciones. Exigencias de transparencia en los sistemas algorítmicos. Un derecho de la competencia que impida el control monopolístico de las infraestructuras digitales. Protecciones laborales para quienes entrenan y moderan los sistemas de IA.

Y, en el plano cultural, abandonar el mito de la neutralidad. La tecnología está diseñada, y el diseño es político; fingir lo contrario es también una elección política.

Yo uso tecnología constantemente. No soy ludita. Pero intento recordar que cada herramienta que uso fue construida por alguien, afinada para algo, diseñada para producir ciertos resultados, y que, cuando la uso, trabajo dentro de restricciones que eligió otra persona.

La pregunta no es si usar tecnología, sino si usarla como un consumidor ingenuo o como alguien que entiende que las herramientas moldean las manos que las usan.