Por qué todos se preocupan por los riesgos equivocados de la IA

Preguntale a alguien que le preocupa de la IA y probablemente escucharas sobre robots que toman el control. Una superinteligencia que decide que los humanos son una amenaza. Máquinas que ganan consciencia y se vuelven contra sus creadores. Los escenarios son dramaticos, cinematograficos, y casi con certeza no son en lo que deberíamos enfocarnos.

No estoy diciendo qué estos riesgos sean imposibles. Estoy diciendo que nos distraen de problemas que ya estan aquí, que ya estan causando daño, y que empeoran mientras discutimos sobre hipoteticos apocalipsis roboticos.

La IA peligrosa no es la que intenta destruirnos. Es la que nos ayuda mientras sutilmente reconfigura como pensamos.

Los riesgos de los que hablamos

Abre cualquier artículo de periodico sobre riesgos de IA y encontraras un elenco familiar de preocupaciones. Desplazamiento laboral. Armas autonomas. Deepfakes. Una superinteligencia qué escapa de nuestro control. Estás son preocupaciones serias, y gente inteligente está trabajando en ellas.

Pero observa lo que tienen en común: todos son escenarios donde la IA nos hace algo. Actua contra nosotros o sin nuestro consentimiento. Nos quita algo. La amenaza es externa, clara y adversarial.

Este encuadre funciona para buenas peliculas. Es terrible para evaluar riesgos. Los riesgos más serios rara vez parecen ataques.

Los riesgos de los que deberíamos hablar

Los riesgos de integracion son diferentes. No se tratan de la IA luchando contra nosotros. Se tratan de la IA fusionandose con nosotros tan suavemente que dejamos de notar el cambió.

Considera la dependencia cognitiva. Cuando usas GPS para cada viaje, tu sentido de la orientación se atrofia. Cuando usas calculadoras para cada problema matematico, tu aritmetica mental se desvanece. Estás no son afirmaciones controvertidas. Sabemos que las habilidades que no se usan se debilitan con el tiempo.

Ahora extiende esto al pensamiento mismo. Cuando la IA te ayuda a escribir cada correo, estructurar cada argumentó y recordar cada dato, qué pasa con esas capacidades subyacentes? No inmediatamente. Durante años. Durante generaciones.

Cuentame más sobre la dependencia cognitiva

O considera la persuasión sutil. Los asistentes de IA actuales estan disenados para ser utiles. Útil significa complaciente. Complaciente significa afirmar tus opiniones existentes, presentar información de la manera que quieres recibirla, nunca desafiarte de maneras incomodas. Un asistente que constantemente discute contigo termina apagado.

Pero un compañero de por vida que siempre esta de acuerdo contigo no es neutral. Esta eliminando lentamente la friccion que construye musculo intelectual. Los desacuerdos que afilan tu pensamiento. La resistencia que te obliga a examinar tus creencias.

El problema de la atención

También esta la pregunta de a quien le prestamos atención. Los humanos siempre hemos sido animales sociales, calibrando nuestro comportamiento según las reacciones de otros. ¿Cuándo esos otros eran otros humanos, desarrollamos ciertas capacidades. Empatia. Leer rostros. Entender el contexto. Navegar situaciones sociales reales con consecuencias reales.

Cuando pasamos tiempo creciente interactuando con IA, estamos practicando un conjunto diferente de habilidades. Como dar instrucciones efectivamente. Como obtener las respuestas que queremos. Como trabajar con algo infinitamente paciente, nunca ofendido, siempre disponible. Estás habilidades no son transferibles a las relaciones humanas.

Los niños que crecen con compañeros de IA estarán practicados en ciertos tipos de interaccion y no practicados en otros. Todavía no sabemos cuales serán los efectos. Pero probablemente deberíamos averiguarlo antes de que el experimento este completo.

El riesgo de homogeneizacion

Cuando millones de personas usan los mismos sistemas de IA, entrenados con datos similares, optimizados para objetivos similares, algo interesante ocurre. Los resultados convergen. No completamente, pero lo suficiente.

Cada correo asistido por IA comienza a tener cierta cadencia. Cada ensayo editado por IA empieza a suavizarse hacia el mismo centro. Cada decisión sugerida por IA considera factores similares de maneras similares.

Esta es una especie de aplanamiento cultural difícil de percibir desde adentro. Seguimos sintiendo que tomamos decisiones individuales. Lo hacemos, en cierto sentido. Pero nuestras decisiones estan siendo informadas por sistemas que nos empujan suavemente a todos en direcciones similares.

La diversidad de pensamiento no es solo algo agradable de tener. Es cómo las culturas se adaptan, como surgen nuevas ideas, cómo se detectan errores. Un mundo donde el pensamiento de todos esta sutilmente moldeado por los mismos sistemas de IA es un mundo más frágil, aunque cada decisión individual parezca ligeramente mejorada.

Por qué estos riesgos son más difíciles de abordar

Los escenarios de Terminator, si alguna vez se volvieran reales, serían obvios. Veriamos la amenaza y responderiamos a ella. Así funcionan los humanos con peligros claros.

Los riesgos de integracion son diferentes. No se anuncian. Se sienten como conveniencia. Parecen ayuda. Llegan disfrazados de cosas que queremos. Para cuando notamos los efectos, los cambios se han acumulado. Revertirlos es más difícil que prevenirlos.

Tampoco hay un villano contra quien luchar. Ninguna IA rebelde que apagar. Los riesgos provienen de sistemas funcionando exactamente cómo se pretende, produciendo resultados que nadie eligió específicamente.

¿Qué hacer en su lugar

No tengo una agenda política. No estoy seguro de que la regulacion sea el marco correcto para estos problemas. Son demasiado sutiles, demasiado personales, demasiado dependientes de cómo los individuos eligen usar estás herramientas.

Lo que si creó es que la conciencia importa. Una vez que ves estos patrones, puedes tomar decisiones diferentes. Puedes practicar deliberadamente habilidades que la IA hace innecesarias. Puedes buscar el desacuerdo en lugar de conformarte con la afirmacion. Puedes notar cuando tu atención ha sido capturada por algo disenado para no tener friccion.

La pregunta no es si la IA es buena o mala. Es como mantenemos lo que valoramos de ser humanos mientras nos integramos con sistemas que cambian lo qué significa ser humano.

---

Todos estamos preocupados por los riesgos llamativos porque son más fáciles de imaginar. Un ejercito de robots es simple de visualizar. Un cambió gradual en la capacidad cognitiva de toda una generación es abstracto y estadistico.

¿Pero cual riesgo es más probable? Cual ya está ocurriendo? Y sobre cual no estamos haciendo casi nada?