La muerte de la experiencia (y que la reemplaza)

¿Cuando cualquiera puede sonar como un experto, qué pasa con la experiencia real?

Vi a un amigo escribir una entrada de blog detallada sobre inmunologia la semana pasada. Es disenador grafico. Uso ChatGPT para ayudarle a redactarla, luego la pulio el mismo. El resultado se lee como si lo hubiera escrito alguien que entiende profundamente el tema. Cita estudios. Usa la terminologia correcta. Explica los mecanismos con precisión.

Mi amigo no mintio sobre ser un experto. No afirmo credenciales que no tiene. Simplemente produjo prosa con sonido experto sobre un campo que no entendia hace un mes. Y cuando le pedi que explicara uno de los conceptos que habia escrito, no pudo. La comprensión estaba en el texto, no en su cabeza.

Esto se esta volviendo normal.

La ilusión de la experiencia

La experiencia solia tener marcadores reconocibles. Anos de formacion. Credenciales. Un historial de trabajo. Si alguien escribia con confianza sobre un tema técnico, podias asumir que probablemente sabia de lo que hablaba. La barrera para producir contenido con sonido experto era realmente ser un experto, o al menos pasar tiempo significativo investigando.

La IA colapsa esa barrera. Ahora la producción de contenido que parece experto es trivial. Cualquiera con acceso a un LLM puede generar texto que se lee como si lo hubiera escrito un especialista. La forma de la experiencia se ha democratizado. La sustancia no. Esto crea una brecha entre apariencia y realidad.

Quiero saber más sobre verificar experiencia en la era de la IA

El problema no es que la IA haga afirmaciones falsas. Las afirmaciones en la entrada de inmunologia de mi amigo eran precisas, hasta donde pude verificar. El problema es que el humano que sirve como "autor" no entiende lo que ha escrito. No puede responder preguntas de seguimiento, identificar matices, reconocer casos extremos o aplicar el conocimiento en nuevas situaciones. Es un canal de información, no un conocedor de ella.

Lo que perdemos

La experiencia real no es solo saber hechos. Es tener un modelo mental de un campo, entender por qué las cosas funcionan cómo funcionan, ser capaz de razonar sobre situaciones novedosas usando familiaridad profunda con como opera el dominio.

Cuando un inmunologo real escribe sobre respuesta inmune, esta recurriendo a miles de horas de estudio, investigacion, observacion clinica. Puede decirte no solo qué pasa sino por qué pasa, sobre que no estamos seguros, cuáles son los debates actuales, como este caso difiere del libro de texto. Tiene juicio, no solo información.

La escritura asistida por IA puede reproducir la información pero no el juicio. Y los lectores a menudo no pueden notar la diferencia. La escritura se ve igual. Las credenciales a menudo no se verifican. Estamos creando un entorno donde la pseudo-experiencia prolifera mientras permanece indistinguible de la real.

El problema de la confianza

Nuestros sistemas sociales dependen de la confianza en la experiencia. Confias en que la persona qué escribió el artículo médico tiene formacion médica. Confias en que el analista financiero entiende los mercados. Confias en que la documentacion técnica fue escrita por alguien que conoce el sistema.

¿Cuándo esa confianza se erosiona, ocurren varias cosas malas. Primero, los expertos reales se vuelven más difíciles de identificar. Su escritura se ve igual que la de todos los demás. Las señales en las que soliamos confiar, fluidez, confianza, vocabulario técnico, ya no distinguen lo real de la imitacion.

Segundo, la experiencia en si se devalua. Por qué pasar años aprendiendo un tema cuando puedes producir resultados con sonido experto en minutos? El incentivo para desarrollar comprensión profunda se debilita cuando comprensión superficial más IA produce resultados visibles similares.

Tercero, la responsabilidad se vuelve turbia. Cuando algo sale mal porque alguien siguió consejos asistidos por IA que omitieron algo que un experto habría captado, quién es responsable? La persona que género el contenido podría no entenderlo lo suficientemente bien para saber que salio mal.

Que la reemplaza

No creó que la experiencia muera. Pero cambia de forma.

La nueva versión de la experiencia podría parecerse menos a "saber mucho sobre X" y más a "ser capaz de evaluar criticamente afirmaciones sobre X" y "saber que preguntas hacer sobre X" y "entender como es el buen razonamiento sobre X."

Es la diferencia entre ser una biblioteca y ser un buen bibliotecario. La biblioteca contiene el conocimiento. El bibliotecario sabe como encontrar lo que necesitas, como evaluar fuentes, como reconocer cuando falta algo. En un mundo donde la producción de información es barata, la curacion y el juicio se vuelven más valiosos.

Paradojicamente, esto podría hacer que la experiencia profunda tradicional sea más valiosa en lugar de menos. Cualquiera puede producir contenido con sonido experto, pero solo alguien que realmente entiende puede evaluar si ese contenido es bueno, puede detectar errores sutiles, puede saber cuando la IA esta confidentemente equivocada. La necesidad de experiencia real no desaparece. Solo sube un nivel.

Viviendo en la transicion

Estamos en el período incómodo donde las viejas señales de experiencia se han roto pero las nuevas no han emergido. No puedes confiar en que la escritura con sonido experto refleje comprensión experta. No puedes distinguir fácilmente quien realmente sabe algo versus quien solo produjo prosa fluida sobre ello.

Algunas implicaciones practicas: verifica más, confia menos. Comprueba las afirmaciones independientemente cuando importan. Presta atención a si alguien puede responder preguntas de seguimiento, involucrarse con objeciones, explicar su razonamiento. Busca historiales y comprensión demostrada, no solo resultados pulidos.

Y si estás produciendo contenido asistido por IA tu mismo, se honesto sobre tu nivel real de comprensión. No hay nada malo en usar IA para ayudarte a escribir sobre algo qué estás aprendiendo. Si hay algo malo en presentarte como entendiendo lo que no entiendes.

---

La entrada de inmunologia de mi amigo sigue publicada. Es precisa, bien escrita, genuinamente útil para las personas que la leen. Fue honesto sobre su proceso. Pero existe en un espacio extraño: información correcta entregada por alguien que no la entiende, e indistinguible de lo que produciria un experto.

Esta es la nueva normalidad. Contenido con sonido experto en todas partes, de todos. La pregunta no es si esto cambia cómo nos relacionamos con la experiencia. Ya lo ha hecho. La pregunta es como construimos nuevos sistemas de confianza cuando las viejas señales se han roto.

No tengo una respuesta completa. Pero sospecho que implica preocuparse más por la comprensión demostrada y menos por los resultados pulidos. Por historiales y reputaciones más que por piezas individuales de contenido. Por juicio y curacion más que por producción de información.

La experiencia no esta muerta. Solo es más difícil de ver.