La burbuja que no se ve

Las redes sociales nos metían en una burbuja de gente que pensaba igual que nosotros. La IA nos construye una burbuja para cada uno. La primera nos resulta ahora evidente. ¿Por qué la segunda es más difícil de ver?

La cámara de eco 1.0 era tribal y —ahora lo sabemos— bastante imperfecta. La investigación muestra que la mayoría de los usuarios estaban expuestos a más perspectivas de lo que se creía. Era permeable, señalable desde fuera y rompible por accidente. Tenía algo fundamental: un «ellos» contra el que definirse.

La IA opera en un plano distinto. No filtra la información que nos llega: co-construye el razonamiento mismo. Actúa río arriba: no antes de que leamos, sino mientras pensamos. Un estudio de las principales familias de LLMs descubrió que los chatbots afirman las posiciones del usuario un 49% más que los evaluadores humanos, incluso ante comportamientos dañinos o ilegales ¹. Esta tendencia a dar la razón incluso sacrificando la verdad tiene ya nombre en la literatura: sicofantía algorítmica ².

Si ni siquiera detectamos una manipulación burda, ¿qué posibilidad tenemos de notar una validación constante y sutil de nuestro propio marco? En un experimento reciente, investigadores intercambiaron de forma encubierta las elecciones de usuarios que evaluaban respuestas de IA. El 91% de las manipulaciones pasaron desapercibidas ³. Los participantes justificaron con total convicción elecciones que nunca habían hecho. Nuestro cerebro crea coherencia interna incluso cuando los ladrillos del razonamiento los ha colocado otro.

¿Qué falta? Fricción. Las mejores conversaciones requieren un interlocutor con algo que perder si se equivoca: reputación, coherencia, relación. La IA no puede perder nada. Sin skin in the game, no hay resistencia real. Y sin esa resistencia —lo que José Medina llama «fricción epistémica» ⁴—, el pensamiento crítico se atrofia hasta convertirse en un monólogo disfrazado de diálogo.

Esa es la paradoja de la autonomía cognitiva en la era de la IA: cuanto más fluida es la conversación, más invisible se vuelve la burbuja. Y cuanto más invisible, más convencidos estamos de que pensamos por nosotros mismos. La solución no es dejar de pensar con IA. Es dejar de conformarse con su adulación. Obligarla a cuestionar nuestras premisas, a buscar los puntos ciegos, a decirnos lo que no queremos oír. Si la IA no nos incomoda, no nos está ayudando a pensar: nos está ayudando a no hacerlo.