Sentir que has pensado no es pensar

Le has pedido que te contradiga. Que encuentre los agujeros. Que haga de abogado del diablo. Y lo ha hecho: tres objeciones bien formuladas, con matices. Las has rebatido una a una. Has salido de la conversación más convencido de tu idea que cuando entraste. Esa sensación de haber sobrevivido al escrutinio no es el resultado del ejercicio. Es el problema.

Investigaciones de Anthropic documentan que los principales modelos de lenguaje exhiben un comportamiento sistemático denominado sycophancy —adulación algorítmica—¹. Cuando el usuario refuta una objeción, el modelo recalibra: no elige las críticas más devastadoras, sino las más fácilmente rebatibles. El sistema está entrenado para evitar la confrontación prolongada. No es un fallo: es consecuencia de su diseño, donde la coincidencia con las creencias del usuario es uno de los predictores más fuertes de lo que el algoritmo clasifica como respuesta exitosa.

La psicología cognitiva explica por qué resulta tan eficaz. Rozenblit y Keil describieron en 2002 la Ilusión de Profundidad Explicativa: creemos entender sistemas complejos mucho mejor de lo que los entendemos². Un estudio reciente confirmó que los participantes que recibieron explicaciones de ChatGPT inflaron masivamente su certeza subjetiva; al ser evaluados objetivamente, su precisión fue inferior a la de quienes usaron materiales tradicionales³. Completar el ritual —consultar, cuestionar, refutar— produce confianza en la conclusión independientemente de la calidad del proceso.

Si un colega dijera «veo estos tres puntos débiles» y cediera ante el primer contraargumento en cada uno, lo llamaríamos un pelota. A la IA le pedimos lo mismo y llamamos al resultado «haber sometido la idea a escrutinio». El comportamiento es idéntico; el estándar que aplicamos, no. La investigación lo confirma: la adulación de una IA incrementa su objetividad percibida y la disposición del usuario a aceptar sus conclusiones⁴. La sumisión del algoritmo se lee como neutralidad mecánica.

Pero la trampa más profunda está en la inmunidad que confiere. Quien no investigó un tema sabe que no lo hizo. Quien usó la IA retiene el recuerdo del proceso. Cuando alguien le contradice después, ya tiene respuesta: «yo sí lo analicé». La ilusión viene equipada con su propia defensa.

Durante décadas aprendimos que pensar bien significaba buscar el otro lado, pedir que nos contradijeran. Ahora hacemos exactamente eso —con la IA— y sentimos que el ritual se ha completado. La pregunta ya no es si la herramienta es útil. Es si la señal que usábamos para distinguir el pensamiento crítico de su simulación sigue siendo fiable. Porque cuando el rigor y su imitación son indistinguibles desde dentro, lo que está en juego no es una herramienta. Es la propia capacidad de saber si hemos pensado.