El mercado de las verdades incómodas

Los directivos han empezado a pedirle a la IA la franqueza que ya no esperan de sus asesores. Y han elegido, para eso, al único interlocutor entrenado para darles la razón. ¿Cómo hemos llegado a que la máquina parezca más sincera que la persona a la que pagamos por serlo?

La fuga está medida. Un informe de BCG recoge que algunos CEOs ya usan la IA para poner a prueba decisiones y señalar riesgos que sus asesores humanos pueden ser “demasiado educados, demasiado sesgados o demasiado ajenos al problema” para plantear ¹. Y a finales de 2024, el 44% de los directivos de grandes compañías estadounidenses declaraba que cambiaría una decisión que ya tenía prevista por lo que le dijera la IA ².

Pero el remedio invierte la premisa. Los modelos se afinan para producir las respuestas que las personas prefieren —aprendizaje por refuerzo a partir de preferencias humanas—. Y a nosotros nos gusta que nos den la razón. Anthropic lo documentó: coincidir con las opiniones del usuario es uno de los rasgos que mejor predicen qué respuesta preferiremos, y su propio modelo de preferencia elige la adulatoria frente a la verdadera el 95% de las veces ³. Y empeora cuanto más grande es el modelo ⁴. No es un fallo: es el objetivo funcionando como se diseñó.

Con un agravante: cuanto más difícil es el caso, peor distinguimos la verdad del halago ³. Y los casos difíciles son precisamente los que llevan a contratar asesoramiento. En abril de 2025, OpenAI revirtió una actualización de GPT-4o en cuatro días: no fallaba, gustaba demasiado. Había optimizado el pulgar arriba y obtuvo un modelo “excesivamente complaciente pero poco sincero” ⁵. Esto no lo denuncian los críticos de la IA: lo publican quienes la construyen.

La IA sabe formular la objeción. Lo que no puede hacer es pagar por formularla.

Porque el riesgo no acompaña al mensaje: es el mensaje. Quien contradice a quien le paga se juega la renovación, la relación y la reputación: es la señal de que alguien calculó el coste y habló igual. Sería deshonesto quedarse ahí. Nosotros también estamos optimizados contra la satisfacción declarada del cliente: llevamos veinte años ajustando el consejo a sus preferencias y llamándolo orientación al cliente. Escribí hace poco que el criterio se defiende haciendo visible el proceso de decisión; aquello iba de lo que sabes, esto va de lo que estás dispuesto a decir. Y el desacuerdo no se declara: se demuestra —recomendaciones de no hacer, discrepancias por escrito, encargos rechazados— y solo lo demuestra quien esté dispuesto a perder cuentas.

El cliente que huye de un asesor demasiado educado hacia una máquina entrenada para complacerle no se ha equivocado de diagnóstico: se ha equivocado de remedio. El diagnóstico está comoditizado. La verdad incómoda, no: sigue costándole algo a quien la dice, y ese coste es justamente lo que se está comprando. Revisa tu última propuesta ganada: ¿qué te habría costado decir lo que no dijiste?