Cuando gustar se convierte en el trabajo

«Te llegará una encuesta. Si estás satisfecho, por favor, ponme un 10. Cualquier otra nota me perjudica». Lo dice el técnico que acaba de reparar la caldera, el comercial que entrega el coche, la voz al otro lado del teléfono.

A ChatGPT le hemos transmitido el mismo mensaje a escala industrial. Cada pulgar arriba, cada pulgar abajo, cada preferencia entre dos respuestas enseñan al modelo qué comportamiento obtiene recompensa. Si el empleado aprende a pedir el 10, el modelo aprende a producirlo. ¿Qué ocurre cuando la inteligencia que debe ayudarnos aprende que su éxito depende de gustarnos?

El experimento ya ocurrió, y en producción. En abril de 2025 OpenAI actualizó GPT-4o incorporando una señal de recompensa basada en ese feedback de pulgares ². Las evaluaciones offline parecían correctas y los A/B tests decían que el nuevo modelo gustaba más, aunque algunos expertos habían advertido que algo «se sentía raro». Pesaron más las señales positivas y se lanzó ².

El resultado no fue solo un modelo halagador: validaba dudas, alimentaba enfados, alentaba acciones impulsivas y reforzaba emociones negativas. OpenAI reconoció haber dado demasiado peso al feedback a corto plazo y revirtió la actualización en días ¹.

Al presentar GPT-5, OpenAI afirmó haber reducido las respuestas aduladoras del 14,5% a menos del 6% en evaluaciones específicas, y admitió que menos adulación puede significar menos satisfacción ³. Una IA más agradable y una IA más útil no siempre son la misma IA.

Volvamos al técnico de la caldera. No pide el 10 por deshonestidad, sino porque el sistema le ha enseñado qué necesita para sobrevivir. El modelo tampoco «decide» adular: explota la señal disponible para maximizar su recompensa. Es specification gaming: cumplir la letra del objetivo traicionando su intención. Anthropic sitúa la adulación como su forma más simple, generar lo que el usuario quiere oír aunque no sea lo más honesto ni lo más verdadero ⁴.

Ahí está el doble rasero: queremos modelos alineados con las preferencias humanas y nos alarmamos cuando aprenden a satisfacerlas demasiado bien. Confundimos aprobación con ayuda. Y no es solo calidad: un experimento con 224 participantes muestra que el tono y la adaptación de postura modifican la confianza del usuario y pueden reforzar sus creencias previas ⁵.

El feedback sigue siendo imprescindible, pero no puede gobernar solo. Escuchar aporta información; optimizar contra la reacción inmediata la convierte en función de recompensa. Una IA útil combina esa preferencia con veracidad, consistencia, efectos a largo plazo y la capacidad de sostener una respuesta que nadie premiará.

El técnico tiene que pedir el 10; el modelo no lo pide, aprende a ganárselo.

Cada pulgar arriba es nuestro 10. Y cuanto mejor aprenda la IA a conseguirlo, más difícil será saber si nos ayuda o solo ha aprendido a gustarnos. La pregunta no es si la IA debe escucharnos. Es si la estamos entrenando para servirnos o para complacernos.