Alucinaciones de la IA y aversión al algoritmo

Cuando Alcaraz pierde una final, decimos que tuvo un mal día. Cuando la IA alucina, decimos que la tecnología no funciona.

No es que seamos injustos con las máquinas. Más bien es que se nos olvida que la alternativa, nosotros los humanos, está lejos de ser infalible. Los errores diagnósticos médicos causan 795.000 muertes o discapacidades permanentes al año solo en Estados Unidos ¹. Uno de cada catorce pacientes hospitalizados sufre un error diagnóstico con consecuencias ². No es negligencia; es la tasa base de la cognición humana aplicada a tareas complejas. Y lo hemos normalizado hasta hacerlo invisible. Sin embargo, que un modelo como GPT-5 presente tasas de alucinación en torno al 1,6% ³, basta para que muchos descalifiquen la IA generativa como herramienta de trabajo.

La psicología cognitiva ha documentado este fenómeno con precisión. Se llama aversión al algoritmo: perdemos la confianza en una máquina mucho más rápido que en un humano tras observar exactamente el mismo error ⁴. Al humano le concedemos contexto y circunstancias. A la máquina le exigimos perfección. Los vehículos autónomos de Waymo registran un 85% menos de accidentes con lesiones que los conductores humanos ⁵, pero cada incidente de un coche autónomo genera titulares mientras los miles de muertos anuales por conductores distraídos permanecen en el ángulo ciego de nuestra atención.

Sin embargo, la historia de la tecnología sugiere otra lógica. La aviación no se convirtió en el medio de transporte más seguro eliminando el error del piloto. Lo hizo minimizando sus consecuencias. El sistema fly-by-wire de Airbus rechaza las órdenes que llevarían al avión a estrellarse ⁶. No pilotos perfectos; sistemas que gestionan la imperfección. De 35 accidentes fatales por millón de vuelos en los años 50 a solo 4 en todo el mundo en 2024 ⁷.

La alucinación de la IA no es un defecto que invalida. Es una característica que se gestiona, exactamente igual que el error humano: con verificación, redundancia y guardarraíles. Llevamos un siglo construyendo sistemas fiables con humanos que fallan. Con la IA no será diferente.