La IA habla, pero no responde de lo que dice

Durante cinco mil años, toda afirmación con peso tuvo una persona detrás que respondía por ella. La IA acaba de romper ese pacto: habla con la autoridad de un experto, pero no responde de lo que dice. ¿En quién confías cuando nadie firma?

Cuando un médico dice «es benigno», pone en juego su licencia. Cuando un periodista publica una tesis, empeña su credibilidad. Cuando un amigo dice «todo irá bien», apuesta el vínculo. Llevamos milenios calibrando la fiabilidad de una afirmación por lo que le cuesta a quien la hace. Toda palabra humana con peso es un acto de exposición. La IA afirma sin esa exposición. Y lo hace con una elocuencia que desarma.

La trampa es cognitiva. Un estudio publicado en PNAS demuestra que las personas perciben como más creíbles a los científicos que presentan resúmenes simplificados por IA que a quienes escriben sus propios textos, a pesar de considerarlos menos «inteligentes» en sentido académico ¹. Nuestro cerebro equipara fluidez con veracidad: aceptamos antes la respuesta pulida de una máquina que la explicación matizada y a veces tortuosa de un experto humano ¹. La IA explota ese atajo evolutivo sin cumplir la promesa implícita. Es un traje impecable sobre un maniquí: todas las señales de autoridad, ninguna de las obligaciones.

Y el problema no es teórico. En Mata vs. Avianca (2023), dos abogados presentaron ante un juez federal citas jurídicas fabricadas por ChatGPT (casos inexistentes, aerolíneas ficticias, razonamientos inventados) y las defendieron como reales incluso cuando el tribunal señaló que no se podían localizar ². En Moffatt vs Air Canada (2024), un chatbot inventó una política de reembolso inexistente; la aerolínea alegó que el bot era una «entidad legal separada» y el tribunal lo rechazó de plano ³. Y en Walters vs OpenAI, ChatGPT acusó falsamente a un ciudadano de malversación de fondos en un caso en el que ni siquiera participaba. ¿A quién demandas cuando la calumnia no tiene autor? ⁴

Esa pregunta jurídica revela el problema filosófico de fondo. Algunos autores lo llaman «agencia sin responsabilidad» ⁵: sistemas que producen la forma externa de la aserción sin la fuerza interna del compromiso. La IA genera fluidez sin peso. Por primera vez en la historia, una afirmación puede tener la elocuencia de un experto y la responsabilidad de nadie.

Hemos entrenado a estas máquinas para hablar como quien sabe, pero no para responder como quien firma. Y nuestro cerebro —diseñado durante milenios para confiar en quien se expresa con autoridad— no distingue lo uno de lo otro. No hay confianza sin responsabilidad. Y mientras la IA no pueda asumir las consecuencias de lo que afirma, necesitará un humano al frente que sí lo haga. Cualquier otra forma de autonomía no es progreso: es temeridad.