VAR, sesgos y el consenso que no existe
por Miguel Lucas
El VAR prometía eliminar el error humano del fútbol. Pero hoy la mitad sigue gritando «penalti» mientras el resto tiene claro que «se ha tirado». ¿Puede la tecnología resolver un problema si los humanos no nos ponemos de acuerdo en cuál es la solución?
La tecnología no resolvió el problema porque el problema nunca fue técnico. Era, y sigue siendo, que los humanos no nos ponemos de acuerdo en qué es falta y qué no lo es. El VAR no elimina la subjetividad; la hace más visible.
Algo similar ocurre con la inteligencia artificial y los sesgos. Exigimos algoritmos imparciales, neutrales, objetivos. Pero la imparcialidad presupone un consenso previo sobre qué es correcto. Y ese consenso, en muchos casos, simplemente no existe.
En LLYC lo comprobamos al entrenar una IA para predecir si un mensaje impacta positiva, neutra o negativamente en la reputación de una marca. Pedimos a 160 expertos que evaluaran más de 13.000 mensajes; cada mensaje fue analizado por tres profesionales distintos. Solo en el 55% de los casos hubo acuerdo absoluto. En el 45% restante, expertos con años de experiencia y criterios compartidos llegaban a conclusiones diferentes sobre el mismo mensaje.
La pregunta es inevitable: si no hay consenso humano, ¿cuál es la respuesta correcta que la IA debería aprender? ¿La mayoritaria? ¿Y si la minoría tiene razón?
Este dilema se intensifica cuando hablamos de sesgos. Todos coincidimos en que una IA justa debería evitarlos. Pero, ¿existe realmente un acuerdo universal sobre dónde empieza y termina, por ejemplo, una actitud racista? La línea que separa el humor de la ofensa, el estereotipo de la discriminación, la corrección del exceso de celo varía según quién trace el límite. Y si los humanos no hemos resuelto esa frontera, ¿cómo puede resolverla un algoritmo entrenado con nuestras propias contradicciones?
Quizá algunos resultados inesperados de la IA no son fallos de inteligencia. Son la expresión computacional de un disenso que la tecnología hereda pero que no le corresponde resolver. Así que antes de intentar conseguir una IA sin sesgos, tal vez convenga hacerse una pregunta incómoda: ¿estamos seguros de que nosotros mismos sabemos exactamente qué estamos pidiendo?