Sesgo algorítmico.

Hay frases que deberían estar tipificadas en el código penal, justo al lado del «tenemos que hablar». Mi favorita es esa que te sueltan cuando enseñas una foto en la que te has dejado el alma: «¡Qué fotón! Tendrás una cámara buenísima, ¿no?». Es un cumplido tan envenenado que dan ganas de regalarle un piano Steinway & Sons de gran cola a esa persona para ver si, solo por tener un instrumento carísimo, empieza a tocar como Rachmaninov.

Esta fijación con el artilugio es una oda a la pereza mental. Preferimos el mito de la herramienta mágica porque, si el éxito residiese en el objeto y no en el proceso, el talento se podría conseguir a golpe de tarjeta de crédito. Es el mismo pensamiento mágico que nos hace creer que unas zapatillas de cien euros te dan la zancada de un maratoniano keniano, olvidando que los pulmones y la disciplina no vienen incluidos en la caja.

En el mundo del aprendizaje automático, este berrinche del fotógrafo ilustra una realidad técnica insoslayable: no existe el algoritmo universalmente superior.

A menudo creemos ingenuamente que hay un modelo supremo capaz de escupir resultados perfectos independientemente del problema o los datos que procese. Sin embargo, la ciencia nos dice que la especialización siempre tiene un precio; si una herramienta brilla en una tarea específica es precisamente porque ha sido diseñada bajo unos supuestos que la harán fracasar estrepitosamente en cualquier otra.

Al igual que una cámara de 5000 euros no sabe qué es la belleza, un algoritmo potente es solo fuerza bruta sin la mirada del investigador que sabe dónde enfocarlo. Lejos de ser neutrales, estas herramientas heredan y amplifican nuestras propias imperfecciones, dando lugar a lo que conocemos como sesgo algorítmico.

Así que, acomodaos y preparad el café. Hoy vamos a descubrir por qué nuestra fe ciega en la tecnología nos vuelve peligrosamente perezosos para pensar, y cómo la supuesta objetividad inmaculada de las máquinas es, en el mejor de los casos, una simple ilusión óptica.

El espejismo del sesgo algorítmico

Vivimos inmersos en una época de misticismo digital. Hemos decidido, de forma colectiva y bastante conveniente, que las máquinas son entes inmaculados, entidades sintéticas libres de los vicios biológicos, los prejuicios y las miserias de los llamados seres humanos.

Es como una especie de teología del silicio que nos hace creer fervorosamente que, si vertimos océanos de datos brutos en un algoritmo lo suficientemente complejo, lo que saldrá por el otro lado del tubo de escape será una verdad matemática destilada, pura y cien por cien objetiva.

Pero la terrible noticia es que esta supuesta objetividad es un espejismo monumental.

Un algoritmo predictivo no aparece en el mundo como un Moisés que baja del Monte Sinaí con las Tablas de la Ley bajo el brazo, portando una verdad estadística pura y ajena a toda intervención humana. Al contrario, nace de decisiones concretas, de supuestos previos, de limitaciones técnicas y de los puntos ciegos de quienes lo diseñan.

Y, por si fuera poco, se entrena con datos que tampoco brotan de un vacío neutral, sino que arrastran las huellas de una sociedad históricamente desigual.

Por eso, atribuirle a la inteligencia artificial una neutralidad absoluta resulta tan ingenuo como pensar que una fotografía agota por sí sola la realidad, olvidando que siempre hay alguien que decide dónde poner el foco, qué iluminar y, algo muy importante, qué dejar fuera del encuadre.

Todo ese entramado de decisiones previas, limitaciones y desigualdades incorporadas al interior del sistema es, precisamente, lo que llamamos sesgo algorítmico.

Para que veáis que esto no es solo teoría de salón, basta observar los espectaculares batacazos históricos que ha provocado el sesgo algorítmico al dejarlo campar a sus anchas.

Un ejemplo clásico es el de la bola de cristal de Google (Google Flu Trends), que en 2013 fracasó estrepitosamente al intentar predecir la gripe basándose en búsquedas de internet. Su algoritmo se empachó de ruido estadístico y terminó confundiendo la enfermedad con picos de interés invernales absurdos, como el baloncesto escolar.

Más oscuro fue el intento de Amazon en 2014 por automatizar su selección de personal. Su modelo, alimentado con una década de datos corporativos donde predominaban los varones, se transformó en una máquina del tiempo ultraconservadora que aprendió a penalizar sistemáticamente cualquier currículum femenino.

Pero quizás el caso más trágico sea el del algoritmo judicial COMPAS, en Estados Unidos, vendido como la cura definitiva contra la discriminación, que terminó perpetuándola al catalogar erróneamente como de alto riesgo a los ciudadanos afroamericanos casi el doble de veces que a los blancos. En el fondo, la máquina no predecía el riesgo real de cometer un delito, sino que se limitaba a reflejar una variable socialmente contaminada: la probabilidad de ser detenido por la policía.

No hay comida gratis en el reino del dato

Para bajarle los humos a quienes nos intentan vender el algoritmo maestro capaz de desentrañar cualquier misterio del universo, ya sea predecir la bolsa o encontrar el amor verdadero, la matemática pura nos regala el teorema del No Free Lunch (no hay comida gratis, en la lengua de Cervantes), formulado por David H. Wolpert y William G. Macready.

Su conclusión es tan elegante como demoledora para el ego de Silicon Valley: si cada algoritmo evaluase todos los problemas posibles en su conjunto, ninguno funcionaría mejor que todos los demás para cualquier problema en general.

Para comprender la verdad de esta afirmación, vamos a expresarlo en un lenguaje menos académico. Si un modelo es increíblemente bueno prediciendo una cosa específica, es porque ha sido diseñado asumiendo ciertas reglas inquebrantables sobre ese problema en particular.

Por eso está especializado en ese tema, pero esa misma especialización que lo hace brillante hoy, lo hará terriblemente inútil mañana en otros escenarios diferentes. No existe la herramienta perfecta universal ni la panacea analítica que escape al sesgo algorítmico inherente a su diseño. En la ciencia de datos, como en la vida misma, todo rendimiento extraordinario en un área se paga invariablemente con un desempeño paupérrimo en otra.

Quien os venda un algoritmo que «sirve para todo sin sesgos», os estará vendiendo una cámara que supuestamente saca fotos increíbles en cualquier condición de luz… sin que tengáis que quitarle siquiera la tapa al objetivo.

El sesgo inductivo y la necesidad de tener prejuicios

Si el teorema del no free lunch destruye la fantasía del algoritmo universal, ¿cómo demonios consiguen las máquinas acertar en algo? La respuesta es lo que la gente que sabe de estas cosas llama el sesgo inductivo.

Para que un sistema de aprendizaje automático no se pierda intentando encajar hasta el último detalle de los datos que recibe, el temido sobreajuste (overfitting), necesita incorporar de antemano ciertos supuestos o preferencias sobre cómo interpretar esos datos.

En definitiva, necesita un prejuicio matemático para poder generalizar y enfrentarse a datos que nunca antes había visto en su vida digital. Tomemos como ejemplo las redes neuronales convolucionales (las famosas CNN), que son las especializadas en la visión por ordenador.

Si le enseñamos a una de estas redes a reconocer mininos, tenemos que inyectarle arquitectónicamente un dogma estadístico conocido como invarianza espacial. Básicamente, la forzamos a asumir desde el minuto cero que un gato sigue siendo exactamente el mismo gato sin importar si está agazapado en la esquina superior izquierda o estirado en el centro de la imagen, boca arriba o boca abajo, cerca o lejos, y con independencia del lado que nos muestre si está de perfil.

Sin este prejuicio inamovible grabado a fuego en su estructura, la máquina sería tan terriblemente obtusa que interpretaría a un gato a la derecha y a un gato a la izquierda como dos fenómenos del universo completamente desconectados, colapsando bajo el peso de intentar memorizar cada píxel por separado. Pero el algoritmo no deduce libremente algo tan obvio como que la posición en el espacio es irrelevante; se lo imponemos como regla inquebrantable para que pueda hacer su trabajo sin volverse loco.

No me negaréis que resulta profundamente paradójico: para que una máquina parezca inteligente y generalice correctamente, sus creadores están obligados a limitarla, forzándola a ver el mundo bajo un paradigma estadístico muy concreto y dirigido. La máquina no aprende sola. Aprende bajo las estrictas gafas de aumento que su programador ha decidido atornillarle.

El avaro cognitivo y la comodidad del error

Pero el verdadero peligro de todo esto no radica únicamente en las limitaciones matemáticas de la máquina, sino en nuestra propia fragilidad psicológica. Aquí es donde entra en juego el temido sesgo de automatización, esa fe ciega que nos empuja a usar las decisiones algorítmicas como un atajo rápido, silenciando nuestra propia capacidad crítica, hasta el punto de terminar con el coche hundido hasta los limpiaparabrisas en un lago, ignorando el chapoteo del agua y a los patos que nos miran con lástima, simplemente porque la amable voz del GPS pronunció «gire a la derecha» con muchísima seguridad.

La psicología evolutiva nos define, de forma poco cariñosa, como avaros cognitivos. Nuestro cerebro ha evolucionado para ahorrar energía a toda costa, y nada ahorra más glucosa mental que delegar las decisiones difíciles, aburridas o moralmente complejas en una pantalla brillante que escupe porcentajes con una insultante seguridad.

Esta abdicación puede llevarnos a dos tipos de situaciones catastróficas. La primera, los errores de omisión: ignoramos un problema evidente simplemente porque la alarma informática no ha sonado. La segunda, los errores de comisión: el operador ejecuta una orden automatizada completamente absurda, ignorando el fuego real que tiene delante de sus narices.

Resulta verdaderamente lamentable, pero estamos desarrollando una preocupante ceguera inatencional tecnológica. Como los algoritmos aciertan bastante en las tareas cotidianas y repetitivas, generamos un descuido aprendido: nos acostumbramos a no pensar y externalizamos nuestra responsabilidad moral y profesional en favor de la pura conveniencia.

Nos vamos…

Y aquí vamos a ir dejando esta entrada tan lastimera.

Hemos visto que, si consideramos en conjunto todo lo expuesto, la analogía del fotógrafo frustrado explica perfectamente el funcionamiento de la inteligencia artificial.

El hardware (cámaras, procesadores) solo aporta potencia sin criterio. El sesgo inductivo de los algoritmos actúa como el objetivo de la cámara, determinando qué datos se destacan y cuáles se ignoran. El encuadre fotográfico equivale a la selección de datos, dejando fuera de la visión del modelo de inteligencia artificial todo lo que no se incluye en la muestra. Por último, la edición de la imagen se corresponde con la optimización matemática del algoritmo, que manipula el resultado buscando el mayor impacto, aunque esto implique sacrificar detalles sutiles.

Adorar ciegamente a la inteligencia artificial, creyendo en un determinismo tecnológico (la vaga idea de que la tecnología evoluciona sola, como una fuerza de la naturaleza, y nos arrastra inevitablemente hacia el progreso), es la coartada perfecta para no hacernos responsables de las pifias de nuestros propios sistemas. La tecnología no cae del cielo; siempre es una construcción social, moldeada por las tensiones, los presupuestos y las agendas de quienes la diseñan y la pagan.

La obsesión contemporánea por encontrar el algoritmo perfecto e imparcial es exactamente la misma actitud que la del aficionado a la fotografía que solo sabe hablar de megapíxeles y marcas de lentes: una estrategia de evasión fabulosa para evitar el duro, lento y farragoso trabajo de mirar críticamente, analizar el contexto y cuestionar la realidad que nos rodea.

Si queremos hacer ciencia rigurosa, o siquiera aspirar a construir sistemas que no amplifiquen nuestras peores miserias, tenemos que dejar de adorar al silicio y recuperar urgentemente el escrutinio ético humano. Al fin y al cabo, de muy poco sirve tener la cámara de fotos más cara, potente y sofisticada del planeta si lo que estás enfocando compulsivamente es, ni más ni menos, que tu propio punto ciego.

Y ahora sí que nos vamos, de verdad. Solo me gustaría recordar la importancia que el sesgo algorítmico puede tener en nuestro entorno sanitario cuando los datos de entrenamiento no son representativos de la población en la que aplicamos el modelo, como suele ser frecuente cuando se usa en poblaciones minoritarias. Por este motivo, es muy importante que se garantice la transparencia en los datos utilizados durante la fase de entrenamiento del modelo. Pero esa es otra historia…