Talento Joven Fundación BBVA Jasone Ramírez Ayerbe, matemática: «Si la IA funciona como un oráculo, sin transparencia, empobrecerá la calidad democrática de la sociedad»
Obligar a los algoritmos a explicar sus decisiones para que no sean oráculos impenetra-bles, sino sistemas justos y transparentes. Jasone Ramírez Ayerbe ha sido galardonada por la Fundación BBVA y la Sociedad de Estadística e Investigación Operativa (SEIO) por desarrollar soluciones matemáticas que ponen luz y taquígrafos a las decisiones más polémicas de la inteligencia artificial.
Viernes, 04 de Julio 2025, 10:20h
Tiempo de lectura: 2 min
Los algoritmos de la inteligencia artificial son cajas negras, pero yo no me conformo y busco que sean transparentes», explica Jasone Ramírez Ayerbe (Sevilla, 1995), física y matemática galardonada por la SEIO y la Fundación BBVA por desarrollar 'trampas' que obligan a la IA a revelar por qué toma ciertas decisiones, sobre todo cuando tienen un gran impacto en la vida de las personas.
«Cuando un algoritmo no te concede un préstamo, no te dice por qué; funciona como un oráculo que solo responde 'sí' o 'no'. Esto le confiere a la IA un poder enorme y, si no lo contrapesas, terminará empobreciendo la calidad democrática de la sociedad», reflexiona desde la Universidad de Montreal, donde trabaja como investigadora posdoctoral. Su enfoque trasciende lo individual para detectar patrones grupales. «No solamente se trata de ver cómo te trata la IA a ti, sino a todos. Mi método puede detectar si el algoritmo discrimina a mujeres, a mayores de 50, a inmigrantes...».
«Los coches autónomos tienen muchas ventajas: reducirán los accidentes y ayudarán a personas con movilidad reducida»
Ahora, en Canadá, se está aplicando la misma idea a problemas más complejos. «Por ejemplo, cuando se usa un algoritmo para decidir dónde abrir nuevos hospitales o cuál es la mejor ruta de reparto –explica–. Si al final no se abre un hospital en tu distrito, podemos decirles a los residentes qué habría que cambiar para conseguir que no sea así». El gran desafío llega con las dimensiones gigantescas de algunos algoritmos. «Estamos hablando de miles de millones de operaciones. Vamos muy por detrás», se lamenta. «Europa ya está tomando cartas en el asunto con su ley de inteligencia artificial. Pero la IA funciona globalmente y la responsabilidad es de todos».
Ramírez reconoce que mucha gente usa la IA a escondidas. «En la academia está mal visto. Yo solo utilizo ChatGPT para tareas burocráticas». Otro problema es que estos sistemas «por defecto te dan la razón». «Si es algo opinativo, te 'cala' enseguida y te da argumentos alineados con lo que tú piensas. Entonces le tienes que decir: 'No, espera, hazme una crítica, ¡no me hagas la pelota!'». ¿Puede un algoritmo en el futuro llegar a tener conciencia? «No me lo imagino, sabiendo lo que sé. Es una función matemática, pero no tiene ideas de verdad».
Las claves de mi investigación
1
«Las tecnológicas procuran que sus algoritmos sean cajas negras; yo intento que sean transpa-rentes. Mis matemáticas obligan a la IA a explicar sus decisiones».
2
«Lo que hago es ponerle 'anzuelos' a la IA… Son las llamadas 'explicaciones contrafácticas': métodos que revelan qué habría que cambiar para obtener una respuesta diferente».
3
«Cuando un algoritmo decide no darme algo, busco qué habría que cambiar. Por ejemplo, si tuvieras 200 euros más de ingresos mensuales, ¿me habría aprobado el préstamo?».
4
«Ahora trabajo con decisiones más complejas: dónde ubicar hospitales, cómo optimizar rutas de reparto o planificar horarios. Quiero que los algoritmos sean cada vez más justos».
-
1 La trágica obsesión sexual de Hitler: su sobrina de 17 años. «Mi tío es un monstruo»
-
2 Oliver Sacks: la tortuosa vida del neurólogo que revolucionó la salud mental y nos despertó
-
3 Marlon Brando, un actor llamado deseo
-
4 Alimentos de verano para unas arterias sanas y limpias
-
5 Pódcast | Celos: con el calor se enciende la mecha
-
1 La trágica obsesión sexual de Hitler: su sobrina de 17 años. «Mi tío es un monstruo»
-
2 Oliver Sacks: la tortuosa vida del neurólogo que revolucionó la salud mental y nos despertó
-
3 Marlon Brando, un actor llamado deseo
-
4 Alimentos de verano para unas arterias sanas y limpias
-
5 Pódcast | Celos: con el calor se enciende la mecha
En 22 segundos
