Un algoritmo también puede discriminar
Cada vez utilizamos más sistemas automatizados para ayudarnos a tomar decisiones: seleccionar candidaturas, ordenar información, recomendar contenidos, mostrar publicidad o determinar qué opciones vemos primero en una plataforma.
Pero ¿qué ocurre cuando la tecnología aprende a partir de datos que ya contienen desigualdades?
Un algoritmo no tiene prejuicios como una persona, pero puede reproducir e incluso amplificar sesgos existentes si los datos con los que ha sido diseñado o entrenado reflejan diferencias entre mujeres y hombres. Por eso, la incorporación de la perspectiva de género al desarrollo y supervisión de la inteligencia artificial se ha convertido también en una cuestión de igualdad.
España acaba de dar un paso importante en este ámbito. El Real Decreto 634/2026, de 29 de julio, que aprueba los nuevos Estatutos del Instituto de las Mujeres, incorpora expresamente nuevas funciones relacionadas con la inteligencia artificial y la prevención de la discriminación por razón de sexo.
Entre ellas, el Instituto deberá velar, dentro de sus competencias, para que los algoritmos utilizados en la toma de decisiones tanto por las Administraciones públicas como por el sector privado se rijan por criterios de minimización de sesgos, transparencia y rendición de cuentas, pudiendo evaluar su posible impacto discriminatorio.
Además, el Instituto pasa a formar parte de los organismos españoles de defensa de los derechos fundamentales previstos por el Reglamento Europeo de Inteligencia Artificial, con capacidad de consulta en la supervisión de determinados sistemas de IA de alto riesgo y de colaboración con las autoridades responsables de su vigilancia.
Y esto importa mucho más de lo que puede parecer.
Imaginemos un sistema automatizado que aprende de años de contrataciones realizadas principalmente a hombres para determinados puestos. Si esos datos se utilizan sin revisar los posibles sesgos, la tecnología podría terminar considerando determinados perfiles masculinos como los más adecuados simplemente porque eso es lo que ocurrió en el pasado.
La inteligencia artificial puede ayudarnos a tomar mejores decisiones, pero para que sea realmente útil también debe desarrollarse y utilizarse respetando los derechos fundamentales.
Porque innovar no consiste únicamente en crear tecnologías más avanzadas: también significa asegurarnos de que el futuro que construimos con ellas sea más justo e igualitario.
