En el ámbito laboral, muchas empresas están utilizando herramientas algorítmicas en sus procesos de selección sin tener en cuenta el impacto de género. El sindicato UGT ha denunciado que estas tecnologías penalizan sistemáticamente a las mujeres. Desde sistemas que puntúan peor a candidatas por mencionar la maternidad en sus perfiles, hasta evaluaciones psicológicas automatizadas que asocian liderazgo con características tradicionalmente masculinas, el sesgo de género en la IA se traduce riesgo de exclusión sistemática.
Los algoritmos no miden capacidades reales, sino patrones históricos y prejuicios culturales. La personalización, lejos de adaptarse a cada persona, encasilla a los individuos en perfiles promedio, eliminando las particularidades. Las mujeres, y en especial aquellas que no se ajustan al estereotipo de mujer blanca, joven y sin hijos, son tratadas como anomalías o desviaciones.
Pero el problema va más allá del empleo. La IA también refuerza formas más sutiles y peligrosas de violencia machista digital. La Fundación General de la Universidad de Castilla-La Mancha ha advertido sobre el papel que juega la automatización en la consolidación de la violencia digital: desde el silenciamiento de voces femeninas en redes sociales, hasta sistemas policiales como VeriPol, que analizan la “veracidad” de denuncias según un resumen escrito por agentes, basándose en un modelo entrenado con muy pocos datos y sin tener en cuenta dialectos o diferencias sociales. En estos casos, los sesgos no solo se refuerzan, se institucionalizan.
Sí, la IA puede discriminar. No porque lo desee, sino porque ha sido entrenada con datos históricos plagados de desigualdades. Y cuando una empresa aplica estos sistemas sin filtros, termina por automatizar el machismo. Esto puede afectar negativamente tanto a la diversidad en la contratación como al clima laboral, la innovación y la imagen pública de la organización.
Uno de los errores más frecuentes es delegar procesos de selección en algoritmos sin auditar su impacto. Ya se han documentado casos donde sistemas eliminan a candidatas por asociar la maternidad con una menor productividad, o evalúan como menos competentes a mujeres por su tono de voz, apariencia o vocabulario. Estas decisiones no solo son injustas: pueden violar leyes de igualdad y antidiscriminación, exponiendo a la empresa a denuncias y sanciones.
Además, utilizar tecnologías basadas en modelos psicológicos estereotipados —como el modelo OCEAN— puede llevar a descartar perfiles valiosos por no encajar en estándares sesgados de liderazgo, cooperación o estabilidad emocional. Esto limita la riqueza del talento disponible y refuerza estructuras obsoletas.
Pero el sesgo no se queda solo en Recursos Humanos. Las IA que gestionan la movilidad interna, los sistemas de evaluación del desempeño o incluso los algoritmos que definen la experiencia del cliente, pueden estar perpetuando desigualdades de género sin que la empresa lo detecte. Y cada vez más, la opinión pública, los inversores y los reguladores están poniendo la lupa sobre este tipo de prácticas.
Entonces, ¿qué puede hacer una empresa responsable y competitiva para no caer en estas trampas?
-
Auditoría de sesgos de género desde el diseño del sistema. No basta con revisar los resultados. Es imprescindible cuestionar los supuestos en los que se basan los modelos, los datos con los que se entrenan y el contexto en el que operan.
-
Evaluación contextual y continua. La IA no se despliega en un laboratorio. Funciona en un entorno real, con dinámicas sociales y desigualdades estructurales. La evaluación debe incorporar estos elementos y mantenerse activa durante todo el ciclo de vida del sistema.
-
Participación diversa en los equipos de diseño y evaluación. La inclusión de mujeres y colectivos subrepresentados en el desarrollo tecnológico no es un gesto simbólico: es una necesidad técnica para identificar puntos ciegos.
-
Evitar sistemas esencialistas. Todo modelo que parte de clasificaciones rígidas y generalizaciones sobre el comportamiento humano debe ser descartado o sometido a una revisión profunda.
-
Transparencia con propósito. Mostrar cómo funciona la IA es útil, pero no suficiente. Se debe garantizar la rendición de cuentas y generar espacios de retroalimentación para corregir fallos con agilidad.
-
Integrar la sostenibilidad social en las decisiones tecnológicas. Una IA ética no es solo una IA que funciona bien, sino una que respeta los derechos humanos, promueve la equidad y cuida el entorno.
Las empresas que integren estas medidas no solo reducirán riesgos legales o reputacionales. También estarán construyendo organizaciones más justas, resilientes e innovadoras. Porque al final, la tecnología no es neutral, pero puede ser justa si se diseña desde una conciencia ética y responsable.
