"La inteligencia artificial está perpetuando estereotipos de género y raza": Lorena Fernández explora los sesgos de género en los algoritmos de IA

Bilbao

La directora de Comunicación Digital en la Universidad de Deusto, Lorena Fernández, ha ofrecido una conferencia en la que ha explorado el impacto de los sesgos de género en los algoritmos y tecnologías de inteligencia artificial. Bajo el título De aquellos sesgos, estos algoritmos: ¿a quién nos dejamos fuera cuando no incorporamos la perspectiva de género?, este evento forma parte del ciclo de conferencias Aula Abierta organizado por SER Euskadi.

Fernández ha puesto varios ejemplos de cómo esos sesgos influyen tanto en las sugerencias de contenidos, como en la traducción de textos. Los datos del sector son preocupantes: solo el 18 % de las mujeres que hacen desarrollos de IA a nivel mundial son mujeres. "Si hacemos zoom, sobre Meta o Google ese porcentaje baja aún más". Esto cuando el número de usuarias globales de IA son el 30,5 %. "Es decir, la IA no aprende de nosotras como desarrolladoras y aprende un poco menos como usuarias", ha sentenciado en la Torre Iberdrola.

La conferencia, en 7 titulares

• "La tecnología acrecienta los sesgos que ya existen en la sociedad": El problema es que, aunque los sesgos sociales ya están presentes, las herramientas tecnológicas pueden intensificarlos. La tecnología no sólo refleja las desigualdades, sino que también contribuye a aumentar su impacto en la sociedad.
• "La inteligencia artificial está perpetuando estereotipos de género y raza": Algunos estudios demuestran que la IA, basada en datos de aprendizaje con sesgos, asigna profesiones científicas a hombres y oficios ligados a idiomas o cocina a mujeres, afectando a millones de jóvenes.
• "El reconocimiento facial falla con mujeres racializadas y maquilladas": Los programas de IA de reconocimiento facial fueron entrenados mayoritariamente con rostros de hombres blancos. Esto ocasiona que el software tenga errores significativos al identificar a personas que se maquillan o que no tienen la piel clara.
• "La inteligencia artificial contribuye a la violencia de género en línea": Las herramientas de IA generativa permiten crear imágenes de desnudos falsos de mujeres, intensificando la violencia de género en redes y plataformas de internet, algo especialmente alarmante en países como Corea del Sur.
• "Los equipos de IA deben ser diversos para reducir los sesgos": La diversidad en los equipos de desarrollo es clave para minimizar los sesgos en la IA. Las mujeres, por ejemplo, aportan experiencias vitales diferentes que ayudan a reducir los errores en el software.
• "La inteligencia artificial apenas aprende de las mujeres como desarrolladoras y usuarias": En IA, solo el 18% de los desarrolladores a nivel mundial son mujeres y las usuarias representan un 30,5%, lo que limita la inclusión de sus perspectivas y necesidades en los modelos de aprendizaje.
• "Las estudiantes mujeres muestran menos confianza al usar IA": Según un estudio reciente, las jóvenes con mejores expedientes tienden a usar menos la IA, mientras que sus compañeros muestran mayores niveles de confianza y menos temor a equivocarse al interactuar con estos sistemas.

Ramón Salaverría sobre la supervisión humana en IA: "La tecnología necesita personas para evitar errores"

Una experta con amplia trayectoria en el campo de la tecnología y la igualdad

Lorena Fernández no es solo una voz autorizada en el tema de los sesgos de género en la tecnología, sino también una referente en la divulgación sobre igualdad en el ámbito STEAM (Ciencia, Tecnología, Ingeniería, Artes y Matemáticas). Coautora del juego de mesa Nobel Run, diseñado para visibilizar a mujeres científicas, ha sido activa en iniciativas como Inspira STEAM, cuyo objetivo es romper con los estereotipos de género en las vocaciones tecnológicas desde edades tempranas. Fernández defiende que la falta de diversidad en el desarrollo tecnológico no solo afecta a la equidad, sino también a la calidad de los productos que usamos a diario.

Además de su faceta como divulgadora, Fernández ha participado en eventos europeos como Women in Science, donde ha alertado sobre cómo los sesgos de género no solo se reflejan en los algoritmos de inteligencia artificial, sino que también afectan a aspectos cruciales de la vida profesional de las mujeres, como las promociones laborales o el acceso a posiciones de alto nivel, con ejemplos tan impactantes como el realizado por la Universidad Carnegie Mellon, que reveló diferencias significativas en la publicidad de empleos bien remunerados entre hombres y mujeres.