Hemos hablado largo y tendido sobre tecnología y brechas, pero, hoy queremos poner el foco en las oportunidades y beneficios para contribuir a la reducción de desigualdades como en el caso de las existentes por motivo de género.
Y, aquí llega nuestra gran protagonista: la IA. Podría parecer contradictorio, pero es así: la inteligencia artificial al servicio de la inteligencia humana para avanzar hacia una sociedad mejor.
¿Puede el aprendizaje automático impulsar el aprendizaje natural desde una perspectiva de igualdad? Pues sí, y es posible gracias a la creación de algoritmos más inclusivos.
UN RECORRIDO HASTA AQUÍ
Pero esto no ha sido siempre así, y es que en el proceso de diseño y desarrollo tecnológico se han cometido errores hasta llegar a este objetivo. Por ejemplo, los asistentes como Alexa, Siri o Cortana tradicionalmente han usado voces femeninas predeterminadas y han respondido de manera sumisa, perpetuando el estereotipo de la mujer al servicio y asistencia de los demás. Ello contribuyó a reforzar roles de género tradicionales, y algunas críticas señalan que los asistentes incluso toleran comentarios sexistas o agresivos sin rechazar activamente este comportamiento. La a UNESCO apunta de hecho, que la preferencia de nombres y voces femeninas para asistentes digitales puede provenir de patrones tradicionales que tienen que ver con las normas sociales y otros sesgos de género socialmente construidos en la tradición social, cultural y educativa predigital (I’d Blush If I Could).
Vamos a ver otras muestras de ello. El sistema de reclutamiento basado en IA de Amazon, fue retirado en 2018 porque priorizaba a los hombres para puestos técnicos, ya que aprendió de datos históricos en los que predominaban los hombres, descartando currículums que incluían palabras asociadas con mujeres (como “líder de equipo femenino” o actividades en asociaciones de mujeres).
Cuando se buscaban términos como “CEO” en Google Imágenes, predominaban representaciones de hombres, mientras que búsquedas de roles tradicionalmente feminizados, como “enfermera,” mostraban mayoritariamente mujeres.
La tarjeta de crédito de Apple (Apple Card) fue acusada en 2019 de otorgar límites de crédito más bajos a mujeres que a hombres, incluso si compartían cuentas bancarias e ingresos similares.
Los sistemas como Google Translate solían asignar géneros basados en estereotipos. Por ejemplo, traducían frases neutrales como “They are a doctor” al español como “Él es doctor” y “They are a nurse” como “Ella es enfermera”.
En respuesta, algunos desarrolladores han trabajado en opciones de voz neutrales, como Q, el primer asistente virtual con género neutro, se abrió el debate sobre la necesidad de entrenar algoritmos con datos diversos y representativos, se comenzó a auditar regularmente los sistemas de toma de decisiones automatizadas, y se han realizado actualizaciones de los sistemas para ofrecer traducciones en múltiples géneros donde es posible.
¿CÓMO ROMPER ESTOS SESGOS DE GÉNERO?: PROYECTOS INNOVADORES LIDERADOS POR MUJERES
Luz Rello fundó Change Dyslexia para combatir la dislexia mediante herramientas basadas en inteligencia artificial. Su plataforma, Dytective, combina juegos y algoritmos de IA para detectar y mejorar las habilidades lectoras, ayudando a cientos de miles de personas de todas las edades. Change Dyslexia ha recibido reconocimiento internacional, incluido el premio de la UNESCO, por su impacto en la educación.
Laura Urquizu lidera Red Points, una plataforma de IA que combate el fraude digital, incluyendo falsificaciones y piratería. Bajo su dirección, la empresa ha expandido su impacto a nivel global, ayudando a proteger marcas y contenido digital contra infracciones legales y éticas
Nuria Oliver es una de las investigadoras más influyentes en IA en España. En el Instituto ELLIS Alicante, trabaja en proyectos que aplican IA a la educación y la ética, desarrollando soluciones tecnológicas que buscan un equilibrio entre innovación y responsabilidad socia
EL IMPACTO SOCIAL
La IA es transversal, lo será aún más y, su aplicación ética y social está siendo un gran impacto para la mejora de la vida. En salud, la Fundación SERES, junto con Esade, trabaja en integrar IA responsable en áreas de salud para optimizar servicios y resolver desigualdades. Por ejemplo, a través de herramientas que identifican patrones de enfermedades en grupos subrepresentados, como mujeres y pacientes con necesidades específicas, se están reduciendo brechas en la atención médica y mejorando la equidad en el acceso a tratamientos.
En conclusiones de la investigación española ‘Lidiando con problemas de sesgo de género en procesos algorítmicos de datos: una perspectiva social-estadística’ publicada en la revista Algorithms: “la presencia de sesgos de género con la infrarrepresentación de las mujeres en el diseño y producción de productos y servicios de inteligencia artificial”
En educación, Google España en colaboración con universidades y fundaciones, está ofreciendo programas de formación específicos sobre IA para mujeres. Esto incluye becas y recursos gratuitos que fomentan su participación en sectores tecnológicos y educativos, permitiendo a más mujeres adquirir competencias en áreas de alta demanda profesional, como la IA generativa.
En las oportunidades del mercado laboral, iniciativas como las lideradas por el Comité Español de Representantes de Personas con Discapacidad (CERMI) están promoviendo la inclusión laboral a través de la IA. Estas herramientas ayudan a personalizar procesos de selección y formación, creando oportunidades para mujeres y otros grupos en riesgo de exclusión, incluyendo aquellas con discapacidad.
¿Y tú? ¿En qué reto social consideras que podría trabajar la IA para romper barreras y avanzar hacia una tecnología y una sociedad más inclusiva y sin desigualdades? Cuéntanos en redes sociales.