Story

La UNESCO convoca un diálogo mundial para romper el sesgo en la IA con motivo de la celebración del Día Internacional de la Mujer

10/03/2021

Hoy en día, los críticos acusan que la inteligencia artificial (IA) se alimenta de un conjunto de datos sesgados, amplificando los prejuicios anti-femeninos existentes en nuestras sociedades, y que la IA perpetúa estereotipos dañinos sobre las mujeres como sumisas y serviles. ¿Es de extrañar que solo el 22% de los profesionales en IA a nivel mundial sean mujeres?

En el Día Internacional de la Mujer (8 de marzo), la UNESCO y el Foro Económico Mundial unieron fuerzas para organizar un panel en línea sobre la igualdad de género y el liderazgo de la mujer en lo tocante a la Inteligencia Artificial. Esta oportuna mesa redonda reunió a diversas voces femeninas líderes en tecnología del mundo entero para enfrentar los profundos desequilibrios de género que sesgan el desarrollo de la inteligencia artificial. Más de 60.000 espectadores participaron del evento digital, el cual fue moderado por Natashya Gutierrez, editora en jefe de VICE Asia.

“¿Cómo detener el sesgo? Asegurándonos de que las mujeres no solo sean consumidoras, sino productoras de IA: necesitamos más inteligencia femenina en inteligencia artificial, en los datos, en los algoritmos y en el sector”, Gabriela Ramos, Subdirectora General de Ciencias Sociales y Humanas, UNESCO.

En su discurso de apertura, la Sra. Ramos hizo hincapié en la responsabilidad colectiva que es necesaria para asegurar que la brecha de género en el mundo analógico, así como en el digital, no siga ampliándose. Con el evento, la UNESCO llama la atención sobre la brecha digital de género y los sistemas de IA con prejuicios de género. Con la Recomendación sobre Ética de la inteligencia artificial, que se encuentra actualmente en desarrollo, la UNESCO seguirá contribuyendo a promover la igualdad de género en todo el ciclo de vida de la IA a través de recomendaciones de políticas y apoyo programático.

En su discurso de apertura, Kay Firth-Butterfield, directora de IA y aprendizaje automático y miembro del comité ejecutivo del Foro Económico Mundial, abordó la necesidad de que diversos equipos creen productos de IA. Hoy en día, las mujeres constituyen la mitad de la población mundial, pero son menos de una cuarta parte de quienes crean algoritmos. “Hoy les hacemos saber a las mujeres del mundo entero que existes”, afirmó la Sra. Firth-Butterfield. Remarcó la necesidad de promover modelos femeninos a seguir y ofrecer tutoría a mujeres y niñas, para que puedan generar la confianza necesaria para ingresar al mundo de la tecnología y la inteligencia artificial.

 

El panel abordó dos temas principales:

La crisis de la formación y reclutamiento de mujeres en IA

Las voces de las mujeres no se están incorporando al programa para nuestro futuro. Según datos del Foro Económico Mundial, solo el 22% de los profesionales de IA a nivel mundial son mujeres. Las empresas que contratan expertos para trabajos de ciencia de datos e inteligencia artificial estiman que menos del 1% de las aplicaciones que reciben provienen de mujeres. Las mujeres y las niñas tienen 4 veces menos probabilidades de saber programar computadoras y 13 veces menos probabilidades de solicitar patentes de tecnología. Asimismo, es menos probable que ocupen posiciones de liderazgo en empresas de tecnología. En febrero de este año, el programa de la UNESCO To Be Smart, La Revolución Digital deberá ser inclusiva advirtió que las mujeres corren el riesgo de quedarse atrás en la carrera por los puestos de trabajo en IA. ¿Qué podemos hacer para atraer a más mujeres a trabajos en IA?

Nanjira Sambuli, miembro del Panel de Alto Nivel para la Cooperación Digital del UNSG, planteó la interrogante sobre cómo equipar a las personas con talento en África con habilidades digitales para que sean dueñas de la transformación del continente y puedan construir su propio futuro. Llamó la atención sobre el acceso desigual a la educación de niñas y niños, resonando en un grupo limitado de talentos femeninos en el sector de la tecnología. Ashwini Asokan, directora ejecutivo y cofundadora de la empresa tecnológica Mad Street Den, destacó que para que la IA se aplique de manera significativa, es imprescindible contar con diversos equipos detrás de la tecnología. En su empresa fomenta una política de género 50-50. La Sra. Asokan no rehuye contratar candidatas y mira más allá de sus calificaciones formales. Ella invierte en el desarrollo de capacidades, reconociendo el valor agregado de los equipos tecnológicos con igualdad de género. Latifa Mohammed Al-AbdulKarim, profesora adjunta de Ciencias de la Computación en la Universidad King Saud, destacó la importancia de brindar a las mujeres la oportunidad de participar y demostrar su valía, a la vez de subrayar el papel clave que desempeñaron las iniciativas establecidas por el gobierno saudí para superar los desafíos de acceso y empleo de las mujeres en tecnología.

El problema del sesgo algorítmico contra las mujeres

La empresa líder en investigación, Gartner, predice que para el 2022, el 85% de los proyectos de IA generarán resultados erróneos debido al sesgo en los datos, los algoritmos o los equipos responsables de su gestión. El informe seminal de la UNESCO “Me sonrojaría si pudiera”, mostró que los asistentes de voz con tecnología de IA como Alexa y Siri perpetúan los estereotipos dañinos de las mujeres como sumisas y serviles. ¿El género de la IA es parte del problema?

“La IA es un espejo magnificador de nuestra sociedad, una representación... La creación de este nuevo mundo sin la mitad de la humanidad está produciendo prejuicios en su inicio”, Anne Bioulac, miembro de la Junta Asesora a cargo del desarrollo de IA, iniciativa Mujeres en África. Jutta Williams, que lidera el trabajo de aprendizaje automático responsable en Twitter, mostró cómo la empresa de tecnología transparenta para sus usuarios la razón por la que ven el contenido que ven. Ella entiende esto como la contribución de Twitter a una mejor comprensión colectiva de cómo los algoritmos influyen en el comportamiento en línea. Meredith Broussard, desarrolladora de software y profesora asociada de periodismo de datos en la Universidad de Nueva York, pidió más responsabilidad en el espacio digital y exigió acciones de los gobiernos para garantizar que la tecnología cumpla con las leyes de derechos humanos. Adriana Bora, investigadora de ética en IA, presentó su trabajo utilizando sistemas de IA para reducir la esclavitud moderna que afecta de manera desproporcionada a mujeres y niñas. Al afirmar que "el sesgo no solo está presente en los datos, sino en todo el proceso desde el diseño, el desarrollo hasta la evaluación", la Sra. Bora destacó la necesidad de una experiencia en el dominio que incluya a los sobrevivientes y mujeres en el proceso de diseño de cualquier sistema de IA. La panelista Wanda Munoz, experta en desarme humanitario, subrayó los peligros que los sistemas de IA pueden representar específicamente a través de armas autónomas como los robots asesinos. Al funcionar con algoritmos sesgados, estas tecnologías representan un gran peligro para las minorías y las mujeres, especialmente en el hemisferio sur.

El panel incluyó a mujeres agentes de cambios en IA. Desde profesionales de alto nivel que toman decisiones que repercuten en todos, hasta mujeres que innovan en nuevas herramientas y políticas de inteligencia artificial para ayudar a los grupos vulnerables, hasta aquellas que exponen con valentía la injusticia y los sesgos algorítmicos.

  1. Gabriela Ramos, Subdirectora General de Ciencias Sociales y Humanas de la UNESCO, quien lidera el desarrollo de la Recomendación de la UNESCO sobre Ética de la IA, el primer instrumento normativo mundial en este campo.
  2. Kay Firth-Butterfield, oradora principal. Kay fue la primera directora de ética de IA del mundo. Como directora de IA y aprendizaje automático y miembro del Comité Ejecutivo del Foro Económico Mundial, Kay desarrolla nuevas alianzas para generar conciencia sobre los prejuicios de género en la IA.
  3. Ashwini Asokan, directora ejecutiva de Mad Street Den, empresa de IA con sede en Chennai. Ella explora la forma en que la inteligencia artificial se puede aplicar de manera significativa y hacerla accesible a miles de millones de personas a nivel mundial.
  4. Adriana Bora, investigadora que utiliza el aprendizaje automático para impulsar el cumplimiento de la legislación sobre esclavitud moderna del Reino Unido y Australia, con el objetivo de combatir la esclavitud moderna, incluida la trata de mujeres.
  5. Anne Bioulac, miembro de la Iniciativa Mujeres en África, que desarrolla el aprendizaje en línea habilitado por IA para empoderar a mujeres africanas para que utilicen la IA en el emprendimiento digital.
  6. Meredith Broussard, desarrolladora de software y profesora asociada de periodismo de datos en la Universidad de Nueva York, cuya investigación se centra en la IA en los reportajes de investigación, con un interés particular en el uso del análisis de datos para el bien social.
  7. Latifa Mohammed Al-AbdulKarim, nombrada por la revista Forbes como una de las 100 mujeres brillantes en ética de la IA y como una de las mujeres que definen la IA en el siglo XXI.
  8. Wanda Muñoz, de la Red Latinoamericana de Seguridad Humana. Una de las constructoras de paz de la Iniciativa de Mujeres Nobel 2020, crea conciencia sobre la violencia de género y las armas autónomas.
  9. Nanjira Sambuli, Miembro del Panel de Alto Nivel del Secretario General de la ONU para la Cooperación Digital y Asesora de la Alianza A + sobre Algoritmos Inclusivos.
  10. Jutta Williams, Product Manager de Twitter, analiza cómo Twitter puede mejorar sus modelos para reducir el sesgo.

 

Las ideas que fueron desarrolladas durante el panel informarán más a la cooperación internacional sobre la facilitación de UNESCO para garantizar la participación de múltiples partes interesadas en el desarrollo de tecnología de inteligencia artificial, como sector tan diverso e inclusivo como las sociedades que la Organización se compromete a crear.

 

Enlaces