Story

Hacia una Inteligencia Artificial (IA) que acote las desigualdades

30/04/2020
09 - Industry Innovation and Infrastructure
10 - Reduced Inequalities
16 - Peace, Justice and Strong Institutions

En la fotografía, Constanza en el laboratorio de biotecnología de la Singularity University, donde cursó el Global Solutions Program.

Entrevista con Constanza Gómez Mont

La mujer que representa a México en el grupo redactor de la Recomendación Global sobre Ética de la IA de UNESCO

¿Te imaginas que una App (aplicación) pudiera predecir la probabilidad de contagio de COVID-19 en una zona determinada?, ¿o los espacios libres de coronavirus en una ruta hacia el mercado? Suena prometedor pero, ¿cómo evitar que este tipo de desarrollos mantengan al margen de sus beneficios a personas que históricamente han estado en desventaja, o que incluso incrementen las desigualdades?  La Inteligencia Artificial (IA) ya soporta múltiples actividades ante el necesario aislamiento físico a causa de la COVID-19, por ejemplo: procesos que posibilitan la educación en línea y a distancia y el teletrabajo, pero aún tiene un gran potencial y su evolución debe centrarse en las personas, potenciar el desarrollo sostenible y promover su uso ético y responsable.

Como parte de su mandato, la UNESCO ha promovido el uso ético y con enfoque de derechos humanos de ese tipo de tecnologías y, este año, designó a un grupo de 24 expertos internacionales para redactar una Recomendación Global sobre Ética de la IA

Constanza Gómez Mont, fundadora y CEO de C MINDS, es la representante de México en el grupo de expertos que redactan la Recomendación Global sobre Ética de la IA.

 

“Desde chica me ha fascinado el mundo de las posibilidades, el poder pasar de las ideas a la acción, especialmente en temas sociales”.

Se debe pasar de conceptos teóricos a guías prácticas y puntuales para los Estados y las comunidades en zonas con desigualdades históricas como en América Latina.

Constanza Gómez Mont

A lo largo de su trayectoria, Gómez Mont ha buscado que la tecnología transforme la realidad, en especial para quienes se encuentran en desventaja, por ello, aseguró en entrevista, la Recomendación de la UNESCO buscará ser una guía puntual para acompañar a los gobiernos, a las instituciones públicas y al sector privado en políticas que, por ejemplo:

  • posicionen a las personas y los derechos humanos al centro del desarrollo y uso de la Inteligencia Artificial, para reducir desigualdades y aprovecharla para el desarrollo sostenible;
  • que respondan a los riesgos intrínsecos de la IA, como la seguridad y la protección de datos, reconociendo que “los datos pertenecen a las personas, a las comunidades y a los ecosistemas”;
  • que democraticen el acceso a estas tecnologías;
  • y que garanticen el uso responsable y transparente del uso de datos y el respeto a los derechos humanos desde el diseño, por ejemplo, que los sistemas autónomos e inteligentes no caigan en discriminación.

¿Cómo asegurar que los sistemas personalizados de salud lleguen a no sólo el 3% de la población mundial que ya los utiliza, y que además respondan a la diversidad de los usuarios?, reflexionó. Además de la democratización del acceso a la tecnología también se debe perseguir que la Inteligencia Artificial abone al empoderamiento de varias culturas, géneros e identidades para acotar las brechas de desigualdad, por ejemplo evitando resultados sesgados, señaló la mexicana.

...antes de la actual pandemia se estimaba la transición de más del 60% de la población al trabajo a distancia

Constanza Gómez Mont

Economía digitalizada, un futuro posible pero con la Ética

A lo largo de su trayectoria profesional, Gómez Mont ha impulsado la consolidación de iniciativas internacionales y regionales sobre la Inteligencia Artificial en ámbitos como el cambio climático y el bienestar social, y considera que esta tecnología podría crear muchos más empleos. No obstante, señaló, esto implica un periodo de transición hacia una economía digital en el que debe garantizarse una transformación inclusiva, una reeducación del mercado laboral y repensar los derechos laborales para que ninguna persona se quede al margen de la inclusión.

Por ejemplo, la automatización –como las cajas de auto-cobro y pago en el supermercado– facilita los procesos, pero mientras se ajustan los mercados laborales, se debe considerar cómo dar cabida a las personas que podrían estar siendo desplazadas por estos sistemas autónomos, para lo cual se requiere de capacitación permanente integrada en las empresas y que los gobiernos aseguren una transformación inclusiva, a través de incentivos fiscales para impulsar la reeducación, abundó Gómez Mont.

La brecha de género, prioridad ante la IA

Antes de fundar C MINDS, la experta buscaba crear un espacio para que más personas como ella pudieran colaborar para pasar de las ideas a la acción, y así se constituyó el laboratorio de ideas y de acciones a cargo de un equipo internacional liderado por mujeres, ya que la perspectiva de género era primordial para responder a la visión de la tecnología inclusiva. Sin embargo, la desigualdad entre hombres y mujeres no sólo se encuentra en el mundo del trabajo.

Las mujeres aún registran poca participación en el desarrollo del conocimiento sobre Inteligencia Artificial a nivel mundial: menos del 30% de ellas participa como coautoras de las investigaciones a nivel internacional y sólo el 16% de las publicaciones científicas tiene la coautoría de, por lo menos, una mujer, expuso Gómez Mont. Países como Argentina, Brasil y México registran una mayor participación de las mujeres, incluso alrededor del 35% en la investigación, pero ésta debe impulsarse de forma plena en la toma de decisiones.

menos del 30%

de las coautorías de investigaciones a nivel internacional son de mujeres

16%

de las publicaciones científicas tienen coautoría de, al menos, una mujer

35%

de la participación en ciencias en Argentina, Brasil y México es de mujeres

Si queremos una transformación digital inclusiva debemos asegurar que la gobernanza también sea inclusiva.

Constanza Gómez Mont

Avanzar hacia una política para la Inteligencia Artificial

Gomez Mont se cuestiona ¿cómo utilizar la tecnología para la educación, la salud, la seguridad, la justicia, para atender la violencia de género o para procurar un mejor ecosistema? Las respuestas, dijo, pueden ser vastas y diversas, pero requerirán de la cooperación de varios sectores.

Para la mujer que se formó en programa de Soluciones Globales de la Singularity University, en Estados Unidos, tanto el sector público como el privado de la región tienen los retos de la digitalización, la mejora de la infraestructura, de la conectividad, el acceso a datos abiertos y el establecimiento de una agenda de inteligencia artificial.

Explicó que, en América Latina ya se implementan “Colombia 4.0” y la “Agenda Uruguay Digital 2020”; Brasil y Chile han asumido este reto y en México se deben retomar esfuerzos para avanzar en ella, donde se contemple por ejemplo, la transversalización del conocimiento sobre la IA  en la educación formal y a lo largo de todas las etapas de vida, la participación de la academia y los centros de investigación, al igual que de los emprendedores y la sociedad civil para dinamizar el uso de la IA, para cuidar y vigilar que los sistemas locales se desarrollen de manera responsable, que se procure la seguridad, la reducción de sesgos, así como garantizar la justicia y la transparencia algorítmica.

El grupo de expertos independientes ya inició los trabajos de redacción de la Recomendación Global sobre la Ética de la Inteligencia Artificial, el primer instrumento normativo mundial sobre esta cuestión. Del 20 al 24 de abril de 2020 participaron en debates en línea en la primera fase de los preparativos del instrumento y durante mayo organizarán consultas en línea con diversos actores de los contextos nacional, regional e internacional.

Lo que nos une en todos nuestros proyectos es poder acelerar soluciones que diseñadas entre todos los sectores para aportar estrategias y tecnologías en favor de los Objetivos de Desarrollo Sostenible.

Constanza Gómez Mont

Constanza Gómez Mont es fundadora y CEO de C MINDS, co-fundadora de la Coalición IA2030MX que persigue el desarrollo de una agenda de Inteligencia Artificial para México, co-fundadora de la iniciativa internacional de IA contra el Cambio Climático (AI for Climate) y, junto con su equipo, apoyó la creación de fAIr LAC, una iniciativa de la IA para el bien social en América Latina y el Caribe liderada por el BID. Formó parte del Global Solutions Program de Singularity University, fundado por instituciones como la NASA.