Construir la paz en la mente de los hombres y de las mujeres

Las voces de los jóvenes y el futuro de la Inteligencia Artificial en la Conferencia General de la UNESCO

20 noviembre 2019

news_201119_ai.jpg

© UNESCO

Como parte del compromiso de la UNESCO de involucrar a los jóvenes en la toma de decisiones para el futuro que desean, el equipo de trabajo intersectorial de la UNESCO organizó un evento paralelo sobre "Las voces de los jóvenes y el futuro de la Inteligencia Artificial" en el marco de la 40ª Conferencia general de la UNESCO.

El acto paralelo reunió a representantes de alto nivel, entre ellos la UNESCO, la OCDE, la Unión Africana, la ISESCO, el IEEE y el Grupo de Alto Nivel de las Naciones Unidas sobre Cooperación Digital, con el fin de entablar conversaciones con los jóvenes sobre la elaboración de principios éticos para la inteligencia artificial, y sobre lo que se necesita para poner en práctica esos principios a fin de aprovechar la inteligencia artificial para el desarrollo sostenible.

El Subdirector General del Sector de Comunicación e Información, Moez Chakchouk, inauguró el evento reiterando el potencial de la IA para revolucionar todos los aspectos de nuestras vidas, y señaló que la naturaleza transformadora de la IA hace imperativo abordar los desafíos éticos relacionados con su desarrollo y despliegue.

El primer panel se centró en el desarrollo de principios para la Inteligencia Artificial. El panel fue moderado por Delfina Belli, una joven estudiante, quien introdujo el tema planteando su preocupación por la desigualdad de género y los prejuicios en la IA. En su introducción, hizo hincapié en la importancia de crear principios para que la IA pueda ser utilizado como una herramienta para empoderar a las mujeres. Todos los oradores coincidieron en la importancia de elaborar principios éticos para la IA, habida cuenta del potencial de la IA para alcanzar los objetivos de desarrollo sostenible y de los posibles problemas que plantea en la esfera de los derechos humanos.

Amani Abou-Zeid, Comisario de Infraestructura y Energía de la Unión Africana (UA), y Salim M. Al-Malik, Director General de la Organización Islámica para la Educación, la Ciencia y la Cultura (ISESCO), subrayaron la importancia de la IA en la región africana y reafirmaron el compromiso de sus organizaciones en el aprovechamiento de la IA para la Agenda 2063 de la Unión Africana.  El Dr. Abou-Zeid subrayó que "queremos asegurarnos de que tenemos valores compartidos y que estamos trabajando juntos en todo el continente, pero también con el resto del mundo". El Director General Al-Malik reafirmó además el compromiso de la ISESCO de adoptar marcos éticos para la IA en los Estados Miembros de la ISESCO.

Al profundizar en los principios específicos de la IA, Ángel Gurria, Secretario General de la OCDE, y Marc-Antoine Dilhac, Director de la Declaración de Montreal para el Desarrollo Responsable de la IA, comentaron y valoraron positivamente la proliferación de diferentes principios y marcos éticos. Si bien Gurria señaló que las diferentes entidades que desarrollan marcos de IA podrían aprender unas de otras, Dilhac observó que los diferentes marcos estaban anclados en ámbitos de competencia distintos y, por lo tanto, eran complementarios y necesarios. Desde la perspectiva de la comunidad técnica, Clara Neppel, Directora del IEEE, subrayó que "la comunidad de ingenieros tiene una responsabilidad en el diseño de sistemas para la sociedad".

Todos los oradores subrayaron constantemente la importancia de la participación de múltiples interesados y de la inclusión en el desarrollo de la IA y en los marcos éticos pertinentes. El Secretario General Gurria subrayó que "el multilateralismo no es un camino, es el único camino", mientras que el Comisario Abou-Zeid subrayó que "no hay manera de que ninguna organización pueda hacerlo por sí sola". Reflexionando sobre la necesidad de involucrar activamente a la sociedad civil en la elaboración de estos principios, Dilhac subrayó que las iniciativas podrían basarse en la experiencia de la elaboración de la Declaración de Montreal, que tiene en cuenta las diferentes perspectivas organizando talleres personalizados y solicitando comentarios en línea.

El segundo panel, dedicado a pasar de los principios de la IA a la práctica, exploró el vínculo entre el desarrollo de directrices éticas y la implementación de políticas. Moderada por Imane Bello, Profesora de política y ética de los sistemas de la IA, presentó el tema destacando algunas de las limitaciones técnicas de la IA que conducen a sesgos algorítmicos, clasificaciones erróneas e incluso a la discriminación, particularmente entre el norte y el sur del mundo.

Cuando se les preguntó qué medidas debían adoptarse para que los marcos éticos tuvieran repercusiones concretas, los oradores expresaron diversas perspectivas. Amandeep Singh Gill, ex Director Ejecutivo de la Secretaría del Panel de Alto Nivel sobre Cooperación Digital, afirmó que "el descubrimiento de los principios tiene que ser impulsado por la práctica". Explicó que la mayoría de las organizaciones estaban de acuerdo en que la IA debía estar centrado en el ser humano y ser justo, pero que en la práctica había divergencias en cuanto a las medidas que se debían tomar para lograr este tipo de IA. Expresando sentimientos similares, Nicolas Miailhe, Presidente de la Sociedad del Futuro, enfatizó que es necesario un continuo ciclo de retroalimentación entre los principios y la práctica. Adriana Eufrosina Bora, una joven investigadora de políticas de IA en Global Data Commons, hizo hincapié en la necesidad de invertir en la creación de capacidad: "Es crucial empoderar a los jóvenes con las habilidades adecuadas que les permitan enfrentar las incertidumbres que la IA va a traer a la sociedad y al mercado laboral", enfatizó.

Peter-Paul Verbeek, Presidente de la Comisión de Ética del Conocimiento Científico y la Tecnología (COMEST) de la UNESCO, destacó tres aspectos que deben abordarse al traducir los principios a la práctica: velar por que el diseño de la IA sea ético, que los usuarios finales de la tecnología la comprendan y que los gobiernos garanticen marcos para el uso de esta tecnología. Eva-Marie Muller-Stuler, Jefa Científica de Datos de IBM MEA, hizo hincapié en la importancia de involucrar al sector privado en las discusiones sobre la ética de la IA desde el principio, en lugar de limitarse a desarrollar directrices y exigir que la industria las implemente.

Por último, la UNESCO subrayó que, en el futuro, la Organización seguiría creando plataformas de debate entre múltiples interesados sobre las dimensiones éticas de la IA, elaborando instrumentos de creación de capacidad en este ámbito y proporcionando asesoramiento normativo y sobre políticas para garantizar que la inteligencia artificial se utilice en pro del desarrollo sostenible. El Marco de Universalidad de Internet y el enfoque R.O.A.M., adoptados por la Conferencia General de la UNESCO en 2015, fueron subrayados como marco para guiar el trabajo en el desarrollo de una inteligencia artificial ética basada en los derechos humanos, la apertura, la accesibilidad y la multi participación.

Este acto paralelo precede al examen por los Estados Miembros, en el marco de la Conferencia General del 21 de noviembre, de iniciar un proceso de elaboración de un instrumento normativo en el ámbito de la ética de la inteligencia artificial.  Más de 280 personas participaron en el evento paralelo, y más de 10.000 personas participaron a distancia a través de los canales de medios sociales de la UNESCO.

¿Se perdió la conversación? Véalo aquí: https://www.youtube.com/watch?v=Cq0XAlvDbDM&feature=youtu.be

La información sobre la labor de la UNESCO en materia de IA centrada en el ser humano está disponible en https://en.unesco.org/artificial-intelligence. Para obtener más información, póngase en contacto con Sasha Rubel (s.rubel@unesco.org).