Construir la paz en la mente de los hombres y de las mujeres

Elaboración de una Recomendación sobre la Ética de la Inteligencia Artificial

La IA y tú...

Hoy en día, la inteligencia artificial (IA) juega un papel en la vida de miles de millones de personas. A veces inadvertida, pero a menudo con profundas consecuencias, transforma nuestras sociedades y desafía lo que significa ser humano.

La IA puede proporcionar a millones de estudiantes el apoyo para completar la educación secundaria, cubrir 3,3 millones de puestos de trabajo adicionales y, lo que es más urgente, ayudarnos a hacer frente a la propagación y las secuelas de la pandemia COVID-19. Junto con sus múltiples ventajas, estas tecnologías también generan riesgos y desafíos, derivados del uso malicioso de la tecnología o de la ampliación de las desigualdades y las divisiones.

Necesitamos políticas y marcos normativos internacionales y nacionales para asegurar que estas tecnologías emergentes beneficien a la humanidad en su conjunto. 

Necesitamos una IA centrada en el ser humano. La IA debe ser para el mayor interés de la gente, y no lo contrario. 

La UNESCO propone la elaboración de un instrumento normativo mundial integral para dotar a la IA de una sólida base ética, que no sólo proteja, sino que también promueva los derechos humanos y la dignidad humana. Una vez adoptado, será una brújula de orientación ética y un cimiento normativo mundial que permitirá crear un fuerte respeto por el estado de derecho en el mundo digital.

5 cosas que debes saber sobre la IA

La IA ha demostrado su valor para enfrentar la pandemia de COVID-19

Contribuye a frenar el impacto económico de la crisis a través de las plataformas digitales. También ayuda a los investigadores a procesar grandes cantidades de datos en la carrera por encontrar una vacuna o un tratamiento. La IA ha participado para contener la propagación del virus a través de tecnologías de prueba, rastreo y seguimiento. Sin embargo, a medida que la gente está dando acceso a sus datos, el uso de la IA durante esta pandemia ha reabierto las preocupaciones sobre la privacidad, la protección de los datos y el uso de los datos más allá de las necesidades de rastreo del virus. 

Es probable que el crecimiento impulsado por la IA sea muy desigual

 espera que la IA genere casi 4 billones de dólares de valor añadido para 2022. Para 2030, se espera que los beneficios económicos sean mayores en China y América del Norte, y que representen el 70% del impacto económico mundial de la IA. La IA tiene una dinámica de "el ganador se lo lleva todo" que necesita ser regulada: la concentración de la IA en manos de pocos países de altos ingresos probablemente dejará a los países en desarrollo muy atrás. Estos últimos no se beneficiarán, o lo harán muy poco, de las tecnologías de la IA y carecerán de propiedad sobre dichas tecnologías. 

La IA tiende a ampliar las diferencias de género existentes

Solo el 22% de los profesionales que se dedican a la IA son mujeres. Debido a que están subrepresentados en la industria, los prejuicios y estereotipos de género se están reproduciendo en las tecnologías de la IA. No es una coincidencia que las asistentes personales virtuales como Siri, Alexa o Cortana sean "femeninas" por defecto. El servilismo y a veces la sumisión que expresan son un ejemplo de cómo la IA puede (seguir) reforzando y difundiendo los prejuicios de género en nuestras sociedades.   

La IA puede ser una herramienta poderosa para abordar el cambio climático y las cuestiones ambientales 

A medida que el planeta continúa calentándose, los impactos del cambio climático están empeorando. Mediante la recopilación y el análisis de datos, los modelos impulsados por la IA podrían, por ejemplo, ayudar a mejorar la gestión de los ecosistemas y la restauración del hábitat, esencial para menguar la disminución de las poblaciones de peces y fauna silvestre. Dicho esto, la extracción de datos consume casi el diez por ciento de la energía a nivel mundial. Por lo tanto, también es esencial abordar el alto consumo de energía de la IA y el consiguiente impacto en la emisión de carbono.  

La IA no puede ser una zona sin ley

La IA ya está en nuestras vidas, dirigiendo nuestras elecciones, a menudo en formas que pueden ser perjudiciales. Hay algunos vacíos legislativos alrededor de la industria que deben ser tratados rápidamente. El primer paso es convenir exactamente qué valores deben ser consagrados, y qué normas deben ser aplicadas. Existen muchos marcos y directrices, pero se aplican de manera desigual, y ninguno es realmente mundial. La IA es mundial, por lo que necesitamos un instrumento mundial para regularla.

 

La recomendación

La UNESCO ha emprendido un proceso de dos años para elaborar el primer instrumento normativo mundial sobre la ética de la inteligencia artificial en forma de recomendación, de conformidad con la decisión adoptada por la Conferencia General de la UNESCO en su 40ª reunión,
en noviembre de 2019.

En 2020, la atención se centrará en la preparación del proyecto de texto de la Recomendación con la asistencia de un Grupo de Expertos Ad Hoc. Esta fase incluirá consultas inclusivas y multidisciplinarias con una extensa gama de partes interesadas. Estas amplias consultas son sumamente importantes para asegurar que el proyecto de texto sea lo más inclusivo posible.

Hacia finales de 2020 y en 2021, la atención se centrará en un proceso intergubernamental y en la negociación del proyecto de texto para producir una versión final de la Recomendación para su posible adopción por la Conferencia General de la UNESCO en su 41ª reunión a finales de 2021.

La labor de la UNESCO en relación con la Recomendación se basa en el estudio preliminar sobre la ética de la inteligencia artificial de la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST) de la UNESCO. Este estudio destaca la inexistencia actual de un instrumento mundial que abarque todos los campos que guían el desarrollo y la aplicación de la IA en un enfoque centrado en el ser humano.

La UNESCO desea expresar su reconocimiento a todas sus contrapartes y socios que han contribuido y apoyado el proceso de elaboración de la Recomendación sobre la ética de la inteligencia artificial.

 

Revisión del proyecto de Recomendación sobre la Ética de la Inteligencia Artificial

El grupo internacional de 24 expertos que fue nombrado por la UNESCO para elaborar un proyecto de texto para una Recomendación sobre la Ética de la Inteligencia Artificial trabajó virtualmente del 31 de agosto al 4 de septiembre de 2020 para revisar su primera versión del proyecto de texto, publicada el pasado mes de mayo.

Tras un amplio proceso de consultas con múltiples interesados durante los últimos tres meses, se recogieron numerosos comentarios, impresiones y contribuciones sobre la primera versión del proyecto de texto de la Recomendación. A la luz de esas contribuciones, el Grupo Expertos Ad Hoc de (GEAH) elaboró un primer proyecto revisado de Recomendación sobre la Ética de la Inteligencia Artificial, que se transmitió en septiembre de 2020 a los Estados Miembros para que formulen sus comentarios antes del 31 de diciembre de 2020.

Consulta con los actores interesados

La primera versión del proyecto de texto de la Recomendación sobre la Ética de la Inteligencia Artificial preparada por la Grupo de Expertos Ad Hoc (GEAH) en mayo de 2020 evolucionó sustancialmente tras un amplio proceso de consultas en línea con múltiples interesados, desde finales de junio hasta principios de agosto de 2020. Esas consultas fueron cruciales para la elaboración de un proyecto de texto amplio, inclusivo y pluralista que captara los intereses, las preocupaciones y las opiniones de los diversos interesados que participan en la inteligencia artificial.

Contrapartes y socios de todo el mundo apoyaron a la UNESCO para organizar este proceso de consulta basado en tres componentes:

La diversidad de perspectivas recogidas durante las consultas fueron consideradas por el GEAH al revisar la primera versión del proyecto de texto del 31 de agosto al 4 de septiembre de 2020.

Grupo de Expertos Ad Hoc

En marzo de 2020, la Directora General de la UNESCO nombró a 24 especialistas de notoriedad con conocimientos multidisciplinarios y pluralistas sobre la ética de la inteligencia artificial para que formen un Grupo de Expertos Ad Hoc (GEAH).

A este Grupo se le ha encomendado la tarea de elaborar un proyecto de instrumento normativo mundial, en forma de recomendación de la UNESCO, teniendo debidamente en cuenta diversas dimensiones, entre ellas el medio ambiente y las necesidades del Sur.

 

Trabajo virtual del Grupo de Expertos Ad Hoc (marzo a septiembre de 2020)

Debido a las circunstancias excepcionales que plantea la pandemia del COVID-19, el GEAH llevó a cabo virtualmente la primera fase de su trabajo desde finales de marzo hasta principios de mayo de 2020.

Un documento de trabajo les proporcionó información de fondo como punto de partida de sus reflexiones.

El GEAH trabajó virtualmente durante seis semanas en grupos de trabajo coordinados por seis de sus miembros: Robert Kroplewski, Julie Owono Assevini, Golestan (Sally) Radwan, Emma Ruttkamp-Bloem, Peter-Paul Verbeek y Yi Zeng.

También se celebraron discusiones virtuales del 20 al 24 de abril de 2020. Asistieron más de 40 observadores de los Estados Miembros y de las Naciones Unidas, así como de otras entidades intergubernamentales que proporcionaron al GEAH comentarios por escrito.

Esto dio lugar a la primera versión del proyecto de texto de la Recomendación preparado por el GEAH en mayo de 2020, y que se sometió a un amplio proceso de consultas con múltiples interesados desde finales de junio hasta principios de agosto de 2020.

El GEAH comenzó a examinar los comentarios recibidos durante el proceso de consulta de múltiples interesados a partir de mediados de agosto y se reunió virtualmente del 31 de agosto al 4 de septiembre de 2020 para revisar la primera versión del proyecto de texto. Durante esa semana, más de 100 observadores de 43 Estados Miembros y de entidades de Naciones Unidas y otras entidades intergubernamentales, así como de ONG se inscribieron para observar la reunión.

Esta labor culminó con la finalización de un primer proyecto de la Recomendación por parte del GEAH el 7 de septiembre de 2020.

 

Mesa del GEAH

El GEAH también eligió a su Mesa, utilizando procedimientos en línea, de la siguiente manera:

Presidenta: Sra. Emma Ruttkamp-Bloem

Relator: Sr. Sang Wook Yi

Vicepresidentes:

  • Sra. Constanza Gómez Mont
  • Sra. Irena Nesterova
  • Sra. Golestan (Sally) Radwan
  • Sr. Peter-Paul Verbeek

 

Próximos pasos

El informe preliminar y el primer proyecto de la Recomendación fueron transmitidos a los Estados Miembros en septiembre de 2020, para que formulen sus comentarios por escrito antes del 31 de diciembre de 2020. La Directora General tendrá en cuenta esos comentarios escritos al preparar su informe final sobre la Recomendación.

Este informe final contendrá uno o más proyectos de texto para la Recomendación.
Se comunicará a los Estados Miembros y se presentará a un comité especial de expertos gubernamentales (categoría II) que se reunirá en 2021 (dos reuniones previstas para abril y junio de 2021).

El comité especial tomará una decisión sobre el proyecto final de la Recomendación, que se presentará a la Conferencia General de la UNESCO a finales de 2021.