Recomendación sobre la ética de la Inteligencia Artificial de UNESCO

Nombre del proyecto :

Recomendación sobre la ética de la Inteligencia Artificial de UNESCO

Presupuesto :

0 - 100K$

Duración del proyecto :

19-07-2022

Lugar :

Montevideo, Uruguay
La Recomendación sobre la ética de la IA es el primer instrumento mundial que busca el uso y desarrollo de una IA ética, inclusiva, justa y al servicio de la humanidad

El proceso de adopción la Recomendación

La UNESCO emprendió un proceso de dos años para elaborar el primer instrumento normativo mundial sobre la ética de la inteligencia artificial en forma de recomendación, de conformidad con la decisión adoptada por la Conferencia General de la UNESCO en su 40ª reunión, en noviembre de 2019.

En 2020, se preparó el proyecto de texto de la Recomendación con la asistencia de un Grupo de Expertos y expertas Ad Hoc. Esta fase incluyó consultas inclusivas y multidisciplinarias con una extensa gama de partes interesadas. Estas amplias consultas fueron sumamente importantes para asegurar que el proyecto de texto sea lo más inclusivo posible.

Hacia finales de 2020 y en 2021, la atención se centró en un proceso intergubernamental y en la negociación del proyecto de texto para producir una versión final de la Recomendación para su adopción por la Conferencia General de la UNESCO en su 41ª reunión a finales de 2021.

La labor de la UNESCO en relación con la Recomendación se basa en el estudio preliminar sobre la ética de la inteligencia artificial de la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST) de la UNESCO. Este estudio destaca la inexistencia actual de un instrumento mundial que abarque todos los campos que guían el desarrollo y la aplicación de la IA en un enfoque centrado en el ser humano.

La UNESCO desea expresar su reconocimiento a todas sus contrapartes y socios que han contribuido y apoyado el proceso de elaboración de la Recomendación sobre la ética de la inteligencia artificial.

La aprobación de la Recomendación

El 23 de noviembre de 2021, en la 41 Conferencia General de la UNESCO los 193 Estados miembros aprobaron por aclamación el texto de la Recomendación.

El mundo necesita reglas para que la inteligencia artificial beneficie a la humanidad. La Recomendación sobre la ética de la IA es una respuesta importante. Establece el primer marco normativo mundial, al tiempo que otorga a los Estados la responsabilidad de aplicarlo a su nivel. La UNESCO apoyará a sus 193 Estados Miembros en su aplicación y les pedirá que informen periódicamente sobre sus progresos y prácticas.

Audrey Azoulay, Directora General de la UNESCO

El contenido de la recomendación

La Recomendación tiene como objetivo hacer realidad las ventajas que la IA aporta a la sociedad y reducir los riesgos que conlleva. Garantiza que las transformaciones digitales promuevan los derechos humanos y contribuyan a la consecución de los Objetivos de Desarrollo Sostenible, abordando cuestiones relativas a la transparencia, la rendición de cuentas y la privacidad, con capítulos políticos orientados a la acción sobre la gobernanza de los datos, la educación, la cultura, el trabajo, la atención sanitaria y la economía.

Esta Recomendación traduce el qué de la ética de la IA en el cómo de la acción política relevante, ofreciendo vías concretas para la realización del marco ético de principios y valores universales.

Tiene por objeto servir de base para poner los sistemas de IA al servicio de las personas, las sociedades y el medio ambiente, así́ como para prevenir riesgos.

¿Por qué es importante tener un instrumento de estas características? La Recomendación es innovadora y valiosa porque:

Tiene un alcance global y es un marco ético integral que aborda temas fundamentales en el desarrollo de IA como la inclusión, la equidad, y la no discriminación, en todas las etapas del ciclo del sistema de IA.

Pero, además, la Recomendación no pretende ser una mera declaración de principios y de valores universales como la tolerancia, el respeto, la dignidad, sino que también favorece la transparencia, la rendición de cuentas, la privacidad de la gobernanza de datos, con el objetivo de desarrollar políticas más concretas. Es, sobre todo, un instrumento para implementar mejores políticas y acciones, haciendo especial hincapié en la inclusión, la igualdad de género y la protección del medio ambiente y los ecosistemas.

Incluye acciones políticas en 10 áreas específicas: Evaluación de impacto ético, Gobernanza y rectoría éticas, Política de datos, Desarrollo y cooperación internacional, Medio ambiente y ecosistemas, Género, Cultura, Educación e investigación, Economía y trabajo, y Salud y bienestar social.

 

1. Protección de datos

La Recomendación pide que se actúe más allá de lo que hacen las empresas tecnológicas y los gobiernos para garantizar a las personas una mayor protección, asegurando la transparencia, la capacidad de actuar y el control de sus datos personales. Afirma que todos los individuos deberían poder acceder a sus registros de datos personales o incluso borrarlos. También incluye acciones para mejorar la protección de los datos y el conocimiento y derecho del individuo a controlar sus propios datos. También aumenta la capacidad de los organismos reguladores de todo el mundo para hacerla cumplir.

 

2. Prohibición de los marcadores sociales y la vigilancia masiva

La Recomendación prohíbe explícitamente el uso de sistemas de IA para la calificación social y la vigilancia masiva. Este tipo de tecnologías son muy invasivas, vulneran los derechos humanos y las libertades fundamentales y se utilizan de forma generalizada. La Recomendación subraya que, a la hora de desarrollar marcos normativos, los Estados Miembros deben tener en cuenta que la responsabilidad última y la rendición de cuentas deben recaer siempre en los seres humanos y que no se debe otorgar personalidad jurídica a las tecnologías de IA por sí mismas.

 

3. Ayudar a supervisar y evaluar

La Recomendación también sienta las bases de las herramientas que ayudarán a su aplicación. La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollan y despliegan sistemas de IA a evaluar el impacto de esos sistemas en las personas, la sociedad y el medio ambiente. La metodología de evaluación del grado de preparación ayuda a los Estados Miembros a evaluar su grado de preparación en términos de infraestructura jurídica y técnica. Esta herramienta ayudará a mejorar la capacidad institucional de los países y a recomendar las medidas adecuadas que deben adoptarse para garantizar la aplicación de la ética en la práctica. Además, la Recomendación anima a los Estados Miembros a considerar la posibilidad de añadir el papel de un funcionario independiente de ética de la IA o algún otro mecanismo para supervisar los esfuerzos de auditoría y seguimiento continuo.

 

4. Protección del medio ambiente

La Recomendación subraya que los actores de la IA deben favorecer métodos de IA eficaces en cuanto a datos, energía y recursos que ayuden a garantizar que la IA se convierta en una herramienta más destacada en la lucha contra el cambio climático y en el tratamiento de los problemas medioambientales. La Recomendación pide a los gobiernos que evalúen el impacto medioambiental directo e indirecto a lo largo del ciclo de vida del sistema de IA. Esto incluye su huella de carbono, el consumo de energía y el impacto ambiental de la extracción de materias primas para apoyar la fabricación de tecnologías de IA. También pretende reducir el impacto medioambiental de los sistemas de IA y las infraestructuras de datos. Incentiva a los gobiernos a invertir en tecnología verde, y si hay un impacto negativo desproporcionado de los sistemas de IA en el medio ambiente, la Recomendación instruye que no se utilicen.

Las decisiones que afectan a millones de personas deben ser justas, transparentes y contestables. Estas nuevas tecnologías deben ayudarnos a afrontar los principales retos de nuestro mundo actual, como el aumento de las desigualdades y la crisis medioambiental, y no profundizar en ellos.

Gabriela Ramos, Subdirectora General de Ciencias Sociales y Humanas de la UNESCO

Las tecnologías emergentes tales como la IA han demostrado su inmensa capacidad para hacer el bien. Sin embargo, hay que controlar sus impactos negativos, que están exacerbando un mundo ya dividido y desigual. Los desarrollos de la IA deben respetar el estado de derecho, evitar los daños y garantizar que, cuando éstos se produzcan, los afectados tengan a su alcance mecanismos de responsabilidad y reparación.