Gran angular

Audrey Azoulay: aprovechar al máximo la inteligencia artificial

cou_03-18_dg_itw_01.jpg

Representación simbólica de la cooperación entre IA y seres humanos.

La inteligencia artificial (IA) podría ayudar a la humanidad a superar muchos problemas sociales graves a los que se enfrenta, pero plantea al mismo tiempo una serie de desafíos complejos, sobre todo en materia de ética, de derechos humanos y de seguridad. Ahora bien, no existe en este momento ningún marco ético internacional que se aplique a todos los adelantos y aplicaciones de la IA. Es indispensable un instrumento normativo internacional.

Entrevista a Audrey Azoulay, directora general de la UNESCO, realizada por Jasmina Šopova

¿Por qué la UNESCO se interesa en la IA?

Los expertos coinciden: la humanidad está en el umbral de una nueva era. La inteligencia artificial (IA) transformará nuestra existencia de un modo tal que ni alcanzamos a imaginar. Esta transformación ya comenzó y afecta todos los aspectos de nuestra vida. La IA tiene muchas aplicaciones en áreas tan variadas como la salud, la educación, la cultura, la seguridad, la defensa, etc. La investigación cobró un fuerte impulso en estos últimos años: los gigantes de la web (GAFAM), pero también muchos países realizan ahora importantes inversiones en IA y se convierten en actores de esta “cuarta revolución industrial”.

La UNESCO tiene un importante papel que desempeñar en estos cambios. En primer lugar, porque las aplicaciones de la IA afectan directamente a sus ámbitos de competencia. La IA transformará profundamente la educación. Se van a revolucionar los métodos de enseñanza, las formas de aprender, de acceder al conocimiento, de capacitar a los docentes. Las competencias que habrá que desarrollar para evolucionar en un mundo cada vez más automatizado será un tema que adquirirá cada vez mayor importancia.

La IA se emplea ya con frecuencia en el ámbito de la cultura, por ejemplo, en las imágenes 3D utilizadas para la reconstrucción del patrimonio, como vamos a hacer nosotros para la ciudad vieja de Mosul en Irak. En las ciencias también, especialmente en nuestros programas medioambientales y en la investigación subacuática, por ejemplo, para la clasificación de las imágenes de plancton o la detección y la identificación automáticas de cetáceos y aves marinas. Desde luego, la comunicación y la información también dependen directamente de los avances realizados en materia de IA. La UNESCO debe abordar esta reflexión sobre los beneficios y los riesgos de la IA para la educación, la cultura, la ciencia, la comunicación y la información.

¿Cuáles son los riesgos según usted?

En general, la IA puede ser una fantástica oportunidad para lograr los objetivos fijados por la Agenda 2030, pero ello supone tratar sin más demora las cuestiones éticas que plantea. Una oportunidad, ya que sus aplicaciones pueden ayudarnos a avanzar con más rapidez hacia el logro de los Objetivos de Desarrollo Sostenible, permitiendo una mejor evaluación de los riesgos y una mejor previsión, así como una divulgación más rápida de los conocimientos; ofreciendo soluciones innovadoras en materia de educación, salud, ecología, urbanismo e industrias creativas; y mejorando el nivel de vida y el bienestar diario. Pero también constituye una amenaza, ya que la automatización y la digitalización crean nuevos desequilibrios, pueden reducir la diversidad en las industrias culturales, transforman el mercado de trabajo, generan precariedad y aumentan las desigualdades entre los que tienen acceso a estas nuevas tecnologías y los que no. 

Aquí también la UNESCO tiene un importante papel que desempeñar: procurando reducir, a través del apoyo que brinda a sus Estados miembros, las desigualdades en el acceso al conocimiento y a la investigación. La fractura tecnológica puede tener un efecto multiplicador en las desigualdades sociales. La UNESCO debe estar en condiciones de ayudar a sus Estados miembros a adaptarse a las nuevas realidades y a que accedan al conocimiento tecnológico.

¿Cómo puede la UNESCO brindar concretamente este apoyo?

Uno de los desafíos, para los Estados miembros, es poder contar con materiales de ingeniería sofisticados, a la vanguardia de la innovación, así como con recursos humanos adecuados –científicos e ingenieros. Gracias a sus Centros de Educación y Formación en Ciencia, Tecnología e Innovación (CTI), su Observatorio Mundial de Instrumentos de Política en Ciencia, Tecnología e Innovación (GO-SPIN) o incluso su Programa Internacional de Ciencias Fundamentales (PICF), la UNESCO está en condiciones de brindar ese apoyo y de ayudar a reducir las desigualdades entre los países.

¿Cuáles son los desafíos que plantea la IA en materia de educación? ¿Cómo pretende la UNESCO enfrentarlos?

Se trata, obviamente, de un ámbito esencial para la Organización. También en este caso, la revolución que está en marcha genera efectos tanto positivos como negativos. Se están utilizando ya aplicaciones pedagógicas basadas en la IA para descentralizar la enseñanza, personalizarla, asesorar a los estudiantes sobre los planes de estudios o incluso sobre las certificaciones. Pero estas tecnologías son costosas y, por lo tanto, inaccesibles para la mayoría: la brecha entre ricos y pobres puede hacerse aún más profunda. 

Debido a la función de coordinación del Comité Directivo ODS – Educación 2030, encargado de realizar el seguimiento hacia el logro del Objetivo de Desarrollo Sostenible 4, dedicado a la educación, la UNESCO está en una posición excelente para llevar a cabo este trabajo, identificando las posibles contribuciones de la IA a una educación inclusiva y evaluando su impacto en el futuro del aprendizaje.

La promoción de herramientas de IA de libre acceso, que impulsen las innovaciones locales, será una de nuestras prioridades.

A fin de preparar a las futuras generaciones para el nuevo panorama de trabajo que la IA está creando, también será necesario reconsiderar los programas educativos, haciendo énfasis en la enseñanza de las ciencias, la tecnología, la ingeniería y las matemáticas, pero también dando prioridad a las humanidades y a las competencias en materia de filosofía y ética. 

¿Cuál es la relación entre la IA y la filosofía o la ética?

En su vida de adultos, los escolares y estudiantes de hoy en día deberán afrontar sin duda problemas cuya naturaleza desconocemos en el momento actual. Es difícil prever todas las evaluaciones posibles de estas máquinas cada vez más sofisticadas que cada día adquieren mayor autonomía, hasta el punto de desafiar ya, en cierta medida, la identidad humana. Es por esta razón que las competencias en materia de ética, pero también en ciencias sociales y humanas en general, serán tan importantes como las competencias en ciencias formales. También puede haber prejuicios incorporados en los sistemas de IA –en especial prejuicios de género–  que requieran mayor transparencia de parte de esos sistemas y principios éticos sólidos para corregirlas.

¿Por qué es difícil prever la evolución futura de la IA?

La investigación en materia de IA avanza a gran velocidad, mientras que los contextos jurídicos, sociales y éticos en los que debería enmarcarse evolucionan muy lentamente. ¿Hasta dónde puede llegar la autonomía de una máquina y su poder de decisión? En caso de accidente, ¿en quién recae la responsabilidad? ¿Y quién decide sobre los valores inculcados a las máquinas durante lo que se denomina su “aprendizaje”? Éstas y muchas otras preguntas permanecen aún sin respuesta.

Se ha observado, por ejemplo, que algunos algoritmos formados en el lenguaje humano corriente habían adquirido prejuicios basados en estereotipos a partir de datos textuales presentes en nuestra cultura diaria. ¿Cómo no preocuparse ante el peligro de ver aparecer máquinas con conductas discriminatorias, racistas u hostiles?

Hay motivos para preocuparse también por muchos otros aspectos: protección de la vida privada y publicidad personalizada en Internet; libertad de expresión y algoritmos de censura; periodismo automatizado y monopolio de la información, etc.

Si bien la investigación fundamental en la materia está, en general, motivada por el bienestar, siempre es posible que existan desviaciones involuntarias, pero también voluntarias. Por este motivo, es indispensable asegurarse de que esta tecnología se desarrolla siguiendo normas éticas rigurosamente establecidas.

¿Qué puede hacer la UNESCO en este sentido?

Si queremos aprovechar al máximo las posibilidades que ofrece la IA para el mundo entero, debemos asegurarnos de que esté al servicio de la humanidad, respetando la dignidad y los derechos humanos.

Ahora bien, no existe en la actualidad ningún marco ético internacional que se aplique a todos los avances y las aplicaciones de la IA. 

La UNESCO es este foro universal único que cuenta con una experiencia de más de veinte años en la elaboración de instrumentos internacionales relativos a la bioética y a la ética de las ciencias y la tecnología*. Esta organización también cuenta con el apoyo de dos órganos consultivos de expertos que trabajan activamente en estas cuestiones: la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST) y el Comité Internacional de Bioética (CIB).

Es nuestra responsabilidad llevar a cabo un debate universal e informado –no un debate técnico, sino ético– a fin de entrar en esta nueva era con los ojos bien abiertos, sin sacrificar nuestros propios valores y poder lograr, si los Estados miembros lo desean, un conjunto común de principios éticos.

 

Robots y ética

¿A quién le corresponde tomar la decisión?

 

Más información:

Declaración Universal sobre el Genoma Humano y los Derechos Humanos (1997)

Declaración Internacional sobre datos Genéticos Humanos (2003)

Declaración Universal sobre Bioética y Derechos Humanos (2005)

Declaración de Principios Éticos en relación con el Cambio Climático (2017)

Recomendación sobre la Ciencia y los Investigadores Científicos (2017)