Inteligencia Artificial y Estado de Derecho: fortalecimiento de capacidades para los sistemas judiciales

El uso de la Inteligencia Artificial (IA) en los sistemas judiciales está siendo explorado por los poderes judiciales, los servicios de fiscalía y otros órganos judiciales de dominios específicos en todo el mundo. Por ejemplo, en el campo de la justicia penal, el uso de sistemas de la IA para brindar asistencia en los procesos de investigación y automatizar los procesos de toma de decisiones ya está implementado en muchos sistemas judiciales a nivel global. Teniendo en cuenta los rápidos avances en este campo, los desafíos y las oportunidades relacionados con el aprovechamiento de la IA en los sistemas judiciales y sus implicaciones para los derechos humanos y el Estado de Derecho deben formar parte de las discusiones entre las partes interesadas del ecosistema judicial. En este sentido, este curso de capacitación en línea en forma de Curso Abierto Masivo en Línea (MOOC) se está desarrollando en cooperación con el centro de Categoría 2 de la UNESCO-CETIC y el IEEE (Institute of Electrical and Electronics Engineers), en respuesta a las necesidades expresadas por los Estados Miembros de la UNESCO, los jueces y otras partes interesadas.

Inteligencia Artificial y transformación digital

La IA tiene un enorme potencial para ser utilizada por el bien social y en el logro de los Objetivos de Desarrollo Sostenible (ODS). Sin embargo, incluso cuando se utiliza para ayudar a resolver los problemas sociales más críticos de la humanidad, su uso también genera preocupaciones sobre la violación de los derechos humanos, como el derecho a la libertad de expresión, el derecho a la privacidad, la protección de datos y la no discriminación. Las tecnologías basadas en inteligencia artificial ofrecen grandes oportunidades si se desarrollan respetando las normas, la ética y los estándares universales, y si están ancladas en valores basados en los derechos humanos y el desarrollo sostenible.

El rol de los poderes judiciales en la gobernanza de la Inteligencia Artificial

A two-day seminar on “Freedom of Expression and Safety of Journalists for Judges in Africa”, organized by UNESCO and the GIZ in 2019. © UNESCOUn seminario de dos días sobre "Libertad de expresión y seguridad de los periodistas para jueces en África" y organizado por la UNESCO y la GIZ en 2019. © UNESCO

A medida que avanza el uso de tecnologías de IA, los sistemas judiciales se están involucrando en cuestiones legales sobre las implicaciones de la IA para los derechos humanos, la vigilancia y la responsabilidad, entre otros. Además, los sistemas judiciales también están utilizando sistemas de IA para los procesos de toma de decisiones judiciales que han planteado preocupaciones sobre la equidad, la responsabilidad y la transparencia en la toma de decisiones mediante sistemas automatizados o habilitados por inteligencia artificial.

El potencial de la IA ya está siendo explorado por muchos sistemas judiciales que incluyen el poder judicial, los servicios de fiscalía y otros órganos judiciales a nivel global, en el ámbito de la justicia penal, proporcionando asistencia en procesos de investigación y automatizando/facilitando los procesos de toma de decisiones.

Sin embargo, el uso de la IA plantea una amplia gama de desafíos que deben abordarse: desde el reconocimiento de patrones hasta la ética, las decisiones sesgadas tomadas por algoritmos basados en la IA, la transparencia y la rendición de cuentas. Los algoritmos de autoaprendizaje, por ejemplo, pueden ser entrenados por ciertos conjuntos de datos (decisiones previas, imágenes faciales o bases de datos de videos, etc.) que podrían contener datos sesgados con el potencial de ser utilizados por aplicaciones con fines criminales o de seguridad pública, lo que lleva a decisiones sesgadas.

Teniendo en cuenta los rápidos avances en este campo, los desafíos y las oportunidades relacionados con el aprovechamiento de la IA en el campo de la justicia y cómo los sistemas basados en IA pueden ayudar a los sistemas judiciales en la administración de justicia, deben formar parte de las discusiones entre los actores del ecosistema judicial, lo que incluye el manejo de casos que involucran el uso de la IA con impacto en los derechos humanos.

La iniciativa de Jueces de la UNESCO

UNESCO and Inter-American Court of Human Rights Human (IACHR) signed a Memorandum of Understanding (MoU) to strengthen the protection of freedom of expression, press freedom and safety of journalists in the Latin American and the Caribbean region. © UNESC
La UNESCO y la Corte Interamericana de Derechos Humanos (CIDH) firmaron un Memorando de Entendimiento (MoU) para fortalecer la protección de la libertad de expresión, la libertad de prensa y la seguridad de los periodistas en la región de América Latina y el Caribe. © UNESCO

Desde 2014, la UNESCO y sus socios han estado capacitando a jueces y actores judiciales en torno a los tópicos centrales de la libertad de expresión, el acceso público a la información y la seguridad de los periodistas, principalmente a través de cursos masivos abiertos en línea (MOOC). Más de 17.000 actores judiciales han sido capacitados en América Latina, en asociación con la Corte Interamericana de Derechos Humanos, así como en África, donde la UNESCO se ha asociado con el Centro de Derechos Humanos de la Universidad de Pretoria, la Comisión Africana de Derechos Humanos y de los Pueblos, la Corte Africana de Derechos Humanos y de los Pueblos y la Comunidad Económica de los Estados de África Occidental.

Estos cursos de capacitación mejoran la libertad de expresión, el acceso público a la información y la seguridad de los periodistas al fortalecer las capacidades de los jueces y otros actores de los sistemas judiciales en estos temas. Los cursos brindan a los actores judiciales una visión general de los marcos legales internacionales y regionales relevantes, así como de los nuevos desafíos que presentan Internet y otras tecnologías digitales.

Mediante una mejor comprensión y conocimiento de los estándares internacionales y regionales de libertad de expresión y seguridad de los periodistas, los jueces y otros actores del poder judicial pueden alinear más efectivamente sus decisiones con los estándares internacionales y regionales y las buenas prácticas en estos temas.

Sobre la base de la experiencia anterior, la UNESCO y sus socios están desarrollando este programa para el desarrollo de capacidades de los actores judiciales en relación con el uso de la IA en los tribunales y por las fuerzas del orden, así como para abordar las implicaciones legales de las decisiones judiciales de IA basadas en las normas internacionales de derechos humanos.

La Inteligencia Artificial y el poder judicial: un Curso Abierto Masivo en Línea

UNESCO rolls out first African MOOC on freedom of expression and safety of journalists in 2017. © UNESCOLa UNESCO lanzó el primer MOOC africano sobre la libertad de expresión y la seguridad de los periodistas en 2017. © UNESCO

La necesidad de colaborar con los actores judiciales en cuestiones relacionadas con la IA ha sido reconocida en  la Mesa Redonda de Atenas sobre IA y Estado de Derecho, organizada conjuntamente por la UNESCO, las sesiones del Foro de Gobernanza de Internet sobre el Estado de Derecho en el Ecosistema Digital, la Encuesta de la UNESCO para evaluar las necesidades de fortalecimiento de capacidades en IA en África y, en particular, por los participantes bajo el paraguas de la Iniciativa de Jueces de la UNESCO, que ha involucrado a más de 17.000 operadores judiciales.

Con el objetivo de dar respuesta a estas necesidades, se está desarrollando un curso de formación en línea en forma de Curso Abierto Masivo en Línea (MOOC), en cooperación con el Centro de categoría 2 de la UNESCO-CETIC y el IEEE, en respuesta directa a los requerimientos expresados por los Estados Miembros de la UNESCO en África, jueces y otras partes interesadas.

Objetivos del curso:

  1. Estimular un diálogo participativo con los operadores judiciales sobre las innovaciones relacionadas con la IA en el sistema judicial y promover el conocimiento de las innovaciones digitales en el sistema judicial;
  2. Facilitar el intercambio de conocimientos y experiencias entre los operadores judiciales sobre la IA, normas y estándares existentes (ley dura y ley blanda) en el campo y sus implicaciones para los derechos humanos;
  3. Resaltar los estudios de casos y las mejores prácticas existentes que traduzcan los principios éticos en la práctica, tanto en términos del uso de la IA en los sistemas de justicia como en los casos que involucran el uso de la IA, con impacto en los derechos humanos.

Enlaces: