El grupo de 24 expertos independientes nombrados en marzo por la Directora General de la UNESCO, Audrey Azoulay, ha empezado a trabajar en el primer proyecto de la Recomendación sobre la Ética de la Inteligencia Artificial. El primer instrumento normativo mundial sobre esta cuestión.
Del 20 al 24 de abril de 2020, los expertos participaron en debates en línea en la primera fase de los preparativos del instrumento, de conformidad con el mandato encomendado a la UNESCO por sus 193 Estados Miembros en la 40ª reunión de la Conferencia General, celebrada en noviembre de 2019.
La pandemia de COVID-19 nos ha llevado a aumentar el uso de distintas tecnologías digitales. Esto ha puesto de manifiesto los desafíos éticos relacionados con el desarrollo de la inteligencia artificial. Por lo tanto, era importante que el grupo de expertos comenzara a trabajar en un proyecto de instrumento normativo
El grupo de expertos empezó por analizar los valores y principios básicos y recomendó usar medidas políticas ancladas en valores éticos universales y en los derechos humanos para el diseño, el desarrollo y el despliegue de la Inteligencia Artificial. Los expertos también destacaron:
- las necesidades de los países de bajos ingresos,
- el bienestar de las generaciones presentes y futuras,
- el impacto de la IA en el medio ambiente,
- el Programa de Desarrollo Sostenible de 2030,
- el género y otros sesgos,
- las desigualdades entre los países y en su interior, y
- no excluir a nadie.
De hecho, como se subraya en la Declaración del CIB-COMEST sobre la COVID-19, "Las tecnologías digitales como los teléfonos móviles, las redes sociales y la inteligencia artificial pueden desempeñar un papel fundamental en la lucha contra las pandemias, ya que permiten vigilar, anticipar e influir en la propagación de la enfermedad y en el comportamiento de los seres humanos. Es de crucial importancia asegurarse de que se aborden adecuadamente las cuestiones éticas, sociales y políticas relacionadas con la utilización de esas tecnologías. Los derechos humanos deben respetarse siempre, y los valores de privacidad y autonomía deben estar cuidadosamente equilibrados con los valores de seguridad y protección".
Estos desafíos éticos no son nuevos, sino que son preocupaciones arraigadas en relación a la disrupción de la tecnología. En particular, la IA tiene muchas aplicaciones potenciales que prometen facilitar un futuro mejor para todos, pero también posibles riesgos, si no se gestionan adecuadamente.
De mayo a julio de 2020, la UNESCO organizará numerosas consultas en línea con distintos interlocutores en los planos nacional, regional e internacional. El objetivo de esas consultas es asegurar que todos los interesados, incluidos los científicos, la sociedad civil y el público, participen en la elaboración del primer instrumento normativo mundial sobre las dimensiones éticas de la IA. A continuación, el grupo de expertos entregará un primer proyecto del instrumento normativo inclusivo sobre la ética de la Inteligencia Artificial, que será examinado por los Estados Miembros de la UNESCO cuando redacten el texto definitivo para su aprobación de la recomendación mundial en noviembre de 2021.
Para más información sobre el instrumento y el grupo de expertos
Más sobre la ética de la ciencia y la tecnología
Solicitudes de prensa: Claire O'Hagan, Servicio de Prensa de la UNESCO: c.o-hagan@unesco.org