Le groupe de 24 experts indépendants nommés par la Directrice générale de l'UNESCO, Audrey Azoulay, en mars dernier, a commencé à travailler sur le premier projet de Recommandation sur l'éthique de l'intelligence artificielle. Il s'agira du premier instrument normatif mondial sur cette question importante.
Du 20 au 24 avril 2020, les experts ont participé à des discussions en ligne pour la première phase de préparation de l'instrument, conformément au mandat donné à l'UNESCO par ses 193 États membres lors de la 40e session de la Conférence générale en novembre 2019.
La pandémie COVID-19 nous a amenés à accroître notre utilisation de diverses technologies numériques. Cela a mis en évidence les défis éthiques existants liés au développement de l'intelligence artificielle. Il était donc important que le groupe d'experts commence ses travaux sur un projet d'instrument normatif,
Le groupe d'experts a discuté d'un ensemble initial de valeurs, de principes de base et d’actions politiques recommandées, ancré dans les valeurs éthiques universelles et les droits humains pour la conception, le développement et le déploiement de l'IA. Les experts ont également souligné
- les préoccupations des pays à faible revenu,
- le bien-être des générations actuelles et futures,
- l'impact de l'IA sur l'environnement,
- l’Agenda de développement durable pour 2030,
- les préjugés de genre et autres,
- les inégalités entre et au sein des pays, et
- le fait de ne laisser personne pour compte.
En effet, comme l'affirme la Déclaration du CIB-COMEST sur le COVID-19, « Les technologies numériques comme les téléphones portables, les médias sociaux et l'intelligence artificielle peuvent jouer un rôle important dans la lutte contre les pandémies, en permettant de surveiller, d'anticiper et d'influencer la propagation de la maladie et le comportement des êtres humains. Il est d'une importance cruciale de s'assurer que les questions éthiques, sociales et politiques liées à l'utilisation de ces technologies soient traitées de manière adéquate. Les droits de l'homme devraient toujours être respectés, et les valeurs de vie privée et d'autonomie devraient être soigneusement équilibrées avec les valeurs de sûreté et de sécurité. »
Ces défis éthiques ne sont pas nouveaux, mais plutôt des préoccupations de longue date liées aux technologies disruptives. En particulier, l'IA a de nombreuses applications potentielles qui promettent de faciliter un meilleur avenir pour tou.te.s, mais aussi des risques potentiels, si elle n'est pas gérée de manière adéquate.
De mai à juillet 2020, l'UNESCO organisera de vastes consultations en ligne multipartites aux niveaux national, régional et international. L'objectif de ces consultations sera de s'assurer que toutes les parties prenantes, y compris les scientifiques, la société civile et le public, participent à l'élaboration du premier instrument normatif mondial sur les dimensions éthiques de l'IA. Le groupe d'experts présentera ensuite un premier projet d'instrument normatif inclusif sur l'éthique de l'IA, qui sera examiné par les États membres de l'UNESCO lorsqu'ils rédigeront un texte final pour approbation en tant que Recommandation mondiale en novembre 2021.
- Plus d'informations sur l'instrument et le groupe d'experts
- Une intelligence artificielle aux valeurs humaines pour un développement durable
- En savoir plus sur l'éthique des sciences et des technologies
Contact médias : Claire O'Hagan, UNESCO Press Service: c.o-hagan@unesco.org