Éthique de l'intelligence artificielle
Aujourd'hui, l'intelligence artificielle joue un rôle dans la vie de milliards de personnes. Parfois inaperçue, mais souvent avec des conséquences profondes, elle transforme nos sociétés et remet en question ce que signifie être humain.
L'IA peut aider des millions d'étudiants à terminer leurs études secondaires, à créer 3,3 millions d'emplois supplémentaires et, de manière plus urgente, nous aider à lutter contre la propagation et les conséquences de la pandémie de COVID-19. Outre leurs multiples avantages, ces technologies présentent également des risques et des défis, liés à une utilisation malveillante ou à l'aggravation des inégalités et des clivages.
De quoi avons-nous besoin ?
-
Nous avons besoin de politiques et de cadres réglementaires nationaux et internationaux pour garantir que ces technologies émergentes profitent à l'humanité tout entière.
-
Nous avons besoin d'une IA centrée sur l'humain, qui servirait l'intérêt supérieur des citoyens, et non pas l'inverse.
Actualités
Ce qu'il faut savoir sur l'IA
L'IA a montré son efficacité dans la lutte contre la pandémie de COVID-19
L’intelligence artificielle contribue à ralentir l'impact économique de la crise à travers les plateformes numériques. Elle aide également les chercheurs à comprimer d'énormes quantités de données dans la course à la découverte d'un vaccin ou d'un traitement. L'IA a participé à la lutte contre la propagation du virus grâce à des technologies de dépistage, de suivi et de traçage. Cependant, à mesure que les utilisateurs donnent accès à leurs données, la pratique de l'IA durant cette pandémie a ravivé les inquiétudes relatives au respect de la vie privée, à la protection des données et à l'utilisation des données au-delà des besoins de la traque du virus.
La croissance économique tirée par l'IA risque de se révéler fortement inégale
L'IA devrait générer près de US$ 4 trillions de valeur ajoutée d'ici 2022. D'ici 2030, les bénéfices économiques devraient être les plus importants en Chine et en Amérique du Nord, représentant 70 % de l'impact économique mondial de l'IA. La dynamique de l'IA, « le gagnant remporte tout », doit être régulée : la concentration des systèmes d'IA dans les mains de quelques pays à haut revenu est susceptible de laisser les pays en développement loin derrière. Ces derniers ne profiteront pas ou très peu des technologies d'IA et surtout ne s'en approprieront pas.
Et en plus ...
L'IA peut contribuer à accentuer les inégalités entre les genres
Seulement 22 % des professionnel.le.s de l’IA sont des femmes. Parce qu'elles sont sous-représentées dans le secteur, les technologies d'IA reproduisent les préjugés et les stéréotypes de genre. Le fait que des assistants personnels virtuels tels que Siri, Alexa ou Cortana soient « féminins » par défaut n'est pas une coïncidence. La servilité et parfois la soumission qu'elles expriment sont un exemple de la façon dont l'IA peut (continuer à) renforcer et répandre les préjugés contre les femmes dans nos sociétés.
L'IA peut être un outil puissant pour faire face au changement climatique et aux problèmes environnementaux
Alors que la planète continue de se réchauffer, les impacts du changement climatique s'aggravent. En recueillant et en analysant les données, les modèles alimentés par l'IA pourraient, par exemple, contribuer à améliorer la gestion des écosystèmes et la restauration des habitats, essentielles pour diminuer le déclin des populations de poissons et d'animaux sauvages. Ceci dit, l'extraction de données consomme près de 10 % de l'énergie mondiale. Il est donc également essentiel de s'attaquer à la forte consommation d'énergie de l'IA et à l'impact qui en résulte sur les émissions de carbone.
L'IA ne peut pas être une zone de non-droit
L'intelligence artificielle est déjà présente dans nos vies, orientant nos choix, souvent de manière nuisible. Il y a des vides législatifs dans le secteur qui doivent être comblés rapidement. La première étape consiste à se mettre d'accord sur les valeurs absolues qui doivent être garanties, ainsi que sur les règles qui doivent être appliquées. De nombreux cadres et lignes directrices existent déjà, mais ils ne sont pas mis en œuvre de manière uniforme et aucun n'est véritablement mondial. L'IA est mondiale, c'est pourquoi nous avons besoin d'un instrument global pour la réglementer.
Exemples de dilemmes éthiques
Évolution de la Recommandation
La Recommandation sur l’éthique de l’intelligence artificielle
Le processus d’élaboration en un coup d’œil
Le 24 novembre 2021, the la Recommandation sur l’éthique de l’intelligence artificielle a été adoptée par la Conférence générale de l'UNESCO lors de sa 41e session.
L'UNESCO s'est engagée dans un processus de deux ans pour élaborer le premier instrument normatif mondial sur l'éthique de l'intelligence artificielle sous la forme d'une recommandation, suite à la décision de sa Conférence générale lors de sa 40e session en novembre 2019.
En 2020, l'accent a été mis sur la préparation du projet de texte de la Recommandation avec l'aide d'un Groupe d'experts ad hoc (GEAH). Cette phase était constituée de consultations inclusives et multidisciplinaires avec un large éventail de parties prenantes. Ces larges consultations ont été extrêmement importantes pour garantir que le projet de texte soit aussi inclusif que possible.
Vers la fin de 2020 et en 2021, l'accent a été mis sur un processus intergouvernemental et sur la négociation du projet de texte afin de produire une version finale de la Recommandation en vue de son éventuelle adoption par la Conférence générale de l'UNESCO lors de sa 41e session à la fin de 2021.
Les travaux de l'UNESCO sur la Recommandation s'appuient sur l'étude préliminaire sur l’éthique de l’intelligence artificielle de la Commission mondiale d'éthique des connaissances scientifiques et des technologies (COMEST) de l'UNESCO.. Cette étude souligne qu'actuellement, aucun instrument mondial ne couvre tous les domaines qui guident le développement et l'application de l'IA dans une approche centrée sur l'être humain.
Préparation d’un projet de texte de Recommandation
Groupe d'experts ad hoc
24 spécialistes de renom, ayant une expertise multidisciplinaire et pluraliste sur l'éthique de l'intelligence artificielle, ont été nommés par la Directrice générale de l'UNESCO pour former un Groupe d'experts ad hoc (GEAH), en mars 2020.
Ce groupe a été chargé de produire un projet d'instrument normatif mondial, sous la forme d'une Recommandation de l'UNESCO, en tenant dûment compte de diverses dimensions, notamment l'environnement et les besoins du Sud.
Bureau du GEAH
Le GEAH a également élu son Bureau, en utilisant des procédures en ligne, comme suit :
Présidente : Mme Emma Ruttkamp-Bloem
Rapporteur : M. Sang Wook Yi
Vice-président(e)s :
- Mme Constanza Gomez Mont
- Mme Irena Nesterova
- Mme Golestan (Sally) Radwan
- M. Peter-Paul Verbeek
Voir aussi
Première réunion virtuelle du Groupe d’experts ad hoc (mars à mai 2020)
En raison des circonstances exceptionnelles posées par la pandémie du COVID-19, le GEAH a mené la première phase de ses travaux virtuellement de fin mars à début mai 2020.
Un document de travail leur a fourni des informations de base qui ont servi de point de départ à leurs réflexions.
Le GEAH a travaillé virtuellement pendant six semaines au sein de groupes de travail coordonnés par six de ses membres : Robert Kroplewski, Julie Owono Assevini, Golestan (Sally) Radwan, Emma Ruttkamp-Bloem, Peter-Paul Verbeek et Yi Zeng.
Des discussions virtuelles ont également eu lieu du 20 au 24 avril 2020. Plus de 40 observateurs des États membres, des Nations unies et d'autres entités intergouvernementales ont participé à ces discussions et ont fourni des commentaires écrits au GEAH. Ces discussions ont abouti à la première version du projet de texte de la Recommandation préparée par le GEAH en mai 2020, et qui a fait l'objet d'un vaste processus de consultation multipartite de la fin juin au début août 2020.
Seconde réunion virtuelle du Groupe d’experts ad hoc (septembre 2020)
Le GEAH a commencé à examiner les commentaires reçus au cours du processus de consultation multipartite à partir de la mi-août et s'est réuni virtuellement du 31 août au 4 septembre 2020 pour réviser la première version du projet de texte. Au cours de cette semaine, plus de 100 observateurs de 43 États membres, des Nations unies et d'autres entités intergouvernementales, ainsi que des ONG se sont inscrits pour observer la réunion.
Ces travaux ont abouti à la finalisation d'un avant-projet de Recommandation par le GEAH le 7 septembre 2020.
Processus de Consultation multipartite
La première version du projet de texte de la Recommandation sur l’éthique de l’intelligence artificielle préparé par le Groupe d'experts ad hoc (GEAH) en mai 2020 a évolué de manière substantielle après un vaste processus de consultation multipartite en ligne de fin juin à début août 2020. Ces consultations ont été cruciales pour l’élaboration d’un projet de texte complet, inclusif et pluraliste qui tiendra compte des intérêts, des préoccupations et des points de vue des différentes parties prenantes impliquées dans l’IA.
Des partenaires du monde entier se sont joints à l'UNESCO pour organiser ce processus de consultation basé sur trois composantes :
- Consultation publique en ligne ;
- Consultations virtuelles régionales et sub-régionales coorganisées avec des pays/institutions hôtes dans toutes les régions de l’UNESCO ;
- Ateliers de délibération ouverts, multipartites et citoyens dans 25 pays dans le monde, soutenu par plusieurs partenaires canadiens et coordonnés par Mila et Algora Lab (Université de Montréal).
Une consultation sur la première version du projet de recommandation a également eu lieu avec le système des Nations unies par l'intermédiaire du Comité de haut niveau sur les programmes (HLCP), ce qui a donné lieu à une contribution de l'ensemble du système des Nations Unies au GEAH.
La diversité des points de vue recueillis lors des consultations sera prise en compte par le GEAH lors de la révision de la première version du projet du 31 août au 4 septembre 2020.
Processus intergouvernemental et négociations
Le rapport préliminaire et l'avant-projet de la Recommandation ont été transmis aux États membres en septembre 2020, afin qu'ils fassent part de leurs commentaires écrits avant le 31 décembre 2020. Ces commentaires écrits ont été pris en considération par la Directrice générale lors de la préparation de son rapport final sur la Recommandation.
Le rapport final contenant un projet de texte pour la Recommandation a été communiqué aux États membres et soumis à un comité spécial d'experts gouvernementaux (Catégorie II). La réunion du comité spécial s'est déroulée en deux phases, la première du 26 au 30 avril 2021 et la seconde du 21 au 25 juin 2021. Des consultations intersessions ont également été organisées pendant la période du 1er au 18 juin 2021 (pendant 12 jours).
Après des mois de dialogue et de négociation constructifs, les représentants des États membres de l'UNESCO se sont mis d'accord sur le projet de texte d'un nouveau cadre ambitieux et de grande envergure pour le développement et le déploiement éthiques de l'intelligence artificielle.
- Lire le projet de texte, également disponible en anglais
- En savoir plus sur les négociations intergouvernementales (en anglais)
Consultez nos ressources
Comment construire un état de droit dans le monde numérique ?
Dans cette vidéo (en anglais), Gabriela Ramos, Sous-Directrice générale pour les sciences sociales et humaines à l'UNESCO, explique comment les nouvelles technologies transforment le monde et notre quotidien, de manière inimaginable auparavant. La pandémie mondiale a encore accéléré l'application de la technologie de l'IA : des applications de suivi et de localisation aux plateformes numériques pour assurer la continuité de l'enseignement et de l'apprentissage pour des millions d'étudiants. Dans quelle mesure peut-on faire confiance à l'IA ? Qui doit être tenu pour responsable si un algorithme fait preuve de discrimination ou de partialité ? Comment faire en sorte que les avantages économiques de l'IA soient équitablement répartis, au lieu d'amplifier les inégalités sociales croissantes ? L'UNESCO est à l'avant-garde du plus grand dialogue entre les gouvernements, la société civile et le secteur privé pour construire une base solide pour l'état de droit dans le monde numérique.