Gouvernements, réseaux sociaux et autres plateformes numériques sont appelés à travailler ensemble afin de :
L'application tendance de retouches photos et d’avatars Lensa fait la une des journaux du monde entier pour avoir généré, grâce à l’intelligence artificielle, des photos sexualisées ou dénudées non-consenties de ses utilisateurs, principalement des femmes. Il ne s’agit malheureusement pas d’une nouveauté ou d’un cas isolé. En 2020, plus de 100 000 femmes ont vu des photos sexuelles, fausses ou privées, être diffusées en ligne à des fins de "divertissement". Ces images ne sont pas anodines. Elles contribuent à radicaliser les hommes et les garçons en présentant les femmes comme des objets et entraînent un changement générationnel qui freine le progrès vers l'autonomisation des femmes, impactant de manière disproportionnée les femmes et les filles racisées ainsi que les personnes LGBTQI et d’autres communautés minoritaires.
Il est grand temps que les réseaux sociaux et les plateformes numériques prennent leurs responsabilités et protègent, conformément au droit international relatif aux droits humains, leurs utilisateurs et utilisatrices. Mais quelles sont les solutions ?
L'UNESCO a lancé un Dialogue mondial réunissant des experts du monde entier des secteurs public et privé et de la société civile à l'occasion de la Journée internationale des femmes dans le multilatéralisme, le 25 janvier 2023, pour réfléchir à des solutions innovantes. Il est espéré que ce dialogue mondial et les recommandations des panélistes qui en découlent suscitent des discussions publiques similaires dans des pays et des régions où les questions liées à la désinformation gérée en ligne n'ont pas été abordées et où des cadres réglementaires ou de co-régulations pour les réseaux sociaux et les plateformes numériques sont en cours d'élaboration en ligne avec le droit international relatif aux droits humains.
Watch the replay
Combattre la désinformation genrée en ligne
Les femmes qui exercent des professions impliquant une présence publique en ligne, telles que les politiques, les artistes, les journalistes et les défenseures des droits humains et de l'égalité des genres sont particulièrement visées par des campagnes de désinformation genrée, le harcèlement, les discours de haine, voire les menaces de mort ou de viol.
Une étude récente de l'UNESCO montre que 73% des femmes journalistes interrogées ont subi des violences en ligne et qu'une sur cinq a été attaquée ou maltraitée dans la vie réelle en lien avec ces violences. Maria Ressa, Lauréate du prix Nobel de la paix (2022) est, depuis 2016, quotidiennement victime de menaces de mort et de viol, de doxing, d’injures racistes, sexistes et misogynes sous forme de texte, d’image et de mèmes, recevant plus de 90 messages haineux par heure sur Facebook, suite à la publication de sa série d’enquêtes dénonçant des campagnes de désinformation menées par l'État.
Une autre étude de l'UNESCO une augmentation des signalements d’attaques en ligne contre les femmes artistes, attaques qui les amènent à quitter l'espace numérique, ou même pire. Zere Asylbek, musicienne kirghize, a été victime d'une campagne de harcèlement en ligne massive après avoir publié sur Youtube un clip dénonçant le sexisme dans son pays. Pendant les dix jours qui ont suivi sa sortie, l’artiste a reçu environ 2 000 commentaires et messages injurieux sur YouTube, Facebook et Instagram, disant que ses harceleurs allaient la retrouver et la violer (Arab News et Freemuse).
Le cercle vicieux des discours de haine, des représailles, de l'autocensure...
Les recherches suggèrent que le modus operandi des réseaux sociaux amplifie la désinformation genrée et les discours de haine, avec des effets dévastateurs sur la vie des femmes. Les femmes peuvent subir des dommages sur le plan professionnel et réputationnel, ce qui les amène à censurer ou à s'autocensurer et les décourage à se lancer dans des domaines professionnels impliquant une exposition publique. Leur santé mentale peut être aussi fortement impactée. 30% des femmes journalistes interrogées par l'UNESCO ont déclaré qu'elles s'autocensuraient sur les réseaux sociaux et 20% ont renoncé à toute interaction en ligne en raison du harcèlement et des menaces subies.
Les femmes qui osent s'exprimer peuvent ne pas être soutenues ou risquer des représailles ; les femmes journalistes peuvent craindre de partager des informations vitales, les scientifiques d'explorer de nouvelles recherches et les artistes de créer des formes d'expression innovantes ou polémiques. Exclure les femmes et les filles de l'espace public numérique affecte l'ensemble du système démocratique. Il s'agit d'un problème complexe pour lequel toutes les parties prenantes doivent assumer collectivement leur part de responsabilité afin de protéger les femmes et les filles dans l'environnement numérique.
De nombreuses plateformes ont mis en place des mécanismes permettant aux utilisateurs de signaler les abus, mais la plupart du temps ceux-ci ne sont pas assez réactifs et efficaces. En plus, il a été avancé que les plateformes autorisent délibérément la désinformation liée au genre afin de répondre aux ‘résultats’ et exigences des investisseurs.
Quelles sont les solutions ?
Il est nécessaire de mettre en place des réglementations ou des co-régulations au niveau mondial qui soient appliquées en cohérence avec le droit international relatif aux droits humains.
L'IA et les modèles d’apprentissage automatique offrent certaines solutions pour identifier les discours haineux et toxiques caractéristiques aux campagnes de désinformation genrée en ligne. Les modèles purement basés sur l'IA présentent toutefois des lacunes. Une combinaison d’examen humain et algorithmique pour détecter les contenus violents ciblant les femmes et les filles dans toute leur diversité est nécessaire pour inverser les biais et les stéréotypes liés au genre et prendre en compte les contextes et les nuances culturelles et linguistiques.
Une plus grande diversité parmi les concepteurs et conceptrices d'outils de détection de contenu indésirable basés sur l'IA est aussi cruciale, or les femmes ne représentent que 12% des chercheurs en apprentissage automatique et 22% des développeurs d'IA (World Economic Forum, 2018). Leurs perspectives risquent donc d'être occultées dans la conception des nouveaux logiciels et programmes d’IA générative. Trouver des solutions aux obstacles structurels à la participation des femmes et assurer la diversité dans les entreprises de technologie numérique et parmi les équipes de modération de contenu pourrait également ne pas suffire pour atteindre le niveau d'impact souhaité.
Des investissements à long terme visant à modifier les récits ainsi que des moyens innovants s'attaquant aux normes sociales néfastes sont nécessaires pour traiter une question aussi urgente et complexe. Il faut d’abord aborder causes profondes de la désinformation et de la violence en ligne basées sur le genre en intervenant auprès des hommes et des garçons au sein des familles, à l'école et dans l’environnement numérique. Il faut également déplacer la responsabilité qui pèse sur les épaules des victimes et se concentrer sur les auteurs et leurs complices. Il est urgent de les tenir pour responsables, sans impunité.
Available Speeches
Opening:
- Audrey Azoulay, Director-General, UNESCO
- H.E. Rachel Annick Ogoula Akiko Epouse Obiang Meyo, Ambassador, Permanent Delegate of Gabon to UNESCO
Keynote:
- Irene Khan, United Nations Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression
Concluding Remarks:
- H.E. Tamara Rastovac Siamashvili, Chairperson of UNESCO’s Executive Board