Innover dans l’IA pour répondre aux défis sociaux

L’intelligence artificielle (IA) sert désormais à résoudre deux des problèmes les plus épineux du moment : la prolifération des fake news et les intrusions croissantes dans notre vie privée. Factmata, qui l’utilise pour contrer la désinformation, et D-ID, qui s’en sert pour protéger les identités contre les systèmes de reconnaissance faciale, sont deux des dix lauréats du Netexplo 2019, récompensés en avril au Siège de l’UNESCO. 

Dhruv Ghulati, PDG et cofondateur de la société londonienne Factmata, et Gil Perry, PDG et cofondateur de D-ID, basée à Tel-Aviv (Israël) et à Palo Alto, en Californie (États-Unis), ont présenté leurs innovations au Courrier de l’UNESCO.  

Propos recueillis par Shiraz Sidhva

Dhruv Ghulati : combattre les fake news

Qu’est-ce qui vous a incité à créer une start-up IA visant à endiguer la désinformation ? N’est-ce pas une tâche titanesque, comme la lutte contre la corruption ?

C’est vrai que ce n’est pas simple. Mais si vous voulez changer le monde, plutôt que simplement créer une entreprise, vous devez frapper là où vous aurez un impact tel qu’elle touchera le monde entier si cela fonctionne. En associant l’IA et la communauté humaine, Factmata développe des algorithmes explicables pour résoudre le problème de la désinformation en ligne et construire un écosystème médiatique de meilleure qualité. 

Le système de notation de Factmata est capable de digérer l’intégralité des contenus en ligne, de les lire intelligemment et d’appliquer neuf signaux de classement − discours de haine, biais politique et sexisme compris − pour donner aux utilisateurs une idée précise de la qualité, de la sûreté et de la crédibilité de tout ce qui est posté sur le web. Il effectue ces classements de façon impartiale et explicable, grâce à un réseau exclusif d’experts qui sont les plus qualifiés pour évaluer chacun de ces contenus. 

Notre but est de créer un nouveau système universel de classement qualitatif des contenus en ligne, déployé sur les plateformes automatisées de vente et d’achat d’espaces publicitaires en ligne, les navigateurs, les moteurs de recherche, les réseaux sociaux, etc. Le journalisme de qualité sera ainsi mieux classé et mieux monétisé, tandis que les contenus peu crédibles et inappropriés seront démonétisés. 

Quelle différence y a-t-il entre Factmata et d’autres logiciels en usage, comme celui qu’utilise Facebook, par exemple ?

Notre technologie a beaucoup de potentiel. Elle peut devenir plus précise encore grâce à notre recours exclusif aux communautés d’experts pour construire notre logiciel. Nous utilisons ainsi des données uniques au lieu d’utiliser les fichiers de données ouvertes auxquels tout le monde a accès. La maintenance de ces données uniques est très compliquée et prend beaucoup de temps. Eh bien, nous avons découvert un moyen d’obtenir ces données de façon moins coûteuse et plus efficace que les autres, en faisant en sorte que les utilisateurs participent eux-mêmes au processus.

Qui sont vos premiers utilisateurs ? 

D’abord, des gens comme vous et moi qui veulent utiliser nos outils pour tester leur esprit critique, et ensuite, des marques et des gouvernements qui veulent être sûrs de pouvoir surveiller les gens qui répandent des rumeurs réellement nocives pour la santé de la société, ou diffusent de la désinformation qui pourraient perturber le lancement d’un produit ou d’une campagne. 

Selon vous, pour éradiquer les fake news, qu’est-ce qui est le plus efficace, l’IA ou l’intelligence humaine ?

L’intelligence humaine, de loin. Les algorithmes fonctionnent sur de nombreux équipements informatiques et peuvent analyser des millions d’éléments de contenu à la seconde pour signaler de fausses informations. Il faudrait des armées d’humains pour en faire autant, et encore. Ils n’arriveraient pas à travailler sans relâche et à la même vitesse. Par conséquent, la solution est d’utiliser à la fois les ressources humaines et l’IA. 

Les hackers et les semeurs de fake news peuvent-ils duper l’IA ? 

Ils vont sûrement tenter de le faire. Mais notre but est de leur rendre la tâche de plus en plus difficile. La qualité du système finit vite par l’emporter sur les fraudeurs capables de déjouer le système. C’est ainsi que nous avons surmonté le problème des spams, et même la plupart des problèmes de cybersécurité. 

L’essentiel pour nous, c’est de pouvoir survivre assez longtemps avec assez de financements pour construire notre technologie de base, et d’assurer une clientèle qui nous soutienne, afin de pouvoir envisager l’avenir. Je pense qu’avec le temps, nos efforts finiront par payer et que nous réussirons là où la plupart renonceraient.

---------------------------------------------------------------------------------------------------------------------

Gil Perry : rendre les visages illisibles 

Vous êtes un vétéran de l’unité d’élite 8200 du service de renseignement de l’armée israélienne. Comment en êtes-vous venu à créer un logiciel destiné à protéger les identités contre les systèmes de reconnaissance faciale ? 

L’idée m’est venue pendant le service militaire. À l’époque, nous étions tout à fait conscients des risques des technologies de reconnaissance faciale pour la vie privée et la protection des identités. À cause de cela, nous n’avions pas le droit d’afficher nos photos sur les médias sociaux. Quand j’ai quitté l’armée, j’ai décidé de creuser la question. J’ai étudié la vision par ordinateur et le traitement d’images et travaillé plusieurs années dans le secteur. Puis, il y a environ deux ans et demi, j’ai fait équipe avec Sella Blondheim et Eliran Kota, les cofondateurs de D-ID. Nous nous sommes mis ensemble à écrire un des algorithmes les plus pointus qui soient pour protéger les photos des technologies de reconnaissance faciale. C’est aujourd’hui le socle de D-ID. 

Nos visages sont devenus nos mots de passe. Mais comme on ne peut pas changer son visage comme on change un mot de passe ordinaire, il fallait donc le protéger. Nous avons développé une technologie IA qui rend les images impossibles à identifier par les algorithmes de reconnaissance faciale, en les modifiant d’une manière indétectable à l’œil nu. Les gens peuvent ainsi stocker, partager et utiliser leurs images sans craindre que leurs visages soient récupérés, décryptés et détournés par les moteurs de reconnaissance faciale. 

Pourquoi faut-il se protéger de la reconnaissance faciale, et que risque-t-on si on n’utilise pas de logiciel pour masquer les photos ? 

D’abord, la reconnaissance faciale est partout, et le marché est en plein essor. Ensuite, nous sommes entourés de caméras. Il y a de la vidéosurveillance partout, dans la rue, les magasins, les trains. Nous avons tous aussi des smartphones, que nous utilisons pour prendre des photos et des vidéos. Enfin, nos photos sont partout, sur les réseaux sociaux, les serveurs de nos bureaux, les bases de données de l’État, etc. Tout cela fait que n’importe qui peut vous identifier, vous suivre et vous voler votre identité.

La technologie de reconnaissance faciale peut vous permettre de juger le comportement des gens ou vous dire si votre voisin de palier a un découvert bancaire. Dans certains pays, vous pouvez photographier quelqu’un dans la rue et utiliser la reconnaissance faciale pour obtenir les moindres détails de sa vie. On sait que ces applications ont été utilisées pour harceler les minorités et les manifestants. Aux États-Unis et ailleurs, on se sert de la reconnaissance faciale pour connaître l’âge, le sexe, l’origine ethnique d’un client, ce qu’il pense d’un produit, et bien plus encore. 

En bref, nous devrions tous nous préoccuper de la préservation de notre vie privée. Heureusement, D-ID propose une solution. 

L’algorithme exclusif de D-ID associe un traitement d’images dernier cri aux techniques d’apprentissage profond (qui permet aux machines de reconnaître par elles-mêmes des concepts complexes comme des visages), pour resynthétiser n’importe quelle photo en une version protégée. C’est extrêmement difficile à faire, et nous pensons être actuellement les seuls à pouvoir fournir cette technologie. 

Pouvez-vous avoir des problèmes avec les services publics, qui sont de grands utilisateurs de cette technologie ? 

Non, nous n’en avons pas. Au contraire, les gouvernements et législateurs locaux réclament plus de réglementation pour protéger la vie privée, ce qui correspond bien à notre vision.    

Qui sont vos clients ? Des personnes désireuses de protéger leur identité ? 

Actuellement nous vendons surtout notre technologie à des sociétés. Elles s’en servent pour protéger les images de leurs cadres et de leurs employés, ainsi que les bases de données d’images de leurs clients. 

Nous ciblons aussi les écoles pour aider les enseignants et leurs élèves à poster et à partager des images protégées. Nous espérons pouvoir progressivement offrir D-ID à tous, avec des solutions embarquées pour smartphones et appareils photo, de sorte que chaque image que nous prenons devienne non identifiable dès sa création.