Pour une éthique de la recherche en IA à l’échelle mondiale

Ces dernières années les progrès ont été spectaculaires en matière d’intelligence artificielle (IA) et donnent lieu à des inventions qu'on n'aurait pas pensées possibles. Ordinateurs et robots sont capables d'apprendre à améliorer leur travail et même de prendre des décisions ‒ ce qui se fait bien entendu par le truchement d'un algorithme et sans conscience individuelle. Mais, tout de même, on ne peut manquer de se poser des questions. Est-ce qu'une machine peut penser ? De quoi est capable l'IA au stade actuel de son évolution ? Jusqu'où va son autonomie ? Qu’en est-il de la décision humaine ?

Plus qu’une quatrième révolution industrielle, l’IA est en train de provoquer une révolution culturelle. Elle est indéniablement appelée à transformer notre futur, mais nous ne savons pas encore de quelle façon. C'est pourquoi elle fascine et effraie.

Le Courrier a mené l'enquête et présente au lecteur ce qu'il faut retenir de ce nouvel objet de recherche qui se situe à la frontière de l'informatique, de l'ingénierie et de la philosophie. Au passage, il remet quelques pendules à l'heure. Car, soyons clairs, en l'état actuel des choses l'IA ne pense pas. Et nous sommes très loin de pouvoir télécharger toutes les composantes d’un être humain dans un ordinateur ! Un robot obéit à un ensemble de routines qui permettent son interaction avec nous autres humains mais, pour autant, en-dehors du cadre bien précis au sein duquel il est censé interagir, il ne peut pas nouer de véritable relation sociale.

Il n’empêche que, d’ores et déjà, certaines des applications de l’IA sont contestables : collecte de données qui empiètent sur la vie privée, algorithmes de reconnaissance faciale supposés identifier des comportements hostiles ou imprégnés de préjugés raciaux, drones militaires et armes létales autonomes... Les problèmes éthiques que l’IA soulève et ne manquera pas de poser demain ‒ avec une gravité accrue ‒ sont nombreux.

Tandis que la recherche avance à toute allure, pour ce qui est des aspects techniques de l’IA, elle piétine, quand il s’agit de ses aspects éthiques. Certes, de nombreux chercheurs s’en inquiètent et certains pays ont entamé une réflexion sérieuse sur la question, mais aucun cadre légal n'existe à ce jour pour orienter la recherche future à l’échelle mondiale. « Il est de notre responsabilité de mener un débat universel et éclairé, afin d’entrer dans cette nouvelle ère les yeux grands ouverts, sans sacrifier les valeurs qui sont les nôtres, et permettre d’aboutir à un socle commun de principes éthiques », déclare dans ce numéro du Courrier la Directrice générale de l’UNESCO, Audrey Azoulay.

Un instrument normatif international est indispensable au développement responsable de l’IA : une tâche à laquelle l'UNESCO est en train de s'atteler et que ce numéro du Courrier s’efforce de soutenir, en proposant des pistes de réflexion.