Stuart J. Russell : “Leur travail va changer mais nous aurons toujours besoin des enseignants”

Propos recueillis par Anuliina Savolainen, UNESCO

Les nouvelles technologies ont investi le secteur de l’éducation depuis longtemps mais leur rôle s’est considérablement renforcé pendant la pandémie liée au Covid-19. Le développement d’intelligences artificielles (IA) génératives comme ChatGPT constitue-t-il un tournant ?

Nous avons réalisé pendant la crise sanitaire qu’il était possible d’enseigner à distance. Plus récemment, le développement de grands modèles de langage a eu un impact immense sur la perception qu’a le grand public des intelligences artificielles (IA) : une révolution s’est produite depuis le lancement de ChatGPT à la fin de l’année 2022.

Nous savons depuis longtemps qu’un cours particulier avec un enseignant peut être deux à trois fois plus efficace que l’apprentissage classique en classe. Nous travaillons depuis une soixantaine d’années sur des systèmes de tutorat reposant sur les IA et, jusqu’à récemment, ils se heurtaient à deux obstacles. Tout d’abord, l’IA ne peut pas –ou ne pouvait pas – avoir une conversation avec l’élève, répondre à ses questions ou créer du lien. Ensuite, l’IA ne comprend pas ce qu’elle enseigne : elle est susceptible de faire un cours de chimie mais elle ne comprend pas la chimie. Pour cette raison, même si elle avait une conversation avec l’élève, elle ne pouvait pas répondre correctement à ses questions.

Avec les grands modèles de langage, ces deux données ont évolué. On peut avoir une conversation relativement cohérente, et ce dans différentes langues. Ils sont plutôt fiables pour répondre aux questions sur le contenu. Il faut encore combler certaines lacunes mais je pense qu’au prix d’un effort raisonnable, il sera possible de proposer un tuteur pour la plupart des matières, au moins jusqu’à la fin du secondaire.

Ceci étant, il serait trompeur de penser que l’on dispose désormais d’un gisement arbitraire d’intelligence pour résoudre n’importe quel problème car il ne s’agit pas vraiment d’une intelligence dite générale. Il y a une apparence convaincante d’intelligence parce que ces systèmes emploient un langage très naturel, mais les propos qu’ils produisent n’ont pas toujours de sens.

L’année 2023 constitue de ce point de vue un tournant. Il y aura un déploiement considérable de technologies et de leurs déclinaisons, mais elles nécessitent encore beaucoup d’améliorations. Et tout cela n’est rien en comparaison de ce que nous promettent les intelligences artificielles générales (IAG), à savoir des systèmes intelligents dont le champ d'application est comparable à l'éventail des tâches que l'homme peut accomplir. Je pense que nous pourrons proposer un enseignement pour chaque enfant dans le monde d’ici à la fin de la décennie.

Dans un tel contexte, quelle peut-être la place des enseignants ?

Leur travail va changer, mais nous aurons toujours besoin de professeurs. L’une des difficultés actuelles est de faire comprendre aux IA de tutorat la spécificité du rôle pédagogique : ne pas avoir raison tout le temps ou, d’ailleurs, ne pas toujours répondre correctement aux questions, mais faire en sorte que l’élève arrive lui-même à trouver une réponse. Il existe déjà des essais prometteurs de modèles de langage générique entraînés à se comporter comme des enseignants. 

À terme, il faudra tout de même un humain pour comprendre comment chaque élève interagit avec le système. En tire-t-il ce dont il a besoin ? Qu’est-ce qu’il ne comprend pas ? Quel mode d’apprentissage lui serait bénéfique ? Les élèves doivent aussi apprendre à travailler ensemble et à se comporter dans un cadre social, là encore ils ont besoin d’enseignants. Le modèle pourrait être celui d’un professeur qui travaille avec un groupe de huit à dix élèves, et passe beaucoup de temps avec chacun d’entre eux. Dans ce cas, on peut imaginer qu’il faudra non pas moins d’enseignants mais davantage.

Le système scolaire classique donne lieu à des contre-performances à tous les niveaux. Certains enfants s’ennuient si leurs capacités sont plus élevées tandis que d’autres peinent à suivre et sont démotivés. Il est terrible de se dire que des enfants peuvent être illettrés à l’issue de leur cursus. Le système scolaire devrait se soucier davantage de la progression individuelle de l’élève et tenir compte des disparités entre les élèves vis-à-vis des apprentissages – une bonne IA d’enseignement devra savoir s’adapter à chaque apprenant. Reste que nous n’en sommes pas encore là. 

La pandémie a mis en lumière la fracture numérique qui existe dans le monde. Ces nouvelles technologies appliquées à l’éducation ne vont-elles pas être confrontées au même écueil ?

La situation est en effet très différente d’un pays à l’autre. Je pense que ces technologies bénéficieront le plus aux pays où les taux de scolarisation sont les plus bas.  Bien sûr, il y a encore des enfants qui n’ont pas accès à un téléphone ou à Internet. Je suis toutefois convaincu que l’évolution sera relativement rapide en la matière, car des dizaines de millions de personnes dans le monde se connectent chaque mois à Internet. Et comparé à une visioconférence avec un enseignant, les IA de tutorat nécessitent beaucoup moins de bande passante.

C’est sans doute au niveau des efforts requis pour créer des contenus et tuteurs adaptés à chaque culture et langue que viendront les difficultés. Par ailleurs, concevoir ces innovations technologiques coûte cher. Historiquement, l’école n’a jamais beaucoup intéressé le milieu de la Tech. Pour veiller à un déploiement planétaire, il faudra probablement une initiative publique ou une initiative privée subventionnée au niveau gouvernemental. Peut-être que l’aide internationale pourrait servir à créer des systèmes scolaires efficaces. Il serait tragique de ne pas y arriver à cause de la cupidité des entreprises ou de la méfiance des États, ou pour toute autre raison.

De l’aveu même de certains protagonistes du secteur technologique, il apparaît nécessaire de réguler le développement de ces nouveaux programmes. D’après vous, se dirige-t-on vers une plus grande réglementation de l’utilisation des ces IA génératives ?

Une réflexion est actuellement en cours pour réguler les IA. Sur le plan règlementaire, la lettre ouverte [appelant à un moratoire sur l’entraînement des IA plus puissantes que GPT-4, signée par des spécialistes du secteur et publiée en mars 2023] semble avoir donné un coup d’accélérateur à ce processus. L’UNESCO a réagi tout de suite et invité ses États membres à adopter des garde-fous et veiller à ce que l’IA se développe conformément à des principes éthiques. Par ailleurs, le gouvernement chinois, le gouvernement des États-Unis, l’Union européenne ainsi que des entreprises de la Tech, entre autres, ont compris qu’il était nécessaire d’agir.

Dans le domaine scolaire, la question de l’évaluation inquiète tout particulièrement et beaucoup la jugent très risquée. La protection des données et le respect de la vie privée sont aussi des questions cruciales. Il faut prévoir des règles strictes pour les protéger. Les données pourraient être accessibles à l’enseignant et éventuellement au personnel administratif, s’il y a par exemple des problèmes disciplinaires.

Nous butons aussi sur les moyens d’empêcher les IA d’avoir des conversations déplacées avec des mineurs. Il faut restreindre de manière draconienne les thématiques que les IA peuvent aborder avec eux. Toutefois, les systèmes comme ChatGPT ont un fonctionnement obscur qui dépend de milliards de paramètres et nous ne savons pas foncièrement comment ils fonctionnent. Beaucoup cherchent à apporter une solution à cette épineuse question. D’après moi, ce n’est peut-être pas possible.

Je pense que la réglementation imposera la conception de meilleures technologies. Les législateurs ne doivent pas accepter un prétexte tel que : « On ne sait pas comment faire. » Si vous étiez une autorité de sûreté nucléaire et que l’exploitant de la centrale vous disait ne pas savoir comment empêcher son explosion vous ne l’accepteriez pas. Vous lui interdiriez d’utiliser le système jusqu’à ce que le problème puisse être résolu. Malgré tout, sur le long terme, j’ai bon espoir que l’on puisse mettre au point des technologies que nous comprenons vraiment et que nous pouvons maîtriser.