Risques et opportunités de ChatGPT pour l'enseignement

IA

L’irruption fin novembre 2022 d’un outil d’intelligence artificielle (IA) mis à disposition du grand public a suscité de très nombreuses interrogations sur son utilisation et son impact, notamment dans le domaine de l’enseignement. Le présent document a pour objectif de donner des informations permettant au corps enseignant du DIP de comprendre ce dont il s’agit, d’identifier les risques et les opportunités pour l’enseignement, et de proposer des recommandations. Il s’agit d’une première version qui sera mise à jour au gré de l’évolution des connaissances disponibles, de l’expérience acquise et de l’avancée de la réflexion et des progrès de l’IA. Cette première analyse a été complétée par le document «Quels usages concrets de ChatGPT dans l’enseignement?»

Version 1 - janvier 2023

Contexte

Fin novembre 2022, la société californienne OpenAI a lancé ChatGPT, un outil d'intelligence artificielle produisant un langage conversationnel particulièrement performant. ChatGPT donne non seulement l'impression d'avoir réponse à tout et de créer un véritable dialogue avec ses utilisatrices et utilisateurs, mais les réponses qu'il fournit à leurs questions sont structurées, cohérentes et pondérées.

Une semaine après le lancement de l'application, l'entreprise conceptrice a annoncé qu'un million de personnes l'utilisaient déjà. Il arrive d'ailleurs régulièrement que la plateforme soit inaccessible car «en pleine capacité». 

Il n'a pas fallu longtemps pour constater que ChatGPT commet des erreurs (dont il peut s'excuser si on les lui fait remarquer), souvent d'ordre factuel. Il ne fournit pas spontanément les sources de ses connaissances et lorsqu’il les fournit, elles se révèlent régulièrement fausses, voire inventées.

Ces sources, justement, d'où viennent-elles? François Fleuret, directeur du groupe Machine learning de l'Université de Genève, note que ChatGPT «intègre 175 milliards de paramètres optimisés sur des textes de pages web universitaires, de blogs, de livres, et de Wikipédia, constituant un volume total qui équivaut à 750 000 de fois la Bible, ou 167 fois l’intégralité de la version anglaise de Wikipédia.»1

Précisons encore que l'intégration de toutes ces connaissances ne va pas au-delà de 2021. Ainsi, ChatGPT ne nous renseignera pas sur sa propre mise en ligne fin novembre, ni sur la guerre en Ukraine qui a débuté en février 2022. En outre, l’application n'est, pour l’heure, pas programmée pour intégrer de nouvelles informations que pourraient lui fournir les usagères et usagers et n'est pas directement reliée aux flux d’informations figurant sur Internet, ce qui l’empêche de se mettre à jour. Il est toutefois envisageable que les futures versions ne soient plus confrontées à ces barrières.

En fait, ChatGPT ne raisonne pas. Lorsque l’application produit du texte, pour reprendre la formule de François Fleuret, «elle ne fait que broder, un mot après l’autre, sans objectif prédéfini, sans plan, simplement pour que chaque mot posé respecte une cohérence statistique avec ceux qui le précèdent. (…) Si elle écrit souvent des vérités, ce n’est qu’un effet secondaire de son objectif premier d’imitation statistique.»

Il n'empêche que cette «imitation statistique» a atteint un niveau de qualité tel qu'il permet à ChatGPT d'écrire des textes de toutes sortes (lettres, nouvelles, poèmes, rapports, dissertations...) «bien mieux que la plupart des humains», toujours selon François Fleuret.

Et c'est bien tout le problème: ChatGPT, de prime abord, transpire l'intelligence et le savoir, sait s'adapter à son interlocuteur ou à son interlocutrice (enfant de cinq ans, étudiante, enseignant…). On peut donc supposer que le monde de l'enseignement s'empare de cet outil: les élèves pour rédiger un exposé ou un travail de fin d'étude, le personnel enseignant pour préparer des séquences d'enseignement ou faire corriger des travaux.

Attention, danger? Réponse à la manière de ChatGPT: sans doute non, mais il est important de noter que c'est quand même possible. C'est précisément ce que nous allons essayer de définir ci-après selon le schéma des risques et des opportunités.

Précision préalable: l’utilisation d’un outil de langage conversationnel sous nos latitudes concerne, pour le moment du moins, en premier lieu l’enseignement secondaire II. Le cycle d’orientation pourrait y être confronté, mais moins fortement, et l’enseignement primaire pas du tout.

Risques pour l'enseignement

Les risques que nous avons relevés concernent en grande partie une mauvaise utilisation de l’outil.

► Propager des informations et des concepts erronés

Par construction ChatGPT peut générer des phrases erronées. Elles peuvent être d’ordre factuel, mais aussi conceptuel. Il importe donc que ses utilisatrices et utilisateurs ne considèrent pas les réponses fournies comme une vérité absolue.

► Se heurter à la barrière de la prétendue expertise

Ces erreurs ne sont pas simples à détecter pour un œil non expert. ChatGPT s’exprime de manière assez péremptoire et pondérée, ce qui incite à une certaine confiance. Autrement dit, un élève apprenant une notion aura du mal à trier le vrai du faux. Il y a là un risque non négligeable que l’apprentissage via ChatGPT se révèle au final catastrophique, pour cause d'acquisition de fausses connaissances.

► Inciter à la paresse intellectuelle

ChatGPT est capable de rédiger des textes courts ou longs, il suffit de lui faire des demandes précises. Les résultats ainsi obtenus, bien que n’étant pas excellents, ont été qualifiés par plusieurs enseignantes et enseignants de passables à bons. Il y a donc le risque que des élèves s’emparent de l’outil pour tous leurs travaux à domicile.

► Ne pas pouvoir détecter le plagiat

Les outils de détection de plagiat, tels que Compilatio, l'application officielle proposée par le DIP, permettent de détecter des textes puisés sur Internet. Or impossible, pour l'heure, de détecter le plagiat dans un texte issu de ChatGPT, puisqu'il s'agirait d'une «création originale», donc à priori inexistante ailleurs. OpenAI a annoncé la mise en place prochaine d'un système de traçage. Encore faudra-t-il en vérifier la fiabilité.

Les enseignantes et enseignants pourraient percevoir ou sentir qu’un travail n’est pas une vraie production d’élève, mais faute de preuve, cela resterait impossible à invalider.

Précisons qu'il n'y a en revanche pas de vide juridique qui empêcherait de considérer un texte issu de ChatGPT comme du plagiat. En effet, pour ne prendre qu'un seul exemple, «L'aide-mémoire de la maturité fédérale pour le travail de maturité» précise que sont notamment considérés comme des plagiats «la remise de l’œuvre d’un tiers sous son propre nom». Mais également «la reprise de passages de textes de tiers sans marques de citation. Cela inclut le téléchargement et l’utilisation de passages de textes d’Internet sans indication de la source.»

► Aggraver les inégalités

Les concepteurs de ChatGPT ont annoncé que leur outil pourrait devenir payant. Forcément, cela créerait une inégalité entre les usagères et usagers qui achètent les services de l’application et celles et ceux qui se contentent d'une éventuelle version gratuite limitée, pour autant qu'il y en ait une. En outre, ChatGPT pourrait accroître la fracture numérique entre celles et ceux qui font un usage conscient et pondéré des nouvelles technologies et les autres.

► Accentuer la perte de valeur de l’enseignement

Déjà passablement chahutée par une partie de la population, des parents quérulents et des élèves peu enclins à respecter des règles, la profession enseignante pourrait subir un nouveau coup avec l’émergence de ces nouveaux outils d’intelligence artificielle. Imaginons par exemple qu’une élève ou un de ses proches demande à ChatGPT d’évaluer un travail mal noté et que l'application propose une évaluation plus favorable que la note donnée par l’enseignante ou l’enseignant: la situation pourrait vite devenir intenable pour la profession.

Opportunités pour l'enseignement

Les opportunités sont à la fois d’ordre technique et éthique.

► Aider à la préparation d’une séquence d'enseignement

Idéalement, ChatGPT ne devrait être qu'une application parmi une palette d'outils pédagogiques. Elle pourrait, par exemple, aider le corps enseignant à générer des questionnaires de compréhension d'un ouvrage lu en classe, à élaborer des exercices de mathématiques. Les possibilités sont sans doute nombreuses. Aux enseignantes et enseignants de s'en emparer.

► Faciliter la correction des travaux d'élèves

On peut également supposer, même s’il faudrait bénéficier de davantage de recul et d’expérimentation, que ChatGPT puisse être une aide - contrôlée - lors de la correction de travaux écrits rendus sous formats numériques. 

► Interroger le savoir

ChatGPT et ses successeurs devraient s’imposer, qu’on le veuille ou non. Le rôle des enseignantes et enseignants se révélera donc d'autant plus essentiel dans l'accompagnement des élèves. Jusqu'à présent, ces derniers pouvaient trouver sur Internet les informations nécessaires à leurs travaux. Encore fallait-il qu'ils les assemblent de manière pertinente. Tout ce travail peut désormais être effectué, avec plus ou moins de pertinence, par ChatGPT. L'enseignante et l’enseignant ne sont déjà plus les seuls détentrices et détenteurs du savoir. Désormais guides dans la recherche et l'acquisition des connaissances des élèves, il leur faudra bientôt assumer le rôle de celui ou celle qui interroge le savoir avec eux, en les incitant à aller au-delà des réponses fournies, à faire preuve de davantage de subtilité que ChatGPT.

► Redonner de la valeur à l’enseignement

Suivant les questionnements évoqués ci-dessus, l’utilisation de ChatGPT pourrait redonner de la valeur à l’enseignement. La profession enseignante ne consiste-t-elle pas en grande partie à favoriser le développement de l’esprit critique chez les élèves, à encourager leur créativité, à leur donner le plaisir d’apprendre?

Recommandations

Gardons à l'esprit que cette version de ChatGPT n'est qu'une première étape. La future version de ChatGTP devrait contenir 100 trillions de paramètres, soit presque 600 millions de fois plus que les 175 milliards du modèle de 2022. Des entreprises informatiques concurrentes, notamment les géants du Web, proposeront des outils similaires, sûrement aussi puissants. Le processus ne fait que commencer. Le monde de l'enseignement ne peut l'ignorer.

Sur la base des éléments fournis ci-dessus, le SEM émet cinq recommandations :

► Former le personnel enseignant

Il est nécessaire que les enseignantes et enseignants puissent appréhender l’ensemble des outils similaires à ChatGPT. Les formations devront à la fois décortiquer leur fonctionnement, mais également proposer des stratégies d'utilisation. Il faudrait en outre proposer des moment de partage afin de répondre aux interrogations que se posent les enseignantes et les enseignants.

► Définir des cas d'usage

Un outil d'intelligence artificielle produisant un langage conversationnel peut s'avérer utile pour permettre aux enseignantes et enseignants de préparer des séquences d'enseignement. Il faut bien sûr que l'enseignant reste maître à bord en définissant précisément ce qu'il attend de la machine et en validant – ou pas, s’il n’est pas satisfaisant – le résultat. Dès lors, il faudrait élaborer une série de bonnes pratiques, comme un corpus d'aide à la création pédagogique, validées par des pairs, évitant au corps enseignant de se perdre dans les méandres de l'application. Il est important de rappeler que l’outil s’avère surtout utile pour les personnes expertes dans le domaine qu’elles décident d’investiguer avec ChatGPT.

► Revoir les règlements, chartes et directives du DIP

Les différents documents qui cadrent l’enseignement public à Genève dans le domaine numérique doivent être analysés à la lumière des changements induits, aujourd’hui par ChatGPT, demain par des outils similaires et plus performants. Cela nécessite de préciser les usages scolaires possibles, ainsi que les interdictions, et de rappeler que l'utilisation de l'IA ne peut se faire sans le respect des règles éthiques en vigueur pour n'importe quel outil numérique.

► Renforcer l'esprit critique

L’objectif de renforcement de l’esprit critique figure à l'article 10 de la LIP: l'école doit «préparer chacun à participer à la vie sociale, culturelle, civique, politique et économique du pays, en affermissant le sens des responsabilités, la faculté de discernement et l’indépendance de jugement»2. En outre, le principe d'enseignement AU numérique vise précisément à aider les élèves à acquérir le recul nécessaire face aux nouvelles technologies. Il est donc possible d'intégrer l'analyse des outils de production conversationnelle dans les cours qui s'y prêtent, en montrant qu’une telle application n’est qu’un outil imparfait, mais qui, sous certaines conditions, peut constituer une aide à l'apprentissage.

► Améliorer la capacité du DIP à analyser les enjeux de l’IA

L'amélioration continue de la capacité d'analyse de l’IA et ses usages dans l’enseignement est un enjeu central. Cela passera notamment par le renforcement de la collaboration au sein des services du DIP (DGs, SEM, SRED, SG), mais également avec des partenaires externes, tels que l’Université de Genève (IUFE et TECFA). On pourrait par exemple imaginer que le colloque Pratic se développe pour donner lieu à un observatoire de l'intelligence artificielle.

______

1. Le Temps, Opinion, François Fleuret, «Il faut que l'on parle de ChatGPT», 11 janvier 2023
2. Loi sur l’instruction publique

Voir également: Quels usages concrets de ChatGPT dans l’enseignement?
Pour partager cette page

https://edu.ge.ch/sem/node/3574