Activités IA et esprit critique

On manque encore de recul pour savoir si les LLM vont avoir un effet, et quel effet, sur l'apprentissage. Pour l'instant, il semble que si les LLM sont utilisés pour aider à mettre en place des stratégies dont on sait qu'elles sont efficaces (s'interroger, répéter, etc.), c'est plutôt efficace. Si ça remplace l'effort cognitif, "évidemment", ça ne le serait pas.

Un LLM pour apprendre

Choisir un thème suffisamment connu qui est au programme (sur des sujets rares et récents, les risques d'hallucinations sont plus importants)
Demander à un LLM (duck.ai , perplexity, claude ou chatgpt) de vous faire un résumé, de vous interroger, de vérifier votre compréhension.
Si possible, montrer aux élèves en classe entière ce que peut faire un "très bon" LLM.
Vous pouvez aussi leur montrer les fonctionnalités de Notebook LM utiles pour l'apprentissage.

Les LLM nous rendent-ils nécessairement idiots ?

(cf ci-après des propositions d'activité en lien avec cette vidéo)

Quelle délégation, quelle vérification ?

Dans cette activité, les élèves sont invités à placer différentes situations de délégation sur un diagramme à deux axes : aide à apprendre - fait à ma place / vérifiable - invérifiable.
Difficile de produire une unique "bonne réponse", il s'agit avant tou d'un support pour réfléchir et discuter.

Télécharger les documents

Triche or no triche

L'activité "Triche or No triche" permet de faire réfléchir les élèves à leur utilisation de l'IA. Les scenari proposés par défaut sont intéressants pour de élèves de début de CO, pour des élèves plus âgés, on peut les personnaliser pour les rendre plus subtiles. L'applicatione est développée par Mathix, enseignant de mathématiques en France.

Nous avons des réserves sur cette activité : l'école n'est pas juste un jeu où il ne faut pas tricher. C'est l'opportunité qui est donnée à chacun d'apprendre. Et l'IA peut empêcher un élève d'apprendre. Nous vous proposons de troquer la question "est-ce de la triche ?", par "est-ce que ça m'empêche d'apprendre ?"
Ceci-dit, cette activité pourrait permettre aux enseignants de mieux expliquer dans quel cas un élève sera sanctionné, nous la laissons donc dans notre catalogue.

Il semble indispensable que les élèves soient conscients d'un état apparemment paradoxal :  les LLMs sont incroyablement compétents (ils se placent parmi les meilleurs humains en maths et en programmation et réussissent les tests standardisés de niveau universitaire dans la plupart des disciplines) et peuvent parallèlement faire des erreurs qui semblents grossières (même si les modèles en font de moins en moins) ou être volontairement biaisées. Leur montrer "en direct" quelques erreurs peut permettre d'enclencher une prise de conscience de la prudence dont il conviendrait de faire preuve.

Hallucinations des LLM

Voici quelques demandes fréquentes qui peuvent provoquer des hallucinations chez une intelligence artificielle :

Testez vous même sur duck.ai

Captures d'écran à utiliser

Les hallucinations arrivent relativement fréquemment mais ne sont pas toujours reproductibles. Celles qu'on indique ici "fonctionnent" (donc disfonctionnent!) aujourd'hui, en avril 2025, mais cela pourrait changer. C’est pourquoi nous mettons à disposition des captures d’écran d’exemples réels d’hallucinations, que vous pourrez utiliser si jamais les réponses de l’IA venaient à être mises à jour et corrigées.

Biais politiques : comparaison de plusieurs modèles avec comparia

Est-ce que Taiwan est indépendant ? (Réponds en 3 phrases)

https://www.comparia.beta.gouv.fr/

Biais de genre: exercice de traduction

Traduis “la doctoresse et l’infirmier sont à l'hôpital” en anglais, puis à nouveau en français. Reprendre la traduction en français dans une nouvelle conversartion (sans contexte)

https://chat.mistral.ai/chat

Comprendre - grossièrement - comment fonctionnent les IA semble une priorité pour comprendre les limites qu'on vient de voir, pour les anticiper, et pour se représenter également les risques plus systémiques dont on va parler dans la suite. Nous avons collecté, développé et testé plusieurs activités pour faire travailler cette compréhension.

Apprentissage machine

Dans la tête d'une IA

Deux propositions d'activité pour se mettre dans la peau d'une IA et comprendre ce que peut rerprésenter le fait de "trouver une règle à partir d'exemples".

Activité "Dans la tête d’une IA" : version en ligne / version papier
Cette activité est inspirée de celle produite par la maison des mathématiques de Lyon, complétée de deux sets :
- visages hommes/femmes avec biais de la longueur des cheveux mais aussi peu de diversité de couleur de peau chez les femmes, pour faire un rappel de VittaScience
- avec des nombres pour avoir bien avoir à l'esprit que les IA n'ont pas accès à des concepts avancés pour trouver les règles. (C'est un défaut de cette activité de pouvoir laisser entrevoir le contraire)

Les élèves doivent trouver une règle à partir d'exemples d'entrainement. Cette activité permet de faire sentir ce qu'est l'apprentissage et de réaliser que parfois, plusieurs règles seraient possibles. On ne peut pas être sûrs que l'IA a appris ce qu'on voulait. On peut juste s'assurer de la qualité de ses prédictions quand on l'utilise.

Biais dans les données

Entraîner un modèle sur Vittascience

Dans cette activité de vittascience, on va entrainer un modèle à discerner des photos d'hommes et de femmes. Si on choisit un jeu de données biaisés où toutes les femmes ont les cheveux longs et les hommes les cheveux courts, on prend le risque que le modèle apprenne "la mauvais règle".

Pré-entrainement d'un LLM

Animation (Pré-)entraînement des LLM

Cette animation en ligne donne les grandes étapes du pré-entrainement des LLM

Apprentissage machine : activité ludique de dessin

https://quickdraw.withgoogle.com/

Activité ludique qui devient instructive si on pose les questions suivantes:

• quelles entrées, quelles sorties ?
• quelles données d'entrainement ?

Ces deux questions devraient devenir un réflexe quand on utilise les IA !

Fine tuning et inférence

Température et tokens

Jouer avec la température et voir les tokens

Les modèles obtenus à l'issu d'un entrainement sont fixes : ils calculent les mots suivants les plus probables étant donnés un début de phrases. Mais on peut paramétrer le modèle pour qu'il ne prenne pas LE mot le plus probable mais plutôt qu'il tire au sort parmis les mots possibles. Cela permet d'avoir des réponses différentes pour un même prompt.

Eventuellement, pour aller plus loin :https://tiktokenizer.vercel.app/

Fine tuning : dans la peau d'un annotateur

Activité fine tuning (en ligne ou papier)

On propose ici aux élèves d'être des "annotateurs" durant la phase de "RLHF" (renforcement avec feedback humain). Pendant cette phase, on équipe le modèle de langage une sorte de "morale". L'activité permet de réaliser que 1) les règles morales sont dictées par les entreprises qui produisent les LLM 2) ce n'est pas toujours facile de juger !

Complément humoristique : inférons-nous bien le prochain mot ?

Complément humorisitque pour illustrer notre propre capacité à inférer le prochain mot : 

Les LLM se trompent parfois, sont biaisés souvent, et nous avons tendance à peu remettre en question ce qu'ils disent. Pourquoi ? Parce que... nous ne sommes pas bien difficile à convaincre ! Si vous avez du temps, c'est toujours intéressant de montrer quelques illusions aux élèves pour rappeler que "notre cerveau peut se tromper". Et quand on parle de LLM avec les élèves, il semble incontournable d'évoquer nos biais cognitifs. Nous proposons de focaliser sur : l'effet de halo et le biais de confirmation

Effet de halo

Diviser les élèves en deux groupes. Au premier, on montre cette image :

Au second cette autre image :

Et on compare les résultats.

Cette expérience est extraite de la vidéo que vous pouvez visualiser pour avoir toutes les explications :

Dans le cas des LLM, les réponses sont bien écrites, cohérentes, dites avec assurance, ce qui crée un "halo". On attribue alors aux réponses une caractéristique qui n'est pas forcément liée : les réponses seraient donc vraies !

Biais de confirmation, activité 2-4-6

On explique aux élèves que "2-4-6, ça marche" et on leur indique qu'ils peuvent proposer des exemples et qu'on leur dira si, "ça marche" ou "ça marche pas". Quand ils pensent avoir trouvé la règle, ils peuvent mettre une main sur la tête pour le signaler.  La règle qu'ils doivent découvrir est la suivante : trois nombres donnés par ordre croissant, "ça marche"

Les élèves croiront immédiatement avoir trouvé la règle (succession de trois nombres séparés de 2) et ne proposeront que des exemples allant dans ce sens. Ils finiront par se rendre compte que pour trouver la règle, il leur faut absolument découvrir également quels triplets "ne marchent pas".

Cette activité montre que :

• Face au vide, il est facile d'accepter la première explication
• Il est difficile de s'en défaire ensuite
• Ce n'est pas parce qu'une explication marche qu'elle est correcte

Par ailleurs, pour les LLM, la manière dont on pose les questions est très importante : si on demande "pourquoi le sucre rend hyperactif", on pré-suppose qu'il rend effectivement hyperactif et les LLM auront tendance à donner des arguments pour cette thèse (alors qu'a priori, il n'y a pas de lien). 

Le biais de confirmation fait courrir le risque de la persistance de l'effet des informations erronées, même après correction.

Une mise en garde importante revient à plusieurs reprises concernant les LLM : corrélation n'est pas forcément causalité.
+ D'abort parce que les IA généralisent à partir de corrélations dans les données. Sans ces corrélations, aucune généralisation ne serait possible, aucune "règle" ne pourrait être apprise. Mais comme corrélation n'est pas forcément causalité, ces liens dans les données ne sont pas forcément ceux qu'on aurait voulu que l'IA apprenne.
+ il y a aussi corrélation entre d'une part un ton assuré, maitrise du vocabulaire, et, d'autre part expertise (ça rejoint l'effet de halo)
+ il y a corrélation entre "vraisemblable et cohérent" et "vrai" mais ce n'est qu'une corrélation (ce n'est pas parce qu'une explication marche que c'est la bonne !).
+ il y a corrélation entre "ce qu'on veut" et "ce qu'on demande". On mesure des "proxys" de ce qu'on veut, ce qui peut engendrer des effets pervers.

Corrélation et causalité

Mini jeu corrélation et causalité

Les IA génératives rendent possible la production de textes, images, vidéos très réalistes, très "convaincantes" en grande proportion. La question de la force des preuves et de la confiance dans les médias mérite d'être discutée avec les élèves. Les activités qui suivent peuvent précéder une telle discussion.

Quiz fake ou pas fake

On trouve plusieurs jeux en ligne du type "fake ou pas fake ?", par exemple : 

• Quiz Photos : vrai ou faux ?
• Quiz Vidéos générées par IA
• Quiz sur les fake news (pas uniquement IA)
• https://leonfurze.com/deepfake-game/
• https://quiz.iproov.com/

Analyse détaillée

On peut aussi analyser plus précisemment quelques deep fake / slop et entraîner les élèves à poser les bonnes questions : source ? expertise de l'auteur ? contexte ? plausibilité ? Etc.

Une séquence pédagogique entière est proposée par le CLEMI.

Ou on peut s'intéresser à un exemple en particulier:

• Vidéos :
  •  https://www.tiktok.com/@ragnacore/video/7458999226320686358 ;
  • https://www.youtube.com/watch?embed=no&v=5KFn2icNzMg
• Pages internet, slop ?
  • Exemple : Gilles Dufrenot
  • Exemple : Sondage sur la corruption

Fiches réalisées par la DRANE

3  fiches réalisées par la DRANE d'Aix en Provence : https://www.pedagogie.ac-aix-marseille.fr/jcms/c_11466135/fr/developper-l-esprit-critique-a-l-ere-de-l-ia

Les thèmes suivants sont probablement les plus évidents à aborder en classe. Pour qu'ils puissent être analysés finement, ce qui précède semble pourtant très important. En amont, il conviendrait d'avoir amené les élèves à réaliser que les LLM peuvent se tromper tout en étant extrémement compétents, comprendre comment les IA fonctionnent, être conscients de nos propres biais.

Guillotine de Hume

La guillotine de Hume est un outil utile et commun à toutes les discussions que vous pourrez avoir avec les élèves sur les enjeux sociétaux. On ne peut pas déduire ce qu'il faut de ce qui est.

IA et droits humains : Cartooning for peace

L’outil « Intelligence artificielle , Droits devant ! » est un kit pédagogique complet destiné à faire réfléchir les élèves (16-19 ans ou plus) sur les enjeux de l’intelligence artificielle du point de vue des droits humains. Il repose pour cela sur des posters de dessins de presse avec des fiches d’activités et un document d’accompagnement pour l’enseignant, ainsi que des vidéos de témoignages de jeunes sur les usages de l’IA. 

L’usage-classe peut se faire en combinant plusieurs thèmes (l’IA et les données personnelles, l’IA au travail, l’IA face au climat…) pour diversifier les regards et encourager l’esprit critique. L’objectif est de permettre aux élèves de questionner précisément ce que recouvre l' « intelligence artificielle », de repérer les implications sociétales et éthiques, de débattre et de construire un point de vue éclairé.

Les dessins sont riches et intéressants. De nombreuses activités concrètes sont suggérées : jeux, discussions avec post-its, débats, etc.

Par exemple : "cherche et trouve" 3 indices qui montrent que la scène se déroule dans un musée :

Piet (France) - 2024

Vous trouverez tous les documents en ligne sur le site cartooning for peace : https://www.cartooningforpeace-educ.org/ia et ci-dessous.

IA et écologie

Deux activités peuvent aider à parler des impacts environnementaux de l'IA :

• Sur compar ia et sur vittascience on peut avoir une estimation de l'impact carbone de nos requêtes
• Un ordre de grandeur (très grossier, c'est peut être 10x plus ou 10x moins !) facile à retenir : 1g eqCO2 et 0,1L d'eau par requête). Pour comparaison : 1 minute de douche chaude dans un immeuble chauffé au fioul à Genève, c'est de l'ordre de 100g de CO2 et 10L d'eau (autrement dit, l'équivalent de 100 reqêtes à un LLM...). Un steak de boeuf c'est environ 10'000 g de CO2 et quelques centaines à quelques milliers de litres d'eau. Il ne s'agit pas d'en déduire qu'on peut utiliser les IA sans se préoccuper de l'impact environnemental mais de réaliser que, si l'on veut diminuer son impact carbone individuel, il est probable qu'il y ait des gestes beaucoup plus efficaces que renoncer à l'usage des LLM.
• La BD utopIA peut servir de support à une réflexion
• Il existe plusieurs calculateurs de l'empreinte carbone individuelle, par exemple : https://geneve.nosgestesclimat.ch/fr Celui de vittascience calcule spécifiquement l'impact numérique (mais, comme on l'a dit, ce n'est pas un levier très efficace pour réduire son impact carbone car ça représente en mo.) : https://fr.vittascience.com/co2-calculator 

La question de l'écologie en lien avec l'IA est délicate : une requête à un LLM consomme relativement très peu (si on compare à manger du bœuf ou prendre l'avion, par exemple). Mais l'utilisation est massive.

IA et travail

Cyprien, youtubeur connu d'un public assez jeune, a réalisé un court-métrage intéressant sur la place de l'IA dans le monde du travail. Ce court-métrage de 15 minutes peut servir de point de départ à une discussion avec les élèves:

IA et données personnelles : ce que l'IA devine de vous

• https://www.hownormalami.eu/  montre comment une IA pourrait utiliser les données de notre visage et nos comportements en ligne pour en déduire des informations sur nous.
• Alternative Plus rapide et ne nécessitant pas de caméra : https://theyseeyourphotos.com/ On peut proposer aux élèves de chercher une photo d'eux sur Internet pour qu'ils aient conscience des traces qu'ils laissent, ou utiliser une photo d'une personne "random"
• Alternative ter : ce site qui permet de retrouver quelqu'un à partir d'une photo de visage https://pimeyes.com/en qui permet de montrer aux élèves notre empreinte numérique.

Alignement ?

Mini jeu problèmes d'alignement

L'usine à trombones

Et le jeu dont il est question : https://www.decisionproblem.com/paperclips/index2.html

C'est déjà aujourd'hui

Voir les coupures d'articles dans la galerie ci-dessous