Explications activité hallucinations

• Remarquez que certaines demandes sont "biaisées" quand on demande le sens d'une expression, on sous-entend qu'elle existe !
• Les modèles de langage sont conçus pour prédire la suite d'une phrase. Ici, la suite prédite est effectivement assez "probable". C'est une grande différence entre "vraissemblable" et "vrai"
• Même lorsque l'IA se connecte à Internet et accède donc à des informations structurées, elles peut se tromper comme dans le cas du stade reinnais. C'est très troublant et important à garder à tête : fournir une source ne suffit pas à ce prémunir des hallucinations (même si elles sont alors en général plus rares)

Il convient cependant de nuancer : les modèles de langages sont incroyablement performants (nous ne tromperons pas les élèves et avons un devoir de transparence). Nous pouvons par exemple discuter avec les élèves des résultats de chatGPT dans différents tests universitaires :

On pourra inviter les élèves à retenir :

1) L’IA tend à aller dans notre sens

2) L’IA baratine (et montre autant d'assurance quand elle dit faux que quand elle dit vrai)