Open AI a publié une étude s’intéressant aux “hallucinations” des IAs. C’est cette fâcheuse tendance que peuvent avoir les LLM (large language model, comme chatGPT par exemple) à produire parfois du texte parfaitement plausible mais faux. L’article nous explique que ces hallucinations sont le résultat de plusieurs facteurs.
Non classé
Entretien du SEM : comment dominer le jeu vidéo?
Le mercredi 28 mai, nous avons accueilli Lucien Ding, responsable genevois de l’Académie Noétic, lors d’un «entretien du SEM»
Noétic? Cette association propose des cours de jeux vidéo pour les jeunes. Bien au-delà d’un travail de «virtuosité» pour les joueurs, l’académie a pour vocation d’accompagner les adolescents dans une pratique raisonnée des jeux vidéo. A chaque cours, des thèmes tels que les achats dans les jeux vidéo, l’économie de l’attention, les conflits autour des écrans avec les parents, etc. sont abordés.
Lucien Ding, ancien joueur de haut niveau et doté d’une expérience de travailleur social, est un coach qui plaît aux jeunes et rassure les parents.
A ce propos, il dit avoir constaté, au fil des années, un fossé se créer entre l’usage du numérique par les jeunes et la compréhension de ce monde par leur entourage. C’est-à-dire? «Tant les jeunes que leurs parents maîtrisent le numérique, mais chaque groupe maîtrise ses propres codes. Et les jeunes comprennent mieux les codes des parents que l’inverse. C’est d’ailleurs logique, puisque lorsque la culture des jeunes est rattrapée par celles de leurs aînés, elle perd de son charme.»
Ancien membre de la division eSport de Servette, Lucien Ding a en outre travaillé quelques années dans un établissement scolaire pour jeunes en difficulté. A la fois coach et éducateur, il a le profil idéal pour assumer la responsabilité de la section genevoise de Noétic.
L’Académie compte actuellement une centaine de membres répartis entre les académies Fribourg, Renens et Genève, cette dernière étant fréquentée par une trentaine de jeunes. Pour quelle tranche d’âge? «Il n’y a pas de règle absolue. Actuellement, à Genève, cela va de 8 à 17 ans, avec une moyenne se situant entre 12 et 14 ans. Mais, Fribourg, un des «jeunes» a 43 ans.»
Ecoutez l’intégralité de l’entretien :
NB : Si vous souhaitez que le suivi de ce podcast apparaisse dans votre cursus de formation SIRH, envoyez un mail à sem.formation@edu.ge.ch
Crédit image : shutterstock
Les IA qui apprennent un peu comme des élèves
Andrej Karpathy (1) a publié il y a quelques mois une longue vidéo (3 heures 30 !) sur le fonctionnement des modèles de langage tels que chatGPT (LLM : large language model). Au cours de cette vidéo, il utilise une analogie, que je trouve parlante, sur les différents types d’apprentissage de ces modèles : apprendre pour une IA, ce serait un peu comme apprendre pour un élève :
1) Lire le cours
C’est la première phase : le pré-entraînement. L’IA “lit” des tonnes de textes (livres, sites universitaires, encyclopédies, etc.). Elle apprend à reconnaître des structures, des phrases, des concepts. Comme un élève qui lit son manuel pour se familiariser avec les bases. A cette étape, elle ne fait qu’ “ingurgiter” l’information lue.
Bien sûr, analogie oblige, ce vocabulaire est très anthropomorphique et il serait plus correct de dire qu’à cette étape, on cherche un programme capable de prédire le mot suivant lorsqu’on lui donne un début de texte, ce qui nécessite d’encoder des régularités statistiques dans les structures, les phrases, les concepts. J’ai fait une animation pour bien comprendre ce qui se passe dans cette phase de “pre-training”, vous la trouverez ici : https://espritcritique.fbfb.eu/fonctionnementLLM/
A l’issue de cette étape, un modèle de langage est presque inutilisable. Il a ingurgité les données mais ne saurait pas les “communiquer”. Par exemple, il risque de prédire que le texte qui vient à la suite d’une question est une autre question car, dans ses données d’entrainement, les questions viennent souvent par listes. Il faut donc passer à la deuxième étape.
Quand les IA génératives sont-elles utiles ? (P versus NP ?!)
Les IA génératives sont impressionnantes, mais on sent que leur utilité varie selon les contextes. Une première idée serait de ne les utiliser que dans les domaines dans lesquels on est expert. Mais il me semble que, plus précisément, les IA génératives sont utiles dans les situations où vérifier est plus simple que produire.
Écrire un texte peut prendre des heures, mais repérer une incohérence ou une faute de style se fait souvent en quelques secondes. De même, générer un code informatique complexe est une tâche ardue, mais tester s’il fonctionne est souvent immédiat; Dans les situations où il y a une telle asymétrie, les IA peuvent proposer une solution rapide, et l’on tranche en un instant si c’est correct et pertinent ou non.
Cela signifierait que les IA ne sont pas utiles à tous pour les même taches. A titre personnel, je les utilise énormément pour coder (il faudra d’ailleurs que je vous en parle: la possibilité de créer en quelques heures des activités numériques pour les élèves me semble un changement potentiellement profond dans l’enseignement !). Pour cet article, créer une image d’illustration aurait pu être un véritable casse-tête, mais vérifier que l’image générée par chatGPT convient – d’après le prompt: “Génère une image qui montre un robot qui donne une copie à un humain qui semble sur le point de la vérifier” – est d’une simplicité enfantine (j’en profite pour créditer l’image!). Les IA génératives sont également très efficaces pour la génération d’idées, toujours suivant la même règle: c’est généralement facile d’évaluer la pertinence et l’intérêt des idées présentées, mais difficile de les avoir.
Peut être que le principe “utilisez des IA génératives dans les cas où vérifier est plus simple que produire” pourrait aider nos élèves à faire un meilleur usage des IA ? Ce n’est qu’une hypothèse, à discuter et tester !
Post-scriptum :
Nos lecteurs informaticiens trouveront probablement que cela rappelle le problème ouvert “P = NP ?”, et si vous trouvez cela intrigant, je vous recommande cette vidéo de sciences étonnantes:
Les jeunes, leurs smartphones, les médias: JAMES vous dit tout
Les usages des jeunes en matière de médias et de numérique font l’objet d’une attention soutenue, c’est un euphémisme. Pour qui s’intéresse à cette vaste et complexe question, l’étude JAMES (pour Jeunes Activités Médias – Enquête Suisse) constitue une source de choix. Tous les deux ans depuis 2010, celle-ci cartographie les habitudes des 12 à 19 ans dans les trois régions linguistiques de la Suisse. Commanditée par un grand opérateur de télécommunications, elle est réalisée par une équipe de la School of Applied Psychology de l’Université de Zurich sur la base d’un échantillon de 1183 personnes.
JAMES mesure non seulement les usages (utilisation du téléphone portable, réseaux sociaux, « consommation » d’information et de médias en général, jeux vidéos, messagerie, …), mais aussi l’accès aux services (abonnements, services de streaming, …) et aux équipements, en relation avec différentes variables comme l’âge, le genre, la région linguistique, le lieu d’habitation (ville/campagne), l’origine et le statut socioéconomique de la famille. Pour ce qui est du smartphone, par exemple, les personnes interrogées ont dû indiquer non seulement la durée d’utilisation, mais aussi les fonctions principales de cet appareil dans leurs pratiques quotidiennes, ou encore les applications les plus fréquemment utilisées. Des aspects moins directement liés aux médias et au numérique sont également traités, à travers une série de questions sur les loisirs en général, ce qui offre une intéressante mise en perspective. Les risques associés au numérique, notamment le (cyber)harcèlement, sont également abordés.
JAMES 2024 : l’IA arrive de manière rapide et massive
Les résultats de JAMES 2024 sont disponible depuis quelques semaines. La dernière étude ayant été menée en 2022, il s’agit de la première édition à aborder les outils d’intelligence artificielle. Les chiffres confirment que les jeunes Suisses et Suissesses ne font pas exception : comparativement à d’autres services en ligne, les outils d’intelligence artificielle ont été adoptés rapidement et massivement. 71% des jeunes ont expérimenté ChatGPT ou un autre outil d’IA et 34% des jeunes l’utilisent au moins une fois par semaine (p. 75). La question de la source d’information de prédilection constitue un enjeu majeur. Relevons que les 18-19 ans s’informent plus fréquemment en recourant à Wikipedia (34% au moins une fois par semaine, p. 41) qu’aux applications d’IA (27%). Dans ce domaine, la part du lion revient aux moteurs de recherche : 86% des jeunes (tous âges confondus) les utilisent tous les jours ou plusieurs fois par semaine dans le but de s’informer. Ce pourcentage s’élève à 57% pour les réseaux sociaux, 25% pour Wikipedia et à 22% pour les applications d’IA.
Quatre mini-conférences en ligne proposées par Compilatio
En deux ans, les établissements académiques ont-ils (vraiment) réussi à s’adapter aux IA génératives ?
C’est sous ce titre que Compilatio [1] propose à ses utilisatrices et utilisateurs une série de quatre conférences en lignes. Autant de rendez-vous au format compact (quarante-cinq minutes), entre le 25 et le 29 novembre, toujours à 15 heures.
Permettons-nous de regretter, au passage, le manque de parité face au micro (quatre intervenants pour une seule intervenante), mais relevons néanmoins l’originalité de certains titres. Deux d’entre eux piquent particulièrement la curiosité, entre hommage à Jacques Brel (“Mais non, Jef, t’es pas tout seul!”) et punchline inspirante de Bergson (“Le futur n’est pas ce qui va arriver, mais ce que nous en ferons”).
Selon vos centres d’intérêts, votre choix se portera peut-être sur une première intervention à propos des enjeux liés à l’écriture, ou sur une autre proposant plus généralement des pistes pour repenser l’école dans un monde marqué par les IA génératives. Un orateur issu de l’Université Jean Moulin Lyon 3 livrera un témoignage sur la mise en place d’une politique de prévention dans cette institution. La dernière intervention, elle, se penchera sur la question brûlante de l’évaluation des travaux d’élèves.
Un programme riche et varié, donc, que l’on ne peut que recommander!
Programme et inscription (gratuite mais obligatoire) sur le site de Compilatio. Places limitées.
[1] Compilatio est le nom de la société à l’origine de Magister+, le logiciel de détection du plagiat accessible pour l’ensemble des enseignantes et enseignants du Secondaire II genevois via le portail eduge.ch L’offre de formation en ligne du SEM comprend un cours sur l’utilisation de Magister+ et un autre sur la prévention du plagiat en général. N’hésitez pas à consulter également la page Faire face au plagiat dans un contexte numérique.
Illustration: une vision dystopique due à Dall-E
IA et fausses informations
On savait que l’arrivée de chatGPT venait avec un risque de voir pulluler de fausses informations, bien rédigées et plus difficiles à “débunker”. Articles, podcasts, vidéos, on a l’impression qu’aucun média n’est épargné ! Voici quelques exemples :
- Sur wikipedia, une nouvelle page est crée créée chaque minute et le travail des modérateurs est très difficile. Cet article de la RTS raconte l’exemple d’une page consacrée à une forteresse imaginaire, étayée par des sources tout aussi imaginaires: https://www.rts.ch/info/sciences-tech/2024/article/l-intelligence-artificielle-nouvelle-menace-pour-l-integrite-de-wikipedia-28681292.html
- Amazon a dû limiter la publication à 3 livres par jour et par auteur ! La plateforme demande par ailleurs que les livres générés par IA soient signalés comme tel tels. Cette vidéo courte, adressée à public de au public du CO, en parle de manière assez humoristique : https://www.youtube.com/watch?v=DzMKCvdq7_o
- Sur youtube de “fausses” vidéos – le texte, la voix et les illustrations sont tous probablement générés par des IAs- apparaissent également. Notamment sur le thème du stoïcisme (dans une acceptation du mot inusuelle). Voir l’intéressante vidéo de Monsieur Phi à ce sujet : https://www.youtube.com/watch?v=rJE2qkP0Gk4
Face à la difficulté d’évaluer la qualité d’une information, il apparaît de plus en plus urgent de former nos élèves à l’esprit critique. Il est essentiel que tous prennent conscience des biais inhérents à la cognition humaine et soient informés des moyens permettant de dépasser ces travers. Ce n’est qu’en prenant connaissance de la manière dont se construit une connaissance de manière fiable et robuste que les jeunes pourront porter un regard sceptique sur les informations auxquelles ils sont exposés.
Les études qui mesurent le développement de l’esprit critique chez les étudiants sont claires : en parler dans son cours ne suffit pas. Des progrès n’ont lieu que si l’on propose des cours spécifiquement dédiés à l’esprit critique, comprenant des contenus théoriques mais aussi des exercices visant à transférer les apprentissages académiques à des situations réelles (source: https://www.oecd-ilibrary.org/education/does-higher-education-teach-students-to-think-critically_cc9fa6aa-en ).
Image générée par DALL-E le 5 novembre 2024
Différents LLM pour différents usages
OpenAI fait (à nouveau !) l’actualité cette semaine avec son service chatGPT Search et un mode vocal disponible sur les ordinateurs. On en oublierait qu’il existe d’autres modèles de langage et qu’ils peuvent être tout à fait intéressants, selon vos besoins.
Voici un tableau de quelques services qui me semblent particulièrement intéressants. Si vous utilisez régulièrement chatGPT, je vous encourage à essayer ces alternatives. Elles peuvent toutes être essayées gratuitement, avec un nombre de requêtes maximal différent selon les plateformes.
| Nom | Entreprise | Spécificité |
|---|---|---|
| ChatGPT | OpenAI | Capacités conversationnelles avancées et génération de texte polyvalente.
Pour les mêmes usages, il existe d’autres services: Claude d’Anthropic, Bard de Google, |
| Perplexity | Perplexity AI | Moteur de recherche AI fournissant des réponses directes avec des informations sourcées |
| Consensus.app | Consensus | Recherche et synthèse d’articles scientifiques pour des réponses basées sur des preuves. |
| Typeset.io | SciSpace | Axé sur l’aide à la compréhension de documents scientifiques |
| HuggingChat | Hugging Face | Supporte plusieurs LLM open-source et offre une variété de tâches NLP |
| Copilot | Microsoft | Intégration poussée dans l’environnement Microsoft et génération de code |
Par ailleurs, les modèles de langages utilisés par chatGPT sont parmi les plus “gros” et donc les plus gourmands en énergie. Pour des conversations simples, vous pourriez préférer des modèles plus sobres.
Pour vous faire une idée, n’hésitez pas à tester le site: https://www.comparia.beta.gouv.fr/, proposé par le gouvernement français: il permet de proposer une requête et de comparer les réponses de deux LLMs. Sans qu’on sache de qui vient chaque réponse, on vote pour la meilleure. Puis on nous dévoile qui était derrière chaque réponse et les caractéristiques (nombre de paramètres, type de licence) ainsi que la “dépense” en termes énergétiques.
Une mise en garde avant de clore ce court article : toutes ces IA produisent un contenu dont la fiabilité n’est pas garantie. Vérifiez toujours (souvent plus facile à dire qu’à faire !)
Crédits image: canva+IA
Musique et IA
Les progrès des IAs génératrices dans le domaine de la musique sont impressionnants ! Cela repose des questions qu’on avait déjà à l’esprit avec la génération de textes et d’images : peut-on parler de plagiat des morceaux utilisés pour l’entraînement ? Est-ce comparable au processus de création humain qui suppose aussi qu’on s’inspire de l’existant ? Quelle place trouveront les artistes dans un environnement où chacune et chacun peut générer des chansons à son goût ?
Les jeux vidéo, amis ou ennemis des capacités d’apprentissage?
Les jeux vidéo diminuent-ils les capacités d’apprentissage? Augmentent-ils l’agressivité chez les jeunes? Favorisent-ils certaines compétences? Y a-t-il un temps ou un type de jeu idéal?
Ces questions, et d’autres, étaient au centre d’un entretien, le mercredi 20 mars, avec Sylvie Denkinger et Benoit Bediou, chercheuse et chercheur de l’Université de Genève.
Cette rencontre interactive de 90 minutes a été enregistrée et nous vous proposons de l’écouter ci-dessous en rediffusion:
A propos de Sylvie Denkinger et Benoit BediouSylvie Denkinger est doctorante au Brain & Learning Lab de l’UNIGE. Sa thèse vise à découvrir les mécanismes des jeux vidéo qui sont importants pour favoriser un meilleur contrôle de l’attention.
Benoît Bediou travaille également au Brain & Learning Lab. Il s’intéresse à l’impact des médias, en particulier des jeux vidéo d’action, mais aussi des médias multitâches, sur les compétences cognitives et émotionnelles.
Crédits image: image réalisée avec DALL-E le 28 mars 2024.