FB, Auteur à Le blog des formatrices et formateurs du SEM

IA et fausses informations

9 novembre 2024 par FB

On savait que l’arrivée de chatGPT venait avec un risque de voir pulluler de fausses informations, bien rédigées et plus difficiles à “débunker”. Articles, podcasts, vidéos, on a l’impression qu’aucun média n’est épargné ! Voici quelques exemples :

Sur wikipedia, une nouvelle page est crée créée chaque minute et le travail des modérateurs est très difficile. Cet article de la RTS raconte l’exemple d’une page consacrée à une forteresse imaginaire, étayée par des sources tout aussi imaginaires: https://www.rts.ch/info/sciences-tech/2024/article/l-intelligence-artificielle-nouvelle-menace-pour-l-integrite-de-wikipedia-28681292.html
Amazon a dû limiter la publication à 3 livres par jour et par auteur ! La plateforme demande par ailleurs que les livres générés par IA soient signalés comme tel tels. Cette vidéo courte, adressée à public de au public du CO, en parle de manière assez humoristique : https://www.youtube.com/watch?v=DzMKCvdq7_o
Sur youtube de “fausses” vidéos – le texte, la voix et les illustrations sont tous probablement générés par des IAs- apparaissent également. Notamment sur le thème du stoïcisme (dans une acceptation du mot inusuelle). Voir l’intéressante vidéo de Monsieur Phi à ce sujet : https://www.youtube.com/watch?v=rJE2qkP0Gk4

Face à la difficulté d’évaluer la qualité d’une information, il apparaît de plus en plus urgent de former nos élèves à l’esprit critique. Il est essentiel que tous prennent conscience des biais inhérents à la cognition humaine et soient informés des moyens permettant de dépasser ces travers. Ce n’est qu’en prenant connaissance de la manière dont se construit une connaissance de manière fiable et robuste que les jeunes pourront porter un regard sceptique sur les informations auxquelles ils sont exposés.
Les études qui mesurent le développement de l’esprit critique chez les étudiants sont claires : en parler dans son cours ne suffit pas. Des progrès n’ont lieu que si l’on propose des cours spécifiquement dédiés à l’esprit critique, comprenant des contenus théoriques mais aussi des exercices visant à transférer les apprentissages académiques à des situations réelles (source: https://www.oecd-ilibrary.org/education/does-higher-education-teach-students-to-think-critically_cc9fa6aa-en ).

Image générée par DALL-E le 5 novembre 2024

Différents LLM pour différents usages

6 novembre 2024 par FB

OpenAI fait (à nouveau !) l’actualité cette semaine avec son service chatGPT Search et un mode vocal disponible sur les ordinateurs. On en oublierait qu’il existe d’autres modèles de langage et qu’ils peuvent être tout à fait intéressants, selon vos besoins.

Voici un tableau de quelques services qui me semblent particulièrement intéressants. Si vous utilisez régulièrement chatGPT, je vous encourage à essayer ces alternatives. Elles peuvent toutes être essayées gratuitement, avec un nombre de requêtes maximal différent selon les plateformes.

Nom	Entreprise	Spécificité
ChatGPT	OpenAI	Capacités conversationnelles avancées et génération de texte polyvalente. Pour les mêmes usages, il existe d’autres services: Claude d’Anthropic, Bard de Google,
Perplexity	Perplexity AI	Moteur de recherche AI fournissant des réponses directes avec des informations sourcées
Consensus.app	Consensus	Recherche et synthèse d’articles scientifiques pour des réponses basées sur des preuves.
Typeset.io	SciSpace	Axé sur l’aide à la compréhension de documents scientifiques
HuggingChat	Hugging Face	Supporte plusieurs LLM open-source et offre une variété de tâches NLP
Copilot	Microsoft	Intégration poussée dans l’environnement Microsoft et génération de code

Par ailleurs, les modèles de langages utilisés par chatGPT sont parmi les plus “gros” et donc les plus gourmands en énergie. Pour des conversations simples, vous pourriez préférer des modèles plus sobres.

Pour vous faire une idée, n’hésitez pas à tester le site: https://www.comparia.beta.gouv.fr/, proposé par le gouvernement français: il permet de proposer une requête et de comparer les réponses de deux LLMs. Sans qu’on sache de qui vient chaque réponse, on vote pour la meilleure. Puis on nous dévoile qui était derrière chaque réponse et les caractéristiques (nombre de paramètres, type de licence) ainsi que la “dépense” en termes énergétiques.

Une mise en garde avant de clore ce court article : toutes ces IA produisent un contenu dont la fiabilité n’est pas garantie. Vérifiez toujours (souvent plus facile à dire qu’à faire !)

Crédits image: canva+IA

Réseaux sociaux et Amazonie

8 juin 2024 par FB

Dans la chronique “les histoires du Monde” de France Inter le 6 juin 2024, Anthony Bellanger raconte comment les Marubos, un peuple isolé vivant dans la forêt amazonienne ont dû établir des règles pour éviter l’addiction des jeunes (et moins jeunes) aux réseaux sociaux !

A écouter ici: https://www.radiofrance.fr/franceinter/podcasts/les-histoires-du-monde/histoires-du-monde-du-jeudi-06-juin-2024-8189918

Crédits image: générée avec DALL-E le 8 juin 2023

Musique et IA

17 mai 2024 par FB

Les progrès des IAs génératrices dans le domaine de la musique sont impressionnants ! Cela repose des questions qu’on avait déjà à l’esprit avec la génération de textes et d’images : peut-on parler de plagiat des morceaux utilisés pour l’entraînement ? Est-ce comparable au processus de création humain qui suppose aussi qu’on s’inspire de l’existant ? Quelle place trouveront les artistes dans un environnement où chacune et chacun peut générer des chansons à son goût ?

Peut-on encore reconnaître des vidéos fake ?

22 avril 202422 avril 2024 par FB

Open AI (l’entreprise qui a mis au point notamment ChatGPT et DALL-E) a annoncé en février 2024 la sortie de “Sora“. Sora est une intelligence artificielle permettant la génération de vidéos à partir de prompts. Pour l’instant, elle n’est pas disponible au public mais elle pose à nouveau la question des deepfakes.

Dans une vidéo récente (avril 2024), Defakator propose un panorama de l’état actuel des deepfakes:
– techniques actuelles: de la synchronisation des lèvres avec clonage de la voix, aux vidéos générées en passant par le “face swapping”,
– état de la réglementation : l’Union Européenne a produit un Artificial Intellience Act qui exige par exemple des IAs qu’elles soient sûres, transparentes, non discriminantes,
– quelques propositions pour nous aider à y voir plus clair: remonter à la source (la réclamer!), repérer des aberrations sur les vidéos générées.

La vidéo comprend de nombreux exemples et des exercices pratiques où serez mis à l’épreuve face à des vidéos fake.

Elle est longue (50 minutes) mais ça vaut la peine de suivre l’état de l’art sur les deep fakes car, comme le dit Defakator: “nos outils évoluent plus vite que nos humanités”.

Les jeux vidéo, amis ou ennemis des capacités d’apprentissage?

19 avril 202428 mars 2024 par FB

Les jeux vidéo diminuent-ils les capacités d’apprentissage? Augmentent-ils l’agressivité chez les jeunes? Favorisent-ils certaines compétences? Y a-t-il un temps ou un type de jeu idéal?

Ces questions, et d’autres, étaient au centre d’un entretien, le mercredi 20 mars, avec Sylvie Denkinger et Benoit Bediou, chercheuse et chercheur de l’Université de Genève.

Cette rencontre interactive de 90 minutes a été enregistrée et nous vous proposons de l’écouter ci-dessous en rediffusion:

diapositives en pdf .

A propos de Sylvie Denkinger et Benoit BediouSylvie Denkinger est doctorante au Brain & Learning Lab de l’UNIGE. Sa thèse vise à découvrir les mécanismes des jeux vidéo qui sont importants pour favoriser un meilleur contrôle de l’attention.

Benoît Bediou travaille également au Brain & Learning Lab. Il s’intéresse à l’impact des médias, en particulier des jeux vidéo d’action, mais aussi des médias multitâches, sur les compétences cognitives et émotionnelles.

Crédits image: image réalisée avec DALL-E le 28 mars 2024.

Les autres progrès de l’IA

13 février 202424 janvier 2024 par FB

Les progrès spectaculaires des “LLM” (large language model) sont sur le devant de la scène. Dans d’autres domaines, les progrès de l’intelligence artificielle sont également impressionnants et méritent qu’on y prête attention!

En particulier, notons les annonces récentes de Google:

– GNoME (Graph Networks for Materials Exploration), annonce du 29 novembre 2023 : cette innovation de DeepMind est particulièrement significative. En découvrant 2,2 millions de nouveaux matériaux, dont 380 000 sont stables, GNoME ouvre la porte à d’innombrables avancées technologiques. La création de nouveaux matériaux est essentielle dans des domaines tels que les semi-conducteurs, les batteries de nouvelle génération et les énergies renouvelables. Google estime que cette percée équivaut à 800 ans de recherche cumulée. Parmi ces matériaux, certains présentent un potentiel révolutionnaire pour des applications telles que les superordinateurs et les batteries avancées pour véhicules électriques, soulignant l’impact profond de l’IA sur notre capacité à innover et à transformer notre monde technologique. DeepMind partage ces découvertes avec la communauté scientifique, démontrant ainsi leur engagement à faire progresser la recherche globale dans ce domaine.

QR code ou œuvre d’art?

20 juin 2023 par FB

Un article très court pour le simple plaisir des yeux. Ceci est un qr code! Testez-le, vous verrez!

Il a été créé avec l’intelligence artificielle stable diffusion (qui permet de créer des images) et l’outil ControlNet (qui permet que l’image générée “par-dessus” le qr code conserve la lisibilité de l’information du qr code).
Pour celles et ceux qui veulent en savoir plus, vous trouverez des explications dans cet article de Korben: https://korben.info/controlnet-pour-qr-code-images-chaotiques.html

Une autre pour finir, celle qui illustre cet article:

PS: vous avez peut-être été curieux de regarder vers quelle url pointe ce qr code ? Il s’agit d’un site qui permet de créer des qr codes stylisés très facilement.