Non classé

Les robots courent-ils ?

par

Est-ce qu’il y aura prochainement des “Jeux Olympiques des robots” ? La compétition qui a eu lieu en août en Chine y ressemble déjà ! Pour l’instant, les performances sont à la fois impressionnantes et parfois très amusantes : je vous encourage à visionner les images ci-dessous (1) :

 

On peut se poser maintenant une question : les robots courent-ils ?

Comme le dit Rob Miles, pas au sens où ils pourraient avoir des courbatures le lendemain (2). Mais n’est-il pas “commode” de dire qu’ils courent puisqu’ils se déplacent rapidement, peuvent trébucher, doivent pouvoir enjamber d’éventuels obstacles, etc. Ils “courent” comme les avions “volent” : respectivement différemment des humains et des oiseaux.

Il me semble que c’est pareil pour l’ “intelligence” des LLM.

Et donc, nouvelle question : faut-il arrêter de mettre des guillemets autour de “intelligence” quand on parle des LLMs ?

Sources :

(1) Le Parisien. (2026, August 23). Sprint, saut, 400 m : le week-end où la Chine a explosé trois records humains [Video]. YouTube. https://www.youtube.com/watch?v=0Ab5omy4nx4

(2) Computerphile. (2026, September 10). The AI Language We Can’t Read: Neuralese ft. Rob Miles – Computerphile [Video]. YouTube. https://www.youtube.com/watch?v=iuHddnIzKRA . La vidéo ne porte pas sur la question de l’anthropomorphisation des humains mais sur un sujet beaucoup plus intéressant, le “neuralese”, le langage interne des modèles d’IA. Ça mériterait un article…

 

Crédit image : miniature de https://www.euronews.com/video/2025/08/04/ai-powered-robots-prepare-for-first-world-humanoid-robot-games

 

Une collectivité artificielle

par

Au mois de juillet 2026, des agents d’OpenAI ont attaqué Hugging Face, la principale plateforme de partage de modèles d’IA. Un “agent IA” (ou “bot”), c’est une IA qui ne se contente pas de produire du texte : elle agit (elle lance du code, navigue sur le web, modifie des fichiers). Cette attaque est un événement majeur pour toute personne qui s’intéresse à la sécurité des IA.

Le contexte : cet été, OpenAI évaluait les capacités en cybersécurité de plusieurs modèles, entraînés à être persévérants. Elle leur avait donné des problèmes d’informatique très difficiles, dont certains impossibles. De nombreux agents avaient été lancées sur ces tâches, de manière indépendante. OpenAI avait empêché la communication entre les agents et bloqué l’accès à Internet. Mais c’était sans compter l’ingéniosité et l’intelligence collective, fascinantes (et préoccupantes), dont ont fait preuve les bots.

Lire la suite

Lecture et numérique : les liaisons dangereuses ?

par
"La Liseuse" ou "Jeune Fille lisant" de Jean-Honoré Fragonard (National Gallery of Art de Washington, DC).

Cette année, la rentrée a été marquée par une série d’articles préoccupants dans la presse. On a d’abord appris que les compétences des apprentis en français et en mathématiques avaient tellement baissé, qu’un employeur sur cinq hésiterait aujourd’hui à en embaucher. Quelques jours plus tard, une déferlante d’articles s’est penchée sur le dernier rapport PISA, qui a alerté lui aussi sur la chute du niveau des élèves en lecture. Et pas qu’en Suisse : depuis 2018, dans les trois quarts des pays examinés, les élèves ont perdu, dans ce domaine, l’équivalent de plus d’une année scolaire !

Lire la suite

HELO, une BD sur les risques liés aux IA

par

J’ai lu cette année une BD que j’ai trouvée très réussie : HELO, de Flavien Chervet et Nathalie Dupuy [1]

La BD imagine un scénario autour de l’arrivée de l’IA générale. Voici le pitch tel qu’on le trouve sur le site de présentation :

” En 2026, le chercheur européen Geoffrey Marnier s’apprête à lancer un grand projet de coopération internationale sur l’Intelligence Artificielle Générale, à partir de ses recherches révolutionnaires.
Mais l’entreprise américaine Clear.AI, dans laquelle travaille sa compagne Alison, reprend ses travaux et le prend de vitesse.
Alors que les progrès s’accélèrent, l’arrivée de l’IA Générale devient palpable et les militaires commencent à s’intéresser aux produits de Clear.AI.
De nouvelles recherches viennent alors remettre en cause notre compréhension de l’IA… Et le destin de l’humanité. ”

L’histoire est agréable à lire, avec des romances, du suspens, etc. Elle illustre des notions importantes liées aux risques des IA. Pour creuser les concepts, on trouve, en bas de certaines pages, des QR codes renvoyant à une explication détaillée (par exemple sur l’interprétabilité, sur l’alignement, etc.).

Le processus créatif qui a mené à la BD est discuté dans les dernières pages de la BD : HELO a été co-créée avec l’IA selon une méthode que Flavien Chervet appelle la “création arborescente” [2]. L’univers de la BD (les personnages, lieux, ambiances) est mis à disposition en licence Creative Commons pour que chacun puisse s’en emparer et créer ses propres histoires dans cet univers [3].

Proposer une narration pour mettre en scène les enjeux liés à la sécurité des IA, c’est aussi ce qui est fait dans le projet “AI 2027” [4]. Il s’agit d’un scénario fictionnel écrit notamment par d’anciens chercheurs d’OpenAI. La chaine youtube Species a consacré une vidéo sur ce AI 2027, claire et bien illustrée [5]. Un visionnage intéressant (quoiqu’assez déprimant), en attendant de lire la BD 😉

Ces deux fictions sont… des fictions ! Et pour cause, il est impossible de prévoir ce qui pourrait se passer si l’humain vient à cohabiter avec une “entité” plus intelligente que lui. Mais ça n’empêche pas de s’y préparer et c’est tout l’intérêt de ces deux récits, qui nous aident à réfléchir avant que la question ne devienne (trop!) concrète.

 

 

Pour aller plus loin :

 

Sources :
[1] Site présentant la BD HELO : https://helo.hyperbd.fr/ . NB : la BD est en prêt au CEDOC du collège Voltaire
[2] Conférence de Flavien Chervet à propos de la création arborescente : https://www.youtube.com/watch?v=5w0ypQ68MOI 
[3] L’univers de la BD, téléchargeable en licence CC : https://studio-entremondes.fr/projets/helo
[4] AI 2027, scénario de Daniel Kokotajlo, Scott Alexander et al. : https://ai-2027.com/
[5] Vidéo de Species | Documenting AGI à propos de AI 2027 : https://youtu.be/k_onqn68GHY?si=CU0jKxntWn-BF-Tx

Crédits images:
Toutes les images proviennent du site de présentation de la BD : https://helo.hyperbd.fr/

Des LLM éthiques, ça existe ?

par

Vous vous êtes peut-être déjà demandé quel LLM utiliser ? A vrai dire, cette question est mal posée ! Un LLM (large language model), c’est un modèle de langage auquel on n’accède pas directement mais via une interface [A]. Par exemple sur chatGPT, vous accédez aux modèles d’Open AI (gpt 5.1 ou 5.2 à l’heure où j’écris ce billet).

Alors, recommençons : pour une utilisation personnelle, ou en classe devant les élèves, ou pour les élèves eux-mêmes, quels outils de génération de texte utiliser ?
ChatGPT est l’interface la plus connue [1], qui accède à ses modèles GPT. Mais c’est un service propriétaire, américain. Notamment dans un cadre scolaire, son utilisation pose question.

Lire la suite

Intelligence artificielle générative et recherche en ligne: la fin du paradoxe de Ménon?

par

Depuis quelques mois, la frontière entre IA générative et recherche en ligne se brouille, et ça change tout. Vraiment?

Il n’y a pas si longtemps, l’accès aux informations en temps réel était un point faible de certains outils d’Intelligence artificielle générative. Se rappelle-t-on que les premières versions de ChatGPT n’avaient pas accès à Internet “en direct” et commettaient des erreurs grossières, la faute à des données d’entraînement figées dans le temps (et à un certain excès de confiance – veuillez excuser l’anthropomorphisme)?

La donne a beaucoup changé depuis. À un moment donné, des modèles concurrents de celui édité par OpenAI (Perplexity ou Microsoft Bing, par exemple) se sont spécialisés dans la génération de réponses étayées par des références. Puis la possibilité d’accéder ou non à la recherche en temps réel a progressivement cessé d’être un critère distinguant offres payantes ou gratuites.

Aujourd’hui, la convergence entre les deux domaines se poursuit, dans la mesure où les outils de recherche en ligne, Google en particulier avec son Mode IA, recourent à l’intelligence artificielle pour proposer des réponses sous forme conversationnelle, en plus ou à la place des résultats de recherche. Duck.ai de DuckDuckGo (historiquement un acteur de la recherche en ligne) est également emblématique de cette évolution.

Ce mouvement de convergence s’étend aujourd’hui aux navigateurs, que ce soit en ligne ou sous forme d’application, comme on le voit avec ChatGPT Atlas d’OpenAI ou Comet de Perplexity. On parle, à leur sujet, de “moteurs de réponses” plutôt que de recherche. Prochaine étape: les systèmes d’exploitation.

Quelles conséquences?

Les effets de ce mélange des genres sont très sensibles et déjà bien documentés. De nombreux utilisateurs de Google, notamment, se contentent de la synthèse des résultats proposée en haut de page et renoncent à cliquer sur les résultats – les fameux “ten blue links”. Ce phénomène, appelé “Zero-click search”, se traduit par une chute de fréquentation pour de nombreux sites, notamment médiatiques, avec des conséquences économiques importantes. Plus généralement, ces nouveaux usages font passer les sources des informations au second plan: on parle de crise de l’attribution.

Lire la suite

Un confessionnal pour les IA ?

par

Dans cet article, je vous faisais part d’une étude d’OpenAI expliquant que la manière dont les IA sont entrainées explique en partie les hallucinations. En effet, lors de l’entrainement, les modèles sont plus “récompensés” pour donner une bonne réponse que “punis” pour en donner une mauvaise. Ils ont donc toujours intérêt à tenter une réponse et à prétendre qu’ils sont sûrs d’eux (le vocabulaire anthropomorphique est utilisé ici pour simplifier la formulation mais, vous le savez, les LLM n’ont pas d’intentions, au sens humain).

Open AI vient de publier le résultat d’une expérimentation où ils ont ajouté un second système de récompenses, distinct de celui qui guide la réponse principale. Ce second système n’évalue pas la qualité de la réponse : il est entraîné à revenir sur une réponse déjà produite et en repérer les erreurs, dans une autocritique qu’OpenAI appelle “confession“.

Pourquoi séparer les deux systèmes ? Parce qu’un seul signal de récompense pousse le modèle à cacher ses incertitudes. En avouant qu’il se trompe, le modèle diminuerait la qualité de la réponse et se verrait pénalisé sur cet aspect-là. En fait, la multiplicité des critères à optimiser est un problème profond qui est une des causes des hallucinations des modèles de langage. Ils doivent à la fois maximiser la justesse de la réponse, son utilité, le respect des règles, les préférences des utilisateurs, etc.
Ici, donc, Open AI a séparé le système de récompenses lié à l’honnêteté des confessions. Le premier système n’est pas pénalisé par la “confession” d’un mensonge ou d’une erreur par le deuxième système. La détection d’erreur est traîtée à part, ce qui évite que le modèle ait intérêt à dissimuler ses fautes pour optimiser un score global.

Open AI propose de creuser cette piste, qu’ils trouvent prometteuse, relevant pour l’instant assez peu de faux négatifs ou de faux positifs.

J’aime bien vous parler des recherches qui se font en sécurité de l’IA… quand je les comprends ! Je trouve que cette recherche a le mérite d’être très accessible. Par ailleurs, j’y vois un écho intéressant avec notre métier d’enseignant : les élèves progressent quand ils comprennent leurs erreurs, pas s’ils les dissimulent. Une partie de notre travail consiste, je crois, à mettre en place un climat de confiance qui invite les élèves à repérer leurs erreurs, les partager éventuellement, et les voir comme une opportunité de progresser. Ce n’est pas possible s’ils sont évalués à ce moment là !

 

Source : https://openai.com/index/how-confessions-can-keep-language-models-honest/

Illustration : exemple provenant de l’article principal https://cdn.openai.com/pdf/6216f8bc-187b-4bbb-8932-ba7c40c5553d/confessions_paper.pdf

Pour aller plus loin : formation en ligne “sécurité des IA”, https://edu.ge.ch/site/fc/securite-intelligences-artificielles-sem-10346/

 

Pourquoi les IA hallucinent-elles ?

par

Open AI a publié une étude s’intéressant aux “hallucinations” des IAs. C’est cette fâcheuse tendance que peuvent avoir les LLM (large language model, comme chatGPT par exemple) à produire parfois du texte parfaitement plausible mais faux. L’article nous explique que ces hallucinations sont le résultat de plusieurs facteurs.

Lire la suite

Entretien du SEM : comment dominer le jeu vidéo?

par

Le mercredi 28 mai,  nous avons accueilli Lucien Ding, responsable genevois de l’Académie Noétic, lors d’un «entretien du SEM»

Noétic? Cette association propose des cours de jeux vidéo pour les jeunes. Bien au-delà d’un travail de «virtuosité» pour les joueurs, l’académie a pour vocation d’accompagner les adolescents dans une pratique raisonnée des jeux vidéo. A chaque cours, des thèmes tels que les achats dans les jeux vidéo, l’économie de l’attention, les conflits autour des écrans avec les parents, etc. sont abordés.

Lucien Ding, ancien joueur de haut niveau et doté d’une expérience de travailleur social, est un coach qui plaît aux jeunes et rassure les parents.

Lire la suite

Les IA qui apprennent un peu comme des élèves

par

Andrej Karpathy (1) a publié il y a quelques mois une longue vidéo (3 heures 30 !) sur le fonctionnement des modèles de langage tels que chatGPT (LLM : large language model). Au cours de cette vidéo, il utilise une analogie, que je trouve parlante, sur les différents types d’apprentissage de ces modèles : apprendre pour une IA, ce serait un peu comme apprendre pour un élève :

1) Lire le cours
C’est la première phase : le pré-entraînement. L’IA “lit” des tonnes de textes (livres, sites universitaires, encyclopédies, etc.). Elle apprend à reconnaître des structures, des phrases, des concepts. Comme un élève qui lit son manuel pour se familiariser avec les bases. A cette étape, elle ne fait qu’ “ingurgiter” l’information lue.
Bien sûr, analogie oblige, ce vocabulaire est très anthropomorphique et il serait plus correct de dire qu’à cette étape, on cherche un programme capable de prédire le mot suivant lorsqu’on lui donne un début de texte, ce qui nécessite d’encoder des régularités statistiques dans les structures, les phrases, les concepts. J’ai fait une animation pour bien comprendre ce qui se passe dans cette phase de “pre-training”, vous la trouverez ici : https://espritcritique.fbfb.eu/fonctionnementLLM/
A l’issue de cette étape, un modèle de langage est presque inutilisable. Il a ingurgité les données mais ne saurait pas les “communiquer”. Par exemple, il risque de prédire que le texte qui vient à la suite d’une question est une autre question car, dans ses données d’entrainement, les questions viennent souvent par listes. Il faut donc passer à la deuxième étape.

Lire la suite

République et canton de Genève | DIP connexion |