Des LLM éthiques, ça existe ?

Vous vous êtes peut-être déjà demandé quel LLM utiliser ? A vrai dire, cette question est mal posée ! Un LLM (large language model), c’est un modèle de langage auquel on n’accède pas directement mais via une interface [A]. Par exemple sur chatGPT, vous accédez aux modèles d’Open AI (gpt 5.1 ou 5.2 à l’heure où j’écris ce billet).

Alors, recommençons : pour une utilisation personnelle, ou en classe devant les élèves, ou pour les élèves eux-mêmes, quels outils de génération de texte utiliser ?
ChatGPT est l’interface la plus connue [1], qui accède à ses modèles GPT. Mais c’est un service propriétaire, américain. Notamment dans un cadre scolaire, son utilisation pose question.

Lire la suite

Intelligence artificielle générative et recherche en ligne: la fin du paradoxe de Ménon?

Depuis quelques mois, la frontière entre IA générative et recherche en ligne se brouille, et ça change tout. Vraiment?

Il n’y a pas si longtemps, l’accès aux informations en temps réel était un point faible de certains outils d’Intelligence artificielle générative. Se rappelle-t-on que les premières versions de ChatGPT n’avaient pas accès à Internet « en direct » et commettaient des erreurs grossières, la faute à des données d’entraînement figées dans le temps (et à un certain excès de confiance – veuillez excuser l’anthropomorphisme)?

Lire la suite

Un confessionnal pour les IA ?

Dans cet article, je vous faisais part d’une étude d’OpenAI expliquant que la manière dont les IA sont entrainées explique en partie les hallucinations. En effet, lors de l’entrainement, les modèles sont plus « récompensés » pour donner une bonne réponse que « punis » pour en donner une mauvaise. Ils ont donc toujours intérêt à tenter une réponse et à prétendre qu’ils sont sûrs d’eux (le vocabulaire anthropomorphique est utilisé ici pour simplifier la formulation mais, vous le savez, les LLM n’ont pas d’intentions, au sens humain).

Lire la suite

Voir chatGPT comme un simulateur, pas comme un interlocuteur

Andrej Karpathy est chercheur en IA qui a notamment travaillé pour Open AI. Il est intéressé par la vulgarisation autour de l’IA et on a déjà parlé ici de ses excellentes vidéos de vulgarisation sur le fonctionnement des IA.

Dans un tweet récent, Andrej Karpathy suggère d’interagir avec des modèles de langages (comme chatGPT) en les considérant comme des simulateurs et non pas des interlocuteurs.

Lire la suite

IA : et si on parlait de demain ?

Difficile de ne pas être impressionné par les évolutions successives des IA génératives. Difficile de ne pas être ébloui par certaines de leurs capacités ou prouesses techniques. Difficile encore de ne pas s’accoutumer progressivement à leur omniprésence, non seulement dans le paysage numérique, mais aussi, de plus en plus, dans notre quotidien hors-écran, à l’image de ces jouets pour enfants boostés à l’IA.

Force est de constater que, trois ans après la sortie publique de ChatGPT, que nous le voulions ou non, l’IA générative est partout et fait partie de notre quotidien.

Cette normalisation occulte en grande partie une question essentielle qui n’est presque jamais abordée : où va-t-on ? et à quel prix ?

En reprenant les recherches récentes, et plus particulièrement le rapport AI 2027, cet article vous propose un voyage temporel dans les années à venir pour essayer de comprendre (ou plutôt d’imaginer) vers quoi l’humanité se dirige.

Lire la suite

Confier ses états d’âme à des agents conversationnels?

Dans le célèbre roman jeunesse <em>Harry Potter et la Chambre des secrets</em>, la petite Ginny Weasley confie longuement ses états d’âme à un journal intime enchanté ayant appartenu au mystérieux Tom Jedusor, et manque d’y laisser la vie. Son père, apprenant ce qui s’est passé, s’écrie : « Qu'est-ce que je t'ai toujours dit ? Ne fais jamais confiance à quelque chose qui peut penser par lui-même si tu ne peux pas voir où il garde son cerveau? » Difficile de ne pas faire le lien avec un événement récent dans le monde « moldu ».

Lire la suite

Pourquoi les IA hallucinent-elles?

Open AI a publié une étude s’intéressant aux « hallucinations » des IAs. C’est cette fâcheuse tendance que peuvent avoir les LLM (large language model, comme chatGPT par exemple) à produire parfois du texte parfaitement plausible mais faux. L’article nous explique que ces hallucinations sont le résultat de plusieurs facteurs.

Lire la suite

Un entrainement sans humain

Il y a quelques semaines, je vous parlais de l'analogie d'Andrej Karpathy à propos de l'entraînement des IA qui ressemble l'apprentissage des élèves : lire son cours, faire des exercices corrigés, puis des exercices avec la solution non détaillée.
Une équipe de recherche de l'université de Tsinghua (Chine) a récemment présenté ce qu'elle a appelé le "zero human training". Si on file la métaphore, les élèves laisseraient de côté profs et manuels scolaires pour travailler sur leurs propres exercices inventés. (Ce que font parfois... les meilleurs élèves ?)

Lire la suite

LLM sous microscope

Dans quelle langue réfléchissent les LLM* ?
Est-ce que ces modèles peuvent « planifier » au-delà du prochain mot ?
Exposent-ils fidèlement leurs raisonnements quand on les leur demande ?

(*LLM : large language model, comme chatGPT par exemple)

Lire la suite

République et canton de Genève | DIP connexion |