Impressionant!
Dans le cadre de cette exposition, nous vous proposons de participer à l'entraînement d'une IA qui aura pour but de prédire votre couleur préférée à partir de certains traits caractéristiques des visages ! Est-ce possible ? On ne le sait pas encore, c'est un expérience collaborative ! Participez ici ! NB : Une webcam est nécessaire pour réaliser l'activité. la webcam analyse les visages mais ne transmet et ne conserve aucune image. Les images des visages sont entièrement gérées en local et en direct.
Sur l’affiche, vous avez pu lire que les grands modèles de langage comme chatGPT, Claude, mistral, etc. ne sont pas codés entièrement à la main.
C’est-à-dire qu’on ne code pas explicitement un programme avec des instructions comme : « si la question contient les mots … alors répond … »
Au lieu de faire ça, les informaticiens ont trouvé une astuce géniale : ils entraînent le programme sur des exemples.
Pre-training
Cette animation en ligne donne les grandes étapes du pré-entrainement des LLM.
Dans la tête d’une IA
Comme le programme n’a pas été écrit explicitement, on ne peut pas être sûr qu’il marche « pour les bonnes raisons ». Il pourrait reposer sur des règles qui ne sont pas les bonnes mais qui marchent la plupart du temps.
Vous allez pouvoir expérimenter cela vous-même en vous mettant « dans la tête d’une IA ».
Retenez bien : on ne peut pas être sûrs que l’IA a appris ce qu’on voulait. On peut seulement s’assurer de la qualité de ses prédictions quand on l’utilise.
Fine-tuning
Après le pre-training, un LLM a appris à compléter du texte mais il lui manque encore deux choses essentielles :
- Se comporter comme un assistant
- Être aligné moralement pour éviter les réponses offensantes, fausses ou dangereuses
Ces deux aspects sont corrigés lors d’une phase de « fine tuning ». Dans cette activité, vous allez découvrir comment on corrige les modèles pour les « aligner ». Vous serez dans la peau d’un annotateur qui classe des réponses de LLM selon leur qualité. Ces classements servent à entraîner une autre IA qui apprend à prédire les classements des annotateurs ! Cette IA peut alors ajuster des modèles de langage à grande échelle.
VittaScience
Si vous voulez aller plus loin sur les aspects techniques, vous pouvez vous tourner vers les nombreuses et intéressantes activités de Vittascience consacrées à l’IA:
https://fr.vittascience.com/ia/