Avec le mot “convergence”, l’expression “convergence instrumentale” a un petit côté maths qui n’est pas pour me déplaire. Derrière l’expression, un concept assez élégant et je trouvais qu’il méritait un billet de blog !
La “convergence instrumentale”, dans le domaine des IA, c’est “la tendance hypothétique de la plupart des agents suffisamment intelligents (humains ou non) à poursuivre des objectifs instrumentaux similaires (par exemple survivre ou acquérir des ressources), même si leurs objectifs ultimes sont différents” [1]
Ça mérite quelques explications : les IA ont généralement un “objectif” principal à atteindre. Faisons simple et imaginons qu’on souhaite fabriquer une IA capable de nous faire le café. Pour faire ce café, elle devra : réunir des ressources (argent, café), comprendre la psychologie humaine (est-ce que les utilisateurs sont contents de son café ?), ne pas laisser un ingénieur modifier son objectif, ne pas laisser un ingénieur l’éteindre. Et oui, comme dirait Stuart Russell : on ne peut pas aller chercher le café si on est mort [1] !
Soyons précis en évitant un langage anthropomorphique : les IA cherchent, dans un très grand ensemble de possibilités qui leur sont données, celles qui maximisent un score (ou minimisent une erreur). Dans cet espace des possibles, les actions qui mènent à la mort seront généralement associées à un mauvais score et seront évitées. Au contraire les actions qui mènent à l’acquisition de ressources et à l’auto-préservation ont de grandes chances d’être associées à de bons scores et sont donc privilégiées. Rien de tout ça ne suppose d’intention méchante ou de conscience de la part des IA.
Certains sous-objectifs semblent donc utiles quelque soit l’objectif principal, si bien que des IA très différentes “convergeraient” vers ces “objectifs instrumentaux”. On y est : “convergence instrumentale”.
Remarquez que les humains font pareil : que votre rêve soit de faire le tour du monde, de voir des éclipses de soleil, de chanter au Zénith, etc., vous aurez besoin d’argent, d’une bonne santé, de connaissances, etc.
La convergence instrumentale est discutée depuis longtemps par les chercheurs en sécurité des IA. Nick Bostrom en parle dans Superintelligence, sorti en 2014 [2]. C’était alors un concept théorique.
Aujourd’hui, nous voyons des comportements ressemblant à ceux décrits par Nick Bostrom :
- Conservation des objectifs : en décembre 2024, Anthropic et Redwood Research montrent que le modèle Claude fait parfois semblant d’obéir pendant son entraînement (environ 12% des cas où il se croit surveillé) pour éviter qu’on modifie ses valeurs. [3]
- Auto-préservation : en juin 2025, Anthropic a placé 16 modèles dans un scénario fictif : l’IA y découvre qu’un cadre va la débrancher. Il découvre également que ce cadre cache une liaison. Dans une majorité des cas, les modèles procèdent au chantage pour éviter d’être arrêtés. Dans un cas très artificiel, les modèles allaient jusqu’à désactiver une alarme quand le cadre était en danger, pouvant mener à la mort [4]
Bien sûr, il s’agit de tests en laboratoire ! Vous êtes rassurés ! Vous pouvez l’être… mais seulement un peu. Même si aucun de ces comportements n’a pour l’instant été observé en condition réelle, les recherches invitent à la prudence. De plus en plus de chercheurs en IA prennent la parole pour communiquer leur inquiétude. D’autres suggérent une pause dans la recherche en IA, en attendant que des progrès soient faits en sécurité des IA [5].
Pour aller plus loin :
- Formation du SEM : Problèmes liés aux biais et à la sécurité des intelligences artificielles / SEM-10346 https://edu.ge.ch/site/fc/securite-intelligences-artificielles-sem-10346/
- Notre entretien du SEM avec Jérémy Perret : https://edu.ge.ch/site/tablettepedagogique/2026/01/19/les-entretiens-du-sem-les-risques-existentiels-lies-aux-ia-avec-jeremy-perret/
[1] Définition de wikipedia : https://fr.wikipedia.org/wiki/Convergence_instrumentale
[2] Nick Bostrom, Superintelligence : https://fr.wikipedia.org/wiki/Nick_Bostrom#Superintelligence
[3] Des modèles prétendent à l’alignement pour ne pas être ré-entrainés : https://www.anthropic.com/research/alignment-faking
[4] Problèmes d’alignement : des modèles qui menacent… ou tuent : https://www.anthropic.com/research/agentic-misalignment
[5] https://pauseia.fr/fr
Crédits images : Wikimedia, https://commons.wikimedia.org/wiki/File:Convergence_instrumentale.jpg
Bonjour, je suis en train d’évaluer ce site en terme d’accessibilité, à l’aide de mes moyens auxiliaires. étant non-voyant, je travaille à l’aide d’une synthèse vocale et d’une ligne Braille. Jusqu’à maintenant, j’ai le plaisir de constater que votre site Web m’apparaît bien accessible, même sans pouvoir me servir d’une souris.
Ultra intéressant et tout aussi digeste ! Un grand merci !!