{"id":3263,"date":"2026-06-28T21:46:52","date_gmt":"2026-06-28T20:46:52","guid":{"rendered":"https:\/\/edu.ge.ch\/site\/tablettepedagogique\/?p=3263"},"modified":"2026-06-22T22:43:47","modified_gmt":"2026-06-22T21:43:47","slug":"la-convergence-instrumentale","status":"publish","type":"post","link":"https:\/\/edu.ge.ch\/site\/tablettepedagogique\/2026\/06\/28\/la-convergence-instrumentale\/","title":{"rendered":"La convergence instrumentale"},"content":{"rendered":"

Avec le mot “convergence”, l’expression “convergence instrumentale” a un petit c\u00f4t\u00e9 maths qui n’est pas pour me d\u00e9plaire. Derri\u00e8re l\u2019expression, un concept assez \u00e9l\u00e9gant et je trouvais qu’il m\u00e9ritait un billet de blog !<\/p>\n

La “convergence instrumentale”, dans le domaine des IA, c’est “la tendance hypoth\u00e9tique de la plupart des agents suffisamment intelligents (humains ou non) \u00e0 poursuivre des objectifs instrumentaux similaires (par exemple survivre ou acqu\u00e9rir des ressources), m\u00eame si leurs objectifs ultimes sont diff\u00e9rents<\/em>” [1]<\/p>\n

\u00c7a m\u00e9rite quelques explications : les IA ont g\u00e9n\u00e9ralement un “objectif” principal \u00e0 atteindre. Faisons simple et imaginons qu’on souhaite fabriquer une IA capable de nous faire le caf\u00e9. Pour faire ce caf\u00e9, elle devra : r\u00e9unir des ressources (argent, caf\u00e9), comprendre la psychologie humaine (est-ce que les utilisateurs sont contents de son caf\u00e9 ?), ne pas laisser un ing\u00e9nieur modifier son objectif, ne pas laisser un ing\u00e9nieur l’\u00e9teindre. Et oui, comme dirait Stuart Russell : on ne peut pas aller chercher le caf\u00e9 si on est mort [1] !<\/p>\n

<\/p>\n

Soyons pr\u00e9cis en \u00e9vitant un langage anthropomorphique : les IA cherchent, dans un tr\u00e8s grand ensemble de possibilit\u00e9s qui leur sont donn\u00e9es, celles qui maximisent un score\u00a0<\/em>(ou minimisent une erreur<\/em>). Dans cet espace des possibles, les actions qui m\u00e8nent \u00e0 la mort seront g\u00e9n\u00e9ralement associ\u00e9es \u00e0 un mauvais score et seront \u00e9vit\u00e9es. Au contraire les actions qui m\u00e8nent \u00e0 l’acquisition de ressources et \u00e0 l’auto-pr\u00e9servation ont de grandes chances d’\u00eatre associ\u00e9es \u00e0 de bons scores et sont donc privil\u00e9gi\u00e9es. Rien de tout \u00e7a ne suppose d’intention m\u00e9chante ou de conscience de la part des IA.<\/p>\n

Certains sous-objectifs semblent donc utiles quelque soit l’objectif principal, si bien que des IA tr\u00e8s diff\u00e9rentes “convergeraient” vers ces “objectifs instrumentaux”. On y est : “convergence instrumentale”.<\/p>\n

\"\"<\/a>
Convergence instrumentale : les diff\u00e9rents objectifs instrumentaux vers lesquels tout agent suffisamment intelligent convergerait<\/figcaption><\/figure>\n

Remarquez que les humains font pareil : que votre r\u00eave soit de faire le tour du monde, de voir des \u00e9clipses de soleil, de chanter au Z\u00e9nith, etc., vous aurez besoin d’argent, d’une bonne sant\u00e9, de connaissances, etc.<\/p>\n

La convergence instrumentale est discut\u00e9e depuis longtemps par les chercheurs en s\u00e9curit\u00e9 des IA. Nick Bostrom en parle dans Superintelligence, sorti en 2014 [2]. C’\u00e9tait alors un concept th\u00e9orique.<\/p>\n

Aujourd’hui, nous voyons des comportements ressemblant \u00e0 ceux d\u00e9crits par Nick Bostrom :<\/p>\n