{"id":3251,"date":"2026-06-10T16:09:43","date_gmt":"2026-06-10T15:09:43","guid":{"rendered":"https:\/\/edu.ge.ch\/site\/tablettepedagogique\/?p=3251"},"modified":"2026-06-08T16:12:23","modified_gmt":"2026-06-08T15:12:23","slug":"la-fenetre-doverton-souvre-sur-les-risques-existentiels-lies-aux-ia","status":"publish","type":"post","link":"https:\/\/edu.ge.ch\/site\/tablettepedagogique\/2026\/06\/10\/la-fenetre-doverton-souvre-sur-les-risques-existentiels-lies-aux-ia\/","title":{"rendered":"La fen\u00eatre d’overton s’ouvre sur les risques existentiels li\u00e9s aux IA"},"content":{"rendered":"

Il y a quelques jours, la RTS a publi\u00e9 un article “L’humanit\u00e9 face \u00e0 une intelligence artificielle sup\u00e9rieure: un d\u00e9bat qui quitte la science-fiction”<\/a> [1] dont je recommande vivement la lecture.<\/p>\n

Vous y lirez les craintes de Geoffrey Hinton et Yoshua Bengio, deux sp\u00e9cialistes de l’IA (les deux ont re\u00e7u le “prix Turing”, r\u00e9compense parfois consid\u00e9r\u00e9e comme l’\u00e9quivalent du prix Nobel pour l’informatique [2]).<\/p>\n

Geoffrey Hinton estime entre 10 \u00e0 20% la probabilit\u00e9 que l’IA contribue \u00e0 l’extinction de l’humanit\u00e9 dans les 30 prochaines ann\u00e9es. C’est quelque chose qui ne se disait pas aussi “ouvertement” il y a quelques ann\u00e9es.<\/p>\n

Mais les progr\u00e8s r\u00e9cents semblent avoir chang\u00e9 la donne et ces risques sont maintenant entr\u00e9s dans “la fen\u00eatre d’Overton” [3,4]. La “fen\u00eatre d’Overton”, qu’est-ce donc ? Il s’agit d’un concept formalisant l’id\u00e9e qu’\u00e0 chaque \u00e9poque, il existe un certain ensemble d’id\u00e9es dont on peut discuter publiquement, sans passer pour un farfelu. C’est ce qui est \u00e0 l’int\u00e9rieur de la fen\u00eatre. Au contraire, ce qui n’est pas dans la fen\u00eatre est \u00e9cart\u00e9 des d\u00e9bats : pas assez s\u00e9rieux, trop extr\u00eame. On a un effet de renforcement car on regarde ce qui est admissible avant de prendre la parole.\u00a0 Et ceux qui s’inqui\u00e8tent des sujets hors de la fen\u00eatre s’en inqui\u00e8tent alors en priv\u00e9. Robert Miles l’explique tr\u00e8s bien dans une vid\u00e9o [4] dont je tire l’illustration suivante :<\/p>\n

\"\"<\/a><\/p>\n

 <\/p>\n

Puisque la fen\u00eatre d’Overton est grande ouverte sur les risques existentiels li\u00e9s \u00e0 l’IA (et puisque nous parlions d\u00e9j\u00e0 de ces sujets sur ce blog avant qu’elle le soit \ud83d\ude42 ), parlons-en. Il me semble int\u00e9ressant de les cat\u00e9goriser en deux groupes :<\/p>\n

– les mauvais usages qu’on peut faire de l’IA : cyberattaques, manipulation de l’information, aide \u00e0 fabriquer des armes biologiques, etc.
\nA propos des armes biologiques, une lettre ouverte vient d’\u00eatre publi\u00e9e demandant de mieux contr\u00f4ler la fabrication d’ADN de synth\u00e8se [5]. Elle est sign\u00e9e par des acteurs tels que Dario Amodei, Sam Altman, etc.<\/p>\n

– la perte de contr\u00f4le d’une IA mal “align\u00e9e”, c’est-\u00e0-dire dont les objectifs ne sont plus compatibles avec les n\u00f4tres [6]. En troisi\u00e8me partie de l’article de la RTS, Stuart Russell, autre grand nom de l’IA, d\u00e9fend l’id\u00e9e de machines qui restent sous notre surveillance en acceptant qu’on les corrige et qu’on les \u00e9teigne.<\/p>\n

 <\/p>\n

La RTS qui \u00e9crit un article sur le sujet, Yoshua Bengio re\u00e7u sur HugoD\u00e9crypte [7] … je me r\u00e9jouis que les m\u00e9dias aient ouvert la fen\u00eatre mais m’inqui\u00e8te qu’elle ait besoin de l’\u00eatre…<\/p>\n

 <\/p>\n

Pour aller plus loin :<\/p>\n