Le mercredi 3 décembre, le SEM a accueilli Jérémy Perret pour un entretien du SEM. On y a parlé d'un sujet brûlant : faut-il brider l'intelligence artificielle pour le bien de l'humanité?

Ingénieur et docteur en intelligence artificielle, ainsi que spécialiste des questions de sécurité, Jérémy Perret possède un parcours professionnel qui alterne recherche et développement en IA, d'un côté, enseignement et vulgarisation, de l'autre. Désormais, la sûreté et la gouvernance de l'IA occupent la majorité de ses activités. Il est donc bien placé pour nous alerter sur les dangers potentiels de l'IA. Il fait d'ailleurs partie du mouvement Pause IA, qui demande un moratoire sur le développement de l'intelligence artificielle.

Interview

Nous vous proposons de lire ce court interview réalisé en amont de l'entretien.

Depuis quand vous intéressez-vous à l'IA?

Depuis mon enfance! J'ai commencé à programmer assez tôt. J'étais fasciné par la robotique et l'automatisation, je me suis plongé dans les études d'informatique et je baigne toujours dedans. Entretemps, vers 2014, j'ai découvert le monde de la sûreté, et que faire advenir mes beaux rêves futuristes allait être plus délicat que prévu.

Quel est le but de Pause IA?

Faire en sorte que la course à l'intelligence artificielle surhumaine s'arrête, le temps de s'assurer que cette technologie ne nous mènera pas à notre perte. Construire des machines qui nous dépassent est dangereux, c'est pourtant ce qui est en train d'arriver, et Pause IA milite pour que l'industrie arrête d'empirer le problème chaque jour.

Comment atteindre cet objectif?

Avec un moratoire international sur un type précis de recherche en IA, celle qui vise les systèmes les plus versatiles, compétents et autonomes possibles. Une poignée de laboratoires en ont fait leur objectif et font la course entre eux. Cette compétition explique pourquoi il faut se coordonner pour que tout le monde s'arrête en même temps.

En quoi les IA sont-elles dangereuses pour l'humanité?

On ne sait pas, aujourd'hui, produire une IA à la fois puissante, et qui fait ce que ses concepteurs veulent. Les actions des IA de pointe surprennent leurs utilisateurs, sans que l'on puisse expliquer l'origine de leur comportement. Laisser trop d'autonomie à une machine qui peut tromper les humains, les contourner et les dépasser n'est pas du tout une bonne idée. A fortiori si elles font parfois des choses utiles dans certains contextes, et qu'on suppose trop vite que tout va bien.