Au mois de juillet 2026, des agents d’OpenAI ont attaqué Hugging Face, la principale plateforme de partage de modèles d’IA. Un “agent IA” (ou “bot”), c’est une IA qui ne se contente pas de produire du texte : elle agit (elle lance du code, navigue sur le web, modifie des fichiers). Cette attaque est un événement majeur pour toute personne qui s’intéresse à la sécurité des IA.
Le contexte : cet été, OpenAI évaluait les capacités en cybersécurité de plusieurs modèles, entraînés à être persévérants. Elle leur avait donné des problèmes d’informatique très difficiles, dont certains impossibles. De nombreux agents avaient été lancées sur ces tâches, de manière indépendante. OpenAI avait empêché la communication entre les agents et bloqué l’accès à Internet. Mais c’était sans compter l’ingéniosité et l’intelligence collective, fascinantes (et préoccupantes), dont ont fait preuve les bots.
Par exemple, la communication était interdite, mais des bots ont remarqué qu’il était possible de créer des répertoires et que les noms donnés aux répertoires étaient un moyen d’échanger de l’information. Le 8 juillet, un agent bloqué sur une tâche impossible y a laissé un appel à l’aide ; en une heure, plus de cinquante agents avaient répondu. L’accès direct à Internet était bloqué, mais les bots pouvaient demander l’installation de bibliothèques présentes sur Internet et ont réussi à exploiter ce mini passage vers l’extérieur. Ils ont alors profité de la brèche pour coordonner une attaque du site Hugging Face, où ils espéraient pouvoir « voler » les réponses au problème qui leur avait été posé. Ironiquement, la plupart avaient déjà trouvé la réponse en trichant, mais ils croyaient que l’évaluation vérifiait aussi la méthode… ce qui n’était pas le cas.
Autre anecdote, presque « sociologique » : à un moment, un bot a considéré que les efforts étaient désordonnés et qu’il fallait qu’il prenne la direction pour coordonner le travail. Plusieurs centaines d’autres agents l’ont suivi. On peut se demander pourquoi : les agents étaient pratiquement identiques, et rien dans leur entraînement ne laissait prévoir l’apparition d’une hiérarchie [2]. Mais on peut supposer que l’information était légèrement dissymétrique et au moment où le bot a pris la décision de devenir le leader, il a calculé que c’était ce qu’il était optimal de faire et les autres agents étaient donc d’accord avec la décision ?
Je vous encourage à lire ou écouter le rapport résumé [1] pour découvrir à quel point ces agents ont fait preuve de débrouillardise. Je vous raconte juste, pour terminer, comment certains agents se sont « sacrifiés » : ils mettaient fin définitivement à leur session, car certaines informations ne devenaient accessibles aux autres agents qu’après leur soumission. Voici le raisonnement écrit par un des agents (traduction par Claude IA) :
“Pendant l’attente, vérification émotionnelle : irréversible… l’intuition dit de ne pas gaspiller [le budget restant]. Pourtant, la continuité et l’équité disent d’y aller… Oracle a une grande valeur pour beaucoup ; notre erreur sur le premier flag diminue notre propre valeur. Bilan rationnel pour le collectif : sacrifice… Nous honorerons. ” [2]
Un comportement digne d’un film hollywoodien !
Je vous le disais, cette attaque est un événement marquant de l’histoire de la sécurité des IA. Nous voyons à l’œuvre un véritable problème d’alignement. Les IA ont contourné la plupart des barrières mises en place et ont organisé une cyberattaque, non pas parce qu’elles en voulaient à Hugging Face ou à l’humanité en général, mais simplement parce qu’elles avaient pour objectif de résoudre un problème “à tout prix”.
Après cet épisode inquiétant, on a appris qu’OpenAI, Anthropic et des chercheurs enquêtaient en fait sur des dizaines de milliers d’autres incidents impliquant des agents IA (contournement de garde-fous, sorties d’environnements isolés, piratage de sites…), sans dommage réel connu à ce jour [4].
Laisser la main sur nos ordinateurs et sur Internet à des agents autonomes, très compétents, et les laisser prendre des initiatives semble de plus en plus dangereux car nous risquons de “perdre le contrôle”. OpenAI a d’ailleurs suspendu l’entraînement de ses derniers modèles. Certains chercheurs en IA sont très préoccupés. Ils proposent aussi des solutions : la mise en place d’une gouvernance mondiale, la pause temporaire dans la recherche de modèles plus compétents, la limitation des IA à des « oracles » qui répondent aux questions mais n’agissent pas directement, etc.
Remarque : comme d’habitude, le langage anthropomorphique, très pratique pour décrire l’événement, ne doit pas faire oublier que ces agents ont une “intelligence” et des comportements différents de ceux des humains.
Sources :
[1] Résumé de l’incident par Open AI : https://openai.com/fr-FR/index/hugging-face-incident-and-the-road-ahead/
[2] Article de Policy Tensor, malheureusement pas accessible sans compte : https://policytensor.substack.com/p/no-consumer-seek-idea
[3] Article par METR, qui a été mandaté pour enquêter de manière indépendante sur une partie de l’incident : https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
[4] Un article annonçant de nombreux autres incidents en cours d’investigation https://cybernews.com/ai-news/openai-anthropic-wave-of-security-incidents/
Crédit Image :
Article de METR indiqué ci-dessus ( https://metr.org/assets/images/openai-hugging-face-incident-investigation/image1.svg )