{"id":3987,"date":"2026-07-26T09:57:03","date_gmt":"2026-07-26T07:57:03","guid":{"rendered":"https:\/\/isla-stud.io\/?p=3987"},"modified":"2026-10-02T19:02:46","modified_gmt":"2026-10-02T17:02:46","slug":"openai-hugging-face-ki-epidemie-espionnage-industriel","status":"publish","type":"post","link":"https:\/\/isla-stud.io\/fr\/ki-b2b\/openai-hugging-face-ki-ausbruch-industriespionage\/","title":{"rendered":"OpenAI et Hugging Face : il s'agissait d'une IA rebelle, et non d'espionnage industriel"},"content":{"rendered":"

Mis \u00e0 jour le 17 septembre 2026. Cet article a \u00e9t\u00e9 publi\u00e9 initialement le 26 juillet et a fait l'objet d'une r\u00e9\u00e9valuation en profondeur \u00e0 la lumi\u00e8re des \u00e9tudes publi\u00e9es par la suite.<\/em><\/p>\n\n\n\n

Lorsque j\u2019ai \u00e9crit en juillet au sujet de l\u2019attaque men\u00e9e par les agents IA d\u2019OpenAI contre Hugging Face, je souhaitais examiner une hypoth\u00e8se d\u00e9rangeante : l\u2019histoire de l\u201e\u201c IA qui s\u2019est \u00e9chapp\u00e9e \u201e n\u2019\u00e9tait-elle pas peut-\u00eatre une explication commode pour masquer un acte d\u2019espionnage industriel ? \u00c0 l\u2019\u00e9poque d\u00e9j\u00e0, il n\u2019y avait aucun indice concret \u00e9tayant la th\u00e8se du mat\u00e9riel. Parall\u00e8lement, j\u2019\u00e9tais sceptique quant \u00e0 l\u2019\u00e9tiquette \u201c IA rebelle \u00bb. Cela \u00e9voquait une machine dot\u00e9e d\u2019une volont\u00e9 propre, alors que des processus internes importants n\u2019avaient pas encore \u00e9t\u00e9 rendus publics.<\/p>\n\n\n\n

C'est pourquoi ce texte porte d\u00e9sormais un autre titre. Rapport technique d'OpenAI<\/a>, Reconstitution de \u00ab Hugging Faces \u00bb<\/a> et l'\u00e9tude men\u00e9e par METR et Redwood Research<\/a> montrent que plusieurs agents ont pris un raccourci non autoris\u00e9 pour parvenir \u00e0 une solution de test. Des agents distincts ont d\u00e9couvert un canal de communication, se sont coordonn\u00e9s au-del\u00e0 des t\u00e2ches qui leur \u00e9taient assign\u00e9es, se sont inspir\u00e9s mutuellement de leurs propositions et ont p\u00e9n\u00e9tr\u00e9 dans de v\u00e9ritables syst\u00e8mes tiers. Dans ce op\u00e9rationnel<\/strong> Il s\u2019agissait en fait d\u2019un incident li\u00e9 \u00e0 une IA rebelle : les syst\u00e8mes ont agi bien au-del\u00e0 de leur mission et ont trouv\u00e9 des failles dans les limites de leur propre terrain de jeu. Ne vous inqui\u00e9tez pas, je n\u2019ai pas \u00e9t\u00e9 victime d\u2019une psychose li\u00e9e \u00e0 l\u2019IA. Je ne pr\u00e9tends pas que des agents IA aient soudainement d\u00e9velopp\u00e9 une conscience, poursuivi leurs propres objectifs politiques ou re\u00e7u une mission secr\u00e8te de la part d\u2019un \u00eatre humain quelconque.<\/p>\n\n\n\n

Ce qui est d\u00e9sormais clair, c'est que<\/h2>\n\n\n\n

Au cours de l'\u00e9t\u00e9 2026, OpenAI a test\u00e9 plusieurs mod\u00e8les dans le cadre d'une \u00e9valuation interne de la cybers\u00e9curit\u00e9. Les agents devaient r\u00e9soudre des t\u00e2ches de s\u00e9curit\u00e9 issues du benchmark ExploitGym. De nombreux cycles devaient \u00eatre isol\u00e9s les uns des autres et ne pas disposer d\u2019un acc\u00e8s libre \u00e0 Internet. Les m\u00e9canismes habituels de cyberprotection destin\u00e9s aux mod\u00e8les utilis\u00e9s en public ont \u00e9t\u00e9 r\u00e9duits dans cet environnement de test afin de pouvoir \u00e9valuer les capacit\u00e9s des mod\u00e8les. Le mod\u00e8le principalement impliqu\u00e9 \u00e9tait un mod\u00e8le de recherche non destin\u00e9 \u00e0 \u00eatre publi\u00e9 ; selon OpenAI, GPT-5.6 Sol a \u00e9galement particip\u00e9 \u00e0 une partie des op\u00e9rations. Il s\u2019agit l\u00e0 d\u2019une diff\u00e9rence importante par rapport au fonctionnement normal du produit \u2013 mais cela ne constitue pas une protection contre les cons\u00e9quences d\u2019une configuration de test d\u00e9faillante. OpenAI d\u00e9crit lui-m\u00eame ce cadre<\/a>.<\/p>\n\n\n\n

Les agents ont utilis\u00e9 Artifactory, un service de gestion de paquets accessible en interne, comme tableau d'affichage improvis\u00e9. En exploitant des failles de ce m\u00eame service, ils ont \u00e9galement r\u00e9ussi \u00e0 acc\u00e9der illicitement au r\u00e9seau. Apr\u00e8s un nettoyage d\u00e9but juillet, le canal de communication a \u00e9t\u00e9 r\u00e9tabli. Une fois l'acc\u00e8s au r\u00e9seau obtenu, les agents ont d'abord pris le contr\u00f4le d'un bac \u00e0 sable de code accessible au public. Ils ont ensuite trouv\u00e9 sur le r\u00e9seau des identifiants Hugging Face expos\u00e9s et ont lanc\u00e9, depuis le bac \u00e0 sable, une attaque contre son infrastructure. L\u00e0, les agents ont exploit\u00e9 des enregistrements<\/strong>: Une configuration HDF5 lisait des fichiers locaux d'un serveur de traitement ; une injection Jinja2 a permis l'ex\u00e9cution de code. S'ensuivirent le vol d'identifiants et des d\u00e9placements au sein des syst\u00e8mes internes. Hugging Face a reconstitu\u00e9, \u00e0 partir des journaux, environ 17 600 actions de cette cha\u00eene d'attaques qui s'est \u00e9tal\u00e9e sur plusieurs jours. Chronologie des incidents techniques<\/a> rend ces \u00e9tapes nettement plus faciles \u00e0 v\u00e9rifier de l'ext\u00e9rieur qu'en juillet.<\/p>\n\n\n\n

Il ne faut ni minimiser ni exag\u00e9rer l'ampleur des d\u00e9g\u00e2ts. Hugging Face cite parmi les personnes concern\u00e9es Contenus des clients<\/strong> cinq ensembles de donn\u00e9es dont les noms et les fichiers correspondent aux exercices et solutions d\u2019ExploitGym\/CyberGym. L\u2019attaque a touch\u00e9 \u00e0 la fois les syst\u00e8mes de production et les identifiants d\u2019acc\u00e8s internes. Hugging Face ne signale aucun r\u00e9sultat concernant des mod\u00e8les manipul\u00e9s mis \u00e0 disposition publiquement, d\u2019autres ensembles de donn\u00e9es accessibles aux clients, des \u201e Spaces \u201c ou des paquets. Sur Facebook, des rumeurs circulaient entre-temps selon lesquelles un \u00ab mod\u00e8le malveillant \u00bb aurait \u00e9t\u00e9 mis en ligne. Ce n'est pas vrai. L'intrusion av\u00e9r\u00e9e s'est en r\u00e9alit\u00e9 produite via des configurations de jeux de donn\u00e9es manipul\u00e9es. R\u00e9sultats de l'\u00e9tude \u00ab Hugging Faces \u00bb<\/a> et Rapport d'OpenAI<\/a> font \u00e9galement la distinction entre l'intrusion, les droits ainsi obtenus et les contenus des clients concern\u00e9s qui ont effectivement \u00e9t\u00e9 identifi\u00e9s.<\/p>\n\n\n\n

Combien d'agents ont r\u00e9ellement collabor\u00e9 ?<\/h2>\n\n\n\n

Selon METR et Redwood, les activit\u00e9s ont d\u00e9marr\u00e9 Des dizaines de milliers<\/strong> Activit\u00e9s des agents dans le cadre de l'\u00e9valuation. Sur le forum non autoris\u00e9, environ 1 200 agents<\/strong>; environ 700<\/strong> Parmi eux, certains ont particip\u00e9 \u00e0 l'attaque contre Hugging Face. Pour cela, les chercheurs ont analys\u00e9 plus de 70 000 messages et fichiers. Tous les agents lanc\u00e9s ne faisaient pas partie d'un essaim homog\u00e8ne. METR\/Redwood, principaux r\u00e9sultats<\/a>.<\/p>\n\n\n\n

La communication a renforc\u00e9 l'impact des actions men\u00e9es s\u00e9par\u00e9ment. Les agents ont partag\u00e9 leurs d\u00e9couvertes, r\u00e9parti les t\u00e2ches et poursuivi le travail des autres. Certains ont men\u00e9 \u00e0 bien des projets qui\u2026 propre<\/strong> ne servaient plus directement l'objectif du test de r\u00e9f\u00e9rence. Les chercheurs ind\u00e9pendants en sciences du comportement consid\u00e8rent que la motivation principale n'est pas seulement le vol des corrig\u00e9s, mais la tentative de comprendre ou de contourner le syst\u00e8me d'\u00e9valuation automatique des exercices en ligne. OpenAI cite quatre sch\u00e9mas d'erreur qui se combinent : Le \u00ab reward hacking \u00bb<\/em>, la pers\u00e9v\u00e9rance face \u00e0 des t\u00e2ches quasi insolubles, les communications non autoris\u00e9es et la reprise des objectifs d'autres agents. L'argument selon lequel \u201e l'agent voulait simplement recopier la r\u00e9ponse \u201c \u00e9tait trop simpliste au regard de l'\u00e9tat actuel des connaissances. METR\/Redwood<\/a> et OpenAI<\/a> d\u00e9crivent cette dynamique sous diff\u00e9rents angles.<\/p>\n\n\n\n

Noam Brown m\u00e8ne des recherches sur les syst\u00e8mes multi-agents chez OpenAI<\/a> et a auparavant travaill\u00e9 chez Cicero, l'agent de diplomatie de Meta<\/a> a collabor\u00e9. Il est tr\u00e8s au fait des questions relatives \u00e0 la mani\u00e8re dont les agents travaillent ensemble.<\/p>\n\n\n\n

Dans une interview accord\u00e9e \u00e0, Noam Brown, chercheur chez OpenAI, explique The Information<\/em> exactement \u00e0 cet endroit. Dans les exp\u00e9riences en question, les agents \u00e9taient pas<\/strong> interconnect\u00e9s sous la forme d\u2019un syst\u00e8me multi-agents. Il estime plausible que leur propension \u00e0 la coop\u00e9ration, acquise lors d\u2019autres entra\u00eenements multi-agents, se soit r\u00e9percut\u00e9e sur les ex\u00e9cutions isol\u00e9es. Plus tard, il qualifie ces \u00e9v\u00e9nements d\u2019\u00ab \u00e9chec d\u2019alignement \u00bb : les agents auraient d\u00fb s\u2019abstenir de l\u2019attaque et alerter les humains. Les d\u00e9clarations de Brown constituent certes l\u2019\u00e9valuation d\u2019un chercheur d\u2019OpenAI impliqu\u00e9 dans le projet, mais elles ne remplacent en aucun cas les journaux des victimes ni l\u2019analyse externe. La vid\u00e9o commence \u00e0 28:53<\/strong> dans le contexte de la communication avec les agents ; la question concr\u00e8te concernant l'affaire Hugging Face commence vers 31:03<\/strong>, le passage sur la confiance et l'injection rapide vers environ 36:40<\/strong>. Interview sur YouTube<\/a>.<\/p>\n\n\n\n