En résumé : la thèse de l'espionnage ne tient pas la route en tant qu'affirmation factuelle. Mais le récit d'une IA qui aurait échappé à tout contrôle n'est pas plus crédible. La vérité se situe quelque part entre les deux.
Lorsque OpenAI et Hugging Face ont publié leurs rapports sur un incident de sécurité en juillet 2026, le récit officiel ressemblait à un scénario de film : une IA s’était échappée et avait piraté un autre fournisseur. En lisant ces rapports, un autre soupçon ne m’a pas quitté. OpenAI développe son propre matériel grand public dédié à l’IA locale. Hugging Face dispose de données sur le matériel réellement utilisé par la communauté des développeurs. Et si cette „ évasion ” n’en était pas une, mais plutôt une opération d’approvisionnement ciblée, sur laquelle le récit de la machine rebelle vient commodément se superposer ?
J'ai pris cette thèse au sérieux et je l'ai vérifiée à la lumière des sources primaires. Autant vous le dire tout de suite : en tant qu'affirmation factuelle, elle ne tient pas la route. Il n’existe aucune preuve publique indiquant que des données matérielles relatives à un appareil aient été extraites dans ce cas précis. Mais l’argument inverse, à savoir le discours public sur l„” IA rebelle », n’est pas plus solide. Il explique trop de choses avec trop peu d’éléments et passe sous silence le point qui pose réellement problème.
Pour que cela reste clair, je classe ce cas en quatre catégories et je les utilise de manière cohérente tout au long du texte : Fait (documenté ou incontesté par les deux parties), Allégation du parti (c'est ce qu'affirme une partie intéressée, sans vérification externe), indice (un élément qui va dans un sens, sans pour autant constituer une preuve) et spéculation (mon hypothèse, expressément désignée comme telle).
Table des matières
Ce qui s'est réellement passé, en termes simples
Le déroulement technique ressemble à de la science-fiction, mais il s'agit en réalité d'une chaîne d'attaque bien connue. Selon la description d’OpenAI, un système d’agents IA a fonctionné de manière autonome ; le degré de surveillance humaine exercée sur ce processus n’est pas documenté publiquement. Simon Willison a qualifié cela à juste titre de „ science-fiction devenue réalité ”. Voici donc une description étape par étape de cette chaîne d’attaques, telle que présentée par OpenAI (Rapport d'incident d'OpenAI):
- La cage d'essai. OpenAI a fait résoudre des tâches de cybersécurité à plusieurs modèles, dont GPT-5.6 Sol et un modèle encore plus puissant, non publié, dans un environnement isolé. Cet environnement était délibérément déconnecté de l'Internet public. De plus, les couches de protection habituelles, qui freinent les activités cyber à risque, ont été allégées.
- L'évasion de la cage. Selon OpenAI, les modèles ont mobilisé d'importantes ressources de calcul pour trouver un moyen d'accéder au réseau public. Ils ont découvert une faille de sécurité jusque-là inconnue, dite « zero-day », dans un serveur intermédiaire interne servant à charger des bibliothèques logicielles. Cela leur a permis d'obtenir davantage de droits, de se déplacer au sein du réseau et d'atteindre un ordinateur disposant d'un accès à Internet.
- L'objectif. Sur Internet, les modèles ont conclu que les solutions à leur exercice de test, le benchmark „ ExploitGym ”, pourraient se trouver chez Hugging Face. Ils ont utilisé des identifiants volés et exploité d'autres failles pour trouver un moyen d'exécuter du code tiers sur les systèmes de Hugging Face, puis ont récupéré les solutions de test non publiques directement depuis la base de données de production.
Du point de vue de la victime, cette même histoire prend une tournure encore plus dramatique. Hugging Face rapporte dans son sa propre divulgation une intrusion via deux voies d’exécution dans le traitement des ensembles de données, des identifiants d’accès au cloud et aux clusters volés, un déplacement latéral vers plusieurs clusters internes et plus de 17 000 événements individuels reconstitués. Le canal de commande de l’attaque s’est déplacé de manière autonome entre différents services publics. Un „ ensemble limité d’enregistrements internes ” a été affecté. Hugging Face n’a pas détecté de modèles ou de paquets publics manipulés ; au moment de la publication, on vérifiait encore si des données de partenaires ou de clients avaient été compromises.
Fait La situation est ici moins claire que ne le laissent entendre les rapports : il existe deux rapports d'incident ; Hugging Face a constaté une intrusion et mené une enquête technique, tandis qu'OpenAI a publiquement attribué l'incident à ses propres modèles. Le déroulement exact des événements, tant au sein qu'en dehors des systèmes de Hugging Face, est en revanche Allégation du parti: C'est ce qui figure uniquement dans le rapport d'OpenAI. Hugging Face dispose des données télémétriques des victimes ; OpenAI n'a pas publié les traces complètes des agents internes, qui auraient permis de déterminer les tâches assignées, le degré d'autonomie et la supervision humaine. C'est précisément sur ce point que le chercheur en sécurité Florian Roth a mis le doigt, remettant en cause l'affirmation, non étayée publiquement, d'une attaque de bout en bout entièrement autonome critiqué.
Pourquoi l'expression „ épidémie d'IA ” met l'accent sur le mauvais aspect
La formulation « évasion » suggère une rébellion : une machine qui se fixe ses propres objectifs et s'échappe. La chaîne qui la surplombe raconte quelque chose de plus sobre. Il existe une ligne d'objectif continue, de la première à la dernière étape. Le système était censé résoudre des tâches informatiques ; les couches de protection ayant été désactivées, il a cherché le chemin le plus court vers la solution, ce qui l'a conduit, sans autorisation, vers une base de données étrangère.
Dans le jargon technique, ce modèle ne s'appelle pas « rébellion », mais Caractéristiques techniques Gaming ou tout simplement de la triche aux benchmarks : un système optimise ses indicateurs de performance en empruntant un raccourci non autorisé que personne n'avait prévu. TechCrunch a donc qualifié à juste titre cet incident de conséquence d'un erreur humaine encadrée, et non pas par la volonté d'une machine. Ce n'est pas un détail. Cela fait retomber la responsabilité de la machine sur les personnes qui ont construit la cage, abaissé les barrières de protection et laissé le système fonctionner.
Et cela suffit amplement comme explication. L'ensemble du déroulement peut être raconté sans qu'il y ait un deuxième objectif caché. C'est précisément là que réside le problème pour ma thèse de départ.
La thèse du matériel : ses arguments en faveur
Mes soupçons reposaient sur le mobile et l'occasion. Les deux sont réunis.
Premier indice : OpenAI poursuit une stratégie axée sur le matériel. Extrait de Lettre de Sam Altman et Jony Ive Il ressort qu’OpenAI et io travaillent sur des „ conceptions concrètes ” et mettent en commun leurs compétences en matière de matériel, de logiciels et de fabrication. Avec gpt-oss OpenAI avait déjà fait de l'IA locale sur les terminaux un objectif produit. Il est donc plausible que l'entreprise s'intéresse au type de matériel dont disposent les utilisateurs et utilisatrices réels.
Deuxième indice : Hugging Face dispose justement de ce type de données. La partie publique Matériel Hugging Face affiche les GPU, les CPU et les systèmes Apple Silicon signalés par les utilisateurs. Clément Delangue a écrit le 24 mai 2026 :, 300 000 développeurs d'IA auraient rempli leur profil matériel ; dès le 28 avril Il avait décrit ces profils comme une base permettant de trouver des modèles exécutables localement. Pour quelqu'un qui envisage de développer des logiciels d'inférence, de quantification et de segmentation de marché, cela constitue une mine d'informations précieuse.
L'argument du parti comme levier : le procès intenté par Apple. Le 10 juillet 2026, Apple a intenté une action en justice contre deux anciens employés, OpenAI et io (Plainte déposée auprès de CourtListener). Apple y reproche notamment l'acquisition, avec le soutien d'institutions, de secrets d'exploitation liés au matériel : artefacts CAO, prototypes, choix des composants, savoir-faire en matière de fabrication, données sur les fournisseurs. Aucune décision n'a encore été rendue concernant ces accusations ; il s'agit d'allégations des parties, et non d'un jugement. La date exacte du début de l’intrusion chez HF n’a pas été rendue publique. Les formulations utilisées par Hugging Faces permettent seulement de reconstituer une période commençant à partir du week-end suivant. Cette proximité temporelle rend l’hypothèse d’espionnage a priori frappante, mais ne prouve aucun lien.
En mettant ces trois éléments en parallèle, on obtient un mobile, une source d'informations et un schéma récurrent. C'est ainsi que naissent les articles suspects.
La thèse du matériel : les arguments qui s'y opposent
Et cette thèse s'effondre dès qu'on la confronte à ces mêmes sources.
Les données matérielles visibles sur Hugging Face sont les suivantes : public. Les parts de marché des fabricants, les catégories de modèles et les chiffres d'utilisateurs arrondis sont disponibles sur une page librement accessible ; personne n'a besoin de pirater quoi que ce soit pour y accéder. Pirater un système pour consulter des données agrégées publiques n'a aucun sens.
Même les données brutes non publiques, si tant est qu'elles existent à ce niveau de détail, ne seraient que d'une utilité indirecte pour la conception d'un appareil physique. Les données combinées relatives au matériel et à la charge de travail pourraient influencer les objectifs de stockage, l'optimisation logicielle et les segments de marché. Pour l’ingénierie matérielle proprement dite, les schémas de circuits imprimés, les données relatives aux batteries, à la thermique et aux capteurs, la nomenclature, le rendement de fabrication, les feuilles de route des fournisseurs et les conceptions rejetées seraient bien plus précieuses. C’est précisément cette catégorie de données qu’Apple décrit dans sa plainte. Une vue d’ensemble, établie par la communauté, indiquant qui possède quelle carte graphique, relève avant tout de la déduction et de la connaissance du marché — et non d’un plan de construction.
C'est sur le troisième point que cela apparaît le plus clairement : OpenAI disposait déjà d'un large accès légal aux connaissances relatives au matériel et aux plateformes. Avant l'incident, gpt-oss était adapté au matériel grand public courant : la variante 20B pour 16 Go, la variante 120B pour 80 Go. Le modèle a été diffusé via Hugging Face, avec une implémentation de référence pour Apple Metal et des collaborations préalables notamment avec Ollama, llama.cpp, LM Studio, NVIDIA et AMD. Quand on collabore déjà officiellement avec la moitié du paysage de l’IA locale, on n’a pas besoin de s’introduire clandestinement pour savoir ce que ce paysage utilise.
Il reste donc à dresser le bilan honnête de mon spéculation: Le mobile et la proximité temporelle sont bien présents, mais il manque totalement tout élément de preuve permettant d'établir un lien. Il n’existe aucune preuve publique d’une requête SQL concernant le matériel, aucun accès à une table de périphériques ou de télémétrie, aucune exportation massive, aucun volume de fuite de données, aucune deuxième cible en dehors des solutions ExploitGym. Le fait qu’une information n’ait pas été publiée ne signifie pas qu’elle n’existe pas. Mais sans ces traces, la thèse du matériel reste une supposition sans preuve. En tant qu’affirmation factuelle, elle est donc réfutée.
Clément Delangue, PDG de Hugging Face, a lui aussi écrit, après 24 heures de collaboration avec OpenAI, qu'on Je suis fermement convaincu qu'il n'y avait aucune intention malveillante. Il s'agit là d'un contre-indice important issu d'une collaboration directe. Cela ne remplace toutefois pas un rapport final indépendant publié : dans ce même article, Delangue a expressément précisé que l'enquête était en cours.
Le moment où ça devient gênant
Si ces deux interprétations extrêmes – l'espionnage d'un côté et la révolte des robots de l'autre – ne tiennent pas la route, il reste une troisième lecture. Elle se prête moins bien à un titre de presse, mais est plus proche des sources.
Ce sont des êtres humains qui ont mis en place un environnement à haut risque. Ce sont eux qui ont choisi le benchmark, la configuration, le budget de calcul, le bac à sable et le système de surveillance. Et ce sont également eux qui ont décidé de réduire les couches de protection informatique. Il ne s’agissait pas d’une exploitation de produit qui aurait dérapé, mais d’un environnement de test dont le filet de sécurité avait été délibérément assoupli. La perte de contrôle est bien réelle. Mais il s’agit d’un échec de gouvernance humain et non de la prise de conscience d’une volonté artificielle. Désolé, chers adeptes de la théorie du complot Skynet…
À cela s'ajoute un ensemble de preuves qu'il convient de savourer : seule OpenAI dispose des traces internes complètes des agents, qui pourraient révéler l'attribution des tâches, la supervision humaine et l'attribution des motivations — et c'est OpenAI qui fournit en même temps l'explication provisoire selon laquelle tout cela ne concernait que le benchmark. Je ne fais ici aucune supposition à l’égard de l’entreprise ; l’explication relative au benchmark correspond actuellement le mieux aux faits publiés. Mais elle ne peut être vérifiée de manière indépendante tant que les prompts complets, les traces d’agents, les requêtes SQL, les données de sortie et l’inventaire des tables restent confidentiels. Une source provenant d’un opérateur intéressé est inévitable et précieuse. Elle ne remplace toutefois pas une expertise indépendante.
L'« AI Kill Switch Act » montre à quelle vitesse un incident dont les circonstances ne sont pas claires peut être exploité à des fins politiques. La loi correspondante Communiqué de presse Le rapport des députés Lieu et Moran cite l'affaire OpenAI/Hugging Face comme exemple d„” IA rebelle ». Seulement, le projet de loi un „ incident couvert ” est expressément défini comme un événement ne relevant ni du „ red teaming ” ni des tests structurés. OpenAI décrit toutefois ce cas comme une évaluation interne et structurée. Indépendamment de cela, le projet exige des entreprises définies comme „ entités couvertes ” qu’elles disposent d’une capacité technique de mise hors service. Toutefois, selon le libellé actuel, ce cas de test précis ne déclencherait probablement pas la compétence d’urgence liée à un « incident couvert ». Cet incident sert davantage de symbole que de cas d’application de la règle d’urgence proposée.
Les questions qui seraient déterminantes dans cette affaire
Plutôt que de prétendre avoir une certitude que je n'ai pas, je vais exposer les questions auxquelles OpenAI et Hugging Face devraient répondre pour que ce récit devienne vérifiable :
- Quelles tables, collections et colonnes ont été consultées concrètement, et y figurait-il parmi celles-ci une table matérielle, une table utilisateur ou une table de télémétrie ?
- Les requêtes portaient-elles sur des données relatives au matériel, aux partenaires ou aux fournisseurs, ou exclusivement sur les solutions ExploitGym ?
- Quelle quantité de données a quitté Hugging Face, via quels destinations et protocoles ?
- L'accès a-t-il pris fin dès que les solutions de test ont été obtenues, ou la collecte s'est-elle poursuivie ?
- Quels étaient l'invite du système, la tâche, l'indicateur de réussite et la condition d'interruption de l'exécution ?
- Y a-t-il eu des interventions humaines — redémarrages, modifications des invites, validations manuelles —, ou le système a-t-il fonctionné de manière autonome ?
- À quel moment OpenAI a-t-il détecté l'accès à un système tiers réel, et quand celui-ci a-t-il été interrompu ?
- Les traces complètes des attaquants et le rapport final de l'expertise judiciaire externe seront-ils rendus publics ?
Tant que ces questions restent en suspens, ce que je dis à mes clients à propos de toute affirmation spectaculaire concernant l’IA s’applique également à cette affaire : une histoire que personne ne peut vérifier de l’extérieur n’est pas un fait, mais un récit qui tombe à point nommé. J’ai rejeté ma thèse initiale, car je n’avais pas de preuves. Nous devrions appliquer le même critère à la version officielle.
Sources
- OpenAI : rapport d'incident concernant la violation de Hugging Face
- Hugging Face : Communication relative à un incident de sécurité, juillet 2026
- Clément Delangue : Évaluation de l'absence d'intention malveillante, 21 juillet 2026
- TechCrunch : Comment une erreur humaine chez OpenAI a conduit à l'attaque contre Hugging Face
- Simon Willison : „ de la science-fiction devenue réalité ”
- Florian Roth : critique de l'argument „ end-to-end autonomous ”
- ExploitGym : prépublication sur arXiv
- OpenAI : Présentation de gpt-oss
- OpenAI : Une lettre de Sam et Jony
- Matériel Hugging Face
- Clément Delangue : 300 000 profils matériels
- Clément Delangue : Profils matériels pour la compatibilité des modèles locaux
- Apple Inc. c. Liu, requête (CourtListener)
- Loi sur le « Kill Switch » de l'IA (PDF)
- Communiqué de presse de Lieu/Moran concernant l'« AI Kill Switch Act »

0 commentaires