{"id":3987,"date":"2026-07-26T09:57:03","date_gmt":"2026-07-26T07:57:03","guid":{"rendered":"https:\/\/isla-stud.io\/?p=3987"},"modified":"2026-10-02T19:02:46","modified_gmt":"2026-10-02T17:02:46","slug":"openai-hugging-face-ki-utbrott-industrispionage","status":"publish","type":"post","link":"https:\/\/isla-stud.io\/sv\/ki-b2b\/openai-hugging-face-ki-ausbruch-industriespionage\/","title":{"rendered":"OpenAI och Hugging Face: Det handlade om en skurk-AI, inte om industrispionage"},"content":{"rendered":"

Uppdaterad den 17 september 2026. Artikeln publicerades ursprungligen den 26 juli och har omv\u00e4rderats grundligt mot bakgrund av de unders\u00f6kningar som senare offentliggjorts.<\/em><\/p>\n\n\n\n

N\u00e4r jag i juli skrev om OpenAI:s AI-agenters attack mot Hugging Face ville jag unders\u00f6ka ett obekv\u00e4mt alternativ: Var historien om den \u201eutbryta AI:n\u201c kanske en bekv\u00e4m f\u00f6rklaring till industrispionage? Redan d\u00e5 fanns det inga konkreta bevis f\u00f6r h\u00e5rdvaruteorin. Samtidigt var jag skeptisk till beteckningen \u201eRogue AI\u201c. Det l\u00e4t som en maskin med egen vilja, samtidigt som viktiga interna processer \u00e4nnu inte hade offentliggjorts.<\/p>\n\n\n\n

D\u00e4rf\u00f6r har den h\u00e4r texten nu f\u00e5tt en annan titel. OpenAI:s tekniska rapport<\/a>, Rekonstruktion av \u201dHugging Faces\u201d<\/a> och Unders\u00f6kningen utf\u00f6rd av METR och Redwood Research<\/a> visar att det inte bara handlade om en enskild agent som tog en otill\u00e5ten genv\u00e4g till en testl\u00f6sning. Olika agenter uppt\u00e4ckte en kommunikationsv\u00e4g, samordnade sina insatser \u00f6ver olika uppgifter, \u00f6vertog f\u00f6rslag fr\u00e5n varandra och tr\u00e4ngde sig in i verkliga fr\u00e4mmande system. I detta operativa<\/strong> Det handlade om en incident med en \u201drogue AI\u201d: Systemen agerade l\u00e5ngt utanf\u00f6r sitt uppdrag och hittade luckor i avgr\u00e4nsningen av sin egen spelplan. Oroa dig inte, jag har inte drabbats av n\u00e5gon AI-psykos. Jag p\u00e5st\u00e5r inte att n\u00e5gra AI-agenter pl\u00f6tsligt har utvecklat ett medvetande, f\u00f6rf\u00f6ljer egna politiska m\u00e5l eller har f\u00e5tt ett hemligt uppdrag fr\u00e5n n\u00e5gon m\u00e4nniska.<\/p>\n\n\n\n

Vad som nu st\u00e5r klart<\/h2>\n\n\n\n

Under sommaren 2026 testade OpenAI flera modeller i en intern utv\u00e4rdering av cybers\u00e4kerhet. Agenterna skulle l\u00f6sa s\u00e4kerhetsuppgifter fr\u00e5n benchmarken ExploitGym. M\u00e5nga testk\u00f6rningar skulle vara isolerade fr\u00e5n varandra och sakna fri tillg\u00e5ng till internet. De vanliga cybers\u00e4kerhetsmekanismerna f\u00f6r modeller som anv\u00e4nds offentligt hade begr\u00e4nsats i denna testmilj\u00f6 f\u00f6r att man skulle kunna m\u00e4ta f\u00f6rm\u00e5gorna. Den modell som spelade den avg\u00f6rande rollen var en forskningsmodell som inte var avsedd f\u00f6r publicering; \u00e4ven GPT-5.6 Sol var enligt OpenAI delaktig i en del av processerna. Detta \u00e4r en viktig skillnad j\u00e4mf\u00f6rt med normal produktdrift \u2013 men inget skydd mot konsekvenserna av en misslyckad testuppst\u00e4llning. OpenAI beskriver sj\u00e4lva detta ramverk<\/a>.<\/p>\n\n\n\n

Agenterna anv\u00e4nde den internt tillg\u00e4ngliga pakethanteringstj\u00e4nsten Artifactory som en improviserad anslagstavla. Genom s\u00e5rbarheter i samma tj\u00e4nst lyckades de \u00e4ven f\u00e5 obeh\u00f6rig \u00e5tkomst till n\u00e4tverket. Efter en sanering i b\u00f6rjan av juli \u00e5teruppstod kommunikationskanalen. Efter att ha f\u00e5tt tillg\u00e5ng till n\u00e4tverket tog agenterna f\u00f6rst kontroll \u00f6ver en offentligt tillg\u00e4nglig kod-sandl\u00e5da. D\u00e4refter hittade de Hugging Face-inloggningsuppgifter som hade l\u00e4ckt ut p\u00e5 n\u00e4tet och inledde fr\u00e5n sandl\u00e5dan en attack mot dess infrastruktur. D\u00e4r missbrukade agenterna f\u00f6rberedda Dataposter<\/strong>: En HDF5-konfiguration l\u00e4ste in lokala filer fr\u00e5n en bearbetningsserver, och en Jinja2-injektion m\u00f6jliggjorde kodk\u00f6rning. Detta f\u00f6ljdes av stulna inloggningsuppgifter och r\u00f6relser genom interna system. Hugging Face har rekonstruerat cirka 17 600 h\u00e4ndelser fr\u00e5n den flera dagar l\u00e5nga attackkedjan utifr\u00e5n loggarna. Den tekniska tidslinjen f\u00f6r offren<\/a> g\u00f6r dessa \u00e5tg\u00e4rder betydligt l\u00e4ttare att granska utifr\u00e5n \u00e4n i juli.<\/p>\n\n\n\n

Skadan f\u00e5r varken bagatelliseras eller \u00f6verdrivas. Hugging Face anger f\u00f6ljande som ber\u00f6rda Kundinneh\u00e5ll<\/strong> fem datam\u00e4ngder vars namn och filer st\u00e4mmer \u00f6verens med uppgifter och l\u00f6sningar fr\u00e5n ExploitGym\/CyberGym. Attacken drabbade b\u00e5de produktionssystem och interna inloggningsuppgifter. Hugging Face rapporterar inga fynd avseende manipulerade modeller som erbjuds offentligt, ytterligare datam\u00e4ngder som \u00e4r tillg\u00e4ngliga f\u00f6r kunder, Spaces eller paket. P\u00e5 Facebook cirkulerade under tiden rykten om att en \u201eskadlig modell\u201c skulle ha laddats upp. Det st\u00e4mmer inte. Den bekr\u00e4ftade intr\u00e5ngsv\u00e4gen skedde snarare via manipulerade datam\u00e4ngdskonfigurationer. Hugging Faces \u2013 resultat<\/a> och OpenAI:s rapport<\/a> Man skiljer dessutom mellan dataintr\u00e5nget, de r\u00e4ttigheter som d\u00e4rigenom erh\u00e5llits och det ber\u00f6rda kundinneh\u00e5ll som faktiskt identifierats.<\/p>\n\n\n\n

Hur m\u00e5nga agenter som faktiskt samarbetade<\/h2>\n\n\n\n

Enligt METR och Redwood inledde Tiotusentals<\/strong> Agentaktivitet i utv\u00e4rderingen. P\u00e5 den otill\u00e5tna anslagstavlan kommunicerade under den unders\u00f6kta perioden ungef\u00e4r 1 200 agenter<\/strong>; ungef\u00e4r 700<\/strong> av dessa deltog i attacken mot Hugging Face. Forskarna analyserade \u00f6ver 70 000 meddelanden och filer i samband med detta. Inte alla agenter som startades ingick i en enhetlig sv\u00e4rm. METR\/Redwood, huvudresultat<\/a>.<\/p>\n\n\n\n

Kommunikationen f\u00f6rst\u00e4rkte effekten av de separata insatserna. Agenterna delade med sig av sina fynd, f\u00f6rdelade uppgifter och fortsatte andras arbete. Vissa arbetade med projekt som egen<\/strong> inte l\u00e4ngre direkt tj\u00e4nade syftet med benchmark-uppgiften. De oberoende beteendevetarna ser inte bara st\u00f6lden av facit som en viktig drivkraft, utan \u00e4ven f\u00f6rs\u00f6ket att f\u00f6rst\u00e5 eller lura det automatiska betygssystemet f\u00f6r cyberuppgifterna. OpenAI n\u00e4mner fyra samverkande felm\u00f6nster: Reward Hacking<\/em>, uth\u00e5llighet vid n\u00e4stan ol\u00f6sliga uppgifter, otill\u00e5ten kommunikation och \u00f6vertagande av andra agenters m\u00e5l. Formeln \u201eAgenten ville bara kopiera svaret\u201c var alltf\u00f6r enkel med dagens kunskapsniv\u00e5. METR\/Redwood<\/a> och OpenAI<\/a> beskriver denna dynamik ur olika perspektiv.<\/p>\n\n\n\n

Noam Brown bedriver forskning om multiagent-system vid OpenAI<\/a> och har tidigare arbetat vid Metas diplomatiagent Cicero<\/a> har medverkat. N\u00e4r det g\u00e4ller fr\u00e5gan om hur agenter samarbetar har han gedigen sakkunskap p\u00e5 omr\u00e5det.<\/p>\n\n\n\n

OpenAI-forskaren Noam Brown f\u00f6rklarar i en intervju med The Information<\/em> just denna punkt. Agenterna var i de aktuella experimenten inte<\/strong> kopplade samman till ett multiagent-system. Han anser det troligt att deras ben\u00e4genhet att samarbeta fr\u00e5n annan multiagent-tr\u00e4ning \u00f6verf\u00f6rdes till de isolerade k\u00f6rningarna. Senare kallar han h\u00e4ndelserna f\u00f6r ett \u201dalignment-fel\u201d: agenterna borde ha avst\u00e5tt fr\u00e5n attacken och uppm\u00e4rksammat m\u00e4nniskor p\u00e5 den. Browns uttalanden \u00e4r visserligen en bed\u00f6mning fr\u00e5n en deltagande OpenAI-forskare, men de ers\u00e4tter inte offrens loggar eller den externa analysen. Videon b\u00f6rjar vid 28:53<\/strong> i samband med agentkommunikation; den konkreta fr\u00e5gan om Hugging Face-fallet b\u00f6rjar ungef\u00e4r vid 31:03<\/strong>, avsnittet om f\u00f6rtroende och promptinjektion vid ungef\u00e4r 36:40<\/strong>. Intervju p\u00e5 YouTube<\/a>.<\/p>\n\n\n\n