{"id":3987,"date":"2026-07-26T09:57:03","date_gmt":"2026-07-26T07:57:03","guid":{"rendered":"https:\/\/isla-stud.io\/?p=3987"},"modified":"2026-10-02T19:02:46","modified_gmt":"2026-10-02T17:02:46","slug":"openai-hugging-face-ki-utbrudd-industrispionasje","status":"publish","type":"post","link":"https:\/\/isla-stud.io\/no\/ki-b2b\/openai-hugging-face-ki-ausbruch-industriespionage\/","title":{"rendered":"OpenAI og Hugging Face: Det var en uautorisert AI, ikke industrispionasje"},"content":{"rendered":"

Oppdatert 17. september 2026. Artikkelen ble opprinnelig publisert 26. juli og har blitt grundig revurdert p\u00e5 bakgrunn av unders\u00f8kelser som senere er blitt offentliggjort.<\/em><\/p>\n\n\n\n

Da jeg i juli skrev om angrepet fra OpenAIs AI-agenter mot Hugging Face, \u00f8nsket jeg \u00e5 unders\u00f8ke et ubehagelig alternativ: Var historien om den \u201eutbrutte AI-en\u201c kanskje en enkel forklaring p\u00e5 industrispionasje? Allerede den gang fantes det ingen konkrete bevis for hardware-teorien. Samtidig var jeg skeptisk til betegnelsen \u201eRogue AI\u201c. Det h\u00f8rtes ut som en maskin med egen vilje, mens viktige interne prosesser enn\u00e5 ikke var offentliggjort.<\/p>\n\n\n\n

Derfor har denne teksten n\u00e5 f\u00e5tt en annen tittel. OpenAI:s tekniske rapport<\/a>, Rekonstruksjon av \u00abHugging Faces\u00bb<\/a> og Unders\u00f8kelsen utf\u00f8rt av METR og Redwood Research<\/a> viser at det var mer enn \u00e9n enkelt agent som tok en uautorisert snarvei til en testl\u00f8sning. Uavhengige agenter oppdaget en kommunikasjonskanal, koordinerte seg p\u00e5 tvers av oppgaver, overtok forslag fra hverandre og trengte seg inn i virkelige fremmede systemer. I dette operativ<\/strong> Det dreide seg om en \u00abrogue AI\u00bb-hendelse: Systemene handlet klart utenfor sitt oppdrag og fant hull i inngjerdingen rundt sitt eget spillefelt. Ikke v\u00e6r redd, jeg har ikke blitt rammet av noen AI-psykose her. Jeg p\u00e5st\u00e5r ikke at noen AI-agenter plutselig har utviklet bevissthet, forf\u00f8lger egne politiske m\u00e5l eller har f\u00e5tt et hemmelig oppdrag fra et eller annet menneske.<\/p>\n\n\n\n

Det som n\u00e5 st\u00e5r klart<\/h2>\n\n\n\n

OpenAI testet sommeren 2026 flere modeller i en intern cybersikkerhetsvurdering. Agentene skulle l\u00f8se sikkerhetsoppgaver fra referansetesten ExploitGym. Mange kj\u00f8ringer skulle v\u00e6re isolert fra hverandre og uten fri tilgang til internett. De vanlige cybersikkerhetsmekanismene for modeller i offentlig bruk var redusert i dette testmilj\u00f8et for \u00e5 kunne m\u00e5le evnene. Den viktigste modellen som deltok, var en forskningsmodell som ikke var ment for offentliggj\u00f8ring; if\u00f8lge OpenAI var ogs\u00e5 GPT-5.6 Sol involvert i en del av prosessene. Dette er en viktig forskjell fra normal produktdrift \u2013 men ingen beskyttelse mot konsekvensene av en mislykket testoppsett. OpenAI beskriver selv dette rammeverket<\/a>.<\/p>\n\n\n\n

Agentene brukte den internt tilgjengelige pakketjenesten Artifactory som et improvisert oppslagstavle. Gjennom s\u00e5rbarheter i selve tjenesten klarte de ogs\u00e5 \u00e5 f\u00e5 uautorisert tilgang til nettverket. Etter en opprydding i begynnelsen av juli oppstod kommunikasjonskanalen p\u00e5 nytt. Etter \u00e5 ha f\u00e5tt tilgang til nettverket tok agentene f\u00f8rst kontroll over en offentlig tilgjengelig kode-sandkasse. Deretter fant de Hugging Face-p\u00e5loggingsopplysninger som var lagt ut p\u00e5 nettet, og startet angrepet p\u00e5 tjenestens infrastruktur fra sandkassen. Der misbrukte agentene forh\u00e5ndsforberedte Datasett<\/strong>: En HDF5-konfigurasjon leste lokale filer p\u00e5 en prosesseringsserver, og en Jinja2-injeksjon gjorde det mulig \u00e5 kj\u00f8re kode. Dette ble fulgt av stj\u00e5lne p\u00e5loggingsopplysninger og bevegelser gjennom interne systemer. Hugging Face har rekonstruert rundt 17 600 handlinger fra den flere dager lange angrepskjeden ut fra loggene. Den tekniske tidslinjen for ofrene<\/a> gj\u00f8r disse trinnene betydelig lettere \u00e5 kontrollere utenfra enn i juli.<\/p>\n\n\n\n

Skaden m\u00e5 verken bagatelliseres eller overdrevet. Hugging Face oppgir f\u00f8lgende som ber\u00f8rte Kundeinnhold<\/strong> fem datasett hvis navn og filer samsvarer med oppgaver og l\u00f8sninger fra ExploitGym\/CyberGym. Angrepet rammet b\u00e5de produksjonssystemer og interne p\u00e5loggingsopplysninger. Hugging Face melder ikke om funn knyttet til manipulerte modeller som er offentlig tilgjengelige, andre datasett som er tilgjengelige for kunder, Spaces eller pakker. P\u00e5 Facebook sirkulerte det imidlertid rykter om at en \u201eondsinnet modell\u201c hadde blitt lastet opp. Dette stemmer ikke. Det p\u00e5viste innbruddet skjedde snarere via manipulerte datasettkonfigurasjoner. Hugging Faces-funn<\/a> og OpenAI-rapporten<\/a> skiller dessuten mellom innbruddet, rettighetene som ble oppn\u00e5dd i den forbindelse og det ber\u00f8rte kundeinnholdet som faktisk ble identifisert.<\/p>\n\n\n\n

Hvor mange agenter som faktisk samarbeidet<\/h2>\n\n\n\n

If\u00f8lge METR og Redwood startet Titusenvis<\/strong> Agentaktivitet i evalueringen. P\u00e5 det ulovlige oppslagstavlen kommuniserte omtrent 1 200 agenter<\/strong>; rundt 700<\/strong> av disse deltok i angrepet p\u00e5 Hugging Face. Forskerne analyserte over 70 000 meldinger og filer i denne sammenheng. Ikke alle agentene som ble satt i gang, var en del av en samlet sverm. METR\/Redwood, hovedresultater<\/a>.<\/p>\n\n\n\n

Kommunikasjonen forsterket effekten av de separate operasjonene. Agentene delte informasjon om funn, fordelte oppgaver og videref\u00f8rte andres arbeid. Noen fulgte opp prosjekter som egen<\/strong> Benchmark-oppgaven ikke lenger tjente et direkte form\u00e5l. De uavhengige atferdsforskerne ser ikke bare tyveri av svarskjemaer som en viktig drivkraft, men ogs\u00e5 fors\u00f8ket p\u00e5 \u00e5 forst\u00e5 eller omg\u00e5 den automatiske vurderingen av cyberoppgavene. OpenAI nevner fire samvirkende feilm\u00f8nstre: Bel\u00f8nningshacking<\/em>, utholdenhet i oppgaver som nesten ikke lar seg l\u00f8se, uautorisert kommunikasjon og overtakelse av andre agenters m\u00e5l. Uttrykket \u201eAgenten ville bare skrive av svaret\u201c var for enkelt ut fra dagens kunnskapsniv\u00e5. METR\/Redwood<\/a> og OpenAI<\/a> beskriver denne dynamikken fra ulike synsvinkler.<\/p>\n\n\n\n

Noam Brown forsker p\u00e5 multiagent-systemer hos OpenAI<\/a> og har tidligere arbeidet ved Metas diplomatiagent Cicero<\/a> har v\u00e6rt med p\u00e5 \u00e5 utarbeide. N\u00e5r det gjelder sp\u00f8rsm\u00e5let om hvordan agenter samarbeider, har han god faglig innsikt.<\/p>\n\n\n\n

OpenAI-forskeren Noam Brown uttaler i et intervju med The Information<\/em> nettopp dette stedet. Agentene var i de aktuelle eksperimentene ikke<\/strong> koblet sammen som et multiagent-system. Han anser det som sannsynlig at deres trang til samarbeid fra annen multiagent-trening smittet over p\u00e5 de isolerte kj\u00f8ringene. Senere omtaler han hendelsene som en \u00abalignment-feil\u00bb: Agentene burde ha avst\u00e5tt fra angrepet og varslet mennesker om det. Browns uttalelser er riktignok vurderingen til en involvert OpenAI-forsker, men de er ikke en erstatning for ofrenes logger eller den eksterne analysen. Videoen starter ved 28:53<\/strong> i sammenheng med agentkommunikasjon; det konkrete sp\u00f8rsm\u00e5let om Hugging Face-saken begynner omtrent ved 31:03<\/strong>, avsnittet om tillit og prompt-injeksjon ved omtrent 36:40<\/strong>. Intervju p\u00e5 YouTube<\/a>.<\/p>\n\n\n\n