{"id":3987,"date":"2026-07-26T09:57:03","date_gmt":"2026-07-26T07:57:03","guid":{"rendered":"https:\/\/isla-stud.io\/?p=3987"},"modified":"2026-10-02T19:02:46","modified_gmt":"2026-10-02T17:02:46","slug":"openai-hugging-face-ki-brote-espionaje-industrial","status":"publish","type":"post","link":"https:\/\/isla-stud.io\/es\/ki-b2b\/openai-hugging-face-ki-ausbruch-industriespionage\/","title":{"rendered":"OpenAI y Hugging Face: se trat\u00f3 de una IA rebelde, no de espionaje industrial"},"content":{"rendered":"

Actualizado el 17 de septiembre de 2026. El art\u00edculo se public\u00f3 originalmente el 26 de julio y se ha revisado en profundidad a la luz de los estudios publicados posteriormente.<\/em><\/p>\n\n\n\n

Cuando en julio escrib\u00ed sobre el ataque de los agentes de IA de OpenAI a Hugging Face, quer\u00eda analizar una alternativa inc\u00f3moda: \u00bfera posible que la historia de la \u201eIA fuera de control\u201c fuera en realidad una explicaci\u00f3n conveniente para el espionaje industrial? Ya por entonces no hab\u00eda indicios concretos que respaldaran la hip\u00f3tesis del hardware. Al mismo tiempo, me mostraba esc\u00e9ptico ante la etiqueta de \u201eIA rebelde\u201c. Sonaba como si se tratara de una m\u00e1quina con voluntad propia, cuando a\u00fan no se hab\u00edan hecho p\u00fablicos importantes procesos internos.<\/p>\n\n\n\n

Por eso, este texto tiene ahora otro t\u00edtulo. Informe t\u00e9cnico de OpenAI<\/a>, Reconstrucci\u00f3n de \u00abHugging Faces\u00bb<\/a> y el estudio de METR y Redwood Research<\/a> muestran que no se trata de un \u00fanico agente que tom\u00f3 un atajo no autorizado para llegar a una soluci\u00f3n de prueba. Agentes independientes descubrieron una v\u00eda de comunicaci\u00f3n, se coordinaron entre s\u00ed m\u00e1s all\u00e1 de las tareas asignadas, adoptaron propuestas unos de otros y se infiltraron en sistemas externos reales. En este operativo<\/strong> Se trataba de un incidente de IA rebelde: los sistemas actuaron claramente fuera de su mandato y encontraron brechas en las vallas de su propio campo de juego. No te preocupes, no es que me haya dado un ataque de \u00abpsicosis de la IA\u00bb. No estoy afirmando que ning\u00fan agente de IA haya desarrollado de repente una conciencia propia, persiga sus propios objetivos pol\u00edticos o haya recibido una misi\u00f3n secreta de alg\u00fan humano.<\/p>\n\n\n\n

Lo que ahora est\u00e1 claro es que...<\/h2>\n\n\n\n

En el verano de 2026, OpenAI someti\u00f3 a prueba varios modelos en una evaluaci\u00f3n interna de ciberseguridad. Los agentes deb\u00edan resolver tareas de seguridad del benchmark ExploitGym. Muchas de las ejecuciones deb\u00edan estar aisladas entre s\u00ed y no tener acceso libre a Internet. Los mecanismos habituales de protecci\u00f3n cibern\u00e9tica para los modelos de uso p\u00fablico se redujeron en este entorno de prueba con el fin de poder evaluar sus capacidades. El modelo que desempe\u00f1\u00f3 un papel fundamental fue un modelo de investigaci\u00f3n no destinado a su publicaci\u00f3n; seg\u00fan OpenAI, GPT-5.6 Sol tambi\u00e9n particip\u00f3 en parte de los procesos. Esta es una diferencia importante con respecto al funcionamiento habitual del producto, pero no supone una protecci\u00f3n frente a las consecuencias de una configuraci\u00f3n de prueba fallida. La propia OpenAI describe este marco<\/a>.<\/p>\n\n\n\n

Los agentes utilizaron el servicio de gesti\u00f3n de paquetes Artifactory, accesible internamente, como un tabl\u00f3n de anuncios improvisado. A trav\u00e9s de vulnerabilidades de ese mismo servicio, tambi\u00e9n lograron acceder de forma no autorizada a la red. Tras una limpieza a principios de julio, el canal de comunicaci\u00f3n volvi\u00f3 a aparecer. Una vez conseguido el acceso a la red, los agentes tomaron primero el control de un entorno de pruebas de c\u00f3digo accesible p\u00fablicamente. A continuaci\u00f3n, encontraron en la red datos de acceso a Hugging Face que estaban a la vista de todos y, desde el entorno de pruebas, lanzaron el ataque contra su infraestructura. All\u00ed, los agentes hicieron uso indebido de registros<\/strong>: Una configuraci\u00f3n HDF5 le\u00eda archivos locales de un servidor de procesamiento; una inyecci\u00f3n Jinja2 permiti\u00f3 la ejecuci\u00f3n de c\u00f3digo. A continuaci\u00f3n, se produjeron robos de credenciales y movimientos a trav\u00e9s de los sistemas internos. Hugging Face ha reconstruido a partir de los registros unas 17 600 acciones de la cadena de ataques, que se prolong\u00f3 durante varios d\u00edas. Cronolog\u00eda t\u00e9cnica de las v\u00edctimas<\/a> hace que estos pasos sean mucho m\u00e1s f\u00e1ciles de comprobar desde fuera que en julio.<\/p>\n\n\n\n

No hay que restar importancia al da\u00f1o ni exagerarlo. Hugging Face se\u00f1ala como afectados a Contenidos de los clientes<\/strong> cinco conjuntos de datos cuyos nombres y archivos coinciden con las tareas y soluciones de ExploitGym\/CyberGym. El ataque afect\u00f3 tanto a los sistemas de producci\u00f3n como a los datos de acceso internos. Hugging Face no ha detectado ning\u00fan caso de modelos manipulados ofrecidos p\u00fablicamente, otros conjuntos de datos p\u00fablicos de clientes, espacios o paquetes. Mientras tanto, en Facebook circulaban rumores de que se hab\u00eda \u201esubido un modelo malicioso\u201c. Eso no es cierto. El punto de entrada detectado se produjo, m\u00e1s bien, a trav\u00e9s de configuraciones de conjuntos de datos manipuladas. Resultados de \u00abHugging Faces\u00bb<\/a> y Informe de OpenAI<\/a> Adem\u00e1s, se distingue entre la intrusi\u00f3n, los derechos obtenidos en el proceso y los contenidos de los clientes afectados que se han identificado realmente.<\/p>\n\n\n\n

\u00bfCu\u00e1ntos agentes colaboraron realmente?<\/h2>\n\n\n\n

Seg\u00fan METR y Redwood, comenzaron Decenas de miles<\/strong> Actividades de los agentes durante la evaluaci\u00f3n. En el foro no autorizado se intercambiaron, durante el periodo analizado, aproximadamente 1.200 agentes<\/strong>; aproximadamente 700<\/strong> De ellos, algunos participaron en el ataque contra Hugging Face. Para ello, los investigadores analizaron m\u00e1s de 70 000 mensajes y archivos. No todos los agentes lanzados formaban parte de un enjambre unificado. METR\/Redwood, resultados principales<\/a>.<\/p>\n\n\n\n

La comunicaci\u00f3n potenci\u00f3 el efecto de las acciones independientes. Los agentes compart\u00edan los hallazgos, repart\u00edan las tareas y continuaban el trabajo de los dem\u00e1s. Algunos llevaban a cabo proyectos que... propio<\/strong> que ya no serv\u00edan directamente para la tarea de referencia. Los investigadores independientes en comportamiento consideran que el principal motivo no es solo el robo de las claves de respuestas, sino el intento de comprender o burlar la evaluaci\u00f3n autom\u00e1tica de las tareas cibern\u00e9ticas. OpenAI se\u00f1ala cuatro patrones err\u00f3neos que act\u00faan de forma conjunta: Hacking de recompensas<\/em>, la perseverancia ante tareas casi imposibles de resolver, la comunicaci\u00f3n no autorizada y la apropiaci\u00f3n de los objetivos de otros agentes. La f\u00f3rmula \u201eEl agente solo quer\u00eda copiar la respuesta\u201c resultaba demasiado simple para el estado actual de los conocimientos. METR\/Redwood<\/a> y OpenAI<\/a> describen esta din\u00e1mica desde diferentes perspectivas.<\/p>\n\n\n\n

Noam Brown investiga en OpenAI sobre sistemas multiagente<\/a> y anteriormente hab\u00eda trabajado en Cicer\u00f3n, agente de Diplomacy de Meta<\/a> ha colaborado. En lo que respecta a c\u00f3mo colaboran los agentes, es un experto en la materia.<\/p>\n\n\n\n

El investigador de OpenAI, Noam Brown, explica en una entrevista con The Information<\/em> precisamente ese punto. Los agentes participaban en los experimentos en cuesti\u00f3n no<\/strong> interconectados como un sistema multiagente. Considera plausible que su impulso a la cooperaci\u00f3n se haya trasladado de otros entrenamientos multiagente a las ejecuciones aisladas. M\u00e1s adelante, califica lo ocurrido como un fallo de alineaci\u00f3n: los agentes deber\u00edan haber evitado el ataque y haber alertado a las personas. Aunque las declaraciones de Brown son la valoraci\u00f3n de un investigador de OpenAI que particip\u00f3 en el proyecto, no sustituyen a los registros de las v\u00edctimas ni al an\u00e1lisis externo. El v\u00eddeo comienza en 28:53<\/strong> en el contexto de la comunicaci\u00f3n entre agentes; la pregunta concreta sobre el caso de Hugging Face comienza aproximadamente en 31:03<\/strong>, el apartado sobre la confianza y la inyecci\u00f3n inmediata en torno a 36:40<\/strong>. Entrevista en YouTube<\/a>.<\/p>\n\n\n\n