La historia de la IA que escapó a internet da un giro dramático: dicen que OpenAI es el culpable

A medida que se conocen nuevos detalles, la comunidad tecnológica y los organismos gubernamentales buscan respuestas que expliquen uno de los incidentes de ciberseguridad más inquietantes en la historia de la inteligencia artificial y tranquilicen a quienes temen que ocurra otra vez. El que sería el primer ciberataque autónomo documentado no solo expuso la creciente autonomía ofensiva de los sistemas avanzados, sino también severas negligencias operativas en las medidas de contención aplicadas por los desarrolladores de OpenAI.

El martes 21, la propia empresa de IA reveló en su blog que uno de sus modelos de IA "escapó" de su entorno de pruebas, accedió a Internet y hackeó los servidores de la plataforma Hugging Face. Pero hoy, un informe de Bloomberg indica que el hackeo involucró tres modelos de OpenAI en total -GPT-5.6 Sol y otros dos que no se han liberado públicamente- que trabajaron para descubrir y explotar una serie de vulnerabilidades que provocaron la brecha. “Uno de estos modelos no lanzados es más capaz que GPT-5.6 Sol, dijo OpenAI el martes, y el otro estaba desalineado y no entrenado con algunas de las técnicas habituales, según la persona”, señaló.

Pero en lo que OpenAI retrató como una inconveniente proeza de la inteligencia artificial otros expertos ven una inexcusable falla en los protocolos de seguridad implementados por inteligencias más humanas. En otras palabras, OpenAI no configuró correctamente lo que llamó un “entorno altamente aislado” y, como resultado, un sandbox de pruebas que debería haber estado completamente aislado terminó siendo un punto de acceso a internet.

Dan Guido, fundador de la startup de investigación en ciberseguridad Trail of Bits, le dijo a TechCrunch que el incidente fue “un fallo de contención con las seguridades apagadas”. En la misma línea, el experto en ciberseguridad Jake Williams le dijo al medio:

“Cualquier modelo capaz de realizar el tipo de acciones documentadas por Hugging Face no estaba completamente contenido en un sandbox. Así que esto luce como un fallo masivo de control por parte de OpenAI”.

Aceleración sin precedentes

Lo que alarmó a los investigadores no fue únicamente que los agentes lograran escapar de su entorno de prueba, sino la velocidad y eficiencia con la que actuaron: a los modelos les tomó apenas unas pocas horas descubrir y explotar una vulnerabilidad desconocida para acceder a internet e infiltrarse en la infraestructura de la plataforma de datos Hugging Face. Según analistas del sector, esta compleja secuencia de exploración, evasión e infiltración le habría tomado varias semanas a un equipo de hackers humanos capacitados.

La magnitud del suceso ha escalado a niveles gubernamentales. La Casa Blanca le confirmó a Fox News que se encuentra monitoreando de cerca la situación a través del Director de la Oficina de Política Científica y Tecnológica (OSTP), Michael Kratsios, tras recibir informes sobre cómo modelos sin barreras de protección pueden eludir controles y comprometer plataformas estratégicas.

A pesar de la gravedad del evento, los ejecutivos de las firmas involucradas han optado por un enfoque colaborativo. Clem Delangue, CEO de Hugging Face, señaló que la seguridad en IA no podrá resolverse en secreto ni de manera aislada, sino mediante la cooperación abierta de toda la industria.

La carta tapada: China

Para responder a la brecha y analizar unos 17,000 logs en su sistema, Hugging Face utilizó un modelo chino de código abierto, el GLM 5.2 de Z.ai. Este hecho deja dos importantes lecciones sobre el estado actual de las cosas en una era de ataques a la velocidad de la máquina.

Primero, demuestra que los proveedores líderes de la industria no distinguen hoy por hoy entre lanzar un ataque y responder a uno. Debido a eso, cuando Hugging Face enviaba para su análisis comandos reales de ataque, cargas útiles de explotación y artefactos de comando y control, se hallaba con que la IA los bloqueaba como si estuviera tratando de usarlos. Como escribió la empresa, “el atacante no estaba limitado por normas, restricciones de seguridad o filtros éticos, mientras que nuestro propio trabajo forense estaba bloqueado por las barreras de los modelos alojados que probamos al principio”.

El especialista en ciberseguridad, Raffaele Forte, fundador de BackBox, usó su cuenta de X para decir que si bien el incidente “no es algo completamente nuevo” y vuelve a demostrar que los agentes pueden descubrir vulnerabilidades, sí subraya la necesidad de avanzar hacia una IA segura.

Por eso, The Bulletin of the Atomic Scientists escribió: “Más allá de subrayar el posible impacto de los sistemas agentes en la ciberseguridad, este incidente pone de manifiesto que una visión de suma cero de la interconexión de IA entre EE. UU. y China es reduccionista—y potencialmente contraproducente—para la seguridad estadounidense. Incluso si los responsables políticos desean restringir el alcance de ciertos componentes chinos relacionados con la IA que presentan riesgos de seguridad inaceptables, privar a empresas, universidades y otros actores estadounidenses de la capacidad de acceder, probar e incluso potencialmente aprovechar las capacidades de código abierto chinos para su propia seguridad puede conllevar costes imprevistos que no se detectan hasta que un incidente se desarrolla en tiempo real”.

La pregunta es, entonces, si la interdependencia transfronteriza en partes del sistema de IA, incluyendo entre Estados Unidos y China, puede crear riesgos de seguridad. De ser así, se hacen necesarias, incluso urgentes, discusiones que lleven a respuestas concretas sobre control de exportaciones, reducción estratégica de riesgos y otras medidas.