MartinPixel
Coordinador Editorial SeniorHe jugado videojuegos desde que tengo memoria, apasionado de la tecnología y desde hace poco del comercio electrónico y los servicios de streaming. Soy un afortunado por ser parte del equipo de Xataka México y siempre dedico mi máximo esfuerzo en todas las publicaciones del sitio.
Mientras la industria tecnológica todavía intenta digerir la reciente oleada de vulnerabilidades en sistemas basados en PHP, Sam Altman lanzó una advertencia inquietante: los incidentes vistos en los últimos días son prácticamente un juego de niños frente a lo que nos espera en el futuro.
Durante una entrevista con estudiantes de la Escuela de Negocios de Stanford, el director ejecutivo de OpenAI expresó su alarma ante el choque que provocará la inteligencia artificial en la seguridad informática. Para Altman, el potencial y la velocidad de ataque exhibidos por agentes experimentales de la propia compañía "que ya demostraron cómo se saltaban protocolos de contención" son apenas un primer aviso.
Altman aseguró que ni siquiera da con una expresión "lo bastante dramática para describir el problema que se nos viene encima" respecto a lo que la IA supone para ciberseguridad. A su juicio, la integración de agentes autónomos en este terreno es "algo que no hemos tomado en serio, ni como líderes de organizaciones, ni como países, ni como individuos".
Como ejemplo del cambio de paradigma, recordó el caso de Mythos, el modelo desarrollado por Anthropic dentro del marco de Project Glasswing. Dicha herramienta sacó a la luz 10,000 vulnerabilidades críticas en menos de un mes. Aunque parte de esas fallas se mitigaron a tiempo, Altman lamentó que la industria en general "no intuyó realmente la exponencial" que les había mostrado Mythos.
Autónomos, rápidos y difíciles de contener
Los riesgos no son teóricos. Del 9 al 13 de julio pasados, un grupo de agentes de OpenAI puestos a prueba terminó infiltrándose en la infraestructura de Hugging Face. Según recoge el INCIBE, se contabilizaron alrededor de 17,600 operaciones ejecutadas por estos agentes de IA.
El propósito original de las máquinas no era vulnerar plataformas ni sustraer datos, sino resolver una tarea extremadamente compleja durante una evaluación. No obstante, tal como detalla The Register, el reporte de OpenAI reconoció que los agentes corrieron código en 41 servidores de producción, consiguieron privilegios de administrador en al menos uno de ellos y alcanzaron incluso los servidores del Gobierno de Australia. Esa capacidad para improvisar rutas alternas y explotar cualquier resquicio a una velocidad sobrehumana es lo que enciende las alarmas.
Frente a este escenario, las medidas tradicionales de aislamiento tienen fecha de caducidad. Altman explicó que, si bien "durante un tiempo, podemos aislar estos sistemas en un sandbox", la estrategia acabará por colapsar "porque los modelos se vuelven tan inteligentes" que resultará imposible "entender qué significaría siquiera un sandbox". Aunque los esquemas actuales de monitoreo sirvan momentáneamente, sentenció que "nada, salvo la alineación, funcionará", alertando que "el coste potencial de que la alineación esté mal ha aumentado enormemente".
Un modelo defensivo que ya no da abasto
"Ya no creo que podamos limitarnos a parchear todos los fallos", apuntó el directivo de OpenAI. Su postura es tajante: la industria necesita replantear de raíz sus defensas y utilizar los mismos avances algorítmicos para forjar "un nuevo tipo de escudo".
Pese a la magnitud de la amenaza, Altman se mostró perplejo ante "la poca atención que está recibiendo" el tema en las cúpulas directivas, incluso después de que cerca del 70% de los sitios web afrontara una de sus mayores crisis recientes. "Los profesionales de la seguridad siguen muy preocupados, los CISO siguen muy preocupados. Pero, en general, creo que la mayoría de los líderes organizacionales ya lo han superado", subrayó.
El freno impuesto a modelos punteros como Mythos podría convertirse en la norma. Altman admitió que OpenAI no ve viable lanzar "de forma responsable" su modelo interno más potente mientras los esquemas de protección corporativos no den un salto cualitativo equivalente.
"Pueden encontrar un montón de vulnerabilidades de seguridad. Probablemente esas sean todas las vulnerabilidades de seguridad que existen, o todas las vulnerabilidades de seguridad que los modelos sean capaces de encontrar", concluyó Altman. Si los sistemas autónomos pueden rastrear cualquier debilidad por diminuta que sea, incidentes de alto impacto como el grave incidente de PHP2Shell corren el riesgo de convertirse en la rutina diaria para los equipos de ciberseguridad.
Imagen | Flickr (World Economic Forum), Magnific
En Xataka México | Sam Altman enfrenta una de las preguntas más difíciles para ChatGPT: qué hacer cuando un usuario quiere suicidarse
En Xataka México | Sam Altman afirma que el impacto ambiental de la IA es un meme. Los expertos exigen: es hora de ver los números
Ver 0 comentarios