Wilson Vega
Editor SrFanático de la tecnología, el cine y la cultura pop. Periodista de profesión y geek por vocación, apasionado de la inteligencia artificial y la robótica en la ciencia ficción y en el mundo real. A veces, el éxito significa ser el primero en fracasar.
La inteligencia artificial de Anthropic logró superar décadas de investigación humana en criptografía mediante una combinación de razonamiento matemático autónomo, experimentación computacional rápida y la ausencia de sesgos cognitivos.
Lo logró, específicamente, el modelo Claude Mythos Preview, que según la empresa estadounidense, desarrolló un ataque mejorado contra el esquema de firma post-cuántica HAWK, que protege prácticamente todo lo que la gente hace en línea. La IA también ideó un nuevo ataque contra una versión reducida del Estándar Avanzado de Cifrado (AES), el estándar de cifrado simétrico más utilizado en el mundo para datos digitales.
Según lo expresó CyberSecurityNews, “ninguno de los dos resultados amenaza sistemas de producción en uso hoy, pero ambos suponen un cambio significativo en cómo la inteligencia artificial puede poner a prueba los fundamentos de la seguridad digital”.
La razón es que una falla viable en estos sistemas podría exponer a miles de millones de usuarios. Hasta ahora, Claude Mythos Preview había encontrado principalmente errores de implementación en bibliotecas criptográficas que debilitan el cifrado en la práctica. La nueva investigación muestra que el modelo también puede identificar debilidades en los propios algoritmos que protegen desde la banca online hasta el tráfico web cifrado.
Cómo se logró este avance
Varios factores clave explican el logro de Mythos. El primero es que el modelo no operó de forma aislada, sino dentro de un scaffold o armazón multiagente construido sobre Claude Code. Este sistema le otorgó acceso a bibliotecas de investigación en las que realizó revisiones exhaustivas de literatura técnica publicada.
“Para encontrar el ataque, Claude Mythos Preview trabajó de forma semi-autónoma , con ocasional guía humana y dirección no técnica. Mythos encontró el ataque tras una extensa revisión bibliográfica para comprender el estado del arte y experimentos de razonamiento matemático y computación sustanciales. Tras encontrar el ataque, Mythos implementó una cadena de verificación de extremo a extremo para convencerse a sí mismo—y al operador humano—de la corrección del ataque”, señaló la firma.
Según Anthropic, Mythos necesitó aproximadamente 60 horas para superar el mejor ataque conocido hasta ahora. El costo total de la API ascendió a unos 100.000 dólares.
Eso es, por decir lo menos, problemático para cualquiera que desee mantener su nivel de seguridad actual, porque ahora, básicamente, tiene que duplicar el tamaño de la llave. Según explica trendingtopics.com, “eso le quita a HAWK la compacidad que lo convirtió en una opción atractiva en un principio”.
Anthropic compartió el hallazgo con los autores de HAWK en junio y coordinó la divulgación pública con la lista de correo del Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST). HAWK es uno de los sistemas que quedan en la tercera ronda del concurso del NIST para obtener firmas post-cuánticas adicionales.
Ventajas sobre las limitaciones humanas
Las fuentes destacan que la IA posee capacidades que superan las restricciones biológicas y psicológicas de los expertos humanos. En particular, creen que su desempeño se benefició de la ausencia de sesgos de anclaje, un error mental por el cual confiamos demasiado en la primera información que recibimos. A diferencia de los humanos, la IA no se ve limitada por preconcepciones sobre lo que es imposible.
De hecho, inicialmente Mythos se negó a atacar el cifrado AES por considerarlo irrompible, pero tras ser incentivado por un humano a buscar "ideas genuinamente novedosas", terminó desarrollando una nueva técnica de huella digital llamada Möbius Bridge, que elimina un paso de adivinanza computacionalmente costoso. Esto hizo el ataque entre 200 y 800 veces más rápido que el estado del arte anterior, vigente desde 2013.
Y, claro, no hace daño que la IA pueda explorar espacios de hipótesis masivos de manera sistemática sin experimentar el cansancio o las brechas de especialización que afectan a los equipos de investigación. En el caso del cifrado HAWK, lo que la IA resolvió en solo 60 horas a expertos humanos les tomó más de dos años de cálculos y revisiones.
Asimetría de Esfuerzo
Un aspecto revelador es que, mientras la IA generaba más de mil millones de tokens en tres días para desarrollar estos ataques, los investigadores humanos (que no eran expertos en criptografía) pasaron casi un mes simplemente intentando verificar y comprender si los hallazgos de la IA eran correctos
Este proceso demostró que la IA ya está en capacidad de realizar el trabajo pesado y mecánico de la invención matemática, lo que deja a los humanos el rol de supervisores y gestores de proyectos. También demostró que, si no se implementan las debidas salvaguardas, podría llegar el idea en que una IA resuelva un problema determinado de una manera tan genialmente inventiva que sus administradores humanos sean incapaces de entenderla.
Ver 0 comentarios