
Demis Hassabis pide ponerle salvaguardas al avance de la IA “de Frontera” para asegurar que no se saldrá del control de los humanos.
Demis Hassabis es un científico de la computación, neurocientífico y empresario británico, considerado en todo el mundo una de las mentes más influyentes en el campo de la inteligencia artificial. Demis Hassabis es el cofundador y director ejecutivo de Google DeepMind, el laboratorio insignia de investigación en IA de Alphabet.
Demis Hassabis tiene un Premio Nobel, que recibió en 2024 por el desarrollo de AlphaFold, un modelo de inteligencia artificial que revolucionó la biología al ser capaz de predecir la estructura de las proteínas. Cuando Demis Hassabis habla, la todavía naciente industria de la IA presta atención, y mucho más si afirma, como acaba de hacerlo, que tiene un plan para aprovecharla de forma segura.
En un texto que compartió en su cuenta de LinkedIn, y que expandió en una entrevista exclusiva con The Economist, el experto afirma con contundencia que la humanidad está a “probablemente unos pocos años de distancia” de lograr la Inteligencia Artificial General (AGI), un sistema que exhibe todas las capacidades cognitivas que tiene el cerebro humano. “Cuando miremos atrás a este tiempo en las próximas décadas, creo que nos daremos cuenta de que estábamos en las puertas de la singularidad, nada menos que el amanecer de una nueva era para la humanidad”, apunta.
Se trata, en su opinión, de un punto sin comparación en la Historia. “La AGI no puede compararse ni siquiera con avances tan importantes como internet o el celular; es mucho más parecida al descubrimiento de la electricidad o el fuego. Si te detienes a pensarlo, básicamente hemos encontrado una forma de hacer que la arena piense. Es milagroso”.
Y por eso, por considerar que nos aproximamos a un cambio “quizás diez veces más significativo que la Revolución Industrial a 10 veces la velocidad”, Hassabis advierte que el tiempo para regular a la IA se está agotando.
La nueva frontera
La propuesta de Hassabis es directa: debe crearse un “organismo de normalización” inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), que ponga a prueba los modelos de Frontera (Frontier Models) y determine cuáles son las mejores prácticas para su publicación.
Bajo esa visión, los laboratorios de modelos de IA avanzada los pondrían a consideración del Organismo de Normalización para su revisión hasta 30 días antes de su lanzamiento. Todos los modelos deberían aprobar un protocolo de evaluación para que se autorice su despliegue en el mercado estadounidense.
El problema es que esa noción va en contravía de lo manifestado por la administración de Donald Trump, que rechaza la perspectiva de una regulación previa de la IA como la que rige, por ejemplo, a la industria farmacéutica. Según TechCrunch, el asesor de IA de la Casa Blanca Sriram Krishnan, descartó de plano esa posibilidad al declarar que “no habrá una FDA para la IA”.
Hassabis prevé que el regulador estaría formado por expertos técnicos del sector, junto con el respaldo financiero de las propias compañías de IA, necesario para mantenerlo funcionando. Incluso dijo que se podrían tercerizar algunas evaluaciones al creciente grupo de grupos de seguridad en IA, que podría a su vez especializarse en riesgos específicos.
El argumento detrás de la propuesta de Hassabis es que el desafío que plantea la IA -en especial la IA General- no puede ser abordado de manera eficiente por actores inmersos en una carrera comercial y geopolítica extremadamente intensa y compleja. “Aunque estas dinámicas competitivas impulsan un rápido progreso y aceleran las increíbles ventajas, los avances en la frontera están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con certeza qué va a pasar a partir de aquí, y ni siquiera los expertos están de acuerdo”, dijo.
El futuro por escribir
Lo más interesante de la visión de Hassabis es que existen, dice, motivos para ser optimistas. LA IA va a ayudarnos, afirma, a acelerar el descubrimiento de fármacos, desarrollar nuevas fuentes de energía limpia y crear materiales novedosos y avanzados. “Incluso podríamos llegar a un punto en el que los recursos ya no sean el factor limitante para el progreso humano, dando paso a una nueva era de abundancia asombrosa”, agrega.
Sin embargo, ese optimismo viene con una fecha límite, porque si esta tecnología, con su inmenso poder transformador, no se canaliza correctamente desde su concepción más básica, dice, sus efectos secundarios no van a ser simples errores de código en una pantalla.
Ya hemos visto, recuerda, los retos que los modelos de frontera plantean para la ciberseguridad, y otras amenazas, incluidos riesgos nucleares y biológicos. Muchos más podrían surgir a medida que las capacidades continúan avanzando. “El tiempo es corto, la hora es tarde. Hemos visto la amenaza cibernética; se avecinan amenazas mucho más graves. Hay que hacer algo: este es el momento”, declaró Hassabis en la entrevista.
Y, luego, con la humildad de alguien que es un científico de la computación, neurocientífico y empresario, considerado en todo el mundo una de las mentes más influyentes en el campo de la inteligencia artificial, que cofundó el laboratorio insignia de investigación en IA de Alphabet, y que tiene un Nobel, Demis Hassabis admitió que todavía es mucho lo que queda por saber.
Por eso, apuntó: “Incluso si resolvemos estos difíciles desafíos técnicos, habrá más preguntas económicas y filosóficas complejas que abordar: ¿qué tipo de nuevos modelos económicos serán necesarios para ayudar a todos a prosperar en un mundo post-escasez? ¿Qué valores queremos seguir, cuál será el significado y el propósito, y cómo podría cambiar incluso la propia condición humana? Resolver estas cuestiones obviamente no puede ni debe dejarse solo en manos de los tecnólogos. Requiere que todos los sectores de la sociedad se unan para ayudar a definir este nuevo capítulo”.
Ver todos los comentarios en https://www.xataka.com.mx
VER 0 Comentario