Wilson Vega
Editor SrFanático de la tecnología, el cine y la cultura pop. Periodista de profesión y geek por vocación, apasionado de la inteligencia artificial y la robótica en la ciencia ficción y en el mundo real. A veces, el éxito significa ser el primero en fracasar.
Una caída drástica en las acciones tecnológicas parece ser la consecuencia más inmediata de una serie de advertencias, el fin de semana, de los principales líderes de laboratorios de inteligencia artificial sobre los riesgos existenciales del avance descontrolado de esa tecnología. Mientras los expertos temen una pérdida de control humano ante modelos capaces de mejorar de forma autónoma, el debate se divide entre la urgencia de regulaciones globales y la desconfianza geopolítica.
Sam Altman, CEO de OpenAI; y Elon Musk, CEO de xAI, se dijeron de acuerdo con el llamado de Dario Amodei, CEO de Anthropic, que el sábado propuso ralentizar el desarrollo de IA avanzada para establecer estándares de seguridad y permitir la supervisión de evaluadores externos.
Amodei escribió: “La IA ha avanzado a un ritmo vertiginoso, impulsada principalmente por su creciente capacidad para crear por sí misma la próxima generación de IA. Esta dinámica está empezando a manifestarse en toda la industria, incluyendo Anthropic, como ya hemos descrito nosotros y otros. Si no se controla, podría superar nuestra capacidad de comprender y controlar estos sistemas”. De hecho, fue más allá, y en su blog, expresó su temor de que “en 6 ó 12 meses” un enjambre de agentes de IA podría ser capaz de tomar control de la totalidad de Internet.
El plan para ‘domar’ la Frontera
La propuesta de Amodei puede resumirse en un plan de tres pasos para moderar el ritmo de la IA y ralentizar el avance no verificado de sus capacidades.
Comienza por definir un cuerpo de evaluadores integrados (Embedded Evaluators), un equipo de expertos independientes, que no trabajan en ninguno de los laboratorios de IA, pero tienen “acceso de empleado” a sus operaciones. Su función es verificar el cumplimiento de los compromisos de seguridad, reportar incidentes y auditar tanto los modelos como los procesos de entrenamiento
En una muestra de buena voluntad, Amodei indicó que Anthropic asumió ya este compromiso de forma unilateral, pero invitó a sus rivales a asumirlo como un estándar de toda la industria
El otro paso es la coordinación entre las empresas de IA ubicadas en naciones democráticas -un señalamiento velado a China- para que se establezcan estándares comunes de seguridad y límites en la velocidad del desarrollo. Para llevar a cabo esta colaboración sin infringir las leyes antimonopolio, sería indispensable la mediación o exención por parte del gobierno.
OpenAI y xAI
El principal rival de Anthropic, OpenAI, respaldó el llamado para moderar el ritmo de desarrollo de la IA. Su director ejecutivo, Sam Altman, aceptó la primera fase del plan, y se comprometió a otorgar, también, acceso a evaluadores independientes con permisos similares a los de un empleado.
“Estoy de acuerdo con Dario en que debemos marcar el ritmo en este campo. Este ha sido un tema principal de discusión en OpenAI en las últimas semanas”, publicó Altman el sábado en X. “Comprometerse a contar con evaluadores independientes con acceso similar al de los empleados es una gran idea, y haremos lo mismo”, agregó.
OpenAI lideró una discusión, la semana pasada, en torno a los riesgos de la IA. Su científico jefe, Jakub Pachocki, advirtió que ningún laboratorio de IA ha resuelto el desafío de la alineación y el monitoreo en un grado que justifique continuar escalando a máxima velocidad, y pidió que la desaceleración voluntaria se vuelva la norma en toda la industria.
Según recogió Quartz, Pachocki dijo que cree que la IA se está moviendo hacia una mejora recursiva autoiniciada, una realidad en la que los sistemas asumen el desarrollo de sus propios sucesores, con lo que el rol de los humanos se vería cada vez más limitado hasta, efectivamente, desaparecer. En un ensayo publicado en el sitio web de OpenAI, Pachocki sentenció: “Este es un momento que requiere extrema precaución”.
Por su parte, Elon Musk, CEO de xAi, también coincidió en las advertencias sobre los riesgos del acelerado progreso tecnológico y se sumó al llamado para reducir la velocidad de su desarrollo, aunque por ahora sin compromisos específicos.
La realidad geopolítica
Sin embargo, el presidente de EE. UU., Donald Trump, rechaza frenar la industria de la IA, argumentando que cualquier pausa otorgaría una ventaja estratégica a China en la competencia por la supremacía tecnológica. Por eso, a pesar de la buena intención planteada por los líderes de la industria, es probable que regular la inteligencia artificial y ralentizar el ritmo de su desarrollo se estrelle contra obstáculos geopolíticos, económicos, políticos y técnicos.
El principal argumento en contra de regular o desacelerar el sector en EE. UU. es la seguridad nacional. Además, existe un profundo déficit de confianza entre superpotencias, junto con el temor de que una de las partes incumpla en secreto cualquier acuerdo global para lograr la hegemonía.
Y luego está la desconfianza. Las empresas privadas se encuentran inmersas en una carrera comercial donde reducir la marcha por motivos de seguridad implica el riesgo de perder terreno o cuota de mercado frente a sus competidores. La propuesta de una compañía líder que propone frenar el avance de su mercado lleva a muchos observadores a sugerir que se trata de una operación de relaciones públicas, de cara a salidas a bolsa, para sugerir fortaleza técnica sin tener que entregar resultados.
Uno de los escépticos es Michael Burry, que en sus redes cuestionó muchas de las advertencias actuales y especuló que el miedo exagerado a la IA puede estar ayudando a sostener las valoraciones de OpenAI y Anthropic ante sus posibles salidas a bolsa.
“Los modelos de lenguaje (de chatbots como CahtGPT) no son inteligencia artificial general. No hay nada que ralentizar”, escribió el experto inversionista. Para Burry, mucho de lo dicho sobre la IA se resume en “somos tan asombrosos, que podría ser peligroso”.
Por eso, aunque los comentarios de los ejecutivos fueron secundados por los legisladores en el Capitolio de EE. UU., eso no evitó que algunos manifestaran su escepticismo. “Me parece irónico que estos tipos pidan que se reduzca la velocidad cuando ellos mismos han estado avanzando a toda velocidad, sin importarles el caos que han provocado”, declaró el representante Josh Gottheimer a Político. “Si a Dario y Elon les preocupa de verdad, que pongan freno a sus propios laboratorios hoy mismo”.
Ver 0 comentarios