Wilson Vega
Editor SrFanático de la tecnología, el cine y la cultura pop. Periodista de profesión y geek por vocación, apasionado de la inteligencia artificial y la robótica en la ciencia ficción y en el mundo real. A veces, el éxito significa ser el primero en fracasar.
Dos versiones encontradas sobre las razones del despido de tres investigadores de seguridad de OpenAI tienen a la compañía dando explicaciones y a sus críticos cuestionando si, de verdad, la seguridad de sus productos es su prioridad.
Los empleados despedidos son Jasmine Wang, Tomek Korbak y Mikita Balesni, que fueron separados de sus cargos la semana pasada. Trabajaban en alineación, la disciplina que se encarga de velar porque los modelos de IA funcionen de forma segura según las instrucciones de sus operadores humanos.
Wang, Korbak y Balesni publicaron hoy una carta abierta en la que denuncian haber sido despedidos injustamente por cuestionar a la empresa en materia de seguridad de la inteligencia artificial y por su colaboración con evaluadores externos. La empresa desmintió estas acusaciones y aseguró que las salidas ocurrieron debido a una violación grave de las políticas sobre el manejo de información confidencial.
Los motivos de OpenAI
La versión oficial de OpenAI es que los despidos se produjeron tras una investigación interna que concluyó que los empleados violaron las políticas de la empresa sobre el manejo de información sensible, lo que constituye, según la firma, una “ruptura significativa de la confianza”.
La empresa rechaza de plano que las salidas se deban a que los trabajadores expresaran abiertamente sus preocupaciones sobre los riesgos de la IA o colaboraran con evaluadores externos. De hecho, en su blog oficial, manifestó: “Queremos dejar muy claro que estas decisiones no se tomaron para plantear preocupaciones de seguridad ni para expresar opiniones. En OpenAI, los debates sobre seguridad e investigación son cotidianos, a menudo animados y muy críticos. Fomentamos activamente estas discusiones y las consideramos esenciales para tomar las decisiones correctas. No podemos realizar el trabajo que tenemos por delante sin un alto grado de confianza. Seguiremos siendo extremadamente comprensivos con los miembros de nuestro equipo que cometan errores de buena fe. No hemos despedido ni despediremos a ninguno de nuestros empleados por expresar sus preocupaciones”.
Por su parte, los extrabajadores alegan que los motivos dados por la empresa son pretextos y que en realidad se les sancionó por sus posturas críticas respecto a la seguridad de la tecnología y su estrecha colaboración con entidades externas de evaluación como METR y Redwood Research.
En la carta abierta, los investigadores señalaron que estos despidos envían un mensaje intimidatorio a sus excompañeros y generan un efecto amedrentador para denunciar riesgos o trabajar con auditores externos.
Aunque no se han anunciado medidas específicas adicionales, es probable que la empresa, que acaba de lanzar GPT-6 Astra, un modelo con capacidades inéditas, implemente controles más estrictos sobre el acceso y manejo de la información dentro de sus equipos de investigación. El incidente podría acelerar el desarrollo de normativas internas y externas que regulen el manejo de información sensible en el sector, un tema que ha cobrado relevancia a medida que la IA se integra más en la vida cotidiana.
Y, entre los críticos, siguen las dudas. Guillermo Flor, de AI Market Fit, escribió: “Esta no es una historia rutinaria de RRHH. El momento es brutal: esto llega dos días después de que el NYT informara que los ejecutivos de OpenAI habían ignorado repetidamente las advertencias internas de seguridad de los empleados. Así que la imagen que se forma es: preocupaciones internas planteadas, preocupaciones descartadas, investigadores salen fuera, investigadores son despedidos. OpenAI está cortando relaciones con su personal de seguridad al tiempo que se le acusa de ignorar a su personal de seguridad”.
Ver 0 comentarios