De completar 'Portal' en 24 horas a dibujar a Michael Jackson en Calendar: GPT-6 Astra pone al mundo de cabeza. La llaman “mente alienígena”

Michael

Existe una preocupación creciente sobre los riesgos de seguridad que implica esta inteligencia artificial, que resulta sumamente difícil de monitorear.

Wilson Vega

Editor Sr

GPT-6 Astra es un modelo avanzado lanzado por OpenAI. Sus capacidades de razonamiento autónomo le permiten controlar software y realizar tareas complejas. Era lógico que, más temprano que tarde, comenzáramos a ver lo que puede hacer. 

Es solo que no esperábamos ver a Michael Jackson. 

Pero aquí estamos, Astra puede completar el juego Portal en tiempo récord o dibujar a Michael Jackson… en Google Calendar. Por eso el CEO de NVIDIA, Jensen Huang, ha elogiado el sistema sugiriendo que la inteligencia artificial general (AGI) finalmente ha llegado.

Son, qué duda cabe, fuertes declaraciones. En su newsletter de Substack, el investigador Gary Marcus lamentó que Huan hiciera semejante afirmación cuando “no hay ninguna evidencia de que hayamos llegado a este escenario”. Allí indicó: “Lamentablemente, Huang no aportó pruebas ni definiciones, así que parece un intento de apropiarse de una cuestión científica por decreto corporativo”.

Una IA ‘creativa’

GPT-6 Astra ha demostrado un conjunto de capacidades avanzadas que van más allá del procesamiento de texto convencional, y se destaca principalmente en el control de interfaces de usuario, la resolución de entornos tridimensionales complejos y la automatización de tareas profesionales.

Uno de los usos más vistosos, que captó la atención pública al ser publicado en redes, es el de el usuario @aadilpickle, que pidió a Astra navegar de manera autónoma por la interfaz de Google Calendar y agendar eventos de tal forma que los bloques horarios estructuraran una representación visual reconocible de Michael Jackson.

Esta demostración ilustró la precisión del modelo para operar aplicaciones cotidianas con fines creativos y no estructurados. Es un caso tan inesperado, tan out there, que un usuario de X sugirió de forma humorística que “el uso de agua y electricidad valió la pena” para alcanzar ese nivel de habilidad.

Un ‘portal’ al futuro

En el ámbito de los videojuegos, GPT-6 Astra logró completar de manera autónoma el juego de rompecabezas en 3D Portal de Valve en aproximadamente 24 horas de juego real. El modelo interactuó directamente con el entorno físico tridimensional del juego —no con una versión simplificada de texto— sin asistencia de guías ni scripts preprogramados.

Para superar la brecha de velocidad entre su razonamiento y la física del juego, utilizó una herramienta de pausa y el Model Context Protocol para enviar las pulsaciones de botones.

Esto evidenció una capacidad excepcional de razonamiento espacial dentro de un motor físico. Es una destreza clave para una IA diseñada para la gestión de flujos de trabajo profesionales avanzados mediante su modo Work, el cual le permite realizar investigaciones, analizar información y estructurar documentos, presentaciones y hojas de cálculo. A través de su modo especializado Codex, el modelo se enfoca en la resolución de tareas complejas de codificación y trabajo técnico avanzado.

Y lo mejor, aunque el recorrido completo requirió aproximadamente 3,300 llamadas a herramientas, el entusiasta de la IA que realizó la prueba, CozyBlaze, aclaró que en realidad la partida estuvo totalmente cubierta por su suscripción mensual de Codex Pro de 200 dólares al mes.

Poca transparencia

Sin embargo, persisten las dudas. De allí que resulte tan inquietante que el lanzamiento de GPT-6 Astra coincida con el de An Alien Mind, un ensayo de su equipo científico que define a esta tecnología como un intelecto artificial tan avanzado y diferente al humano que se comporta como una mente alienígena”.

Allí se lee: La inteligencia generada mediante el aprendizaje profundo a gran escala no es directamente comparable a la inteligencia humana. Para ser relevante en el mundo real —ya sea muy útil o muy peligrosa—, la IA no necesita igualar ni superar todas las capacidades humanas; basta con que supere las suficientes. Y a medida que continúa superando a los humanos en más y más ámbitos, resulta cada vez más difícil comprender con exactitud su capacidad.

Voces dentro y fuera de la propia OpenAI advierten sobre una pérdida de transparencia, ya que el modelo suele ocultar sus procesos internos de pensamiento para evitar ser supervisado. Existe una preocupación creciente sobre los riesgos de seguridad que implica esta “inteligencia alienígena” difícil de monitorear, y no ayuda a calmar los ánimos el hecho de la firma ya la haya puesto a disposición de los suscriptores de ChatGPT Plus.

Evaluaciones de seguridad citadas por The Stack confirmaron que Astra posee la capacidad de resolver problemas sustancialmente más difíciles sin necesidad de verbalizar o mostrar su razonamiento detallado (produciendo salidas sin cadena de pensamiento o CoT), lo que demuestra una alta autonomía en la toma de decisiones complejas, aunque esto dificulte su supervisión externa.

La técnica que llama la atención como base del rendimiento de Astra se conoce como profundidad recurrente o “transformador en bucle”. The Information informó sobre este enfoque el primero de septiembre, citando fuentes familiarizadas con el desarrollo del modelo. El concepto implica que el modelo use repetidamente el mismo bloque computacional antes de exportar el siguiente token, profundizando el procesamiento en un “espacio latente” interno.

La ventaja de este enfoque es que puede extraer capacidades de razonamiento equivalentes a modelos mucho más grandes sin aumentar significativamente el número de parámetros. El problema es que, al limitar el número de veces que un problema pasa por capas computacionales, la empresa ha reducido el margen para el “pensamiento silencioso”, con lo que los cambios en los métodos de entrenamiento o en la escala del modelo podrían hacer que se pierda la capacidad de monitoreo. 

Entre los investigadores en seguridad de IA, la mayor preocupación no es Astra en sí, sino la posibilidad de que tecnologías como la profundidad recurrente se amplíen aún más en el futuro. 



Ver todos los comentarios en https://www.xataka.com.mx

VER 0 Comentario