Wilson Vega
Editor SrFanático de la tecnología, el cine y la cultura pop. Periodista de profesión y geek por vocación, apasionado de la inteligencia artificial y la robótica en la ciencia ficción y en el mundo real. A veces, el éxito significa ser el primero en fracasar.
OpenAI publicó en GitHub lo que solo puede describirse como un tsunami de contenido matemático, que a lo largo de 722 manuscritos cubre resultados, ecuaciones y hasta avances sobre las conjeturas de Riemann y Hodge, todos generados por un modelo avanzado interno. De ser comprobados, es posible que la firma hay resuelto otro -o quizás otros- de los problemas del Milenio.
Pero, justamente, ahí está el problema: la iniciativa ha generado una gran controversia y escepticismo en la comunidad científica, debido a que los expertos advierten sobre la falta de verificación independiente y la práctica imposibilidad de replicar los experimentos logrados con un sistema propietario. Es más, algunas organizaciones temen que el uso exclusivo de estos sistemas de IA avanzada aliené a los investigadores y cree una brecha insostenible en el campo de la disciplina.
La IA y la investigación matemática
La inteligencia artificial está transformando la investigación matemática en varios frentes clave, impulsando descubrimientos a una velocidad sin precedentes pero también planteando desafíos sobre cómo se valida y se comparte la ciencia. Los modelos de lenguaje avanzados han pasado de resolver ejercicios académicos a abordar cientos de problemas matemáticos insolubles simultáneamente.
En su blog oficial, OpenAI dijo: “Queremos poner capacidades de última generación directamente en manos de los científicos y estamos trabajando para lanzar de manera responsable el modelo que produjo estos resultados. Por eso es importante seguir evaluando nuestros modelos internos de vanguardia en matemáticas y otras ciencias, para acelerar el desarrollo de herramientas que impulsen esos campos. Seguiremos tomando medidas a partir de los comentarios de la comunidad y actualizando nuestros estándares para futuras publicaciones de avances científicos importantes”.
Como informa Engadget, OpenAI dijo que, para la publicación de los documentos, siguió las directrices recomendadas por su Grupo Asesor Independiente sobre Matemáticas e Inteligencia Artificial (AGMAI). Pero lo cierto es que la empresa no publicó tiempos de cálculo específicos para los problemas ni qué prompts utilizó, aunque reveló a Scientific American que “casi todos” los artículos se produjeron en respuesta a un único prompt dado a un único agente de IA.
Por eso matemáticos como Andrew Sutherland, el Massachusetts Institute of Technology (MIT), expresaron a esa publicación su opinión de que “hasta que publiquen el modelo, y a menos que lo hagan, y la gente pueda replicar sus resultados, creo que deberías tratar cualquier afirmación sobre problemas resueltos de un solo golpe con un solo agente como no verificada”.
¿El fin de las matemáticas humanas?
Organismos como el Instituto de Estudios Avanzados (IAS) y matemáticos independientes han expresado inquietud por el uso de modelos de IA cerrados. Argumentan que, si los modelos y las instrucciones no son accesibles para la comunidad, se corre el riesgo de crear un sistema de dos niveles y dificultar la replicación de los resultados. También existen tensiones sobre si estos sistemas utilizan trabajos inéditos de matemáticos sin el debido reconocimiento.
El IAS enfatiza que la IA está generando argumentos matemáticos en situaciones en las que incluso los humanos que introducen las instrucciones no consiguen entender la lógica, verificarla ni asumir la responsabilidad del resultado. Mientras que la automatización agiliza la generación de pruebas, la asimilación y comprensión de 722 manuscritos es un proceso humano lento, lo que plantea una creciente “crisis de verificación”.
Mucho más fuerte fue el pronunciamiento de la Asociación para las Matemáticas Humanas (AMH), fundada el pasado mes de septiembre, que en un comunicado indicó: “Los matemáticos no pidieron que se realizara este trabajo. El Grupo Asesor sobre Matemáticas e Inteligencia Artificial, del cual OpenAI afirma derivar su legitimidad, inició su declaración consultiva diciendo que las corporaciones de IA de vanguardia no deberían probar problemas matemáticos avanzados en modelos internos. Al ignorar la premisa central de la postura del Grupo Asesor, OpenAI ha demostrado un total desprecio por las normas de la investigación científica, normas que garantizan que las matemáticas sigan siendo confiables, basadas en investigaciones éticas y que sirvan al interés público”.
El c0lectivo, creado por matemáticos y ganadores de la Medalla Fields como Terence Tao para proteger la disciplina frente al avance y uso masivo de la IA, fue más allá y llegó a pedir a los matemáticos que trabajan con OpenAI “que suspendan su labor y regresen a una visión de la ciencia que se centre en el entendimiento humano”.
Ver 0 comentarios