El auge de la inteligencia artificial entra en una nueva etapa: la llegada de la inferencia y los agentes autónomos. Durante los últimos años, el sector se concentró en entrenar modelos a gran escala, un proceso polémico marcado por saquear contenidos en internet, apoyarse en obras protegidas por derechos de autor y digitalizar y destruir millones de libros. Ahora, la prioridad es poner a trabajar ese entrenamiento en tiempo real.
El problema es que la inferencia exige una capacidad gigantesca de cómputo operando las 24 horas del día en todo el mundo. Los centros de datos no se construyen de la noche a la mañana y los gigantes tecnológicos están acaparando el hardware disponible mientras elevan los costos de renta en la nube. Frente a ese cuello de botella, y con la intención de protegerse ante caídas masivas en infraestructuras centralizadas como las de AWS, un grupo de startups busca resolver la falta de capacidad con una idea: rentar las computadoras de los jugadores para procesar tareas de IA.
Básicamente, la propuesta plantea transformar tarjetas gráficas potentes, como una Nvidia GeForce RTX 4090, en pequeños servidores domésticos para ejecutar chatbots. La dinámica recuerda a la época de la minería cripto, cuando aparecía por todos lados el malware diseñado para secuestrar GPU e incluso aplicaciones como el antivirus Norton incluían mineros integrados. Fuera de esos abusos, también existían proyectos orientados a donar la potencia libre de la PC para fines científicos, como la búsqueda de señales de vida extraterrestre.
Startups como Far Labs y Evolving Edge quieren recuperar ese esquema bajo el nombre de "infraestructura de IA descentralizada". Su idea consiste en aprovechar los recursos de la computadora mientras el usuario duerme o no está jugando, convirtiendo cada hogar en un microcentro de datos.
John Federico, CEO de Evolving Edge, explicó en declaraciones a IEEE Spectrum que depender exclusivamente de macroinstalaciones no es la única salida, pues existe una enorme reserva de potencia instalada en los hogares. Su modelo requiere instalar un programa y promete no invadir la privacidad: "Lo único que buscamos es ejecutar tareas cuando su máquina nos lo permita. La única información que veremos de la PC son los recursos que usamos, y el usuario siempre puede establecer un horario". Federico añade que, al tratarse de software de código abierto, cualquiera puede revisar el código para comprobar que los datos locales están seguros y que no se descargará malware.
Las grandes compañías están apresurándose a construir centros de datos, pero creo que ya existe suficiente potencia de cómputo en el mundo.
Desde Far Labs describen el servicio como una especie de Uber o Airbnb enfocado en el cómputo de inferencia: el usuario aporta su máquina y la empresa paga por ejecutar procesos en hardware inactivo. No obstante, el principal problema del modelo radica en los costos operativos, ya que a mayor exigencia gráfica, mayor es el consumo eléctrico en el hogar.
Aunque estas nuevas plataformas no han revelado cuánto pagarán por hora, un análisis de Tom's Hardware puso en números la viabilidad económica tomando como referencia a Salad, una red que monetizaba tarjetas gráficas inactivas para minar Ethereum. Salad vendía tiempo de GPU a partir de 0.02 dólares por hora; en 2021 generó 3.6 millones de dólares, pero repartió únicamente 500,000 dólares entre los participantes. En términos reales, los dueños del hardware recibieron apenas 14 centavos por cada dólar ingresado.
Ese pago sufre ante el gasto de electricidad. Una tarjeta de gama alta como la RTX 4090 consume entre 350 y 450 W bajo carga de trabajo constante. Mantenerla operando sin interrupción durante todo el mes puede incrementar el recibo de luz entre 40 y 50 dólares mensuales, eliminando prácticamente cualquier margen de ganancia.
El problema no termina en el recibo de la luz: el desgaste físico de los componentes representa un costo invisible aún mayor. Para los impulsores de estas plataformas, el trato convencerá a suficientes usuarios si la compensación cubre el gasto eléctrico y deja un excedente. Sin embargo, someter una GPU a cargas de trabajo continuas las 24 horas del día acelera el deterioro de la pasta térmica, fatiga los rodamientos de los ventiladores y castiga el silicio.
La propuesta encierra una paradoja evidente para los usuarios: la misma fiebre por la inteligencia artificial que provocó escasez y causó que comprar una tarjeta gráfica sea cada vez más caro ahora busca que los jugadores desgasten su costoso hardware para subsidiar la infraestructura que las tecnológicas no se dan abasto para construir.
En Xataka México | Un agricultor confió en los consejos de la IA para cuidar su siembra. El resultado: perdió 10 hectáreas de cultivo en una sola noche
En Xataka México | Subcomandante Marcos: "ahora con la IA ni siquiera necesitas la foto, basta con montar las imágenes a tu gusto"
Ver 0 comentarios