Qwen 3.8 27B en mi portátil también puede interpretar pesos del modelo
· Fuente: Simon Willison
El artículo comenta un reciente trabajo titulado “Sparks of Weight‑Space Programming”, en el que los autores demuestran que algunos modelos de gran escala pueden analizar y modificar directamente los pesos de otra red neuronal sin ejecutar código externo. En el experimento principal, cuatro redes entrenadas para juegos clásicos en una cuadrícula de 10 × 10 (Breakout, Pong, Pac‑Man y Freeway) fueron presentadas a un LLM junto con sus pesos en forma de números flotantes, y se le pidió identificar el juego correspondiente. El modelo GPT‑6 Astra logró reconocer el juego y, además, generar pequeñas redes que superaban a versiones entrenadas con PPO durante 100 millones de pasos. Asimismo, el mismo modelo corrigió un problema de razonamiento en Qwen 3.5‑0.8B editando solo el 0,016 % de sus pesos, lo que elevó la precisión en la prueba MATH‑500 de 7,9 % a 48,1 % y triplicó el rendimiento en IFEval.
Simon Willison reproduce estos experimentos con Qwen 3.8 27B ejecutado en su portátil. Tras cargar el modelo en LM Studio y usar el plugin correspondiente, el modelo tardó 46 minutos en analizar los pesos de una versión simplificada de Pac‑Man y devolvió una descripción del juego con un 72 % de confianza. Pruebas similares con los pesos de Pong también fueron exitosas.
Esta investigación sugiere que los LLM pueden comprender la lógica interna de otras redes solo a partir de sus parámetros, lo que abre la posibilidad de ajustar modelos de forma más directa y eficiente. En un contexto donde la optimización de IA suele requerir costosos ciclos de entrenamiento, la capacidad de “programar en el espacio de pesos” podría acelerar el desarrollo de sistemas más robustos y adaptables.
Leer artículo original en Simon Willison
Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.