Un equipo del MIT usó GPT-6 Astra para reparar parte de un modelo Qwen sin recurrir al entrenamiento habitual.
Un grupo de investigadores del MIT ha probado una nueva forma de cambiar una inteligencia artificial. Usaron GPT-6 Astra para estudiar Qwen3.5-0.8B, un modelo pequeño y abierto. En lugar de entrenarlo otra vez, Astra examinó sus pesos. Estos pesos son números que controlan el funcionamiento de una red neuronal.
Qwen tenía un problema importante: repetía palabras y pasos una y otra vez. Muchas veces llenaba todo el espacio de la respuesta y no podía terminar. Astra encontró la parte relacionada con ese fallo y cambió solo unos 131.000 pesos. Es una cantidad muy pequeña: cerca del 0,016 % del total.
Después del cambio, Qwen completó mejor los ejercicios con las capacidades que ya tenía. En una prueba de matemáticas llamada MATH-500, su resultado subió del 7,9 % al 48,1 %. En otra prueba con problemas escolares, pasó del 13,8 % al 67,1 %. Esto no quiere decir que aprendiera seis veces más matemáticas. La mejora ocurrió, sobre todo, porque dejó de repetir los mismos pasos.
El equipo también probó Astra con redes para videojuegos y con una conducción simulada. En algunos casos, la IA encontró fallos y los corrigió con pequeños cambios. Sin embargo, el trabajo está en una fase inicial. Encontrar el cambio para Qwen exigió muchas pruebas y unas veinte horas. Además, Astra no consiguió mejorar otro modelo llamado Gemma. Aún hay que estudiar cuándo funciona este método y si resulta mejor que el entrenamiento normal.
Basado en: Carl Franzen, VentureBeat