Исследователи из MIT провели необычный эксперимент, в котором модель GPT-6 Astra смогла заметно улучшить работу языковой модели Qwen3.5-0.8B, не обучая ее на новых данных.
Вместо классического обучения Astra получила доступ к внутренним параметрам модели и возможность проверять результаты ее работы. Анализ показал, что Qwen часто зацикливается на собственных рассуждениях, повторяя одни и те же фразы вместо поиска решения.
🔍 Изучив устройство модели, Astra определила компоненты, связанные с этим поведением, и изменила всего 0,016% весов нейросети — 131 072 параметра из 800 млн.
После этого результаты Qwen заметно улучшились. В математическом бенчмарке MATH-500 точность выросла с 7,9% до 48,1%, а в тесте GSM8K — с 13,8% до 67,1%. В бенчмарке IFEval, который проверяет способность следовать инструкциям, показатель увеличился с 21% до 62,3%.
Также резко сократилось количество случаев, когда модель уходила в бесконечные рассуждения и упиралась в лимит 32 тысяч токенов. Их доля снизилась с 93% до 33%.
По словам авторов, Astra не добавила нейросети новых знаний, а скорее устранила проблему, которая мешала использовать уже имеющиеся возможности. Это подтвердилось и другими экспериментами. Например, аналогичным способом не удалось существенно улучшить Gemma 3 на 270 млн параметров, поскольку она ошибалась не из-за зацикливания, а из-за самих вычислений.
🤖 Исследователи называют такой подход Weight-Space Programming. В других тестах Astra смогла определять назначение нейросетей только по их весам и даже создавать новые модели для игр без традиционного обучения. Вместо миллионов шагов тренировки ИИ просто генерировал числовые параметры будущей модели.
