麻省理工学院计算机科学与人工智能实验室（MIT CSAIL）提出名为「权重空间编程」的新方法：让OpenAI的GPT-6 Astra直接分析并修改阿里云通义千问Qwen3.5-0.8B的神经网络权重，仅调整约0.016%的参数，就将其在MATH-500数学基准上的成绩从7.9%提升至48.1%，约为原来的6.1倍，全程未使用梯度下降或传统训练循环。
该研究由Rikiya Takehi、Jayden Teoh、Alex Zhang和Omar Khattab共同完成，Takehi于当地时间11月2日在博客上发布。
实验中，Astra并非随机调参，而是先定位问题：Qwen3.5-0.8B回答数学题时容易反复生成相同内容，最初96次测试中有85次耗尽32768个Token上限。研究团队为Astra提供可读写权重的Python环境，并允许其用GSM8K和MATH训练集做有限次前向推理。Astra定位到第15层和第19层MLP写入的重复方向，修改这两层共131072个权重，削弱了导致推理循环的信号。在允许50轮前向推理的实验中，模型在MATH-500上从7.9%升至48.1%，在GSM8K上从13.8%升至67.1%；指令遵循测试IFEval从21.0%升至62.3%，数学测试中因长度上限未完成回答的比例从93%降至33.1%。
研究团队还用Gemma 3 270M做了对照实验：该模型原本很少出现推理循环，Astra的局部权重修改最多仅使其MATH-500成绩从6.8%升至7.7%。据此指出，权重空间编程能消除模型已有能力发挥的障碍，但不一定能凭空创造原本不具备的能力。
研究还包含让Astra仅凭权重识别模型训练过的游戏、判断训练语言、直接编写可运行游戏的神经网络等实验。研究人员认为，该方法有望为神经网络可解释性研究和模型优化提供新思路。
