0.016% 的 Astra 微创手术,治好了 Qwen 的 3 万 Token 死循环
要点导读
- Astra 直接检查并修改 Qwen 权重
- 仅改动 0.016% 权重
- MATH-500 成绩从 7.9% 升至 48.1%
- 可解释性输出变为可执行编辑指令
内容摘要
MIT CSAIL 让 GPT-6 Astra 检查 Qwen3.5-0.8B 的内部权重并直接修改参数,仅改动约 0.016% 的权重,就将 Qwen 的 MATH-500 成绩从 7.9% 提升到 48.1%。该研究将机制可解释性的输出转化为可执行的编辑指令,为 AI 改进 AI 提供了不经过梯度下降的新路径。
阅读原文
原文来源:雷峰网(leiphone.com)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。