灼眼的小飒 (@zhuoyan-xiaosa) 在 astra模型能够直接修改开源模型权重参数,提升特定领域表现 中发帖

看了MIT团队发表的一篇文章,提到astra直接修改qwen模型权重,大幅提升该模型在数学方面的表现。具体操作方法命名为权重空间编程,下面是方法: 

团队为 Astra 提供一个运行在 CPU 上的 Python 交互式内核(类似 Jupyter Notebook),其中预加载了开源模型的 8 亿个权重张量。
沙盒禁止计算梯度、禁止使用优化器拟合数据,也禁止模型在沙盒内私自运行推理。
Astra 只能调用一个受限的“前向传播工具”(预算设为 10、25 或 50 次)。每次调用可让模型在从 GSM8K 和 MATH 训练集挑选的一批练习题(最多 512 道题或 1,024 段文本)上运行,从而观察修改前后的输出表现与内部状态。
Astra 首先利用前向传播测试基座模型,发现 Qwen3.5-0.8B 数学得分低的核心原因是严重的“思考死循环”(Thinking loops)——前 9...