首页 >> 综合 > 快讯 >

DSPy 推出 dspy-wsp 权重空间优化器原型

2026-11-16 06:10:57 来源:网易 编辑:伏亚飘 

DSPy 团队放出的 dspy-wsp,是一款主打权重空间编程的原型优化器,它跳出传统微调、提示词优化的老路,可以让一个更强的前沿大模型直接读取并且修改另一款 “学生模型” 的权重,全程不需要梯度计算、不用训练循环,也不需要专门准备微调数据集,直接对接现有的 DSPy 程序和评估指标就能跑。在官方测试里面,用 GPT-6-Astra 对多款 0.6B 到 9B 参数的决策模型做编辑,单次 25 轮迭代调用成本大约在 5 到 10 美元,全部被测模型的准确率都获得提升,如果搭配 DSPy 自带的 ReAnchor 一起使用,提升幅度还能进一步拉高;工具采用 MIT 许可,安装简单,但它目前只是原型,稳定性和适用范围都有限,还不能直接替换常规微调方案。

为什么 dspy-wsp 和普通优化器不一样

  • 老版本 DSPy 优化器,大多是改提示词、生成少量示例、做常规有监督微调,改动对象停留在文本层面;
  • dspy-wsp 的核心是权重空间编程,让大模型看懂权重张量,自主找出模型缺陷,生成补丁代码修改权重;
  • 不需要反向传播求梯度,省去海量训练数据,适合低成本修复模型缺陷、解决模型循环输出这类顽固问题;
  • 目前在决策类模型上效果最好,通用大模型上的表现还处在实验阶段。

dspy-wsp 使用操作步骤

  1. 环境准备,安装 dspy-wsp,保证环境内 DSPy 版本达到 3.5;
  2. 准备目标学生模型、任务评估指标,写好标准 DSPy 程序;
  3. 指定充当编辑器的前沿大模型,设置迭代轮次,官方推荐默认 25 轮;
  4. 运行 WeightSpace 优化器,主模型读取学生模型权重,输出权重修改补丁;
  5. 把补丁应用到学生模型,使用独立测试集验证效果,可选择叠加 ReAnchor 二次优化;
  6. 如果效果达标,保存修改后的权重;效果不足,调整参数重新迭代。

当前存在的短板

它只是早期原型,不是成熟生产工具;能修复已有能力里面的漏洞,但很难凭空给模型增加全新能力;同时对充当编辑的主模型能力依赖很高,如果选用能力偏弱的大模型,权重修改补丁很容易把模型改坏。

【相关 FAQ】

问题 1:dspy-wsp 权重空间优化器,运行的时候一定要梯度和微调数据集吗?

回答 1:不需要,dspy-wsp 权重空间优化器依靠权重空间编程思路,由强模型直接读写权重,全程没有梯度计算,也不需要专门的微调数据集。

问题 2:dspy-wsp 权重空间优化器适合拿来正式上线商用吗?

回答 2:不适合,dspy-wsp 权重空间优化器属于原型项目,实验属性很强,稳定性、泛化能力不足,不能替代标准微调,不建议直接用于线上生产。

问题 3:使用 dspy-wsp 权重空间优化器,能不能搭配其他 DSPy 优化工具一起使用?

回答 3:可以,官方测试就把 dspy-wsp 权重空间优化器和 ReAnchor 组合,组合之后模型准确率提升上限会更高。

【参考资料】

[2026-11-15](DSPy abre nuevas posibilidades para ajustar modelos directamente desde sus pesos)helguera.es

[2026-11-14](Cmpnd Releases dspy-wsp: Weight-Space Programming Comes to DSPy)MarkTechPost

[2026-11-13](Weight-Space Programming with DSPy)cmpnd.ai

【免责声明】

本文仅客观转述 dspy-wsp 权重空间优化器原型的公开实验信息,不构成工程落地建议;该原型效果受主模型、学生模型、任务类型影响波动较大,相关实验指标不能保证复现,技术风险需要使用者自行评估。

 
最新文章