Cmpnd 发布 dspy-wspLLM 直接编辑小模型权重
Cmpnd 推出了 dspy-wsp 这个 DSPy 原型优化器,它的核心就是权重空间编程,简单说就是用一个更强的前沿大模型,直接读取并且修改小模型的权重参数,不用梯度计算、不用训练循环,也不需要专门的微调数据集,和传统微调、提示词优化完全不是一个路子。之前大家优化小模型,要么改提示词,要么走梯度微调,都绕不开训练数据或者梯度更新,而 dspy-wsp 让大模型像工程师一样看懂权重张量,找出模型哪里表现不好,直接写代码补丁改动权重。它可以直接接入 DSPy 的程序和评估指标,上手门槛很低,测试里用 GPT-6-Astra 作为 Writer 模型,花费 5 到 10 美元的调用成本,测试的各个决策小模型效果都得到提升,像 d1-omni-600M 模型搭配 ReAnchor 之后,准确率从 50.9% 提升到 69.1%,不过它目前只是实验原型,不适合直接拿去生产环境使用,在 9B 参数级别模型上,收益就会明显下降。
核心原理
- 角色划分:分为 Writer 大模型(前沿 LLM)和 Student 小模型(被修改的模型)
- Writer 读取 Student 模型权重张量,分析模型缺陷,生成权重修改代码补丁
- 直接执行补丁修改权重,全程没有反向传播、梯度下降、训练数据集
- 封装成 DSPy 里面的 WeightSpace 优化器,兼容原有 DSPy 评估指标体系
基础使用信息
- 安装命令:pip install dspy-wsp
- 依赖版本:DSPy 3.5
- 开源协议:MIT 协议
- 测试模型范围:0.6B~9B 参数的决策类小模型
- 单次 25 轮编辑:耗时 78–167 分钟,费用区间 5.42–7.63 美元
和传统微调、提示优化对比
| 方案 | 是否需要梯度 | 是否需要微调数据集 | 修改对象 |
|---|---|---|---|
| dspy-wsp 权重空间编程 | 不需要 | 不需要 | 模型权重张量 |
| 梯度微调 | 需要 | 需要 | 模型权重 |
| 提示词优化(MIPROv2) | 不需要 | 少量评估数据 | 提示文本 |
现有局限
- 属于原型实验工具,稳定性不足,不能替代标准微调方案
- 模型越大,收益衰减明显,9B 以上模型提升效果有限
- 依赖强能力 Writer LLM,调用会产生额外 API 成本
- 目前主要在决策类模型上验证,通用大模型、多模态模型效果还缺少大量验证
【相关 FAQ】
问题 1:dspy-wsp 权重空间编程和普通微调最大差别是什么?
回答 1:dspy-wsp 是由前沿 LLM 直接编辑小模型权重,不需要梯度、训练循环和微调数据集;普通微调依靠梯度下降,必须准备对应的训练数据集,依靠反向传播更新权重。
问题 2:dspy-wsp 可以直接用于线上生产环境吗?
回答 2:不可以,dspy-wsp 只是实验原型优化器,目前验证场景有限,稳定性和鲁棒性不足,只能用于技术探索和实验,不能替代正式微调方案上线。
问题 3:dspy-wsp 支持多大参数的模型做权重编辑?
回答 3:目前测试主要覆盖 0.6B 到 9B 参数的决策类小模型,随着模型参数变大,dspy-wsp 带来的效果提升会明显变小。
问题 4:跑 dspy-wsp 一次大概要花多少钱?
回答 4:测试里 25 轮权重编辑,使用 GPT-6-Astra 作为 Writer 模型,费用大约在 5.42 美元到 7.63 美元区间,整体成本区间在 5–10 美元。
【参考资料】
[2026-11-16](全球 AI 大模型领域全面即时资讯)InfoQ
[2026-11-15](DSPy abre nuevas posibilidades para ajustar modelos directamente desde sus pesos)helguera.es
[2026-11-14](Cmpnd Releases dspy-wsp: Weight-Space Programming Comes to DSPy)MarkTechPost
[2026-11-13](Weight-Space Programming with DSPy — Cmpnd)Cmpnd 官网
【免责声明】
本文内容仅为 AI 技术资讯整理,dspy-wsp 为实验原型工具,技术效果、成本、适用范围均来自公开测试信息,不构成技术选型、商用落地建议,使用该工具带来的效果、费用风险由使用者自行承担。
相关阅读
- 苹果入局 AI 眼镜赛道,新款 AI 眼镜支持翻译导航语音叫外卖
- 《GTA6》通关时长爆料主线 50 小时、白金成就预估 200 小时解析
- 三星美国扩产奥斯汀工厂,为 SpaceX 代工星链卫星芯片
- 苹果折叠屏补齐短板iPhone Duo 2 原型机搭载 Face ID 信息解读
- 三星、SK 海力士撤诉申请被驳回,人为制造 DRAM 短缺反垄断诉讼进入实质审理解读
- 闻泰回应荷兰最高 23 亿罚金裁定,明确拒绝强制出售安世股权
- Google Cloud Certificate Manager 第二代预览版上线,跨环境 TLS 证书统一管理功能解读
- 苹果 18 Pro 系列国内首周狂卖百万台,争议越大销量越高
- 美国火神火箭发射失败,亚马逊 40 颗卫星全部报废事件详情
- Gartner 预测2029 年七成 I&O 组织上线代理式 AI 生产环境后会遭遇重大事件
- BigQuery 数据传输服务新增单表粒度进度与错误查看能力
- Cmpnd 发布 dspy-wspLLM 直接编辑小模型权重
- DSPy 推出 dspy-wsp 权重空间优化器原型
- 斯坦福 NLP NeurIPS 2026 论文研究 LLM 组合推理强化学习后训练
- 斯坦福 NLP 提出本地主动智能体深度个性化方案,依靠持续上下文观测闭环自适配
- Google Cloud Knowledge Catalog 通用上下文引擎上线,给 AI 智能体提供企业可信上下文
-
大连比较有特色的小吃街主要集中在市中心和滨海周边 整体风格以海鲜小吃 东北风味 日韩特色小吃为主 因为...浏览全文>>
-
核心结论是联想 Y50 是联想 Y 系列老款游戏本,全称联想 Y50,属于当年主流大屏游戏笔记本,主打 15 6...浏览全文>>
-
做包子核心分为两大板块 一是发面面皮配方 二是包子馅调制 面皮成功标准是洁白暄软 蒸完不塌陷不回缩 包...浏览全文>>
-
xxxl 也就是加加加大码,属于成人服装里面的大码档位,常规国内男装 xxxl 一般适配身高 185 至 190 厘...浏览全文>>
-
苹果正式推出 AI 眼镜相关产品规划,这款代号 N50 的 AI 眼镜主打 Siri 语音交互,能做实时翻译、路线...浏览全文>>
-
目前曝光的《GTA6》时长信息显示,只专心推进主线剧情不怎么碰支线和收集内容,平均通关时长大约 50 小时,...浏览全文>>
-
这次网传砸 126 亿给 SpaceX 造芯片,实际是三星计划拿出约 19 亿美元(折合人民币约 127 亿,也就是...浏览全文>>
-
初代 iPhone Duo 折叠屏只配备侧边触控 ID,缺少大家熟悉的 Face ID 面容解锁,这也是很多用户吐槽的短...浏览全文>>
-
美国加州北区联邦法院在 11 月 14 日驳回三星、SK 海力士、美光联合提交的撤诉动议,原告指控三家存储大...浏览全文>>
-
荷兰阿姆斯特丹上诉法院企业法庭出具追加临时措施裁定,如果闻泰科技、裕成控股、安世中国等相关主体违反禁令...浏览全文>>
- xxxl 是多大码 服装尺码详细参数说明
- 营销策划 完整模块深度解析
- 苹果 18 Pro 系列国内首周狂卖百万台,争议越大销量越高
- 美国火神火箭发射失败,亚马逊 40 颗卫星全部报废事件详情
- 陶瓷折叠水果刀能带上火车吗 安检规定详解
- DSPy 推出 dspy-wsp 权重空间优化器原型
- 斯坦福 NLP 提出本地主动智能体深度个性化方案,依靠持续上下文观测闭环自适配
- Chris Potts依靠 logits 和文本样本就能反推模型训练数据顺序
- 墙面空鼓允许范围一般在多少 装修验房规范讲解
- 镇江咸鹅怎么吃才好吃 四种地道吃法
- BLG 完成一穿四拿下 S 赛冠军,网友称这是最好的青春售后
- wpsoffice 全套自学教程 从零到精通学习路线
- Win11 免硬件升级提速技巧,老电脑谨慎使用
- 波司登王力宏同款高端羽绒服只卖出 16 件,广告造型被网友吐槽穿搭太雷霆
- wishes 的用法句型 句型精讲
- 菜鲟的做法 菜鲟怎么做才好吃 家常教程
- window10 怎么激活教程 正版授权操作详解
- 男子退掉出租房,花 7000 元改造 SUV 床车,夜间在公司停车场过夜
- 微软年度收官补丁Win11 下月更新界面现代化,搜索速度大幅提升
- 内存涨价行情还没结束,2027 年缺货会更严重或将有钱也买不到
