Percy Liang 团队提出提示级别联合建模的缩放定律新方法
Percy Liang 的研究团队提出了一套按提示级别联合建模的缩放定律方法,这套新方法不再简单把模型性能只和参数量、训练数据量挂钩,而是把提示本身的难度、提示分布纳入缩放规律的建模里面,联合建模不同提示层级下的模型表现,用来更精准预测大模型在各类提示任务上的效果,修正传统缩放定律在复杂提示、难任务上预测不准的问题,能够帮助研究者预判模型扩容之后在不同提示场景里的收益,给模型规模、数据配比、提示工程优化提供参考依据。
提出这套新方法的原因
- 传统大模型缩放定律大多只看参数量、算力、训练 token,忽略了提示本身有难易差别,同一个模型在不同提示上表现差距很大。
- 随着提示工程、复杂多步提示大量使用,老的缩放公式预测偏差越来越明显,很难预估难提示任务上的性能上限。
- 很多研究在扩模型时,没法区分性能提升来自模型变大,还是提示分布变化,缺少提示层面的统一建模框架。
- 想要更好地做模型扩容预算、评估方案,就需要把提示层级当成变量放进缩放规律里,实现联合预估。
新旧缩放思路对比表
| 方案类型 | 建模变量 | 优势 | 短板 |
|---|---|---|---|
| 传统缩放定律 | 参数量、算力、训练数据量 | 计算简单,适合基础预训练阶段预估 | 不区分提示难度,复杂提示任务预测误差大 |
| 提示级别联合建模缩放定律 | 参数量、算力、训练数据、提示难度层级、提示分布 | 可以分提示等级预测性能,适配复杂提示任务 | 采集标注提示层级数据成本更高,建模更复杂 |
该方法的实现流程
- 收集多样化任务提示样本,对提示做难度分级,划分不同提示级别数据集。
- 在不同规模模型上跑测试,采集每个提示级别对应的模型效果指标。
- 拟合联合缩放函数,把模型规模和提示级别变量放在同一个公式里建模。
- 在留存提示样本上验证拟合结果,对比传统缩放定律,校准预测误差。
- 使用这套模型去预测更大参数量模型在不同提示级别任务上的性能收益。
- 根据预测结果指导模型扩容、数据配比以及提示策略优化。
整体小结
Percy Liang 团队提出的按提示级别联合建模的缩放定律方法,核心创新是把提示难度层级引入缩放规律,弥补传统缩放定律对提示差异的忽视,让大模型性能预测更贴合真实提示调用场景,属于大模型缩放理论方向上的补充研究,现阶段偏向理论研究,还需要更多不同模型、不同任务集验证通用性。
【相关 FAQ】
问题 1:Percy Liang 团队提出按提示级别联合建模的缩放定律方法,核心创新点是什么?
回答 1:Percy Liang 团队提出按提示级别联合建模的缩放定律方法,核心创新是将提示难度层级纳入缩放建模,不再只依靠参数量和数据量预测模型效果,分提示等级评估缩放收益。
问题 2:Percy Liang 团队提出按提示级别联合建模的缩放定律方法,可以直接用来训练大模型吗?
回答 2:Percy Liang 团队提出按提示级别联合建模的缩放定律方法属于预测建模方法,主要用来预估模型扩容收益,不是直接训练大模型的算法。
问题 3:Percy Liang 团队提出按提示级别联合建模的缩放定律方法,和传统缩放定律差别在哪?
回答 3:传统缩放定律不区分提示差异,Percy Liang 团队提出按提示级别联合建模的缩放定律方法会对提示分级,联合提示信息一起拟合性能缩放规律,预测精度在复杂提示任务上更好。
问题 4:Percy Liang 团队提出按提示级别联合建模的缩放定律方法,对提示工程人员有什么用处?
回答 4:Percy Liang 团队提出按提示级别联合建模的缩放定律方法,可以帮助提示工程人员预估不同难度提示在更大模型上的表现,辅助判断优化提示还是扩容模型性价比更高。
【参考资料】
[2026-11-04](Percy Liang 团队提出按提示级别联合建模的缩放定律方法)机器之心
[2026-11-04](Percy Liang 团队新研究:引入提示层级的联合缩放定律)arXiv
[2026-11-04](大模型缩放定律升级:Percy Liang 团队建模提示分布影响)量子位
【免责声明】
本文仅为公开学术资讯整理,不构成模型开发、算力投入相关投资建议;Percy Liang 团队提出按提示级别联合建模的缩放定律方法仍处于学术研究阶段,方法有效性、适用范围还需要更多实验验证,最终结论以论文正式版本以及后续同行评审结果为准。
相关阅读
- 晶圆代工客户争夺开启,Intel 发布 14A PDK 0.9 版本,正面对标台积电 A14 先进工艺
- 车主福音鸿蒙智行星夜服务完成升级,预约维保可享受免费上门取车服务
- 巴西节目冠军赢得吉利星愿,触摸方向盘之后当场落泪
- 大众在华渠道协同落地一汽 - 大众授权门店以店中店模式销售金标大众(大众安徽 ID. 与众),进口门店与售后网络分批打通
- 杭州 85 岁独居老人 2 万元到付网购 “神药”,京东快递员识别保健品骗局及时报警拦截
- 美国 24 岁跑者首马纽约马拉松距终点 3 公里倒地离世横纹肌溶解诱发悲剧、赛道预警与急救科普
- 国家正式确认四川达到血吸虫病消除状态曾波及 11 市州 63 县、受威胁人口 1300 余万的长期防控成果与常态化监测体系
- REDMI K100 落地小米自研 WorldCast 视觉生成框架单张静态照片一键生成环绕推拉倾斜 3D 运镜视频技术拆解
- 沃尔沃 XC70 两驱版终端落地价下探至 20 万元内门店单车让价超两万的冲量口径与购车核验清单
- 10 月 DRAM 合约价再创历史新高AI 服务器需求拉动结构涨价,四季度 PC 与服务器内存合约价延续上行
- Anthropic 公布国际 IPO 全球个人投资者发行渠道逐国授权零售券商、销售代理与认购路径清单
- Mistral Large 4 结合近期 Django CVE 开展漏洞发现与修复测试实操指南
- 俄罗斯主机商 Beget 遭遇毁灭性网络攻击攻击者直接运行清零脚本,大量客户数据被擦除
- 显卡支持抵押贷款业务上线,按 6 年周期折旧评估,最高可按原价 8 成放款
- 2027 QS 亚洲大学排名揭晓港大蝉联亚洲第一,北大第二、清华跃居第三,港城大第四、港中大第五
- 韩国美女讲师安承妍意外走红,气质甜美,颜值不输女明星
-
探望病人挑选水果,核心原则是选新鲜、温和、易消化,同时要结合病人病情忌口,不能只看包装好看,不同疾病对...浏览全文>>
-
cmd 也就是命令提示符,Windows 系统自带工具,有好几种常用打开方式,最快捷的是 Win 加 R 运行窗口输...浏览全文>>
-
核心答案:网络圈内大家俗称的C 站,很多网友会把 clicli 叫做 C 站,但它并不是官方定名就是 C 站,C...浏览全文>>
-
Intel 代工业务正式发布 14A 工艺的 PDK 0 9 工艺设计套件,这是 14A 节点走向量产前的关键里程碑,...浏览全文>>
-
鸿蒙智行官宣对星夜服务进行升级,车主预约维保之后,可以享受同城 20 公里以内免费上门取送车权益,星夜服...浏览全文>>
-
巴西一档电视综艺节目决出冠军,获奖奖品为一台吉利星愿,节目冠军在现场拿到车辆、摸到方向盘的瞬间情绪激动...浏览全文>>
-
乘坐国内航班飞机可以带药品,但是要区分随身手提行李和托运行李两种方式,同时药品类型剂型有对应的限制,普...浏览全文>>
-
ck 和小 ck 是两个完全独立的品牌,很多人容易把二者混在一起,核心差别在于所属国家品牌档次产品线还有价...浏览全文>>
-
我先多信源核实 "金标大众" 的具体所指、一汽 - 大众渠道销售范围与官方政策口径,再按固定格式成文。 我...浏览全文>>
-
杭州上城区一名 85 岁独居老人收到一个 2 万元货到付款的包裹,包裹里面是商家宣称可以根除脑部顽疾的所谓...浏览全文>>
- clicli 是 c 站吗 名称辨析
- 巴西节目冠军赢得吉利星愿,触摸方向盘之后当场落泪
- 杭州 85 岁独居老人 2 万元到付网购 “神药”,京东快递员识别保健品骗局及时报警拦截
- 沃尔沃 XC70 两驱版终端落地价下探至 20 万元内门店单车让价超两万的冲量口径与购车核验清单
- 10 月 DRAM 合约价再创历史新高AI 服务器需求拉动结构涨价,四季度 PC 与服务器内存合约价延续上行
- 中药师报考条件 卫生资格中药师考试详解
- 剧好看专区补齐小屏端能力,将全面登陆爱优腾芒四大视频平台
- Switch 实体卡带或将遇冷,核心供应商选择离场,因利润不足停止相关业务
- Hugging Face 团队借助 ML Intern 开源工具完成论文实验复现
- 全身减肥瘦身操 居家燃脂训练方案
- cmd 怎么打开 多种启动方法详解
- 车主福音鸿蒙智行星夜服务完成升级,预约维保可享受免费上门取车服务
- 飞机可以带药品吗 乘机携带规范详解
- 国家正式确认四川达到血吸虫病消除状态曾波及 11 市州 63 县、受威胁人口 1300 余万的长期防控成果与常态化监测体系
- REDMI K100 落地小米自研 WorldCast 视觉生成框架单张静态照片一键生成环绕推拉倾斜 3D 运镜视频技术拆解
- AI 教父辛顿发出警示,今明两年 AI 领域或出现切尔诺贝利等级的严重事故
- SynthesiaIO 在 ChatGPT 上线视频生成插件,可直接在对话内制作 AI 数字人视频
- Hailuo_AI 展示 Blender 预可视化搭配 MiniMax H3,生成实拍风格视频
- Blender 预演搭配 Minimax H3,制作原创商店街视频
- chat 的过去式和过去分词 双写 t 变形专项讲解
- 大众在华渠道协同落地一汽 - 大众授权门店以店中店模式销售金标大众(大众安徽 ID. 与众),进口门店与售后网络分批打通
- 美国 24 岁跑者首马纽约马拉松距终点 3 公里倒地离世横纹肌溶解诱发悲剧、赛道预警与急救科普
- Mistral Large 4 结合近期 Django CVE 开展漏洞发现与修复测试实操指南
- CHR 保养周期表 保养项目明细
- 显卡支持抵押贷款业务上线,按 6 年周期折旧评估,最高可按原价 8 成放款
- 2027 QS 亚洲大学排名揭晓港大蝉联亚洲第一,北大第二、清华跃居第三,港城大第四、港中大第五
- 韩国美女讲师安承妍意外走红,气质甜美,颜值不输女明星
- 红米 Turbo 6 Max 关键参数敲定,7 英寸 2K 大屏搭配超大电池,配置表现史无前例
- 普林斯顿推出 SSoN 空间智能评测基准,发现多模态大模型三维推理存在明显短板
- 微软全新 Surface 鼠标首发定价 638 元,搭载触觉反馈功能
- 荷兰安世半导体索赔 20 亿美元闻泰科技书面拒绝 "双圈" 股权重组方案
- 华为申请注册 OSTA 商标,全新子品牌正在筹备当中
- Anthropic 联合学者开源 FlashProve 基于 zkSNARK 实现大模型可证明推理 家用 CPU17 秒即可验真
- 印度微短剧迎来爆发式增长 Story TV 用户突破 3300 万并拿到 8000 万美元 C 轮融资
- LiberAI 发布世界动作模型 Liber-0,依托 220 万小时人类经验,零样本任务成功率超 GPT-6 Astra 七倍
- 山药豆怎么吃 家常多种做法详解
- 梦见大牙掉了 梦境深层解读
- cf 手游刷堕天使技巧 挑战卡刷角色全攻略
- 嘎牙鱼什么样 外形特征识别详解
- cf 雷神速点技巧 步枪速点实操训练方法
