纯 CPU 本地跑 2.8 万亿参数 Kimi K3傲腾内存高热过载，差点烤熔主板插槽

这个出圈项目来自 Reddit 的一位 DIY 玩家，他在完全不用 GPU 的前提下，依靠第三代至强 CPU + 二手傲腾持久内存，成功本地跑通了月之暗面 Kimi K3（2.8 万亿参数）；最大风险不是性能不够，而是傲腾满载发热量极高，如果缺少强制风冷，很容易烧坏旁边普通内存，甚至熔掉主板内存插槽。

整套硬件与基础参数表

项目完整思路

Kimi K3 属于全球首批开源的 3 万亿级 MoE 大模型，原生推荐在数据中心集群、大量 A100/H100 上面跑，家用普通 DRAM 如果凑齐 600GB+，成本极高；玩家选择二手傲腾持久内存，容量足够、单价远低于同容量普通服务器内存，并且可以直接映射成持久内存，用来存放模型权重张量。

这套方案的短板分成两块，第一是速度，哪怕压到最低的 1-bit 量化，生成速度也只有每秒不到一个 token，生成长篇内容耗时极长；第二就是散热，傲腾和普通 DDR 内存不一样，每一条满载持续释放热量，四条同时跑最高接近 60W，集中在狭小内存槽区域。玩家明确标注：主动强制风冷属于硬性需求，不能省略，原厂规范就要求每秒 2.4–2.7 米的定向气流，普通机箱风道完全达不到标准。

现在测出的性能还是原始数据，没有做线程调优、NUMA 亲和优化，理论上后续还有提速空间；玩家后续计划加入 GPU，采用混合加载方案，一部分权重放进高速 DRAM，一部分留在傲腾，改善推理速度。

关键风险点拆解

• 热量集中：傲腾的工作温度窗口很窄，一旦冲到 83℃ 就触发降频，85℃ 直接保护性断电；旁边常规 DDR 内存虽然耐热上限更高，但长期被烘烤，很容易提前老化、掉颗粒。
• 不是实用方案：只属于极客实验，不适合拿来日常对话，生成效率极低；玩家自己也强调，它只用来证明可行性，不是替代云端 Kimi。
• 傲腾已经停产：只能淘二手，货源不稳定，并且二手傲腾本身就存在老化、掉速隐患。
• 模式限制：这次采用 App Direct，而不是 Memory Mode；Memory Mode 可以用普通内存做缓存，但本次测试没有启用。

容易混淆的信息

很多人误以为是 CPU 本身过热，其实热源主体是傲腾持久内存，至强 CPU 的散热压力反而可控；另外 Kimi K3 是混合专家模型，虽然总参数达到 2.8 万亿，但每次推理只会激活少量专家，即便如此，权重体量依然远超普通家用本地大模型，对容量门槛要求非常苛刻。

【相关 FAQ】

问题 1：纯 CPU 跑 2.8 万亿参数 Kimi K3：恐怖散热差点把主板烧了，这套机器靠什么装下庞大模型权重？

回答 1：纯 CPU 跑 2.8 万亿参数 Kimi K3：恐怖散热差点把主板烧了，玩家依靠第二代傲腾 PMem 200 持久内存，在 App Direct 模式下承载模型，避开大容量普通 DRAM 的高昂成本。

问题 2：纯 CPU 跑 2.8 万亿参数 Kimi K3：恐怖散热差点把主板烧了，推理速度大概有多快？

回答 2：纯 CPU 跑 2.8 万亿参数 Kimi K3：恐怖散热差点把主板烧了，1-bit 量化大约 0.85 token/s，提升到 3-bit 之后下降到 0.75 token/s，生成文本非常缓慢。

问题 3：纯 CPU 跑 2.8 万亿参数 Kimi K3：恐怖散热差点把主板烧了，为什么热量这么吓人？

回答 3：纯 CPU 跑 2.8 万亿参数 Kimi K3：恐怖散热差点把主板烧了，热源是傲腾内存，单条满载功耗可达 12–15 W，温度到 83℃ 降频、85℃ 强制关机，普通机箱风道压不住。

问题 4：纯 CPU 跑 2.8 万亿参数 Kimi K3：恐怖散热差点把主板烧了，Kimi K3 是什么模型？

回答 4：纯 CPU 跑 2.8 万亿参数 Kimi K3：恐怖散热差点把主板烧了，是月之暗面开源的 2.8 万亿参数 MoE 多模态大模型，支持百万 token 超长上下文，主打长文本、编程与复杂推理。

【参考资料】

[2026-11-09]（显存不够傲腾凑！纯 CPU 跑 2.8 万亿参数 Kimi K3）驱动之家（腾讯新闻）

[2026-11-08]（Homelabber runs 2.8-trillion-parameter Kimi K3）Tom’s Hardware / AI Brief

[2026-07-27]（Kimi K3 开放日公告）月之暗面官网

[2026-11-08]（Optane PMem thermal spec）WorldNL Magazine

免责声明

该项目属于海外极客自制实验，不是成熟落地部署方案；傲腾内存属于停产二手配件，高温改造有烧毁主板、内存甚至起火风险，不建议普通用户复刻；文中速度、温度为玩家实测原始数据，未经过深度调优，实际结果会随版本、固件、机箱环境变化。