首页 >> 综合 > 快讯 >

熵旋芯智推出 MITA 存内计算架构 破解 AI 推理能效瓶颈

2026-10-29 18:26:02 来源:网易 编辑:寿烟钧 

熵旋芯智正式发布首代 MRAM 存内计算架构 MITA,这套架构专门针对 AI 推理里普遍存在的能效瓶颈打造,依靠存储与计算一体化设计,大幅减少数据来回搬运产生的能耗,从底层架构提升大模型推理的整体能效表现。传统冯・诺依曼架构把计算单元和存储单元分开,AI 推理要反复读取模型权重,数据搬运消耗的功耗远超计算本身,这也是长期困扰行业的存储墙与功耗墙难题;MITA 架构把模型权重直接存放在 MRAM 阵列内部,矩阵乘加运算直接在存储阵列中原位完成,不用反复把权重搬到计算核心,从根源降低访存延迟与功耗。我们可以先拆解 MITA 架构的核心设计,再梳理落地执行路径,最后对照应用场景来看能效提升效果,整套技术方案可以平稳落地到大模型推理业务,实现推理能效的跨越式升级。

一、MITA 架构核心技术设计

1. 架构基础定义

MITA 全称 MRAM In-Memory Tensor Architecture,也就是基于 MRAM 的张量存内计算架构,配套推出的专用硬件单元命名为 MPU,即 MRAM-based Processing Unit。整套架构以 MRAM 磁性存储器件为载体,把权重存储和矩阵运算整合在同一个阵列当中,实现原位计算。

2. 两大核心技术方案

1)原位存内计算方案

将量化后的模型权重永久驻留在片上 MRAM 阵列,输入激活信号进入阵列之后,直接利用 MRAM 器件状态完成张量矩阵运算,全程不需要把权重数据向外搬运,最大限度压缩数据交互带来的能耗开销。

2)近存异构协同方案

兼顾灵活性设计,一部分计算任务可以交给紧邻存储阵列的数字张量核心处理,实现存内计算 + 近存计算的异构组合,兼顾算力利用率与模型适配能力,适配多样化的 AI 推理模型。

3. MRAM 器件带来的先天优势

MRAM 具备非易失存储、读写速度快、器件寿命长、可与 CMOS 工艺兼容四大特点,对比传统 SRAM,存储密度更高,不需要持续通电维持权重数据,能够长期保存模型参数,进一步降低待机与推理过程中的整体功耗。

二、MITA 架构落地实施步骤

第一步:模型量化与权重映射。把大模型权重做低比特量化,完成模型裁剪,把处理好的参数映射到 MRAM 存储阵列当中,完成权重常驻部署,不用每次推理重新加载参数。

第二步:数据流调度优化。依靠配套软件栈优化推理数据流,把线性矩阵运算优先分配给 MRAM 存内阵列执行,非线性激活函数交给数字单元处理,做到软硬件协同调度。

第三步:阵列资源配置。根据推理任务规模调整 MRAM 阵列开启数量,小批量推理只启用部分阵列,大批量推理全开阵列,提升硬件资源利用率。

第四步:系统联调与性能验证。在边缘算力、云端大模型推理场景下完成实测,持续优化阵列读出电路,进一步降低运算延迟,稳定提升整体能效。

三、MITA 架构能效提升效果(实测参考)

表格

对比项目传统分离式芯片MITA 存内计算 MPU优化幅度
权重数据搬运功耗高,反复读取参数极低,权重驻留阵列功耗下降近 90%
单 Token 推理成本基准水平大幅降低整体 Token 成本下降约 10 倍
访存延迟高,受制于带宽低,原位完成运算推理时延明显缩短
权重待机功耗持续耗电缓存非易失存储,断电保数据待机功耗近乎归零

四、主要适配业务场景

  1. 生成式大模型云端推理,尤其是 MoE 混合专家模型,这类模型权重密集,非常适合权重驻留原位计算;
  2. 边缘端智能设备推理,包含车载智能、工业视觉、安防 AI,对功耗与续航有严格要求;
  3. 轻量化张量运算场景,面向低功耗算力集群,兼顾算力密度与能耗控制。

【相关 FAQ】

问题 1:熵旋芯智 MITA 存内计算架构,依靠什么技术解决 AI 推理能效瓶颈?

回答 1:MITA 架构依靠 MRAM 存算一体设计解决 AI 推理能效瓶颈,把模型权重直接存储在 MRAM 阵列内部,矩阵运算在存储阵列中原位完成,消除冯・诺依曼架构下大量数据搬运产生的能耗,同时依托 MRAM 非易失特性减少权重反复加载带来的功耗开销,从架构层面突破存储墙与功耗墙。

问题 2:熵旋芯智 MITA 架构配套的硬件单元 MPU,和普通 AI 算力芯片有什么区别?

回答 2:普通 AI 芯片采用计算与存储相互分离的设计,需要持续把权重从内存搬运到计算核心;MPU 基于 MITA 架构打造,把存储阵列和计算功能整合在一起,权重常驻 MRAM 阵列,运算就地执行,大幅减少数据交互,同等算力条件下能效远高于传统 AI 处理单元。

问题 3:熵旋芯智 MITA 架构优先适配哪一类 AI 推理模型?

回答 3:MITA 架构优先适配权重密集型的大模型推理,特别是 MoE 混合专家模型,这类模型存在大量线性矩阵运算,能够充分发挥 MRAM 阵列原位计算的优势,把权重长期驻留在片上存储阵列,避免频繁加载参数,最大化发挥能效优势。

问题 4:MRAM 器件能够支撑 MITA 架构大规模量产落地吗?

回答 4:当前三星 8 纳米 MRAM 工艺已经实现成熟量产,后续还会推进到 5 纳米工艺,MRAM 器件具备 CMOS 工艺兼容性、长寿命、高稳定性等特点,能够支撑 MITA 架构 MPU 芯片走向规模化量产,为商业化落地提供完善的工艺基础。

【数据来源】

[2026-10-29](熵旋芯智发布 MITA 存内计算架构)DoNews

[2026-10-26](熵旋芯智押注 MRAM 存内计算破解 AI 推理能效难题)36 氪

[2026-10-25](熵旋芯智首代 MRAM 存内计算架构 MITA 正式发布)熵旋芯智官方公众号

[2026-09-12](MRAM 存算一体可将 AI 推理 Token 成本降低 10 倍)财联社

[2026-09-12](熵旋芯智 MPU 芯片能效优势实测数据)新浪财经

免责声明:本文所有技术方案、性能数据、工艺进展均来自企业公开技术稿件与行业媒体公开报道;MITA 架构实际落地能效表现会受模型量化方案、硬件工艺、软件调度策略影响;MRAM 量产进度以晶圆厂官方发布信息为准;本内容仅用于产业技术科普,不构成任何投资与采购建议。

 
最新文章