首页 >> 综合 > 快讯 >

微软第三代自研芯片 Maia 300 正式落地,搭载 2nm 工艺与 288GB HBM4 内存

2026-10-22 20:20:41 来源:网易 编辑:容馨恒 

微软最新推出的自研 AI 加速器 Maia 300,是当前微软自研产品线里综合性能最强的一款芯片,芯片采用台积电 N2P 2nm 增强版芯粒架构,标配 8 组 HBM4 内存堆栈,总容量达到 288GB,峰值内存带宽来到 18TB/s,整体设计完全面向大模型长上下文推理场景优化,依靠软件定义数据流架构,大幅降低数据搬运带来的功耗损耗,单卡推理算力、内存容量、带宽全面超越上一代 Maia 200,机架级 token 吞吐量最高提升至前代 7 倍,能效相比主流 GPU 高出 40%,专门适配 Copilot、智能体多轮对话、长文本大模型等云端业务,同时采用计算、内存、I/O 分芯粒拆分方案,兼顾先进制程与量产良率,为 Azure 云打造专属的端到端 AI 推理硬件底座,实现从芯片架构到整机机架的全栈自研落地。

一、Maia 300 整体硬件架构拆解

1. 多芯粒组成清单

Maia 300 采用拆分式 Chiplet 设计,把不同功能模块拆分为独立裸片,避免单一超大芯片带来的良率成本问题,整套芯片由 6 颗功能裸片 + 8 组内存堆栈组成:

  1. 主计算 Die:台积电 N2P(2nm 增强版)工艺,承载全部 AI 张量计算单元,是芯片算力核心。
  2. I/O Die:共计 2 颗,采用 3nm 工艺,负责高速互联与外部信号传输。
  3. 内存 Die:共计 4 颗,负责 HBM4 内存控制器调度。
  4. 内存模组:8 组独立 HBM4 堆栈,单堆栈 36GB,合计 288GB 高速内存。

2. 核心硬件参数对照表

表格

项目Maia 300 硬件指标
制造工艺计算芯粒:台积电 N2P(2nm 增强版);IO / 内存芯粒:3nm
FP4 峰值算力13.8 PFLOPS
FP8 峰值算力6.9 PFLOPS
热设计功耗 TDP950W
内存规格8×36GB HBM4,总容量 288GB
峰值内存带宽18TB/s
内存速率9Gb/s per pin
片上 SRAM软件可控高速缓存,减少 HBM 访问压力
互联网络双向两级 Scale-up 网络,支持多卡集群扩展

二、内存子系统:288GB HBM4 是核心性能突破口

1. 内存规格升级细节

Maia 300 搭载新一代 HBM4 高带宽内存,相比上一代 Maia 200 的 HBM3E 实现两大升级:内存总容量从 216GB 提升至 288GB,涨幅 33%;内存带宽从 7.1TB/s 提升至 18TB/s,整体带宽暴涨 2.5 倍。

大模型推理场景里,模型权重、KV 缓存会持续占用内存资源,长上下文任务会持续拉高内存占用,更大的内存容量可以把整份大模型完整放进显存,不用反复从硬盘加载权重;超高带宽可以大幅降低数据读取延迟,减少计算单元等待数据的空闲时间,直接拉高 token 产出效率。

2. 内存层级优化方案

芯片搭建三层存储体系,优先把高频数据放在更近的存储介质里,减少数据跨裸片搬运:

  1. 第一层:片上 SRAM,由软件直接调度,临时存放中间计算结果,无需访问 HBM;
  2. 第二层:HBM4 高速内存,存放完整模型权重与 KV 缓存;
  3. 第三层:机架级共享存储,用于冷数据加载。 这套分层设计把 HBM 带宽利用率提升,HBM 每瓦带宽达到上代产品的 2 倍,有效控制高带宽带来的功耗上涨。

三、计算架构:SDLA 软件定义数据流,专为推理优化

1. 架构设计核心思路

Maia 300 不再沿用传统 GPU “先算再搬数据” 的设计,采用 SDLA 软件定义数据流架构,把数据位置当成优先设计目标,让计算单元就近读取本地内存数据,缩短数据传输距离,降低数据移动产生的能耗。芯片内置 100 组 MAE 数据流加速单元,专门优化大模型矩阵乘、KV 缓存读写等推理高频算子,大幅提升算子执行效率。

2. 算力与负载适配

芯片把算力资源向低精度计算倾斜,FP4 算力达到 13.8 PFLOPS,FP8 算力 6.9 PFLOPS,完全贴合大模型推理普遍使用 FP4、FP8 低精度量化的行业现状,避免高精度算力闲置浪费。芯片所有硬件单元全部围绕推理任务开发,没有为训练任务预留冗余硬件,实现硬件资源最大化利用。

四、机架级整机集群设计

1. 单机架硬件配置

单台标准机架最高可以部署 96 颗 Maia 300 加速器,整机功耗控制在 167 千瓦;机架总内存容量达到 27.6TB,聚合 HBM 总带宽达到 1.7PB/s,单集群机架的 token 吞吐能力达到 Maia 200 机架的 7 倍。

2. 规模化部署能力

单组扩展域最多可以部署 1.2 万颗 Maia 300 芯片,形成吉瓦级算力集群;整机软硬件全部打通,从芯片内核、板卡电路、机架供电到云端调度系统实现全栈自研,能够和 Azure 云原生调度平台深度适配,专门承载 Copilot、智能体、长文本对话等海量并发推理业务。

五、产品落地规划与性能收益

Maia 300 计划在 2027 年正式进入量产阶段,量产之后将逐步替代 Azure 云内部分通用 GPU,成为微软云端 AI 推理业务的主力硬件。在同等功耗条件下,Maia 300 每兆瓦电力可以产出的 token 数量比主流 GPU 系统高出 40%;在长上下文大模型推理场景,单卡可承载更长对话窗口,把多轮智能体任务的端到端延迟降低 35% 以上,大幅降低云端 AI 服务的综合运营成本。

【相关 FAQ】

问题 1:微软 Maia 300 采用 2nm 工艺,搭配 288GB HBM4 内存,整体架构是什么类型?

回答 1:微软 Maia 300 采用多芯粒 Chiplet 拆分架构,计算裸片使用台积电 N2P 2nm 增强版工艺,IO 与内存控制裸片采用 3nm 工艺,外部搭载 8 组 HBM4 内存堆栈,合计 288GB 内存,通过拆分不同功能裸片平衡先进制程、芯片良率与制造成本。

问题 2:微软 Maia 300 搭载 288GB HBM4 内存,相比上一代 Maia 200 提升幅度有多大?

回答 2:Maia 300 的 HBM4 内存总容量相比 Maia 200 提升 33%,从 216GB 升级至 288GB;内存峰值带宽从 7.1TB/s 提升至 18TB/s,带宽增幅达到 2.5 倍,同时 HBM 每瓦带宽提升至前代的 2 倍,内存能效实现跨越式升级。

问题 3:微软 Maia 300 采用 2nm 工艺与 288GB HBM4,算力指标对应是多少?

回答 3:Maia 300FP4 精度峰值算力为 13.8 PFLOPS,FP8 精度算力为 6.9 PFLOPS,芯片热设计功耗 950W,算力资源全部面向大模型推理的低精度量化场景优化,没有冗余训练算力。

问题 4:搭载 2nm 工艺与 288GB HBM4 的 Maia 300,机架级吞吐性能可以达到什么水平?

回答 4:单机架部署 96 颗 Maia 300 芯片,整机聚合 HBM 带宽可达 1.7PB/s,机架级 token 吞吐量最高达到 Maia 200 机架的 7 倍;同等电力投入下,每兆瓦算力产出 token 数量比主流 GPU 系统高出 40%。

问题 5:Maia 300 使用 2nm 工艺 + 288GB HBM4 内存,主要面向哪些 AI 业务场景?

回答 5:这款芯片全程围绕云端推理开发,优先适配长上下文大模型对话、多步骤 AI 智能体、海量并发 Copilot 问答、长文本内容生成等业务,依靠大容量 HBM4 内存把完整模型权重常驻显存,大幅降低长对话场景下的加载延迟。

【数据来源】

[2026-10-22] 微软最强自研芯片杀到!Maia 300 用上台积电 2nm:288GB HBM4

[2026-10-22] Microsoft Maia 300 AI chip arrives with monstrous 288 GB HBM4 memory Notebookcheck

[2026-10-13] 微软 Maia 300 自研 AI 芯片将投入量产,Maia 家族扩展至吉瓦级部署 电子工程专辑

[2026-10-12] Deep dive into Azure Maia 300 architecture Microsoft Azure 官方博客

[2026-10-12] Microsoft to expand Azure Maia system to multi-gigawatt deployments 微软官方新闻站

免责声明

本文内容全部整理自微软官方发布文档、芯片公开技术参数与行业媒体实测资讯;FP4/FP8 算力、内存带宽、机架吞吐等数据均为实验室理想工况下的峰值指标,实际业务性能会受模型量化策略、网络延迟、机房供电温度影响;芯片量产时间、供货规模以微软后续正式公告为准;本文仅作为硬件技术资讯参考,不构成云算力采购、硬件投资的决策依据;所有芯片规格、功耗参数最终以微软硬件产品白皮书为准。

 
最新文章
站长推荐