High Bandwidth Memory(HBM,高带宽内存)
High Bandwidth MemoryAI 芯片的内存瓶颈
亦作、亦称:HBM,高带宽内存 · HBM · HBM2 · HBM3 · HBM3E · HBM4 · 高带宽内存
一种 3D 堆叠的高性能内存技术,通过硅通孔(TSV)技术将多个 DRAM 芯片垂直堆叠,提供远超传统 DDR 内存的带宽和能效。维基百科将其定义为「通过 3D 堆叠和硅通孔技术实现高带宽、低功耗的计算机内存」。2026 年,HBM 已成为 AI 加速器的标准配置,是突破「内存墙」(Memory Wall)的关键技术。
技术原理:TSV 与 3D 堆叠
HBM 的核心技术是硅通孔(TSV, Through-Silicon Via)和3D 堆叠。
TSV 技术:在硅芯片上打数千个微米级的垂直孔(直径约 5-10 微米),孔内填充铜,实现芯片间的直接电气连接。相比传统的引线键合(Wire Bonding),TSV 提供更短的信号路径、更高的带宽密度和更低的功耗。
3D 堆叠:多个 DRAM 芯片(通常 4-16 层)通过 TSV 垂直堆叠,形成一个 HBM 堆栈。每个堆栈通过底部的基础层(Base Layer)与 GPU/加速器连接。HBM 的总线宽度为 1024 位(传统 DDR5 为 64 位),这是带宽提升的关键。
带宽演进:HBM1(2013)带宽 128 GB/s;HBM2(2016)带宽 307 GB/s;HBM3(2022)带宽 819 GB/s;HBM3E(2024)带宽 1 TB/s;HBM4(2025 标准,2026 量产)带宽 2 TB/s,支持最高 64GB 容量。
2026 年市场格局
2026 年,HBM 市场呈现高度集中和供不应求的格局。
市场份额:SK Hynix 占据约 50% 份额,是 NVIDIA H100/H200 的主要供应商,也是首个量产 HBM3E 的厂商;Samsung 约 30% 份额,正在追赶 SK Hynix 的 HBM3E 良率;Micron 约 20% 份额,2024 年宣布 HBM3E 量产。
价格与成本:HBM 的价格远高于传统 DDR 内存。HBM3E 每 GB 价格约是 DDR5 的 5-10 倍。一个 NVIDIA H200 加速器配备 141GB HBM3E,仅内存成本就超过 $10,000。HBM 的高成本使其成为 AI 加速器的主要 BOM(物料清单)组成部分。
供需失衡:2024-2026 年,HBM 持续供不应求。SK Hynix 和 Samsung 的 HBM 产能已被 NVIDIA、AMD、Google 等客户预订至 2026 年底。HBM 的产能瓶颈在于 TSV 工艺的良率和先进封装(Advanced Packaging)产能。
对 AI 产业的影响
HBM 对 AI 产业的影响体现在三个层面。
(1) 突破内存墙:AI 大模型的推理和训练受限于内存带宽(Memory Wall),而非计算能力。HBM 的高带宽使 GPU 能够快速访问模型权重和激活值,提升训练和推理效率。例如,Llama 2 70B 模型需要约 140GB 显存(FP16 精度),HBM3E 的 1 TB/s 带宽使其可在单个 H200 加速器上运行。
(2) 驱动存储芯片超级周期:2026 年,存储芯片市场迎来历史性拐点。WSTS 预测全年半导体市场规模达 $1.511 万亿,其中存储芯片同比暴增 249.5%,产值突破 $8039 亿。HBM 是核心驱动力——AI 加速器对 HBM 的需求推动 DRAM 价格季度涨幅超 50%。
(3) 地缘政治焦点:HBM 的制造集中在韩国(SK Hynix、Samsung)和美国(Micron),使其成为地缘政治焦点。2025 年,美国加强对华半导体出口管制,限制先进 DRAM(包括 HBM)出口中国,推动中国厂商(长鑫存储 CXMT)加速 HBM 自主研发。
常见误解
日常交流中容易听到的简化说法,未必准确,但能帮助理解误解从何而来。
- 「AI 芯片的内存瓶颈」
- 「3D 堆叠的内存革命」
🎯 考点练习
含该术语的高频面试题,含标准答案与追问。
延伸阅读
从知识库精选 1 篇文章,帮助深入理解该术语。
外部参考
维基百科:查看「High Bandwidth Memory」词条本页内容为本站原创撰写;维基百科链接仅作延伸参考。
