芯片今天·Tom's Hardware + 摩根士丹利

英伟达 Rubin 架构 AI 系统成本飙升至 780 万美元,内存成本涨 485%

摩根士丹利研究显示,英伟达下一代 Vera Rubin VR200 NVL72 机架成本约 780 万美元,较 GB300 时代翻倍,内存占总成本 25%,单 GPU 定价约 5.5 万美元。

AI 算力成本正在逼近天际。

核心数据:

  • VR200 NVL72 机架:约 780 万美元/台
  • 上一代 GB300:约 400 万美元/台
  • 内存成本:占总成本 25%,约 200 万美元/台
  • LPDDR5X 内容增加 3 倍
  • 3D NAND 存储约 100 万美元
  • 单 GPU 定价:约 5.5 万美元

成本上涨原因:

  • LPDDR5X 内存使用量三倍增长
  • 3D NAND 存储需求激增
  • 整体系统架构复杂度大幅提升

行业影响:

  • 超大规模云服务商的 AI 基础设施投资压力加剧
  • 内存成为 AI 算力瓶颈的新焦点
  • 英伟达一家独大的定价能力受到质疑
  • AMD 2nm EPYC 的竞争力可能进一步增强

来源: Tom's Hardware + 摩根士丹利
链接: https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidias-memory-costs-soar-485-percent-latest-ai-systems-now-cost-usd7-8-million-to-build-memory-now-comprises-25-percent-of-the-total-cost-rubin-gpus-a-mere-usd50-000-apiece