AI 算力成本正在逼近天际。
核心数据:
- VR200 NVL72 机架:约 780 万美元/台
- 上一代 GB300:约 400 万美元/台
- 内存成本:占总成本 25%,约 200 万美元/台
- LPDDR5X 内容增加 3 倍
- 3D NAND 存储约 100 万美元
- 单 GPU 定价:约 5.5 万美元
成本上涨原因:
- LPDDR5X 内存使用量三倍增长
- 3D NAND 存储需求激增
- 整体系统架构复杂度大幅提升
行业影响:
- 超大规模云服务商的 AI 基础设施投资压力加剧
- 内存成为 AI 算力瓶颈的新焦点
- 英伟达一家独大的定价能力受到质疑
- AMD 2nm EPYC 的竞争力可能进一步增强
来源: Tom's Hardware + 摩根士丹利
链接: https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidias-memory-costs-soar-485-percent-latest-ai-systems-now-cost-usd7-8-million-to-build-memory-now-comprises-25-percent-of-the-total-cost-rubin-gpus-a-mere-usd50-000-apiece