芯片3 天前·IEEE Spectrum

Majestic Labs 发布 Prometheus 服务器:单台 128TB DRAM,试图突破 AI【内存墙】

Majestic Labs 推出 Prometheus AI 服务器,每台配备高达 128TB DRAM,旨在突破 AI 计算的内存墙瓶颈。传统 AI 服务器受限于 GPU 内存容量,Prometheus 通过大规模内存池让超大模型和长上下文推理成为可能。

突破 AI 内存墙的新尝试

2026 年 6 月,Majestic Labs 发布 Prometheus 服务器。

技术规格

  • 内存容量:单台服务器最高 128TB DRAM
  • 设计目标:突破 AI 计算的「内存墙」瓶颈
  • 应用场景:超大模型推理、长上下文处理

行业背景

  • AI 模型参数量和上下文窗口持续增长
  • 传统 GPU 显存容量成为推理瓶颈
  • 业界正在探索新型内存架构以支持下一代 AI 工作负载

意义

这是 AI 基础设施创新的一个重要方向——不仅仅追求算力增长,而是解决内存带宽和容量这个同样关键的瓶颈。

来源: IEEE Spectrum
链接: https://spectrum.ieee.org/topic/artificial-intelligence

AI Master 解读

核心事件

Majestic Labs 发布 Prometheus 服务器:单台 128TB DRAM,试图突破 AI【内存墙】

行业影响

技术规格
内存容量:单台服务器最高 128TB DRAM
设计目标:突破 AI 计算的「内存墙」瓶颈
应用场景:超大模型推理、长上下文处理

AI Master 建议

将 GPU 获取成本纳入 AI 项目 TCO 模型,评估混合云与租赁方案的经济性。