新服务器有望突破AI的“内存墙”
AI模型规模的指数级增长正将传统计算架构推向极限。当GPU算力持续攀升时，内存带宽与容量却成为制约性能的瓶颈——这一现象被业界称为“内存墙”。近日，硬件初创公司 Majestic Labs 宣布推出其AI服务器 Prometheus，旨在通过颠覆性的内存设计突破这一壁垒。
128TB内存：从“搬运数据”到“就地计算”
Prometheus 最引人注目的参数是每台服务器最高可配备 128 TB 的 LPDDR6 内存。这一数字远超当前主流AI服务器（通常搭载数百GB至数TB的HBM或DDR5内存）。Majestic Labs 的核心理念是：将海量数据直接存储在靠近计算单元的内存中，而非频繁地从存储系统搬运。
传统AI训练中，数据需从硬盘或SSD加载至GPU显存，再通过PCIe总线传输。这一过程不仅延迟高，且功耗巨大。Prometheus 通过将 128TB 的 LPDDR6 内存 直接与CPU/GPU互联，实现了近乎“零拷贝”的数据通路。LPDDR6 本身具备高带宽、低功耗特性，而大规模内存池化让模型参数与数据集可以常驻内存，极大减少了I/O等待时间。
为何是“内存墙”而非“算力墙”？
当前AI领域的军备竞赛多聚焦于GPU算力（如NVIDIA H100/B200的TFLOPS提升）。然而，实际训练效率往往受限于内存带宽与容量。以GPT-4级别的万亿参数模型为例，其参数存储需数TB空间，而传统服务器内存仅能容纳部分参数，导致必须采用复杂的模型并行与数据流水线技术，这些技术本身会引入大量通信开销。
Majestic Labs 的创始人指出：“算力增长与内存性能增长之间的剪刀差正在扩大。过去十年，GPU算力提升了约1000倍，但内存带宽仅提升约20倍。”这种失衡使得大量计算单元处于“等待数据”的空闲状态，实际利用率远低于理论峰值。Prometheus 的128TB内存 直接瞄准这一痛点，让大模型可以完整驻留于内存，甚至允许同时加载多个模型版本进行对比测试。
架构细节与潜在影响
虽然完整的技术白皮书尚未公布，但从已披露信息看，Prometheus 采用了 内存池化与CXL（Compute Express Link）互连 技术。CXL 允许CPU、GPU、内存等设备通过PCIe 5.0/6.0总线共享一致的内存地址空间。这意味着Prometheus 并非简单堆叠DRAM，而是构建了一个统一的内存层级：LPDDR6 作为主内存池，配合少量HBM作为GPU的本地高速缓存。
这种设计对AI推理场景尤为有利。推理任务通常对延迟敏感，且需要频繁访问大模型权重。传统方案中，权重从内存加载至缓存的过程可能占据推理时延的70%以上。Prometheus 的大内存池可让权重常驻，实现接近“即时响应”的推理效果。
市场定位与挑战
Majestic Labs 并非唯一瞄准内存墙的玩家。三星、SK海力士等内存巨头正在开发 CXL 内存模块，而AMD与Intel也在推进统一内存架构。但Prometheus 的差异化在于其 128TB 的极端容量，这主要面向超大规模AI模型训练场景，如自动驾驶、药物研发、气候模拟等。
然而，该方案也面临成本与功耗挑战：128TB LPDDR6 的采购成本可能高达数百万美元，且服务器功耗将远超常规机型。此外，软件生态的适配同样关键——需要操作系统与AI框架（如PyTorch、TensorFlow）支持透明的大内存管理。
小结
Prometheus 服务器的发布 标志着AI基础设施从“算力优先”向“内存优先”的思维转变。当模型规模突破万亿参数，单纯堆砌GPU已非最优解。Majestic Labs 的尝试是否成功，将取决于其能否在成本、性能与生态之间找到平衡。但无论如何，它已经为行业提供了一个值得关注的方向：突破内存墙，或许才是解锁下一代AI能力的关键。