NVIDIA Vera Rubin 正式登场：从芯片卷到电网，只为压低每一个 Token 的成本
摘要
英伟达正式发布下一代 AI 计算平台 Vera Rubin，通过芯片架构与电网级供电优化，旨在大幅降低大模型每个 token 的成本。
核心要点
- Vera Rubin 平台将 GPU 与 CPU 集成到同一封装，优化通信带宽与延时
- 通过新型供电架构和更高能效比设计，数据中心整体能耗大幅下降
- 每个 token 的推理成本预计降至当前主流方案的几分之一
- 此举将直接推动大语言模型在更多商业场景中的经济可行性
AI 洞察
英伟达将竞争从单芯片性能延伸到系统级能效和电网优化，标志着 AI 基础设施竞争进入每瓦特成本和每 token 成本的新维度。这可能迫使云服务商和 AI 公司重新评估基础设施投资，并加速高效推理方案的创新。