NVIDIA 机密计算扩展:前沿模型构建者可在全球基础设施上安全扩展
摘要
NVIDIA 扩展其机密计算产品线,新增 Confidential Bare Metal 部署选项,让前沿模型构建者可在第三方裸金属基础设施上运行敏感训练与推理负载,同时保持对模型和数据的控制。
核心要点
- 机密计算形成统一的三种部署形态:Confidential Bare Metal(裸金属)、Confidential Containers(Kubernetes 环境)与 Confidential Virtual Machines(虚拟化环境),组织可按自身信任边界匹配部署模式。
- Confidential Bare Metal 允许模型构建方在第三方云、neocloud 与企业基础设施上拥有并运营自有软件栈(含主机与平台基础软件),而非只能使用云厂商托管的虚拟化环境。
- 新增平台安全控制包括:保护传输中的数据、度量平台完整性、以及在硬件层面实施访问限制。
- Cohere 计划将 Confidential Bare Metal 集成进 Cohere Model Vault,利用 NVIDIA 可信执行环境把硬件根信任延伸到 GPU,保护执行期间内存与互连上的模型与数据。
- Google Cloud 将 Confidential Bare Metal 支持扩展至由 GB300 NVL72 驱动的 A4X Max 实例,以非虚拟化加速计算配合加密保护训练数据与模型知识产权。
原文佐证
- NVIDIA Confidential Computing now offers a converged security architecture with three deployment options:
- Confidential Bare Metal gives supported providers a path to serve high-value workloads that require strong model and data privacy protections.
- Google Cloud is extending support for Confidential Bare Metal to A4X Max instances powered by NVIDIA GB300 NVL72 systems.
AI 洞察
机密计算正从 CPU 侧延伸到 GPU 侧,把“执行中”的内存与互连也纳入保护范围,这直接对应前沿模型最怕的两件事:权重外泄与训练数据合规。对云厂商与 neocloud 而言,能否提供裸金属级机密的加速算力,会成为承接高价值模型客户的准入条件;对模型公司而言,这既是跨地域、跨主权部署的可行路径,也意味着信任根更深地绑定在 NVIDIA 的软硬件栈上。