AI 提升内存需求,存储迎头赶上
摘要
NVIDIA在FMS会议上发布多项AI存储技术,包括开源cuFile API、推出Storage-Next计划,以应对AI对存储基础设施的颠覆性需求。
核心要点
- NVIDIA开源的cuFile API让GPU可以直接读写存储,取代传统CPU中转路径,访问延迟低至微秒级
- 基准测试显示,NVIDIA Vera CPU在两级压缩加密流水线中的吞吐量比x86 CPU最高高3.21倍
- Storage-Next倡议吸引了包括DDN、KIOXIA、Micron在内的40多家存储与闪存厂商参与
- SCADA框架允许大规模并行GPU仅将所需数据直接从存储拉入高速内存,DDN已将SCADA集成到Infinia平台
- NVIDIA Vera BlueField-4 STX采用模块化机架级架构,配合DOCA安全栈和CMX上下文内存存储,支持长上下文、多轮智能体AI
原文佐证
- the NVIDIA Vera CPU, part of NVIDIA Vera BlueField-4 STX , delivers up to 3.21x higher throughput than an x86 CPU in a two-stage compression and encryption pipeline.
- NVIDIA announced it is open sourcing its cuFile application programming interfaces (APIs)
- Storage-Next includes over 40 leading storage and flash vendors — including DDN, KIOXIA and Micron
AI 洞察
NVIDIA开源cuFile并推动Storage-Next,标志着存储层正在成为AI基础设施竞争的新战场,从计算到存储的垂直整合将进一步巩固其生态壁垒。打破内存与存储的硬性分层,将改变AI数据访问的成本模型,使存储从被动仓库变为主动数据路径,这对整体行业格局和AI应用落地速度都有深远影响。