Signal YCurated AI News
更新于 8/20 09:5261 个信源

AI 提升内存需求,存储迎头赶上

AI 产业8/4 23:00NVIDIA Blog查看原文 ↗
摘要

NVIDIA在FMS会议上发布多项AI存储技术,包括开源cuFile API、推出Storage-Next计划,以应对AI对存储基础设施的颠覆性需求。

核心要点
  • NVIDIA开源的cuFile API让GPU可以直接读写存储,取代传统CPU中转路径,访问延迟低至微秒级
  • 基准测试显示,NVIDIA Vera CPU在两级压缩加密流水线中的吞吐量比x86 CPU最高高3.21倍
  • Storage-Next倡议吸引了包括DDN、KIOXIA、Micron在内的40多家存储与闪存厂商参与
  • SCADA框架允许大规模并行GPU仅将所需数据直接从存储拉入高速内存,DDN已将SCADA集成到Infinia平台
  • NVIDIA Vera BlueField-4 STX采用模块化机架级架构,配合DOCA安全栈和CMX上下文内存存储,支持长上下文、多轮智能体AI
原文佐证
  • the NVIDIA Vera CPU, part of NVIDIA Vera BlueField-4 STX , delivers up to 3.21x higher throughput than an x86 CPU in a two-stage compression and encryption pipeline.
  • NVIDIA announced it is open sourcing its cuFile application programming interfaces (APIs)
  • Storage-Next includes over 40 leading storage and flash vendors — including DDN, KIOXIA and Micron
AI 洞察
NVIDIA开源cuFile并推动Storage-Next,标志着存储层正在成为AI基础设施竞争的新战场,从计算到存储的垂直整合将进一步巩固其生态壁垒。打破内存与存储的硬性分层,将改变AI数据访问的成本模型,使存储从被动仓库变为主动数据路径,这对整体行业格局和AI应用落地速度都有深远影响。