AI 隐藏的存储账单:推理结束后留下了什么
摘要
文章指出,AI 基础设施规划普遍聚焦 GPU 算力,却忽视推理持续产生的后端存储开销;这类数据会随推理规模不断累积,并成为增长最快的成本项之一。
核心要点
- 西部数据(WD)内部测量:一段 8 秒、返给用户的 3.97MB 720p 视频,在后端留下超过 500MB 的关联数据,包括日志、缓存上下文、即时渲染、备份与安全记录,相当于输出文件的 130 倍
- 企业若生成更长、更高分辨率的视频,单条片段的��端足迹可膨胀到数百 GB 量级
- McKinsey 预测到 2030 年 AI 推理需求年复合增长率为 35%,高于训练的 22%;到本十年末,推理将占数据中心总需求的 40% 以上
- 由 WD 赞助的 IDC 全球白皮书调查了 763 位 IT 与业务决策者:近 95% 表示过去 12 个月生成式 AI 导致数据量增加,约 61% 报告增幅达 25% 及以上
- 某超大规模云服务商产品负责人称,更多存储可视为“让 GPU 保持忙碌”的优化手段;GPU 空等数据每小时都极其昂贵
原文佐证
- From internal measurements, WD found that an 8-second clip (returned to a user as a 3.97MB 720p file) left more than 500MB of associated data behind on the back end, including logs, cached context, immediate renders, backups, and safety records.
- McKinsey projects AI inference demand will grow at a 35% CAGR through 2030, versus 22% for training, making up more than 40% of total data center demand by the end of the decade.
- A recent WD-sponsored IDC global white paper that surveyed 763 IT and business decision makers found that nearly 95% of respondents reported an increase in data volume due to generative AI over the past 12 months, with roughly 61% reporting growth of 25% or more.
AI 洞察
推理经济的成本结构正在从“算力单极”转向“算力加数据留存”的双重约束;存储不再是配角,而会成为决定单位推理毛利的关键变量。随着视频生成、智能体长上下文与日志审计需求上升,后端数据放大倍数只会更高,这会利好高密度存储、数据分层与生命周期治理类厂商,也会迫使企业在“留全量”与“留合规最小集”之间建立新的成本纪律。