Signal YCurated AI News
更新于 11/5 20:4061 个信源

AI 隐藏的存储账单:推理结束后留下了什么

AI 产业10/22 16:41MIT Technology Review · AI查看原文 ↗
摘要

文章指出,AI 基础设施规划普遍聚焦 GPU 算力,却忽视推理持续产生的后端存储开销;这类数据会随推理规模不断累积,并成为增长最快的成本项之一。

核心要点
  • 西部数据(WD)内部测量:一段 8 秒、返给用户的 3.97MB 720p 视频,在后端留下超过 500MB 的关联数据,包括日志、缓存上下文、即时渲染、备份与安全记录,相当于输出文件的 130 倍
  • 企业若生成更长、更高分辨率的视频,单条片段的��端足迹可膨胀到数百 GB 量级
  • McKinsey 预测到 2030 年 AI 推理需求年复合增长率为 35%,高于训练的 22%;到本十年末,推理将占数据中心总需求的 40% 以上
  • 由 WD 赞助的 IDC 全球白皮书调查了 763 位 IT 与业务决策者:近 95% 表示过去 12 个月生成式 AI 导致数据量增加,约 61% 报告增幅达 25% 及以上
  • 某超大规模云服务商产品负责人称,更多存储可视为“让 GPU 保持忙碌”的优化手段;GPU 空等数据每小时都极其昂贵
原文佐证
  • From internal measurements, WD found that an 8-second clip (returned to a user as a 3.97MB 720p file) left more than 500MB of associated data behind on the back end, including logs, cached context, immediate renders, backups, and safety records.
  • McKinsey projects AI inference demand will grow at a 35% CAGR through 2030, versus 22% for training, making up more than 40% of total data center demand by the end of the decade.
  • A recent WD-sponsored IDC global white paper that surveyed 763 IT and business decision makers found that nearly 95% of respondents reported an increase in data volume due to generative AI over the past 12 months, with roughly 61% reporting growth of 25% or more.
AI 洞察
推理经济的成本结构正在从“算力单极”转向“算力加数据留存”的双重约束;存储不再是配角,而会成为决定单位推理毛利的关键变量。随着视频生成、智能体长上下文与日志审计需求上升,后端数据放大倍数只会更高,这会利好高密度存储、数据分层与生命周期治理类厂商,也会迫使企业在“留全量”与“留合规最小集”之间建立新的成本纪律。