AI计算鸿沟:企业购买基础设施的速度远超其衡量成本的能力
企业AI基础设施投资加速,但多数无法清晰衡量成本与利用率。
洞察 AI 小结
企业需优先建立成本可见性和利用率监控机制,否则盲目投资可能导致资源浪费和财务失控。
摘要
VentureBeat Pulse Research调查了107家企业的AI基础设施投资情况,发现企业正快速增加AI计算投入,但多数无法清晰衡量成本或利用率。仅21%的企业在规模化生产中运行AI,但45%计划在未来一年评估AI专用云。GPU利用率低于50%,不到一半企业严格追踪计算成本。购买决策更看重集成度和总拥有成本,而非标价。
- 投资现状:107家企业中,AI基础设施支出远超经济可见性。
- 当前基础设施:多数企业依赖超大规模云和模型API,但计划转向专用计算。
- 购买决策因素:集成度和总拥有成本(TCO)优先于标价,但单位经济不透明。
- 利用率与成本追踪:GPU利用率低于50%,不到一半企业严格追踪计算成本。
- 核心发现:存在“计算鸿沟”——投资激进但经济可见性低。
核心要点
- 仅21%的企业在规模化生产中运行AI,但投资意愿远超成熟度。
- 45%的企业计划在未来一年评估AI专用云,而目前几乎无人使用。
- 大多数企业计划在一年内更换或增加供应商,许多在季度内行动。
- GPU利用率低于50%,不到一半企业严格追踪计算成本。
- 购买决策主要基于集成度和总拥有成本,而非标价。
查看原文 ↗
原题:The AI compute gap: Enterprises are buying infrastructure faster than they can measure what it costs