AI计算鸿沟:企业购买基础设施的速度远超其衡量成本的能力

企业 AIVentureBeat · AI7/17 03:16译自英文查看原文 ↗

企业AI基础设施投资加速,但多数无法清晰衡量成本与利用率。

洞察 AI 小结
企业需优先建立成本可见性和利用率监控机制,否则盲目投资可能导致资源浪费和财务失控。
摘要

VentureBeat Pulse Research调查了107家企业的AI基础设施投资情况,发现企业正快速增加AI计算投入,但多数无法清晰衡量成本或利用率。仅21%的企业在规模化生产中运行AI,但45%计划在未来一年评估AI专用云。GPU利用率低于50%,不到一半企业严格追踪计算成本。购买决策更看重集成度和总拥有成本,而非标价。

  1. 投资现状:107家企业中,AI基础设施支出远超经济可见性。
  2. 当前基础设施:多数企业依赖超大规模云和模型API,但计划转向专用计算。
  3. 购买决策因素:集成度和总拥有成本(TCO)优先于标价,但单位经济不透明。
  4. 利用率与成本追踪:GPU利用率低于50%,不到一半企业严格追踪计算成本。
  5. 核心发现:存在“计算鸿沟”——投资激进但经济可见性低。
核心要点
  • 仅21%的企业在规模化生产中运行AI,但投资意愿远超成熟度。
  • 45%的企业计划在未来一年评估AI专用云,而目前几乎无人使用。
  • 大多数企业计划在一年内更换或增加供应商,许多在季度内行动。
  • GPU利用率低于50%,不到一半企业严格追踪计算成本。
  • 购买决策主要基于集成度和总拥有成本,而非标价。
查看原文 ↗
原题:The AI compute gap: Enterprises are buying infrastructure faster than they can measure what it costs