Token末日已至：企业纷纷设法减少AI开支

企业 AI8/8 00:18Simon Willison查看原文 ↗

摘要

企业正为AI token成本失控而苦恼，Accenture内部数据显示非工程师才是主要消耗者，其中PDF转markdown等低效操作尤为耗token。

核心要点

404 Media于6月24日报道，基于Accenture泄露的会议音频。
Accenture的agentic AI战略负责人Justice Kwak表示，内部数据显示token消耗主要由非工程师驱动。
Accenture客户团队负责人Stuart Henderson在会议中打趣称，将PDF转成图片再转markdown是'big token chewers'（消耗token的大户）。
Kwak确认Accenture自己的数据也支持这一观察。
Simon Willison评论称，若Accenture能认识到PDF是糟糕的信息媒介，或许能推动商业世界做出改变。

原文佐证

We’re seeing from some of the data internally at least that it’s actually not our engineers that are driving the token consumption. It’s a lot of the non-engineers that are doing some of those behaviors [...]
I’m learning that’s one of the big token chewers," Henderson says. "Turning PDFs into markdown: is that right?
That’s when Kwak says that’s what Accenture’s own data shows.

AI 洞察

AI成本危机的关键不仅在于模型价格，更在于企业内部的非理性使用行为；当token直接与成本挂钩，文档格式的'隐性成本'浮出水面，可能推动办公文档向结构化、文本友好格式迁移。未来企业AI治理的重点将不是限制使用，而是规范使用场景，让非工程师也具备token成本意识。