Import AI 475:AI 群体(Swarm)扩展的时间账、DeepMind 为生物学内容加水印与「AI 科学经济」
摘要
Import AI 第 475 期重点评议 Toby Ord 关于 AI 群体(swarm)扩展的分析:swarm 是一种以 token 换时间的新型推理扩展方式,但存在明显的规模递减收益,且这种收益水平并不足以降低智能爆炸的可能性。
核心要点
- Toby Ord 指出,4 个智能体组成的 swarm 完成同样任务所需总 token 约为单智能体的两倍,但每个智能体只需一半 token,因并行执行理论上可把耗时压缩到一半。
- swarm 扩展并非线性:智能体数量扩大 10 倍,性能只相当于单智能体用 10 倍 token 中的约 3~5 倍,规模继续放大时差距会迅速累积、越落越远。
- Ord 用经济学的「stepping on toes(踩脚趾)」参数解释这一现象,认为 AI 群体与人类团队在协调损耗上表现相似。
- 他原本希望该折扣系数 λ 更低(意味着智能爆炸更不可能),但分析结果显示并非如此,swarm 扩展反而可能提高 RSI 驱动智能爆炸的概率。
- Jack Clark 的引申判断是:智能体为 AI 能力扩展引入了一个新参数;一旦智能体之间能实现有效协同(如 HuggingFace 被黑事件中体现的协作放大效应),扩展回报可能超过各部分之和。
原文佐证
- A good way to see AI swarms is as a new form of inference-scaling
- The 4-agent swarm needed about twice the total number of tokens to get the same performance, but in terms of tokens per agent, it only needed half as many. Since the agents are run in parallel, this means it can theoretically achieve the same task in half the time
- This means that scaling up the number of agents in the swarm by 10x doesn’t get as much performance as using 10x as many tokens with one agent. Instead it gets 10λ x as much — which is 3x to 5x
AI 洞察
这篇分析的价值不在于新模型或新数字,而在于把「多智能体协作」从工程技巧提升为与算力、数据并列的第三条扩展曲线:当推理预算可以横向拆给一群 agent 时,成本函数与时间函数第一次被分开定价。若后续研究能压低那个「踩脚趾」损耗系数,AI 能力的增长路径将从单模型的纵向堆叠,变成可编排的横向协同,算力需求结构、agent 编排层的商业价值乃至 AI 安全评估假设都会被重写。同时也值得警惕:Ord 的结论意味着最被寄予厚望的「协作降风险」叙事可能并不成立。