扩散模型杀入 Agent 战场:350 亿参数,速度比 Jev 快一倍
摘要
一个新发布的 350 亿参数扩散模型被用于 Agent 任务,官方口径称其运行速度达到同赛道模型 Jev 的两倍。
核心要点
- 模型规模为 350 亿参数(35B),处于当前开源/中等规模模型的量级区间
- 对比基准是一个名为 Jev 的模型,被作为同场景速度参照物
- 宣称的核心优势是速度:相较 Jev 快一倍,指向的是推理延迟而非单纯质量
- 技术路线是用扩散模型承担 Agent 任务,即偏离主流的自回归逐 token 解码范式
- 落点是 Agent 场景,意味着评价重点在长链路多步调用下的响应效率,而非单轮对话
AI 洞察
Agent 的体验瓶颈正从「答得好不好」转向「多轮工具调用累积的延迟」,这让并行解码的扩散式生成第一次有了明确的落地理由:它不是要去赢通用对话,而是去吃延迟敏感的 Agent 工作负载。若这一速度优势能被第三方在真实工具调用链路上复现,自回归模型在 Agent 底座的默认地位将出现第一道裂缝;反之,若优势仅存在于理想化基准,这类宣称会很快被更成熟的自回归小模型吞掉。