Signal YCurated AI News
更新于 11/5 20:4061 个信源

不再逐个生成 Token:扩散模型参数规模迈向 35B,开始挑战 Agent 编程

通用 AI10/29 06:53InfoQ 中国查看原文 ↗
摘要

文章介绍扩散式语言模型把参数规模推进到 35B,并开始把 Agent 编程这类复杂任务作为能力验证场景,从而向长期由自回归模型主导的生成范式发起挑战。

核心要点
  • 核心命题是改变解码方式:扩散模型并行去噪生成,不再逐 Token 串行输出
  • 模型规模被推到 35B 量级,属于扩散语言模型此前较少触及的参数区间
  • 验证场景选在 Agent 编程,即需要多步推理、工具调用与代码修改的高难度任务
  • 文章以“挑战”定位这一路线,隐含与自回归模型在同等任务上的能力对照
  • 扩散路线的潜在优势集中在解码并行度与推理延迟,而非单纯的参数规模
AI 洞察
如果扩散模型在 35B 量级上能逼近自回归模型在 Agent 编程上的表现,真正被撬动的不是榜单排名,而是推理成本结构——解码从串行变并行会重估“生成速度”与“GPU 利用率”的关系,进而影响算力采购与推理服务的定价方式。Agent 编程是当前对模型最苛刻的落地场景之一,把它当作扩散模型的试金石,说明这一路线正从论文指标走向工程可用性验证。短期更现实的走向是扩散与自回归混合或分工,而非一方彻底替代另一方。