Signal YCurated AI News
更新于 11/5 20:4061 个信源

Import AI 478:数学如何助力对齐;ProgramBench;Mirendil 揭示 RSI 意味着什么

AI 研究10/26 20:31Import AI(Jack Clark)查看原文 ↗
摘要

AI 安全初创公司 Resolution 披露,其用多智能体流程在一周内自动形式化了包括奇点消解在内的数学内容,并认为这预示着“数学的工业化”将催生一门严谨的研究自动化科学。

核心要点
  • Resolution(前身 Sequent)自动形式化了统计学习理论相关的数学命题,其中包括 Hironaka 奇点消解,团队称这为“进一步自动研究损失景观几何与泛化之间关系”奠定基础。
  • 流程上,一名研究员先与智能体共同制定两份计划:一份高层、人类可读,另一份长达 112 页,拆成紧贴现有文献的原子步骤。
  • 随后由编排智能体(orchestrator)执行计划,派生智能体分别做纸笔数学推导、编写 Lean 代码,并承担进度校验等支持性工作;执行阶段除初始计划与从内部既往形式化工作蒸馏出的智能体技能外,几乎不需要额外脚手架。
  • 成本与产出:约一周时间、约 1000 亿输入 token(其中 90% 为缓存读取)与约 3 亿输出 token,token 花费估计 13.5 万美元,产出约 60 万行 Lean 代码。
  • 团队表示已用该形式化库扩展奇异学习理论的部分内容,以更好理解采样,而理解采样正是“塑造模型学习方式”(即其所称 patterning)的关键。
原文佐证
  • the execution phase required little scaffolding beyond the initial plan and some agent skills distilled from earlier internal autoformalization efforts.
  • on the order of 100B input tokens (90% cache reads) and about 300 million output tokens (totaling an estimated $135,000 in token spend), and produced about 600k lines of Lean.
  • We expect the coming industrialization of mathematics to make possible a new, rigorous science of research automation
AI 洞察
一周、13.5 万美元换 60 万行 Lean 代码,意味着过去只有极少数人负担得起的前沿数学形式化,正在变成可采购的工程服务,AI 安全研究可能从经验调参转向可验证的理论推导。其“人类定计划、编排智能体分工执行”的分层结构,也是当下 agent 工程化的现实范式,而非全自动科研。若成本继续下探,形式化数学很可能成为模型自我改进闭环中的基础设施,安全研究的推进速度将部分取决于算力预算而非人力。