Science One框架:通过链式证据实现可验证的自主研究框架
摘要
Google Research发布了Science One框架,通过Chain-of-Evidence机制消除了AI生成研究论文中的幻觉,并配套了CoE Audit自动化审计协议。
核心要点
- 现有自主研究系统(如Sakana AI-Scientist、AutoResearchClaw)生成的论文中幻影引用比例高达21%,且存在代码与文本描述不一致等问题。
- Science One框架通过问题调研模块调用Semantic Scholar API获取参考文献,完全消除基于模型记忆的引用,实现零幻影引用。
- 该框架在MLE-Bench和Parameter-Golf等前沿基准上取得与人类研究者相当的SOTA性能。
- CoE Audit包含四项检查:分数验证、规范违规检测、引用验证和方法-代码对齐。
- 框架包括三个模块:问题调研器(文献接地)、发现引擎(并行探索-利用)和论文写作与声明验证器。
原文佐证
- baseline systems hallucinate up to 21% of their references
- Science One Framework achieves zero phantom references and fully verifiable scores
AI 洞察
Science One框架将AI科研自动化从'生成'推向了'可信赖'阶段,类似ACID之于数据库。此举可能推动学术界对AI生成论文的接受度,但也将增加计算成本,并可能引发关于'证据链'标准化的行业讨论。未来,类似框架或成为AI科研工具的标配。