EvoLib:将经验转化为不断进化的知识
摘要
微软提出EvoLib框架,使大语言模型在推理时从自身经验中自主学习,将原始经历转化为不断进化的可重用知识,无需更新模型参数。
核心要点
- EvoLib不依赖真实标签或外部反馈,通过自我监督学习。
- 知识单元包括从成功方案中提炼的技能和从错误中学习的反思洞察。
- 系统通过合并相似知识将其泛化,并通过加权机制优先保留长期效用高的知识。
- 在数学推理、代码生成和长程决策任务上,EvoLib一致优于基于检索的记忆方法和抽象记忆机制。
- 随着测试时计算量增加,EvoLib的性能提升速度超过现有方法。
原文佐证
- EvoLib transforms past attempts into reusable skills and reflective insights that can be applied to future tasks.
- Across all three benchmarks, EvoLib achieves higher performance throughout most of the compute range and improves performance more rapidly with increasing compute.
- These results suggest that the key to better learning may not simply be storing more memories or spending more compute.
AI 洞察
EvoLib的方向切中了AI agent长期记忆与持续学习的核心瓶颈:不是存储越多越好,而是如何提炼和演化经验。这种不依赖模型更新的学习范式,可能让现有API级别的黑盒模型也能实现持续改进,降低企业部署成本。未来,知识演化的机制或许会成为AI agent基础设施的关键组件。