教会LLM更新信念以实现高效长程交互
摘要
提出ABBEL框架，通过将交互历史压缩为自然语言信念状态并对其评分监督，显著提高长程任务中LLM的摘要效率和性能。
核心要点
- 在CollabBench上，ABBEL-rec-BG的测试通过率为0.48±0.01，成功率0.36±0.01，峰值token约600，训练50步。
- 与全上下文模型相比，ABBEL将性能差距缩小约50%，训练步骤减少50%。
- Combination Lock实验中，ABBEL的平均猜测次数低于无信念评分的模型。
- ABBEL在训练后使用显著更少的峰值token（约420 vs 全上下文的1400）。
- 信念评分使用自编码器启发函数，奖励信念能重构最新观测。
原文佐证
- We see that with the general reconstruction-based belief grading function we reduce the performance gap from full context models by about 50%, and train in 50% fewer steps compared to training models to summarize without belief grading (no BG).
AI 洞察
ABBEL将长程交互中的记忆管理从简单的摘要升级为可监督的信念状态，可能显著提升AI助手在复杂任务中的实用性与可靠性。该方法可推广到其他需要高效上下文压缩的场景，如文档问答或对话系统，有望降低长程任务的计算成本。