睡眠框架:让大语言模型在持续学习中留住知识的新范式
摘要
Google Research 提出“睡眠框架”,让大模型在活跃交互与离线记忆巩固之间周期性交替,从而在不触发灾难性遗忘的情况下持续吸收新知识。
核心要点
- 框架把模型生命周期拆成两种状态:唤醒期接收并处理输入、把临时信息写入快速的短期记忆组件;睡眠期停止接收新输入,把内部算力转向记忆巩固与自我改进。
- 睡眠期的关键动作是解锁预分配的 MoE 记忆块,并用模型自己生成的练习样本更新数值权重,整个过程在固定架构和人工设定训练规则内完成,不改动核心代码库与设计。
- 该方法针对两个既有困境:持续参数更新导致的灾难性遗忘,以及纯上下文学习(ICL)在会话结束后就丢失短期信息。
- 作者宣称该框架可让模型持续获取新事实、保留最长 1000 万 token 的长上下文知识,并提升复杂推理能力。
- 睡眠阶段被拆为“记忆巩固”与“梦境”两个子阶段,前者把脆弱的短期上下文固化为稳定的长期参数。
原文佐证
- we demonstrate that alternating between active interaction and offline memory consolidation allows LLMs to continuously acquire new facts, retain long-context knowledge up to 10M tokens, and improve complex reasoning.
- During the offline sleep phase, the model unlocks pre-allocated Mixture-of-Experts (MoE) memory blocks and updates its numerical weights using self-generated practice examples.
AI 洞察
这篇工作真正的信号不在于“睡眠”这个拟人化比喻,而在于把持续学习问题从“改架构”转向“改运行时生命周期”:训练与推理的边界被打通,模型上线后仍可自我迭代。若这条路可行,模型厂商的竞争点将从“谁训得好”部分转向“谁部署后进化得快”,固定知识截止日期这一产品约束会被削弱,同时也会带来权重漂移、可审计性与安全回滚等新治理问题。