一种新技巧揭示 AI 模型的内心想法
摘要
研究人员开发出一种提取 AI 模型“推理痕迹”的新方法，并用它发现部分中国 AI 模型可能是在美国主流模型基础上训练的。
核心要点
- 研究人员发明了一种从 Claude、GPT、Gemini 等模型中提取“推理痕迹”的方法。
- 研究者称，分析这些痕迹后发现部分中国 AI 可能是在美国领先模型上训练的。
- 这项工作为追溯模型训练来源、识别模型“蒸馏”关系提供了技术手段。
- 研究覆盖多个主流模型，显示该方法具有一定通用性。
原文佐证
- Researchers devised a way to extract “reasoning traces” from Claude, GPT, and Gemini.
- What they found, they say, indicates that some Chinese AI may be trained on leading US models.
AI 洞察
这暗示模型间的能力“传染”可能比公开认知更普遍：后发模型可以通过蒸馏或使用大模型输出训练实现快速追赶，而推理痕迹会成为追溯这种关系的技术证据。对行业而言，这关系到模型知识产权、出口管制和 AI 供应链安全；对中国厂商而言，则需要更透明的训练来源回应质疑，并加快构建独立的底层能力。