关于 AI 发展的公开信

Simon Willison 梳理了近期 AI 领域的三封重要公开信，它们分别代表了支持开源权重模型、谨慎对待开源风险和呼吁放缓前沿 AI 自动化研发的各方立场，折射出路线之争与治理紧迫性。

• 微软牵头的“开放权重与美国 AI 领导力”公开信于 7 月 24 日发布，获 235 家 AI 相关公司签署，包括 NVIDIA、亚马逊、Y Combinator、OpenAI 等，明确支持开源权重模型和蒸馏技术。
• 信中声称仅依赖闭源模型并不安全，开源权重模型能让社区检查行为、发现漏洞、构建防护，并指出蒸馏是合法的模型改进手段，不应与不当获取混为一谈。
• Anthropic 于 7 月 27 日单独发表立场声明，CEO Dario Amodei 强调威权政府可能利用开源模型构建更强大的 AI，并警告模型可能被滥用于网络攻击或生物攻击，呼吁打击“工业化蒸馏”操作。
• 7 月 28 日，1,324 名前沿 AI 公司员工联名发布“Pacing the Frontier”公开信，签名者包括 OpenAI 首席科学家 Jakub Pachocki、Ilya Sutskever 和 Dario Amodei 等，请求美国政府支持国际努力以刻意控制自动化 AI 研发的步伐。
• 信中指出激烈竞争压力与自动化 AI 研究加速形成风险，并举例：Anthropic 80% 代码由 Claude Code 生成，OpenAI 用 Sol 降低端到端服务成本 20%，Kimi K3 为其架构设计芯片服务纳米模型。

• Relying solely on closed models is not inherently safe: they can be breached, misused, or fail in ways that outsiders cannot detect.
• Distillation, or the practice of using one model’s outputs to help train or improve another, is a widely used technique for model improvement, evaluation, and validation.
• Anthropic produce 80% of their code with Claude Code , OpenAI had Sol reduce their end-to-end serving costs by 20% , and Kimi K3 designed a chip to serve a nano model built on its own architecture