我们对开放权重模型的立场
摘要
Anthropic CEO Dario Amodei声明公司从未主张禁止开放权重模型，但为应对国家安全风险，支持对中国的芯片出口管制、打击蒸馏操作，以及对所有足够强大模型进行强制安全测试。
核心要点
- 开放权重模型若无危险能力是公共品，不产生额外成本，对商业、开发者和研究人员有价值。
- 主要担忧是专制政权（尤其中国）可能构建比美国更强大的AI模型，用于军事或镇压。
- 次要担忧是强大AI模型可能被用于网络攻击、生物攻击或对齐问题，开放权重模型更难监控。
- 禁止美国企业使用中国开放权重模型无助于解决上述风险，而会保护美国AI公司免受竞争。
- 建议不再向中国出售强大芯片及芯片制造设备，并打击芯片走私。
原文佐证
- Anthropic has never advocated for a ban on open-weights models.
- Open-weights models that don’t have dangerous capabilities are a public good: they don’t cost anything besides the compute needed to run them, and they provide value to businesses, developers, and researchers.
AI 洞察
Anthropic的立场标志着头部AI公司在安全与开放之间寻求精细化平衡，通过技术出口管制与测试而非全面禁令应对地缘政治风险。这将推动AI供应链进一步脱钩，并促使全球安全测试标准加速形成，但可能加深中美AI技术的裂痕。