特朗普的AI测试计划有限且模糊
摘要
特朗普政府推出的AI安全测试框架被指责有限且模糊，明确排除开源模型，且无法对已发布模型进行限制。
核心要点
- 该框架用于评估先进AI可能带来的网络安全风险。
- 自愿准则直接排除开源模型，即任何人可下载并检查其核心组件。
- 框架明确说明不能用于限制已发布的开源模型。
- 框架源于特朗普在6月签署的行政命令，要求AI公司发布前与联邦政府共享前沿模型。
- 消息来自Axios的报道，The Verge转载并评论其局限性。
原文佐证
- the framework explicitly says it can't be used to restrict open models after they've been released.
- the voluntary guidelines outright exclude open models - meaning anyone can download them and inspect their core components
- requesting that AI companies share their frontier models with the federal government prior to release to address cybersecurity concerns
AI 洞察
开源模型被排除在安全测试之外，意味着AI监管出现重大盲区，最易获取的模型可能绕过政府审查。这反映了美国政府在AI安全与创新自由之间的取舍，未来可能引发开源社区和企业的反弹。随着开源模型能力持续增强，缺乏测试所带来的国家安全风险将日益突出。