Import AI 473:美国的超级智能战略、鼠颅中的人脑与机器诠释学
摘要
RAND 发表长篇论文,建议美国在通往超级智能的路径高度不确定的前提下,采用“行动自由”战略以保留所有政策选项,并系统梳理了七种原型战略构成的战略谱系。
核心要点
- 论文核心判断:由于超级智能的下一阶段如何展开高度未知,美国当下最该做的不是选定一条路线,而是投入资金“保留选项”
- 该战略的目标被表述为“建立并保持确保美国地缘政治优势、并在向超级智能过渡的过程中以能动性保障人类生存的能力”
- 四大支柱之一“构建人机生态系统”包含:投资 AI 安全、开发保留人类能动性的工具、分享技术收益、让社会为 AI 驱动的冲击做准备、塑造 AI 生态的激励机制
- 四大支柱之二“构建 AI 安全架构”包括:理解国内外 AI 系统前沿(含对底层算力的可见性)、建立核查潜在协议的技术、培养治理技术的监管专长
- 七种原型战略分三族:共存族(主导、共同开发、预备)、拒止族(暂停、威慑),以及兜底的“社会延续”战略
原文佐证
- RAND has published a lengthy paper about what the US should do to “secure geopolitical advantage on an uncertain path to superintelligence”.
- The main takeaway is that because so much of how the next phase of the AI takeoff will occur is unknown, the best thing is for the US to maintain a “Freedom of Action” strategy.
- Deterrence ; the US “halts its own frontier development above defined thresholds and uses the full toolkit of national power to prevent and, if necessary, destroy foreign programs”.
AI 洞察
这份论文的价值在于把“超级智能治理”从抽象伦理辩论推进为一份可操作的国家战略选项清单,而且罕见地把“共同开发”(甚至包含中国)与“暂停”“威慑”并列,说明美国智库圈并未排除合作路径。若“保留选项”成为政策共识,短期更可能落地的是算力可见性、协议核查技术、监管能力等基础设施,而非立刻出台强监管或全面禁令。对前沿实验室与算力产业链而言,最大的不确定性将来自地缘政治选项组合的切换,而不是某条单一政策的松紧。