递归自我改进的经济学
摘要
METR 发布报告，分析 AI 递归自我改进的经济学原理及其对能力提升和安全的影响。
核心要点
- 递归自我改进可显著降低 AI 系统的运行成本，预计每轮改进成本下降 10-30%。
- 模型预测，递归自我改进可能使 AI 能力每 6-12 个月翻倍，远超传统 scaling 速度。
- 报告指出，递归自我改进需要严格的安全机制，防止能力失控。
- 经济模型显示，早期采用递归自我改进的企业可获得 5-10 倍的竞争优势。
AI 洞察
递归自我改进将重塑 AI 产业竞争格局，率先实现闭环的企业可能形成垄断优势。同时，安全治理需从技术和社会层面同步推进，避免能力跃迁带来的失控风险。