最危险的 AI 黑客技术仍离不开人类在环
摘要
安全研究员 James Kettle 测试了 AI 的黑客能力上限，发现与人类专业知识结合时效率显著。
核心要点
- James Kettle 是此次 AI 黑客能力测试的发起者与研究主体。
- 测试目的旨在寻找 AI 黑客能力的边界（push the limit）。
- 结果表明，AI 在结合人类专业知识的场景下能发挥出较高有效性。
- 目前被归类为最危险的 AI 黑客技术，在关键环节仍需要人类接管（human in the loop）。
- 该发现强调人机协作而非全自动攻击是现阶段 AI 黑客应用的主要形态。
原文佐证
- Security researcher James Kettle tried to push the limit of AI’s hacking abilities—and discovered how effective it can be when combined with human expertise.
AI 洞察
这项实验表明，AI 在攻击性安全领域的价值不是替代人，而是将安全研究者的经验放大，形成可规模化的攻击能力。对防御方而言，威胁模型需要同时考虑“AI+专家”组合带来的快速变异攻击；对安全从业者而言，掌握如何驾驭 AI 将成为新的核心竞争力。