瓦解 AI 驱动的“虚假前台”行动
摘要
OpenAI 披露并封禁了两个由国家背景行为者运营的隐蔽影响力行动(分别来自俄罗斯和伊朗),它们把大模型与更传统的手段结合,借“虚假前台”实体将地缘政治、冲突相关叙事洗白后输送给目标受众。
核心要点
- 伊朗行动运营了 7 个“记者”人设,向全球中小型线上媒体投稿长篇稿件;俄罗斯行动疑似拉拢拉美地区不知情者在当地运作一家“智库”。
- 两起行动都大量使用 AI 起草内部报告,其中俄罗斯行动在这类用途上使用得最多。
- 俄罗斯行动还制作了伪造的“泄露”文件与音频脚本,其中部分已被识别出在网上传播。
- 伊朗行动除长文外还批量生成社交媒体评论,话题多与美国—伊朗战争相关。
- 两起行动都采用可疑甚至欺骗性的方法论,以夸大行动者的实际成效。
原文佐证
- We recently banned two IO—one from Russia and one from Iran—that used our models in combination with more traditional techniques and technologies to support sophisticated “false front” entities.
- The Iranian operation included a stable of seven “journalist” personas which it used to pitch long-form articles to small and medium online outlets around the world; the Russian operation appears to have co-opted unwitting people in Latin America to run a “think tank” on the ground.
- What is most striking about these operations is that they closely resembled complex influence operations of the pre-AI age, but used AI to make some of the workflows easier.
AI 洞察
这份披露的关键信号不在于 AI 创造了新战术,而在于它把“建立可信前台”的成本大幅压低——伪造记者、智库与泄露材料的门槛下降到近乎流水线作业,影响力作战的瓶颈从内容生产转移到可信分发渠道。对平台与监管者而言,检测重心需要从内容痕迹转向跨账号、跨媒体的人设网络溯源。它也标志着一手 AI 滥用情报披露正成为前沿模型公司的常态化职能,与网络安全威胁情报的运作方式趋同。