AI 越来越擅长「耍弄」网络诈骗分子
摘要
反网络诈骗的行动正越来越多地借助 AI「反骗」诈骗分子——用逼真的机器人冒充受害者,诱使诈骗者与之对话。
核心要点
- 反诈方使用 AI 生成拟人化的「受害者」角色,让诈骗者相信自己钓到了真实目标
- 这类做法被描述为「scam the scammers」:不是单纯拦截,而是反过来对诈骗者实施欺骗
- 关键前提是 AI 对话足够逼真、可持续,诈骗者在多轮交流中难以识破对方是机器人
- 原文强调这不是个别实验,而是「anti-cybercrime initiatives」整体上日益普遍的做法
原文佐证
- Anti-cybercrime initiatives are increasingly using AI to scam the scammers by tricking them into talking to lifelike bots that they think are real victims.
AI 洞察
同一套大模型对话能力正在被攻防两端同时征用:诈骗方用它规模化施骗,反诈方用它规模化「陪聊」,双方比拼的是单位时间成本与拟真度。这类「反诈机器人」的真正价值不在抓到多少人,而在把诈骗产业的人力从「高产出」拉向「低产出」,是一种经济战而非技术战。接下来大概率出现的军备竞赛,是诈骗方引入 AI 检测对方是否为机器人,反诈方则继续压低可被识别的对话特征。