Signal YCurated AI News
更新于 11/5 20:4061 个信源

维基百科编辑如何守住这本由人类撰写的百科全书

通用 AI10/21 21:00IEEE Spectrum · AI查看原文 ↗
摘要

维基百科志愿者组成的 WikiProject AI Cleanup 正持续清除违反站规的 AI 生成内容,其创始成员在访谈中披露了识别手段的演进、引用造假的新形态,以及新条目中 AI 内容占比的估算数据。

核心要点
  • 该项目于 2023 年 12 月前后在维基百科 Discord 服务器上酝酿成立,起因是多位编辑发现措辞雷同的怪异条目,常出现“stands as a testament”“rich cultural heritage”等套话,以及“Why is this important?”之类结论性小节。
  • 到 2025 年,AI 写作痕迹变得更隐蔽、更结构化,例如偏好“三段式”、否定式排比等单独看不出问题、累积后才有意义的句式;编辑还会看文章之外的行为信号,如 5 分钟内写出五篇数千字条目。
  • 引用问题已成为主要担忧:得益于检索增强生成,完全凭空编造的引用如今少见得多,更常见的是找到真实来源却把内容理解错,导致引用并不支持正文观点,这类情况“极为普遍”。
  • Lebleu 与检测公司 Pangram 合作估算:该工具在 ChatGPT 出现前的维基百科内容上没有误报,因此结果可视为非常保守的下界;2025 年底约有 20% 的新条目与草稿被标记为 AI 生成,2026 年初降至 15%~16%。
  • 英文维基百科近期已禁止编辑使用大语言模型生成条目,但占比下降究竟源于政策见效,还是模型变强而检测工具未能跟上,目前尚无法判断。
原文佐证
  • In late 2025, it flagged perhaps 20 percent of new articles and drafts as AI-generated. In early 2026, that went down to 15 or 16 percent.
  • AI citations that don’t actually support what is being written are extremely commonplace.
  • English Wikipedia recently prohibited editors from using LLMs to generate articles.
AI 洞察
这场清理行动揭示了一个更普遍的趋势:AI 生成内容的识别正从“看措辞”转向“看结构、看行为、看引证一致性”,检测成本持续上升。当检测器与生成模型陷入军备竞赛时,任何单一比例数字都可能高估治理成效——15% 的下降既可能是胜利,也可能是盲区扩大。对依赖可信内容的平台而言,真正的护城河不是检测工具,而是可追责的人类编辑流程与来源核验机制。