问答:在公民对话中,为我们的言辞——以及 AI 的言辞——建立问责机制
摘要
MIT 建设性传播中心(CCC)主任 Deb Roy 在《原子科学家公报》发表文章,呼吁在 AI 大量参与公民对话的时代重建沟通中的责任与“可问责性”,并介绍了 CCC 用 AI 辅助群体讨论、但坚持由人对每条公共评论最终负责的做法。
核心要点
- 核心问题:在政策征询等公民场景中,以往可被识别的群量伪造意见,因 AI 能生成“看起来真实”的评论而更难被识破,且常常找不到背后的责任人。
- 主张出处:Deb Roy 在《原子科学家公报》发表题为《Who stands behind the words?》的文章,主张即便文本由 AI 撰写,也必须保留问责与“可回应性”(answerability)。
- 人物背景:Roy 是 MIT 媒体艺术与科学教授、MIT 建设性传播中心(CCC)主任,其博士研究涉及他称为 PLMs(Puny Language Models)的语言模型。
- 转折点:ChatGPT 的发布让他首次清晰意识到该问题——模型的知识深度与交互方式同时跃变,令他感到无法摸清其能力边界。
- 学术立场:他主张“language grounding”,认为 AI 仅处理词语与符号并不足以理解含义,还需要身体与生活经验参与其中。
原文佐证
- With, artificial intelligence, however, people can submit realistic-seeming comments, which are harder to dismiss as being fabrications with no person behind them.
- Roy calls for a renewed emphasis on responsibility in communication, asserting that even when AI is used to craft text, there needs to be accountability and “answerability.”
- But the center also designs this process so that participants can check and override the tech-based output at each key step.
AI 洞察
当生成文本的边际成本趋近于零,公共意见征询这类制度性渠道将面临“真实性通胀”——辨别真伪的成本上升,反过来会削弱机构对公众声音的信任。把责任锚定在人而非工具上,意味着 AI 写作与对话产品需要内建可追溯的责任链和人工覆盖机制,而不只是内容生成能力。对行业而言,“可问责性”很可能像安全与隐私一样,从道德呼吁变成产品设计与合规的默认项。