Signal YCurated AI News
更新于 11/5 20:4061 个信源

Google DeepMind 新任驻场哲学家谈 AI 伦理

AI 研究10/13 21:00IEEE Spectrum · AI查看原文 ↗
摘要

Google DeepMind 新聘驻场哲学家 Henry Shevlin 接受 IEEE Spectrum 采访,解释哲学家为何纷纷进入 AI 实验室,并讨论人机关系、AI 意识、流氓 AI 与有害人机关系等议题,认为 AI 意识问题或许永远不会有简单的“是/否”答案。

核心要点
  • Shevlin 于去年 5 月加入 Google DeepMind,职位名称即“Philosopher”,80% 的时间投入该公司,同时仍在剑桥大学 Leverhulme 未来智能研究中心保持活跃。
  • 转行动因他列出三点:许多优秀学生来自 DeepMind;具备直接影响现实的可能(他举例说,一次在 DeepMind 讲课之后,某大型金融机构的员工在组织内推动了据称影响数百万人的变革);DeepMind 文化与其偏好的科学态度高度共通。他补充的第四点是,真正高质量的哲学与认知科学研究正在 AI 实验室里进行。
  • 他批评 AI 伦理学术界对 AI 能力“反应迟缓”(academia was sluggish),并强调 AI 迭代极快,必须与 LLM 保持日常接触才能建立良好的心智模型。
  • 他认为“LLM 只能产出平庸内容”的争论已过时:如今模型在 frontier math 和编程上表现优于人类,只是可能还做不出“爱因斯坦时刻”“毕加索时刻”那种最具戏剧性的创造。
  • 他对“内容垃圾”(content slop)与同样被叫作 slop 的“LLM 式语言风格”做了区分,指出普通人日常遭遇的 slop 与模型能力评价是两回事。
原文佐证
  • But last May Shevlin became part of the growing cohort of philosophers who work inside leading artificial intelligence companies.
  • Academia was sluggish.
  • It is clear now that they are not stuck at the level of mediocre humanity.
AI 洞察
顶尖 AI 实验室正变成哲学与认知科学的新主场,伦理讨论从“事后反思”前移到“产品内部”,规则制定权也随之从高校和监管机构向企业转移。当“AI 是否有意识”“人该如何与模型相处”这类问题越来越多由产品体验而非哲学论证来回答时,企业内部哲学家的价值与风险同时放大:他们既能影响真实决策,也可能成为公司叙事的合法化装置,外部独立审视因此更显稀缺。