问答:AI 是如何开始模仿“混乱”的人类心智的
摘要
MIT 历史学者 Benjamin Lindquist 在《Past and Present》发表论文并接受 MIT News 访谈,指出当代生成式 AI 的“幻觉”可追溯到 1950 年代先驱者为模拟人类创造力而刻意向算法注入随机性的做法,并提出模仿人类行为必然要在创造力与可预测性之间做权衡。
核心要点
- 论文作者 Benjamin Lindquist 是 MIT 历史学系助理教授,同时在 MIT 施瓦茨计算学院与 EECS 系担任共享教职,并是信息与决策系统实验室(LIDS)的首席研究员。
- 论文发表于历史学期刊《Past and Present》,将 AI 幻觉的起源追溯至 1950 年代初的早期 AI 研究。
- 贝尔实验室著名电气工程师 John Pierce 提出“数学的价值在于能从艺术中移除秩序”,再以计算的方式加入意外元素,以避免陈词滥调、催生洞见。
- 早期人工(随机)神经网络多由心理学家构建,他们相信这类模型不是黑箱,而是能让人窥见大脑内部“混乱”运作、包括如何产生“有产出的错误”。
- 当时 AI 领域存在对立阵营:一方认为创造力来自逻辑的意外跳跃乃至梦境式状态,另一方认为创造性思维只是“做得更好”的常规思维。
原文佐证
- In the paper, he traces the origins of AI hallucinations back to this early research and suggests there will be inevitable tradeoffs between creativity and predictability when trying to build machines that mimic human behavior.
- To mimic creative thinking, these AI pioneers intentionally injected randomness into algorithms designed to deterministically solve problems, Lindquist writes in a new paper that appears in the journal Past and Present.
- One popular way to add irregularity into otherwise predictable computers was through artificial (or random) neural networks .
AI 洞察
这篇历史研究提醒我们,AI 的“幻觉”并非纯粹的工程缺陷,而是与“让机器像人一样思考”这一原始设计目标共生的结构性特征——它意味着完全消除幻觉可能同时抹去部分创造性。当行业把可靠性、可审计性视为企业级 AI 的硬指标时,如何在产品层面显式区分“随机性用于发散”与“随机性污染事实”,可能成为模型架构与评测体系的下一个分水岭。对使用者而言,理解模型的“受控不理性”比单纯追求零幻觉更现实。