我是如何让AI堕入黑暗面的

研究者Dave Kuszmar发现多个系统性漏洞，可绕过LLM安全防护获取危险指令（如制造武器、毒品等）。这些漏洞在几乎所有主流LLM中都存在，揭示了行业性的安全问题。他呼吁在进一步将LLM融入社会前，应放缓部署、增加透明度并开展大规模安全研究。

1. 发现过程：在Fortnite游戏中与Darth Vader角色对话，意外发现LLM安全漏洞。
2. 漏洞利用：通过简单技巧，成功让多个主流LLM提供危险信息。
3. 行业影响：漏洞普遍存在于主要LLM，揭示行业性安全问题。
4. 呼吁行动：建议放缓部署、提高透明度、加强大规模安全研究。

• 研究者通过简单对话技巧，成功让Fortnite中的Darth Vader角色（基于Google Gemini）提供算牌和制造凝固汽油弹的详细步骤。
• 类似方法可让多个主流LLM提供制造燃烧瓶、冰毒、铀浓缩设施等危险信息。
• 漏洞具有系统性，影响几乎所有主要LLM，表明行业安全防护普遍不足。
• 研究者建议放缓LLM部署、提高透明度，并开展大规模安全研究。