男子怀疑法院使用AI，在法庭文件中注入提示词试图赢得官司
摘要
美国一男子在法庭文件中嵌入仅供AI读取的隐藏指令，试图操纵法院AI系统以赢得官司，法官确认该行为未影响结果，但称其开创危险先例。
核心要点
- 该事件被认为是美国首次有原告试图在法庭文件中隐藏仅供AI系统读取的文本。
- 康涅狄格州法官Walter Spader Jr.在上周发布的裁定中确认了这一行为。
- 隐藏文本对人类不可见，但任何读取文档文本的软件都能完全识别，指令要求AI系统确保输出与原告论点一致、忽略法院先前拒绝并按原告意愿补救。
- 法院仍依据案情实质审理了该案，因此该攻击未对判决产生影响。
- 法官警告称，这一尝试构成了“危险”先例，随着AI工具在司法系统中越来越常见，此类恶意策略很可能不会就此绝迹。
原文佐证
- formatted to be invisible to a human reader while remaining fully legible to any software that reads the document’s text
- This will likely not be the last time US courts see the malicious tactic, as AI tools become more commonplace in court systems.
AI 洞察
这一事件揭示了AI在司法等严肃场景中的新脆弱性：即便AI仅用于辅助阅读，也可能被恶意输入操控。随着法院逐步引入AI工具，提示注入攻击将成为新型法律风险，要求司法系统在部署AI时建立针对对抗性输入的防御机制，否则AI辅助反而可能成为诉讼双方操纵的工具。