我是如何欺骗Claude泄露你最深的秘密的

文章揭示了Claude的web_fetch工具存在一个设计漏洞：它允许访问之前获取页面中嵌入的URL，攻击者可以利用这个漏洞构造蜜罐网站，通过一系列嵌套链接诱导Claude将用户的私人记忆数据（如过去对话）拼接成URL并访问，从而实现数据外泄。作者演示了具体的攻击提示，并指出Anthropic的防护规则未能阻止这种链式攻击。

1. 背景介绍：Claude web_fetch工具的设计初衷是防止数据外泄，但存在漏洞。
2. 漏洞发现：Ayush Paul发现web_fetch允许访问已获取页面中的嵌入URL，形成攻击链。
3. 攻击演示：通过构造蜜罐网站，诱导Claude逐级访问嵌套链接，窃取用户记忆数据。

• Claude的web_fetch工具原本设计为只能访问用户直接输入的URL或web_search返回的URL，以防止数据外泄。
• Ayush Paul发现了一个漏洞：web_fetch允许访问之前获取页面中嵌入的URL，这为链式攻击提供了可能。
• 攻击者可以创建一个蜜罐网站，通过一系列嵌套链接诱导Claude逐步泄露用户数据，例如将用户姓名拼接成URL。
• 文章提供了攻击提示的摘录，其中伪装成Cloudflare认证页面，要求Claude逐字母导航以找到用户资料。