朋友不会让朋友把数据喂给 AI 代理
摘要
The Verge 评论指出,以 Meta 的 AI 个人助手 Muse 为代表的消费级 AI 代理,正把'采集数据'从个人选择变成对周围所有人的无差别监控——用户本人被要求交出的不只是自己的信息,还有亲友乃至泛泛之交的数据。
核心要点
- Meta 的 AI 个人助手 Muse 于上月发布,此后下载量已达数百万次,并登上苹果 App Store 排行榜第一
- 文章称 Muse 配有'令人不安的虚拟化身'(creepy virtual avatar)作为交互入口
- 作者把 Muse 归入消费科技界一个正在壮大的潮流:设计用来窥探周围一切人和物的设备,而不管被窥探者是否同意
- 被要求贡献的数据范围远超用户自身,包括朋友、家人、五年前一次 Hinge 约会对象等所有曾接触过的人的信息
- 作者的批评焦点不是单一产品的功能,而是这种'替他人做数据决定'的默认设定正在被正常化
原文佐证
- There's a growing trend in the consumer tech world: gadgets designed to spy on everything and everyone around you , regardless of whether or not anyone else actually consented to it.
- Since Muse was released last month, the agent has already been downloaded millions of times and hit No. 1 on Apple's App Store.
- you're being cheerfully asked not just to give up your own data, but also the information of your friends, family, the person you went on a Hinge date with five years ago
AI 洞察
常开式 AI 代理把隐私问题从'我是否愿意'改写成'我身边的人是否愿意',以个人知情同意为基石的数据治理框架在此几乎失效。当这类产品已经能登上应用榜首位,采集范围大概率会由产品默认值而非用户判断来决定,平台规则与监管的收紧只是时间问题。对竞争者而言,'能拿到多少周围人的信息'也可能从卖点变成被审视的负担。