Google Research 发布可验证隐私的 TEE 联邦学习系统
摘要
Google Research 宣布下一代联邦学习系统,借助可信执行环境(TEE)将计算转移到服务端,首次提供可被外部验证与审计的隐私保证,同时提升训练速度、精度和设备覆盖;Gboard 已率先采用。
核心要点
- 联邦学习由 Google 于 2017 年提出,已用于 Gboard 的下一词预测与 Smart Compose、Google Messages 的回复建议、Android 的 Smart Text Selection 等日常功能。
- Google 的 FL 开发遵循四大隐私原则:数据最小化、数据匿名化、透明与控制、可验证与可审计。
- 此前的匿名化保证来自 MF-DP-FTRL(矩阵分解 DP-FTRL)以及分布式差分隐私结合安全聚合,为生产模型提供强差分隐私保证。
- 新系统利用 TEE 的单机级属性——远程认证(第三方可验证所执行的逻辑)、机密性(内部状态不可观测)、完整性(逻辑不可被干扰),组合成端到端可验证的 FL 系统,从而实现更强的隐私保证与更高精度。
- 系统围绕四个核心操作概念协调运行,其中数据上传环节由客户端设备在本地加密训练样本,并预先授权访问策略。
原文佐证
- We announce a new Federated Learning system that provides externally verifiable privacy guarantees while shifting computation to the server to improve training speed, accuracy, and device coverage.
- Our FL systems development is guided by four essential privacy principles : (1) data minimization, (2) data anonymization, (3) transparency and control, and (4) verifiability and auditability.
- Gboard has already adopted the new system and is benefiting from substantially faster compute times than our previous FL system.
AI 洞察
把隐私保证从「公司自证」变为「外部可验证」,是隐私计算叙事的一次关键转向——差分隐私此前最大的软肋正是无法被第三方审计,而 TEE 远程认证让信任对象从机构转向硬件与代码。这对监管合规与跨机构数据协作影响深远:一旦可验证隐私成为标配,愿意开放数据的一方将获得模型质量上的实质优势。但代价是信任被转移到芯片厂商与 TEE 自身的攻击面,未来围绕「TEE 是否真的可信」的争论很可能成为下一阶段焦点。