DeepMind提出机器学习遗忘审计新框架,为AI数据删除提供验证标准

Google DeepMind·27 天前

近日,Google DeepMind的研究团队提出了一项针对“机器学习遗忘”的审计框架。该框架旨在解决当用户要求从已训练的模型中删除其个人数据时,如何系统验证数据确实已被有效移除这一关键问题。

在当前的机器学习实践中,模型训练后若要删除特定数据往往需要重新训练,成本高昂且难以验证。新框架通过设计可审计的遗忘机制与验证协议,为模型提供数据删除证明。研究聚焦于从算法与理论层面构建评估标准,使第三方能够检验模型是否真正“遗忘”了指定信息,而非仅表面移除。

这项工作对数据隐私法规(如GDPR)的合规实践具有重要意义,为AI系统在处理“被遗忘权”请求时提供了可量化的技术路径。框架仍处于理论研究阶段,但为未来开发可验证的隐私保护机器学习系统奠定了理论基础。

机器学习数据隐私算法审计Google DeepMind模型安全

原文来源:https://research.google/blog/new-framework-for-auditing-machine-unlearning/

相关阅读

Google Vids 两大更新:AI 视频创作与个人数字人登场
谷歌DeepMind推出AI模式新功能:应用直连搜索,提升交互效率
Google DeepMind 与 Isomorphic Labs 联手推进生物韧性研究
DeepMind新研究:揭秘扩散模型的创造力之源
谷歌图片25周年:回顾视觉搜索里程碑,展望AI图像创作新体验

← 返回