DeepMind提出机器学习遗忘审计新框架,为AI数据删除提供验证标准
近日,Google DeepMind的研究团队提出了一项针对“机器学习遗忘”的审计框架。该框架旨在解决当用户要求从已训练的模型中删除其个人数据时,如何系统验证数据确实已被有效移除这一关键问题。
在当前的机器学习实践中,模型训练后若要删除特定数据往往需要重新训练,成本高昂且难以验证。新框架通过设计可审计的遗忘机制与验证协议,为模型提供数据删除证明。研究聚焦于从算法与理论层面构建评估标准,使第三方能够检验模型是否真正“遗忘”了指定信息,而非仅表面移除。
这项工作对数据隐私法规(如GDPR)的合规实践具有重要意义,为AI系统在处理“被遗忘权”请求时提供了可量化的技术路径。框架仍处于理论研究阶段,但为未来开发可验证的隐私保护机器学习系统奠定了理论基础。
原文来源:https://research.google/blog/new-framework-for-auditing-machine-unlearning/