谷歌发布实验性TensorFlow模 用于测试AI模型的隐私性
发布时间:2020-07-01 14:55:07 【来源:】
谷歌今天发布了TensorFlow Privacy的实验模块,该模块是其保留隐私的TensorFlow工具包,可用于评估各种机器学习分类器的隐私属性。该公司表示,它将成为隐私测试套件的基础,该套件可被任何AI开发人员使用,无论其技术水平如何。
各种AI隐私技术的优点仍然是社区内讨论的话题。没有规范的准则可以生成私有模型,但是越来越多的研究表明,AI模型可能会泄漏训练数据集的敏感信息,从而产生隐私风险。TensorFlow隐私偏爱的缓解方法是差异隐私,这会增加噪音以隐藏训练数据中的单个示例。但是,这种噪声是为学术上最坏的情况而设计的,并且会严重影响模型的准确性。
这促使Google的研究人员在会员推断攻击中寻求替代方案。新的TensorFlow Privacy模块支持的成员资格推断攻击方法可构建分类器,以推断训练数据集中是否存在特定样本。分类器越准确,存在的记忆就越多,因此模型的隐私保护就越少-直觉是,以高精度进行预测的攻击者将成功确定训练集中使用了哪些数据。
新模块提供的测试是黑盒子,这意味着它们仅使用模型的输出,而不是内部(权重)或输入样本。他们产生一个漏洞评分,该评分确定模型是否从培训集中泄漏了信息,并且不需要任何重新培训,因此相对易于执行。
“在内部使用成员身份推断测试后,我们将与开发人员共享它们,以帮助他们构建更多的私有模型,探索更好的架构选择,使用正则化技术(如提早停止,退出,权重衰减和输入增加),或收集更多数据, ” Google Brain的Shuang Song和Google软件工程师David Marn在TensorFlow博客上的帖子中写道。“最终,这些测试可以帮助开发人员社区确定更多结合了隐私设计原则和数据处理选择的体系结构。”
谷歌表示,未来,它将探索将会员推理攻击扩展到分类器之外的可行性,并开发新的测试。它还计划通过将其与TensorFlow Extended(TFX)集成在一起,探索将新测试添加到TensorFlow生态系统,TFX是用于部署生产机器学习管道的端到端平台。
据相关报道,谷歌今天增加了对围棋和Java支持的基础性差隐私库它去年夏天开源。它还提供了Privacy on Beam,这是一种基于Apache Beam(模型和特定于语言的SDK的集合)构建的端到端差异隐私解决方案,该解决方案依赖于差异隐私库中的较低层构建块并将其组合为一个“开箱即用”的解决方案,它照顾了差异隐私所必需的步骤。此外,Google推出了新的隐私权损失分配跟踪隐私预算的工具,开发人员可以使用该工具来估算差异性私有查询集合对用户隐私的总成本,并更好地评估其管道的总体影响。
始祖鸟之家双面派对,设计师系列惊艳亮相
11月24日,被誉为户外爱马仕的始祖鸟(ARC’TERYX)全新概念店——始祖鸟之家在全国顶级商圈北京国贸开业了。现场门店实拍图片 ...
曝小米显示器34寸本月最后一单出货后将暂停供应 因三星无屏供应原因
本月初,视讯堂消息称小米的 34 寸带鱼屏显示器型号,之后可能无法再保持 1999 元的价格进行销售。今天,视讯堂发布最新消息,称小 ...
微星Stealth 15M超轻游戏本纯净白即将上架 屏幕为15.6英寸
根据微星笔记本官方的消息,微星 Stealth 15M (纯净白)即将上架预约,这款笔记本是首款采用 11 代低压酷睿 + RTX 2060 配置的 ...
EG7今天宣布收购《机甲战士5》开发商Piranha Games 增加其游戏公司种类
Enad Global 7(EG7)今天(11 27)宣布收购《机甲战士5》开发商Piranha Games,增加了其游戏公司的种类。 EG7已同意以2410万美元的 ...
华米将推出GTS 2 mini手表:将于12月1日发布 外观更轻薄更精致
根据华米创始人黄汪的消息,华米将推出 GTS 2 mini 手表,外观更轻薄更精致。 根据华米微博的消息, GTS 2 mini 手表将 ...
冬季必看的小黑裤穿搭指南|九牧王男裤专家
伴随着秋冬而来的除了购物欲还有穿搭热情,但如果你正苦于衣服少、缺乏穿搭灵感,那么,一条百搭、舒适的九牧王小黑裤,或许可以帮到你,只 ...
- Copyright © 2013-2020 All rights reserved
- 联系我们 QQ: 3 38 52 5 5 3 9 0