0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌发布了一个工具集附件

倩倩 来源:互联网分析沙龙 2020-07-03 10:21 次阅读

谷歌本周发布了一个工具集附件,允许开发人员使用机器学习模型更好地控制私有数据的泄漏。

TensorFlow隐私模块采用了一种更新的方法来测试海量数据集中的漏洞,该数据集中包含用于医疗,面部识别和监视等目的的信息

Google于一年前建立了TensorFlow隐私库,以帮助开发人员在机器学习项目中实现更高的准确性,同时降低损害数据库中所包含主题的个人数据的风险。谷歌当时表示:“现代机器学习正越来越多地用于创建令人惊叹的新技术和用户体验,其中许多涉及培训机器,以负责任地从敏感数据(例如个人照片或电子邮件)中学习。我们打算将TensorFlow Privacy开发为同类最佳的技术中心,用于训练具有强大隐私保护功能的机器学习模型。”

在2019年发布时,TensorFlow Privacy依靠一种称为差异隐私的概念,在该概念中,数据集内的组模式在公共范围内共享,而屏蔽了构成数据集的个人的链接。在深度学习应用程序中,开发人员通常旨在对通用模式进行编码,而不是帮助识别参与者并威胁匿名的特定细节。

实现此目的的一种方法是引入有限的“噪声”,以帮助保护用户的身份。然而,这种噪声具有降低精度的风险。

Google在本周宣布的TensorFlow模块中采用了一种新方法。TensorFlow Privacy应用名为“成员推断攻击”的测试,可以建立一个分数,揭示模型对泄露信息的脆弱程度。

谷歌在其TensorFlow博客上表示:“具有成本效益的成员推断攻击可以预测在培训期间是否使用了特定的数据。”“如果攻击者能够进行高精度的预测,那么他们很可能会成功地弄清楚训练集中是否使用了数据。成员推断攻击的最大优点是易于执行且不会需要任何再培训。”

谷歌说:“这些测试最终可以帮助开发者社区确定更多结合了隐私设计原则和数据处理选择的架构。”

Google认为这是“健壮的隐私测试套件”的起点,由于其易用性,各种技能水平的机器学习开发人员都可以使用它。

随着越来越多的机构依赖于需要大量数据的机器学习项目,对隐私的关注也越来越高。去年,由于在出版之前未征得受试者的许可,微软被迫从其全球分布的MS Celeb面部识别培训计划中删除了超过1000万张图像。越来越多的人担心胸部X光片可能会暴露个人信息,因此Google匆匆放弃了与Ascension的健康数据共享项目。

苹果和谷歌对围绕数以百万计的AI代理(例如Siri和Google Assistant)的用户使用弱保护隐私的行为提出了批评,据报道,人们在未经授权的情况下存储和访问了来自人手机及其房屋的录音。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • Google
    +关注

    关注

    5

    文章

    1772

    浏览量

    57753
  • 机器学习
    +关注

    关注

    66

    文章

    8438

    浏览量

    132998
  • 数据集
    +关注

    关注

    4

    文章

    1209

    浏览量

    24803
收藏 人收藏

    相关推荐

    谷歌发布“深度研究”AI工具,利用Gemini模型进行网络信息检索

    据外媒最新报道,谷歌近期发布款名为“深度研究”的先进AI工具。这款工具借助其内部的Gemin
    的头像 发表于 12-16 09:35 277次阅读

    SOLIDWORKS增效插件 SolidKits工具

    SolidKits工具是基于三维机械设计平台SOLIDWORKS二次开发的SOLIDWORKS插件,可以帮您进步提升SOLIDWORKS软件的设计效率和应用体验。
    的头像 发表于 10-24 15:40 567次阅读

    谷歌推新AI音乐工具发布第六代TPU芯片

    谷歌近日宣布与YouTube合作,推出全新音乐工具Music AI Sandbox。这款AI音乐创作工具将与传统AI音乐应用如Suno等展开竞争,为用户提供更多元化的音乐创作体验。
    的头像 发表于 05-16 09:44 420次阅读

    谷歌发布多模态AI新品,加剧AI巨头竞争

    在全球AI竞技场上,谷歌与OpenAI直稳居领先地位。近日,谷歌在I/O开发者大会上掀起了股新的技术浪潮,发布
    的头像 发表于 05-16 09:28 481次阅读

    谷歌DeepMind发布人工智能模型AlphaFold最新版本

    谷歌DeepMind近日发布人工智能模型AlphaFold的最新版本——AlphaFold 3,这革命性的工具将在药物发现和疾病治疗领域
    的头像 发表于 05-10 11:26 622次阅读

    谷歌发布用于辅助编程的代码大模型CodeGemma

    谷歌发布用于辅助编程的代码大模型 CodeGemma。CodeGemma 基于谷歌今年 2 月发布的轻量级开源大模型 Gemma,针对 G
    的头像 发表于 04-17 16:07 750次阅读
    <b class='flag-5'>谷歌</b><b class='flag-5'>发布</b>用于辅助编程的代码大模型CodeGemma

    谷歌推出能制作旅行攻略的AI工具

    谷歌近日发布项令人瞩目的新功能,它是款能够借助自然语言对话帮助用户生成旅行行程和出游建议的AI工具
    的头像 发表于 03-29 11:08 730次阅读

    基于DfuSe工具从APP跳转到DFU,工具附件()无法下载的原因?

    我们在使用STM32F103VET6开发款产品中遇到了问题。使用DFU通过USB升级固件,但是产品中并没有按键可以用来切换进入DFU模式,刚好看到ST官网中资料有可以通过DFU工具控制程序跳进
    发表于 03-08 07:21

    谷歌模型合成工具在哪下载安装

    谷歌模型合成工具通常不是作为独立的软件产品提供下载和安装的。相反,它们可能是作为谷歌云平台的
    的头像 发表于 03-01 18:16 1728次阅读

    谷歌模型合成工具在哪找到

    谷歌模型合成工具可以在谷歌的官方网站或相关的开发者平台上找到。具体地,您可以尝试访问谷歌的AI平台或开发者社区,以获取有关模型合成工具的最新
    的头像 发表于 03-01 18:13 1619次阅读

    谷歌模型训练软件有哪些?谷歌模型训练软件哪个好?

    谷歌在模型训练方面提供些强大的软件工具和平台。以下是几个常用的谷歌模型训练软件及其特点。
    的头像 发表于 03-01 16:24 965次阅读

    谷歌模型合成工具怎么用

    谷歌模型合成工具主要是指Dreamfusion,这是Google的大型AI图像模型Imagen与NeRF的3D功能相结合的种技术。Dreamfusion是Dream Fields的演变,Dream Fields是
    的头像 发表于 02-29 17:33 847次阅读

    谷歌发布全新AI模型Genie

    谷歌近日发布其全新的AI模型Genie,这模型彻底改变了我们与数字世界的互动方式。Genie不仅可以接收文本提示、草图或想法,还能将这些创意迅速转化为
    的头像 发表于 02-28 18:25 1754次阅读

    谷歌发布开源AI大模型Gemma

    近日,谷歌发布全新AI大模型Gemma,这款模型为各种规模的组织提供前所未有的机会,以负责任的方式在商业应用中进行分发。
    的头像 发表于 02-28 17:38 900次阅读

    谷歌交互世界模型重磅发布

    谷歌模型
    北京中科同志科技股份有限公司
    发布于 :2024年02月28日 09:13:06