0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌宣布推出免费AI工具软件,辅助人类鉴黄师对儿童性虐待内容的图像进行分类和鉴别

DPVg_AI_era 来源:未知 作者:李倩 2018-09-05 08:45 次阅读

谷歌宣布推出免费AI工具软件,辅助人类鉴黄师对儿童***待内容(CSAM)的图像进行分类和鉴别。过去的类似工具往往只能阻止已经标记的不良内容的传播,而谷歌本次推出的AI软件可以自己对图像材料进行标记,经人类工作人员实地测试,鉴黄效率提升了700%。

对于大型互联网企业来说,及时阻止儿童***待内容(CSAM)的传播是属于第一优先级的任务。但对于一线工作人员来说,这项工作是异常艰巨而困难的,必须要靠人类来识别并删除这些不良内容。

不过今后,这些工作人员可能会稍微松一口气,谷歌今天发布了旨在帮助识别这类内容的免费AI软件。

在这一领域,大多数技术解决方案都是通过根据以前识别出的不良内容目录,来检测现有的图像和视频。(比如由微软开发的PhotoDNA图像识别工具,现在Facebook和Twitter等都在使用。)这类软件可以有效阻止人们共享之前已标记的儿童***待内容,但无法捕获未标记的非法内容。人类必须介入并亲自对内容进行审查。

谷歌AI工具自行对材料进行标记,鉴黄效率提升700%

这正是谷歌本次推出的AI软件大显身手的地方。它能利用机器视觉方面的专业知识,对标记的图像和视频进行排序,并“优先推送最可能的儿童***待内容以供审查”,从而协助人类工作人员。这应该会使审查速度变得更快。

谷歌表示,在一项试验中,在这款AI工具的帮助下,审查员“在相同时间内对儿童***待内容的操作量提高了700%以上。”

互联网观察基金会(IWF)副首席执行官Fred Langford表示,该软件将“有助于我们这样的团队更有效地调配有限的资源。目前,我们只使用纯人力来进行内容审核,然后判断能不能通过。这款AI工具将有助于我们对审核内容进行分类。”

互联网观察基金会(IWF)副首席执行官Fred Langford

IWF位于英国,是致力于阻止儿童***待内容在线传播的最大组织之一,由谷歌等大型国际科技公司提供资金。

距离完全自动化鉴黄可能仅需一两年

IWF聘请内容鉴别团队来识别这些不良内容的图像,并在十几个国家提供举报渠道,以便互联网用户报告可疑内容。该机构自己也会开展调查行动,锁定会共享儿童***待内容的网站,并与执法机构合作来关闭这些网站。

Langford表示,由于现在对AI存有一些“异想天开的观点”,IWF将对谷歌的AI工具进行全面测试,以了解其表现如何,如何将其融入人类审查人员的工作流程中。

他还表示,这类工具是向迈向全自动内容审核系统的第一步,可以识别以前很难识别的材料,无需人为干预。“这种分类器在我们这个领域的地位有点像“圣杯”一样”

不过他还说,应该只在范围明确的案件中信任这类工具,以避免让不良内容漏网。“几年前我认为这种分类器的诞生可能还要等五六年,但现在我认为,在某些情况下,我们距离完全自动化识别工具的诞生可能只有一到两年的时间了。”

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 谷歌
    +关注

    关注

    27

    文章

    6128

    浏览量

    104934
  • 图像
    +关注

    关注

    2

    文章

    1078

    浏览量

    40374
  • AI
    AI
    +关注

    关注

    87

    文章

    29780

    浏览量

    268055

原文标题:对儿童性虐待内容说不!谷歌推出AI鉴黄工具,效率提升7倍

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    微软更新AI服务协议,强调AI工具辅助性并警示风险

    8月19日,针对近期围绕AI工具准确性问题的广泛争议,微软宣布对其AI服务协议进行了重要更新。此次更新不仅重申了
    的头像 发表于 08-19 15:37 412次阅读

    荣耀宣布推出搭载谷歌 Gemini AI的智能手机

    CNBC报道称,荣耀方面透露,新品将融合谷歌GeminiAI和Imagen 2图像生成工具等生成式AI技术,同时由Google Cloud提供相关支持。
    的头像 发表于 05-27 17:46 779次阅读

    DA1453x-DA1469x 生产线工具软件和硬件用户手册

    电子发烧友网站提供《DA1453x-DA1469x 生产线工具软件和硬件用户手册.rar》资料免费下载
    发表于 05-21 17:19 0次下载
    DA1453x-DA1469x 生产线<b class='flag-5'>工具软件</b>和硬件用户手册

    谷歌推新AI音乐工具,发布第六代TPU芯片

    谷歌近日宣布与YouTube合作,推出全新音乐工具Music AI Sandbox。这款AI音乐
    的头像 发表于 05-16 09:44 347次阅读

    OpenAI推出专用的AI检测工具

    OpenAI最近推出了一款全新的AI检测工具,这款工具专门针对由DALL·E 3模型生成的图片。令人印象深刻的是,该工具能够精准识别出这类图
    的头像 发表于 05-09 10:01 470次阅读

    OpenAI发布图像检测分类器,可区分AI生成图像与实拍照片

    据OpenAI介绍,初步测试结果表明,该分类器在辨别非AI生成图像与DALL·E 3生成图像时,成功率高达近98%,仅有不到0.5%的非AI
    的头像 发表于 05-09 09:57 404次阅读

    微软、谷歌联手多家科技巨头保护儿童安全

     4 月 24 日消息,随着生成式 AI 的快速发展,如何保障儿童安全成为了焦点。微软、谷歌日前与 Thorn、All Tech Is Human 等专业机构联手,以期在生成 AI
    的头像 发表于 04-24 10:50 399次阅读

    谷歌推出能制作旅行攻略的AI工具

    谷歌近日发布了一项令人瞩目的新功能,它是一款能够借助自然语言对话帮助用户生成旅行行程和出游建议的AI工具。这款工具推出,标志着
    的头像 发表于 03-29 11:08 595次阅读

    谷歌推出多模态VLOGGER AI

    谷歌最新推出的VLOGGER AI技术引起了广泛关注,这项创新的多模态模型能够让静态肖像图“活”起来并“说话”。用户只需提供一张人物肖像照片和一段音频内容,VLOGGER
    的头像 发表于 03-22 10:45 752次阅读

    Stability AI与Morph AI共同推出一体化AI视频创作工具

    近日,业界领先的AI技术公司Stability AI与中国AI创业公司Morph AI达成重要合作。双方宣布共同
    的头像 发表于 03-05 10:44 808次阅读

    谷歌模型合成工具怎么用

    谷歌模型合成工具主要是指Dreamfusion,这是Google的大型AI图像模型Imagen与NeRF的3D功能相结合的一种技术。Dreamfusion是Dream Fields的演
    的头像 发表于 02-29 17:33 725次阅读

    谷歌宣布Gemma大模型全球开放使用

    谷歌公司近日宣布,其先进的AI大模型Gemma即日起在全球范围内开放使用。这一新模型由谷歌DeepMind和其他团队合作开发,并与其最大的AI
    的头像 发表于 02-23 10:41 713次阅读

    eda工具软件有哪些 EDA工具有什么优势

    和预测提供基础。在进行EDA过程中,使用合适的工具软件可以显著提升效率和准确性。本文将介绍几种常见的EDA工具软件。 Python和其相关的库 Python是一种广泛使用的编程语言,拥有丰富的库和
    的头像 发表于 01-30 13:57 1060次阅读

    请问M452通过USB升级固件的PC端工具软件是什么?

    现在用的是M452, 带USB Bootloader,但是没找到上位机的工具软件? 求告知,谢谢
    发表于 01-17 06:05

    免费开源图像修复工具lama-cleaner介绍

    Lama Cleaner 是由 SOTA AI 模型提供支持的免费开源图像修复工具。可以从图片中移除任何不需要的物体、缺陷和人,或者擦除并替换(powered by stable di
    的头像 发表于 12-04 10:23 2639次阅读
    <b class='flag-5'>免费</b>开源<b class='flag-5'>图像</b>修复<b class='flag-5'>工具</b>lama-cleaner介绍