谷歌宣布推出免费AI工具软件,辅助人类鉴黄师对儿童***待内容(CSAM)的图像进行分类和鉴别。过去的类似工具往往只能阻止已经标记的不良内容的传播,而谷歌本次推出的AI软件可以自己对图像材料进行标记,经人类工作人员实地测试,鉴黄效率提升了700%。
对于大型互联网企业来说,及时阻止儿童***待内容(CSAM)的传播是属于第一优先级的任务。但对于一线工作人员来说,这项工作是异常艰巨而困难的,必须要靠人类来识别并删除这些不良内容。
不过今后,这些工作人员可能会稍微松一口气,谷歌今天发布了旨在帮助识别这类内容的免费AI软件。
在这一领域,大多数技术解决方案都是通过根据以前识别出的不良内容目录,来检测现有的图像和视频。(比如由微软开发的PhotoDNA图像识别工具,现在Facebook和Twitter等都在使用。)这类软件可以有效阻止人们共享之前已标记的儿童***待内容,但无法捕获未标记的非法内容。人类必须介入并亲自对内容进行审查。
谷歌AI工具自行对材料进行标记,鉴黄效率提升700%
这正是谷歌本次推出的AI软件大显身手的地方。它能利用机器视觉方面的专业知识,对标记的图像和视频进行排序,并“优先推送最可能的儿童***待内容以供审查”,从而协助人类工作人员。这应该会使审查速度变得更快。
谷歌表示,在一项试验中,在这款AI工具的帮助下,审查员“在相同时间内对儿童***待内容的操作量提高了700%以上。”
互联网观察基金会(IWF)副首席执行官Fred Langford表示,该软件将“有助于我们这样的团队更有效地调配有限的资源。目前,我们只使用纯人力来进行内容审核,然后判断能不能通过。这款AI工具将有助于我们对审核内容进行分类。”
互联网观察基金会(IWF)副首席执行官Fred Langford
IWF位于英国,是致力于阻止儿童***待内容在线传播的最大组织之一,由谷歌等大型国际科技公司提供资金。
距离完全自动化鉴黄可能仅需一两年
IWF聘请内容鉴别团队来识别这些不良内容的图像,并在十几个国家提供举报渠道,以便互联网用户报告可疑内容。该机构自己也会开展调查行动,锁定会共享儿童***待内容的网站,并与执法机构合作来关闭这些网站。
Langford表示,由于现在对AI存有一些“异想天开的观点”,IWF将对谷歌的AI工具进行全面测试,以了解其表现如何,如何将其融入人类审查人员的工作流程中。
他还表示,这类工具是向迈向全自动内容审核系统的第一步,可以识别以前很难识别的材料,无需人为干预。“这种分类器在我们这个领域的地位有点像“圣杯”一样”
不过他还说,应该只在范围明确的案件中信任这类工具,以避免让不良内容漏网。“几年前我认为这种分类器的诞生可能还要等五六年,但现在我认为,在某些情况下,我们距离完全自动化识别工具的诞生可能只有一到两年的时间了。”
-
谷歌
+关注
关注
27文章
6128浏览量
104934 -
图像
+关注
关注
2文章
1078浏览量
40374 -
AI
+关注
关注
87文章
29780浏览量
268055
原文标题:对儿童性虐待内容说不!谷歌推出AI鉴黄工具,效率提升7倍
文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论