0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

阿里新一代安全架构核心AI技术升级之后的鉴黄AI可理解文字语义?

lhl545545 来源:中国青年网 作者:中国青年网 2020-09-27 10:54 次阅读

近日,阿里安全宣布,面对“多人运动”“王者五排”等不断变异升级的黑话暗语,阿里AI鉴黄技术能力升级,可精准快速地进行识别拦截。这对人工智能技术的发展具有非常重要的意义,让AI引入知识后并不对原始语义产生曲解,正是训练智能AI模型需要重点解决的难题。

涉黄黑话变异升级难识别

在内容安全场景下,黑灰产通常会利用黑话来绕开检测引擎,比如会出现这种语句“小哥哥,要不要来我们这里多人运动啊?”“大号玻璃过滤彩珠大水瓶 玻璃水壶全套配件到手即用”。

“这对人工智能技术带来了非常大的挑战。”阿里安全高级算法专家开阳表示,目前谷歌发布的BERT自然语言处理模型已经在文本理解领域取得了突破性进展,但在识别上述黑话时仍难以发挥作用,尚不能撕掉黑话的“伪装”,辨别其指代“色情、毒品”的本来含义。

对此,开阳解释,技术和预训练语言模型有一定局限性,经过大量公开语料进行学习训练后,模型能理解字、词、句之间的语义关系,比如判断“足球”跟“多人运动”属于同类话题;“水壶”“器皿”和“烧水”属于同类话题。

“‘多人运动’等黑话通常背后由某个特定事件造成,这些事件比较随机,也无规律可循。”开阳介绍称,这样的语料难以积累,加上占比极低,建立预训练模型变得不太容易。

AI技术升级可理解文字语义

那么,鉴黄机器人能否接收到“多人运动”黑话背后的事件信息,从而给出更精准的判断?

开阳称,阿里新一代安全架构核心AI技术可以做到这一点。他介绍,如果过去的鉴黄AI只停留在识别直观的“图片、字符串、语音”这些表层信息上,升级之后的鉴黄AI则可以理解字符串背后的深意。如果看到“小哥哥,要不要来我们这里多人运动啊?”这样的语句,AI经智能分析后可识别出这是一条色情信息。

“升级后的AI鉴黄师增加了基于知识图谱的识别黑话的能力,将人工经验知识引入,让机器智能与人工经验更好地结合,大大提升了文本理解与语义识别的能力。”开阳介绍,这也是技术升级后的最大亮点,只需要把新的黑话知识添加到知识图谱中就可生效,发现舆情事件导致的变异时间可能在小时级,但识别只需几十毫秒。

简单而言,就是以热点事件为中心,围绕事件本身,将相关联的人物、事件、特定的词语绘成一张关联图谱。以“多人运动”为例,将出轨事件新闻作为核心,关联该事件的男女主角、事件引发的热词“多人运动”“王者五排”“群P”等。

由于升级后的技术可识别更隐晦、内涵的风险内容,AI技术除在鉴黄领域大有可为外,还能大大提升与其他黑灰产变异升级的对抗能力。“我们的模型能针对新事件快速感知,基于事件发掘新关联词,并构建知识,及时为新风险识别提供能力。”开阳说。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    210

    文章

    28189

    浏览量

    206453
  • AI
    AI
    +关注

    关注

    87

    文章

    30095

    浏览量

    268357
  • 人工智能
    +关注

    关注

    1791

    文章

    46838

    浏览量

    237493
收藏 人收藏

    评论

    相关推荐

    AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    for Science的技术支撑”的学习心得,可以从以下几个方面进行归纳和总结: 1. 技术基础的深入理解 在阅读第二章的过程中,我对于AI for Science所需的
    发表于 10-14 09:16

    技嘉AORUS Z890主板,AI强化新一代Intel酷睿Ultra处理器

    研发横跨软件、硬件与固件的AI 创新技术。此外,AORUS Z890 系列主板也具备升级版的友善设计并搭载新一代 Intel® Core™ Ultra 处理器,为追求顶级性能电竞玩家们
    的头像 发表于 10-11 11:37 221次阅读

    蚂蚁数科发布AI赋能新一代数据标注产品

    在近日举行的2024 Incluison·外滩大会上,蚂蚁数科凭借其技术创新的深厚底蕴,正式推出了新一代AI数据标注产品,旨在为企业客户提供全方位、智能化的数据解决方案。这款产品的问世,标志着蚂蚁数科在
    的头像 发表于 09-10 16:04 398次阅读

    一代高功能新一代AI加速器(DRP-AI3):10x在高级AI系统高级AI中更快的嵌入处理

    电子发烧友网站提供《下一代高功能新一代AI加速器(DRP-AI3):10x在高级AI系统高级AI
    发表于 08-15 11:06 0次下载
    下<b class='flag-5'>一代</b>高功能<b class='flag-5'>新一代</b><b class='flag-5'>AI</b>加速器(DRP-<b class='flag-5'>AI</b>3):10x在高级<b class='flag-5'>AI</b>系统高级<b class='flag-5'>AI</b>中更快的嵌入处理

    平衡创新与伦理:AI时代的隐私保护和算法公平

    权的保护必须被置于核心位置。随着越来越多的个人信息被用于训练和运行AI系统,如何保护这些信息不被滥用成为了项艰巨的任务。加强数据加密技术、实施严格的数据访问控制和匿名化处理,都是有效
    发表于 07-16 15:07

    蚂蚁数科发布新一代融合AI风控引擎“AIR Engine”

    在数字化浪潮的推动下,金融科技领域的风控技术正迎来新的突破。近日,蚂蚁数科旗下的蚁盾风控团队正式发布了新一代融合AI风控引擎——“AIR Engine(AIFUSERiskEngine)”,该引擎在原有的决策式
    的头像 发表于 06-26 18:20 1193次阅读

    仁勋:新轮科技浪潮将是物理AI机器人的崛起

    及感知能力。   仁勋指出,现今许多AI系统对物理定律的理解尚浅,无法立足于现实世界。然而,生成图像、视频、3D图形乃至模拟物理现象,均需依赖能深刻理解物理定律的
    的头像 发表于 06-05 16:32 636次阅读

    英伟达加速AI芯片迭代,推出Rubin架构计划

    在近日举办的COMPUTEX 2024展会上,英伟达CEO仁勋再次展现了公司在人工智能(AI)芯片领域的雄心壮志。他公布了下一代AI芯片架构
    的头像 发表于 06-03 11:36 776次阅读

    步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    2024年3月19日,[英伟达]CEO[仁勋]在GTC大会上公布了新一代AI芯片架构BLACKWELL,并推出基于该架构的超级芯片GB20
    发表于 05-13 17:16

    risc-v多核芯片在AI方面的应用

    在极低的能耗下实现高效的AI元器件的运行。这对于需要长时间运行和依赖电池供电的AI设备来说尤为重要。 其次,RISC-V的模块化架构允许其不同部分以模块化的方式串在起,从而满足各种不
    发表于 04-28 09:20

    英伟达发布新一代AI芯片架构Blackwell GPU

    近日,英伟达首席执行官仁勋在GTC 2024会议上发表主题演讲,重磅推出全新AI芯片架构Blackwell GPU。这创新技术的首款芯片
    的头像 发表于 03-26 11:19 820次阅读

    NanoEdge AI技术原理、应用场景及优势

    NanoEdge AI种基于边缘计算的人工智能技术,旨在将人工智能算法应用于物联网(IoT)设备和传感器。这种技术核心思想是将数据处
    发表于 03-12 08:09

    惠普推出新一代AI游戏本,并计划推出首个AI PC本地AI解决方案

    近日,惠普发布了新一代AI游戏笔记本电脑,这些新款笔记本在性能和AI功能方面都有显著提升。其中,14英寸暗影精灵10 SLIM被公认为惠普目前最轻的游戏笔记本,它搭载了酷睿Ultra 7-155H处理器和RTX 4060/407
    的头像 发表于 01-22 15:58 879次阅读

    智谱AI推出新一代基座大模型GLM-4

    智谱AI近日宣布推出新一代基座大模型GLM-4。这模型在整体性能上相较上一代实现了大幅提升,其表现已逼近GPT-4。
    的头像 发表于 01-17 15:29 987次阅读

    第二届大会回顾第5期 | 分级安全架构构筑智能汽车功能、网络、隐私三安全

    委员会副首席科学家、终端BG/车BU首席安全架构师。主要负责HarmonyOS/OpenHarmony操作系统安全架构设计、终端芯片安全架构安全芯片、可信计算、移动应用生态治理
    的头像 发表于 12-19 08:36 446次阅读
    第二届大会回顾第5期 | 分级<b class='flag-5'>安全架构</b>构筑智能汽车功能、网络、隐私三<b class='flag-5'>安全</b>