0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

对话系统最原始的实现方式 检索式对话

深度学习自然语言处理 来源:深度学习自然语言处理 作者:深度学习自然语言 2020-09-25 17:08 次阅读

对话系统可以说是NLP领域目前已知最扎实的落地场景了,整个流程都脱离不了NLP的核心作用,而且整个流程涉及NLP的大量任务,因此大量的研究都围绕着对话系统来开展,也因此产生了很多很有意义的新方法。而检索式对话作为对话系统最原始的实现方式,又蕴涵着什么有意思的东西,我们来看看。

什么是对话系统

对话从来就不是一个简单的任务,这是一个涉及理解、生成、交互等多个方向技术的综合实体。

理解:需要理解对方输出的内容,只有这样才能给与正确的回应。

生成:基于理解的内容,给出合适的结果。

交互:在多轮对话上,需要记录跟踪整个对话过程中涉及的内容。

要同时完成这么多任务,相必是非常复杂的,同时场景上的复杂性,客服、语音助手、闲聊等,也造就了对话系统的复杂性,最终成为了NLP里面一个重要的研究抓手和目标。

检索式对话

检索式对话按照个人理解应该是最为经典的解决方案,把一个对话问题抽象为一个搜索问题,大量早期的对话系统都是用这种解决方案来实现的,甚至在现在,一些简单的对话任务,都可以用它来简单实现,可以说是工业界最喜欢的一种实现方式了。简单地说,整个检索式对话的流程可以用这个流程来表示:

query理解->检索召回->相似度排序

没错,看着就是搜索的流程,对句子进行理解,理解后到数据库里面进行召回,召回以后再进行相似度排序找到最佳答案。既然流程被拆解,那我们来看看每一步里面都会做什么东西。

query理解

简单的说,其实就是去理解用户输入的内容说的是啥,一般的自然语言理解主要关心的是这么几个技术细节:

意图和话题。即用户谈论的是哪个领域的事情,从而剖析用户期待对话系统返回的是什么。这个问题常被当成分类问题来处理,用分类规则或者是方法来进行意图识别。一旦抽象成分类问题大家就应该大概理解了,就是fastext、textcnn之类的玩意了。

槽位和实体。我们需要知道用户需要什么,需要抽取用户的具体实体,这个经常被抽象为序列标注问题,此时CRF、BILSTM-CRF之类的方法就是基操了。

当然,也有一些工程上会把它抽象化,只是转化为向量或者矩阵,下游用矩阵进行搜索。

总之,query理解这块,主要是为了解析用户说的内容,去理解他的语义,这样我们才能为用户找到合适的答案。

检索召回

召回这块,按照搜索的操作,就是拿着我们提取的槽位和实体,甚至是我们解析的向量和矩阵,根据意图和话题放到搜索引擎里面去检索,搜索引擎中有倒排索引,直接拿着关键词就能找到对应的内容。

然而,问题其实不在怎么检索召回,而是在于召回的内容怎么来。相比搜索引擎,对话系统的内容可能更加不结构化,同时可得性由于特定需求其实并不好得,例如淘宝的客服,每家店的商品性质各不相同,很难需要召回的结果,有正确答案的就更难了,所以,常用的方式有这几种:

对高频问题进行编辑,然后统一维护管理。数白了就是人编。

基于一些模板进行组装生成。

利用文本生成的方式进行处理。

相似度排序

一般地,根据用户最简单的query,往往能召回很多可能比较好的答案,此时我们要选择最优的给用户。衡量最优的标准之一就是相似度,语义相似度就是最为经典或者说基本的相似度衡量方式,当然搜索领域的ctr(不是点击率)、cqr、BM25等,这些非常基本的元素。

对经典的语义相似度,就要说2013年的DSSM了,这个模型可谓是开了语义相似度双塔结构的先河。

优缺点和应用场景

说完了具体的流程,然后再说说检索式对话的优点和应用场景。

先谈谈优点吧。

应该是这么多种对话实现方式中对样本依赖最低的。

实现成本低,初版本实现速度快,后续拓展

三段处理,可控性强。

因为这些优点,检索式对话在工程上被广泛应用。

客服机器人。尤其是淘宝的场景,这里有非常专业的内容,例如用户会问浴缸的长宽高,会问电脑的配置等等,这些用检索式非常方便。

问答类对话。例如小猿搜题之类的,还有一些百科类的问答,虽然不知道具体公司的操作,但是用检索式的确会非常方便。

对话系统初版本。即使是很多开放域,第一版本的构造都会尝试检索式对话的架构。

当然了,检索式对话这套实现方案还是有很大的局限性,因此才会有很多项目尝试做一些别的做法,先聊聊缺点:

答案相对固定,灵活性不足,在一些闲聊场景,会非常困难。如,用户问一句,你好,后面有很多答案都是合理的。

任务型的对话,在各种语音助手,小度、siri之类的很常见,一些引导用户完成任务的工作,对话机器人是需要做一个主动带节奏的角色,检索式基本办不到。

多轮对话。在检索式对话基础上,单轮对话升级为多轮对话其实是存在明显的天花板,成本也比较高,虽然已经有一些相关的操作,如Multi-view、SMN之类的,但是实现的难度还是会有些高。

小结

小结一下,检索式对话作为对话系统一个经典的技术,非常有必要学习和探究,今天大概讲了一些流程和概述,也希望大家有所收获。

责任编辑:xj

原文标题:【对话】对话系统经典:检索式对话

文章出处:【微信公众号:深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • nlp
    nlp
    +关注

    关注

    1

    文章

    487

    浏览量

    22006
  • 对话系统
    +关注

    关注

    0

    文章

    7

    浏览量

    2180

原文标题:【对话】对话系统经典:检索式对话

文章出处:【微信号:zenRRan,微信公众号:深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    一杆有AI的路灯:感知环境监测路况还能“对话”无人驾驶AI灯杆屏

    一杆有AI的路灯:感知环境监测路况还能“对话”无人驾驶AI灯杆屏
    的头像 发表于 11-15 09:45 217次阅读
    一杆有AI的路灯:感知环境监测路况还能“<b class='flag-5'>对话</b>”无人驾驶AI灯杆屏

    AI对话魔法 Prompt Engineering 探索指南

    Engineering 就是设计和优化与AI对话的“提示词”或“指令”,让AI能准确理解并提供有用的回应。 Prompt Engineering 主要包括以下几个方面: 1.明确目标:希望AI完成什么任务。例如:写一篇文章,回答一个问题,进行一次对话? 2.设计提示词:
    的头像 发表于 11-07 10:11 677次阅读
    AI<b class='flag-5'>对话</b>魔法 Prompt Engineering 探索指南

    ChatGPT:为未来的个人和企业提供革命性的对话解决方案

    和准确性。6.增强用户体验:ChatGPT可以为个人和企业提供更好的用户体验,通过交互对话提供个性化的建议、指导和支持。7.自动化客服:ChatGPT可以被用于自动化客服系统,为用户提供即时响应
    的头像 发表于 11-01 11:12 113次阅读
    ChatGPT:为未来的个人和企业提供革命性的<b class='flag-5'>对话</b>解决方案

    商汤日日新·商量-拟人大模型带你对话未来,感受真实

    对此,专注于“拟人对话”领域的商量-拟人大模型(SenseChat-Character)应运而生,通过实现精准人设展现以及具有沉浸感的交互,让智能体更像栩栩如生的人。
    的头像 发表于 09-18 15:57 443次阅读

    软件系统的数据检索设计

    软件系统的数据检索设计 随着业务量加大,数据检索量也会日益增多,为了减轻数据库压力,本系统采用ElasticSearch来实现数据
    的头像 发表于 08-22 14:08 226次阅读
    软件<b class='flag-5'>系统</b>的数据<b class='flag-5'>检索</b>设计

    定时关闭对话

    发一个项目上用的定时对话
    发表于 06-07 10:07

    中美首次人工智能政府间对话在瑞士日内瓦召开

    据外交部美大司官方微博“宽广太平洋”发布,中国与美国之间的人工智能政府间对话首次会议于2024年5月14日在瑞士日内瓦召开。
    的头像 发表于 05-15 09:20 330次阅读

    润和软件与新财富联合发布金融AI对话搜索引擎“金融搜一搜”产品

    3月29日,新财富投顾嘉年华活动中,江苏润和软件股份有限公司(以下简称“润和软件”)与深圳市新财富数字科技有限责任公司(以下简称“新财富”)联合发布了金融AI对话搜索引擎——“金融搜一搜”产品,助力金融投资场景智能化升级。
    的头像 发表于 04-02 10:15 451次阅读
    润和软件与新财富联合发布金融AI<b class='flag-5'>对话</b><b class='flag-5'>式</b>搜索引擎“金融搜一搜”产品

    百度地图AI向导用户破亿,日均提供超千万次对话

    百度地图AI向导用户破亿,日均提供超千万次对话
    的头像 发表于 03-21 09:44 373次阅读
    百度地图AI向导用户破亿,日均提供超千万次<b class='flag-5'>对话</b>

    育碧发布全新生成AI原型:NPC以自发行为展开对话

    近日,育碧巴黎工作室推出了一款名为 NEON NPC 的全新 AI 原型项目。借助 NVIDIA 的 Audio2Face 及 InWorld 的 LLM 大语言模型技术,NPC可以根据角色设定自发生成对话
    的头像 发表于 03-20 10:17 403次阅读

    用于对话AI的高性能MEMS麦克风,助力改进用户体验

    对话人工智能(AI)是一个快速发展的机器学习(ML)领域,旨在使人机交互更加自然直观。
    的头像 发表于 03-12 09:44 790次阅读
    用于<b class='flag-5'>对话</b><b class='flag-5'>式</b>AI的高性能MEMS麦克风,助力改进用户体验

    鸿蒙开发实战-手写文心一言AI对话APP

    本文我们学习使用了基本组件的使用,网络请求以及状态管理,使用了ForEach循环渲染来构建对话界面。并且在HarmonyOS设备上成功运行
    的头像 发表于 01-24 18:02 990次阅读
    鸿蒙开发实战-手写文心一言AI<b class='flag-5'>对话</b>APP

    西门子博途中启用类型版本对话

    对话框中,版本号在最后一个位置自动递增。这样可以识别字段中的更改。
    的头像 发表于 01-18 10:49 728次阅读
    西门子博途中启用类型版本<b class='flag-5'>对话</b>框

    GUI高级组件对话框代码

    简单输入对话框 simpledialog(简单对话框)包含如下常用函数: 实操代码 """简单对话框""" from tkinter.simpledialog import *root = Tk
    的头像 发表于 11-26 17:05 865次阅读
    GUI高级组件<b class='flag-5'>对话</b>框代码

    GUI图形界面编程文件对话

    文件对话框 文件对话框帮助我们实现可视化的操作目录、操作文件. 将文件、目录的信息传入到程序中 文件对话框包含如下一些常用函数 命名参数 options 的常见值如下: 实操代码——文
    的头像 发表于 11-26 16:58 825次阅读
    GUI图形界面编程文件<b class='flag-5'>对话</b>框