容联云发布赤兔大模型，一次由内而外的自我重塑-电子发烧友网

就在上周，行业大模型队伍再添一员。

7月8日，在2023世界人工智能大会上，容联云举办了以“数智进化、越级向上”为主题的“生成式营销服务与大模型”论坛。

论坛现场，容联云正式发布面向企业应用的垂直行业多层次大语言模型“赤兔大模型”，并发布容联云“生成式智能营销服一体化工作空间——机器猫”和“生成式一体化智能客服平台”，推动企业营销和服务数智化转型。

作为云通讯领域的老兵，容联云很早就开始探索智能化道路：2017年，容联云发布了语音+文本机器人，此后也持续在人工智能技术上进行产品和解决方案的产业落地探索；2021年，容联云收购客户关系管理软件服务商过河兵科技和数据智能服务商诸葛智能。

此后，容联云形成“通讯+数据+智能”的技术底座。“通讯建立沟通的物理通路，触达客户，各种各样的数据在通讯过程中传递，我们可以基于这些数据来训练模型，进行智能化探索，从而形成内部的技术闭环。”容联云AI研究院院长刘杰解释道。

然而，由于技术不成熟，基于传统NLP技术的人工智能沟通技巧十分拙劣，常被用户调侃为“人工智障”。而大模型的出现，让人工智能和人类的交互过程真正有了“灵光乍现”的瞬间，智能客服、智能营销等领域也迎来了全新的时代。

「甲子光年」与一众媒体共同采访了容联云COO熊谢刚与容联云AI研究院院长刘杰，试图拆解赤兔大模型的专业性与商业化落地能力，并交流了容联云对国内大模型市场的思考。

1.赤兔大模型：“更懂行”的大模型

ChatGPT发布前，容联云就在尝试探索AIGC技术。ChatGPT发布后，容联云内部便按下了AIGC的加速键。

容联云联合原有的存量客户共同尝试用ChatGPT回答各个场景的问题。他们惊讶地发现，GPT大模型几乎能替代传统客服40%的工作量。长远来看，大模型将赋予智能客服行业全新的生命力。

早年间，基于传统NLP技术的智能客服常因沟通能力不足被人调侃为“人工智障”。“技术挑战通常来自于认知层面。”刘杰表示。

刘杰认为，传统AI能力在会话洞察上会面临很多问题。“传统模型由于模型规模和技术的约束，会面临知识缺失、语义偏差等问题，进而导致我们在人工数据上投入很多运营成本，从而加大了我们的投入成本和开发周期。”刘杰表示。

针对上述问题，通用大模型表现出超过传统模型的处理能力。但刘杰清晰地意识到，通用的AI大模型并不能解决所有问题。

他表示，AI大模型有很多能力，但是并没有覆盖所有能力。尤其在企业的具体场景中，有一些特定的应用能力需求，能否将模型能力进行场景化、应用化适配，是通用大模型走向实际应用落地的重要挑战。例如，在内容可控性方面，企业服务场景大多要求内容严肃、严谨，对内容合规和信息准确性有很高要求，而大模型是基于大量知识开放式生成内容，如何让二者需求匹配便是很大的挑战。

此外，部署通用大模型需要投入大量成本，“我们能不能让大模型在to B场景下实现规模化、合理化、务实化地落地也是非常重要的挑战”。

针对上述问题，容联云招兵买马，将技术团队注入新鲜血液，用半年时间推出了“赤兔大模型”。

容联云将大模型命名为“赤兔”颇有深意。“首先，赤兔是一匹马，古人骑马送信，使马肩负了传递信息，促进沟通的重要职能；其次，赤兔是一匹很强的马，符合容联云对大模型的定位和预期；第三，赤兔是懂业务的马，是垂直领域、面向战场作战的战马，服务了很多领域的‘头部客户’，如吕布、关羽。”刘杰解释道。

赤兔大模型采用多层次设计思路——首先构建通用模型，通过开源和公开数据获得通用知识和基础能力；其次收集高质量的领域数据构建领域模型，以解决特定领域的问题；在业务逻辑和流程上提供智能化服务时，基于业务数据和知识构建高质量的业务模型。

据刘杰介绍，不同层次的模型会配置不同的参数规模，在实际落地场景中，更多是用十亿级参数规模的模型来完成服务。

赤兔大模型有四大核心能力——懂交流、会分析、有知识、能执行。

懂交流：在沟通智能2.0的目标下，赤兔大模型能够进行多维度、细粒度的理解和分析，更动态化地理解客户同时做更好的内容生成和生产。

会分析：赤兔大模型能够在客服、营销场景下对问题进行更高维度的分析、处理，做更深层次的知识辅助。

有知识：除模型预训练阶段纳入的通用知识外，模型外部还有很多动态化、业务化的知识，赤兔大模型则能灵活运用外部知识做一些深度的分析和决策。

能执行：传统AI主要通过应答、对话提供信息反馈，赤兔大模型则能借助外部系统的调用，执行特定动作，自主决定需要调用哪些能力，执行哪些动作，从而相对自动地完成任务。

据刘杰介绍，沟通智能已经进入2.0时代，在赤兔大模型加持下，沟通智能2.0将在AI基础能力、会话分析洞察、对话能力、人机协同四个方面有大幅提升。

AI基础能力方面，智能客服依赖的上下文意图、情感识别、实体识别、信息抽取、相似问生成等能力均可通过AI大模型替换或做能力补充；

会话分析洞察方面，AI大模型可对沟通记录进行质检标记、主动分析座席工作行为，自动生成最佳实践SOP，极大挖掘呼叫中心大量会话信息的潜在价值；

对话能力方面，基于赤兔大模型丰富的参数和强大的内容生成能力，能够支持智能客服实现更加个性化的问答回复；

人机协同方面，企业可以利用大模型做AI助手的工程化设计，从坐席话务前中后不同环节辅助陪伴坐席更好、更高效的完成业务。

基于赤兔大模型，容联云的智能体系实现了单点能力的升级、新增以及整个业务逻辑的重构。

2.以业务应用为主导用大模型把产品重做一遍

如今，以赤兔大模型为底座，容联云已经延伸出两大业务平台——生成式智能营销服一体化工作空间“机器猫”以及生成式一体化智能客服平台。

论坛上，在刘杰发布赤兔大模型之后，容联云COO熊谢刚紧接着发布了生成式智能营销服一体化工作空间“机器猫”，这是容联云基于赤兔大模型构建的生成式智能“泛服务”应用。

“泛服务”是容联云提出的适用于大模型时代的新理念。

熊谢刚进一步解释了“泛服务”的概念：“假设一个环境有足够的算力，我们就可以尝试在3-6个月内，把一个企业，乃至一个产业所有相关数据用来训练大模型。如果这个训练成果足够强大，就能够形成一个一体化工作空间——对外可以应用到所有客户的服务营销场景中，对内可覆盖内部员工的各种服务、运营流程。”

基于泛服务理念，容联云在赤兔大模型上打造了生成式智能营销服一体化工作空间“机器猫”。目前，容联云“机器猫”平台提供的生成式智能应用已首批落地四大应用场景——在客户联络方面，区别于传统纯人工方式和NLP机器人解决部分服务场景，大模型机器人可解决大部分服务场景，同时进一步降低机器人维护成本和客服数量，用户体验提升60%；

在业务协作方面，通过赤兔大模型提供更加智能高效的灵活集成、生成式策略推荐、智能填单、智能分配、智能标签提取等能力，进一步降低AI运营成本，降低客服服务时长和客诉数量，提升坐席效率；

在AI辅助方面，生成式智能应用赋能下的AI辅助，不再是CC的附加工具，而真正高效帮助企业解决管理难题，实现销售业绩提升；

在智能洞察方面，基于诸葛智能，“机器猫”平台可为用户提供各种分析模型、行业指标体系问询，也可以提供实践、经验分析，帮助企业快速成长为分析专家，对于数据报表与指标、用户标签与画像等分析结果，用户可以通过语音、文字等多种方式进行问答，并得到快速反馈，还可通过语音等驱动进行报表定制。

会上，容联云数字智能云事业群运营总经理王春生还发布了生成式一体化智能客服平台。

据王春生介绍，当前智能客服从AI 1.0时代进入AI 2.0时代。基于赤兔大模型，容联云生成式一体化智能客服平台可以将知识生产效率提升70%，对话构建成本下降80%，100%提升客户服务效率，并为客服人员提供文档智能问答/抽取、用户语料/业务话术/流程类方案建议自动生成、销售优秀话术自动提炼等能力。

不难看出，对于“如何拥抱大模型时代”这个问题，容联云已经有了系统性思考，并交出了一份答卷——以业务应用为导向，用大模型重构原有的产品体系。

3.专注金融，把金融行业做深，做透

在落地行业的选择上，容联云并没有“面面俱到”，而是专注金融，把金融行业做深，做透。

选择金融，更多是出于数据质量层面的考虑。熊谢刚解释道：“航天、法律、金融行业都比较适合做大模型，这些行业的数据很严谨，语料中没有调侃的话语和歧义。”

而专注金融，则是源于容联云想要扎实做业务以及对客户负责的本心。

“有很多东西需要跟客户一起做，我们认为最终还是要先把一个行业吃透，把所有关键环节经历一遍，才知道在实际应用过程中，大模型擅长和不擅长的地方。另外，to B市场有很强的行业属性，我们也不想很多东西都没搞清楚的情况下就到处布局。”熊谢刚表示。

目前，赤兔大模型主要支持私有化部署。容联云已经挑选了三家标杆性客户进行联合共创，每家客户都派了一个团队进去，和客户一起做大模型之下的行业应用、产品迭代和更新。

尽管如此，在真正落地的过程中，容联云依然需要面临五花八门的疑难杂症。

“在一些客户的敏感业务，比如交易类业务；或对用户体验要求极高的，例如投诉类业务，都对模型服务的精准性有更高要求，这就拉高了我们前期投入的门槛，要把每个场景做得更完整。”熊谢刚分享道。

在这些疑难杂症背后，是容联云当前正面临的两大核心难题。

首先，是大模型“泛服务”的能力边界在哪？当后台大脑越来越强，在专业领域表现越来越好时，对于企业内部的敏感、隐私数据，如何让模型在可控范围内服务客户，将数据安全隐患降到最低？

其次，大模型的核心价值究竟是什么？“IPhone 4作为划时代产品，它的价值并不是淘汰了传统手机，而是它真正带来了移动互联网应用的爆发。今天我们做大模型也是一样，我们不能只看它如何改变了过去，更要关注大模型能够创造哪些新的应用。”熊谢刚表示。