0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

金融业需要的大模型,是一个系统化工程

脑极体 来源:脑极体 作者:脑极体 2023-09-21 09:14 次阅读

今年年初,在AIGC刚刚开始爆火的时候,我们曾经采访过一位AI领域的专家。当我们提问哪个行业将率先落地大模型时,他毫不犹豫地说道:“金融。”

金融行业场景多、数据多、知识多,这样的“三多”特点让其成为AI大模型发挥价值的天选。与此同时,金融场景专业度高,业务复杂,在风控、安全、效率等方面有着严格的要求,初出茅庐的大模型,短期内融入金融行业并不容易。

金融与大模型的距离,理论上很近,实践中很远。如何跨越大模型规模商用的鸿沟?在华为眼中,答案在于,需要完成一场懂技术、懂行业的系统化工程建设。

9月20日,华为全联接大会2023第一天,以“智领睿变,共建数智金融未来”为主题的金融峰会,吸引了来自全球超过700多位金融行业客户与伙伴,他们共同探讨了如何拥抱大模型机遇,如何加速金融行业数字化、智能化升级。

wKgaomUK0XuAeYbvAACJKpJxzqQ405.jpg

华为数字金融军团CEO曹冲表示,Transformer的成熟应用,让我们迎来了大模型时代,也让AI来到了新拐点。AI生产力将会无处不在,重塑整个数字金融行业。面向未来,金融机构应用大模型的能力,将成为关键生产力。

金融大模型,并不是把大模型交给金融机构就可以,而是需要站在金融行业的立场上,逐层从基础设施、模型算法,向场景化应用、软件开发修筑起一座大厦。

这项系统化工程,就是金融与大模型相遇时所需的答案。

金融大模型,不是空中楼阁

可以这么说,大模型为金融行业带来的价值,将不亚于移动互联网技术的出现与成熟。

在银行前台,大模型可以作为智能客服,提升网点业务人员工作效率;在银行业务中台,大模型的分析能力可以作为投研投顾,提升信贷准确性;在业务后台,大模型可以提升风控能力,降低投资风险。大模型近乎可以贯穿金融业的全流程、全任务,从而通过各个端点生产力的释放,实现重塑金融行业的生产关系。

以某国际银行为例,规模化应用生成式AI释放显著的降本增效收益,在技术部署的第一年就能够实现1.5亿美元的降本。观察这家银行使用AI大模型的情况,会发现大模型在市场销售、精准获客、风控、信贷等多方面都发挥出巨大价值。

大模型对于金融业如此重要,但有一个问题需要注意:大模型不是空中楼阁。金融机构并不能无缝应用通用大模型技术。

金融机构间的数字化能力参差不齐,对大模型的需求各不相同,加上金融行业普遍对数字化效率、安全、风控等方面有着苛刻的要求。因此在接纳大模型前,金融行业还面对一系列挑战,比如说:

1.大模型与行业的适配度低,多通用知识,少专业技能,而金融业又高度依赖专业技能与术语体系,因此通用大模型能力有限。

2.目前大模型处在初始阶段,金融用户往往缺乏场景作为牵引,容易陷入引进大模型却不会用、不好用的境地。

3.大模型需要海量的数据治理、数据清洗等工作,而金融业数据量庞大,数据管理难度大,因此带来了数据负担加重,应用开发难度增大的问题。

4.大模型的数据参数与模型规模,考验着用户的存、算、网基础设施。基础设施不适配,将无法发挥出大模型应用的效果。

这样来看,金融业对大模型的需求既包含模型本身,更涉及模型之外。为了让大模型发挥出应用的效果,金融用户需要对基础设施架构进行升级,需要对各个场景进行设计和改善。

因此,金融大模型并不是简单的模型精调,而必须是一个面向金融智能化长期发展的整体性工程。

华为在全联接大会2023上,给出了答案。

下铺基础设施,上设场景,中通行业:“顶天立地”的金融大模型

金融大模型的系统性建设,应该是什么样的?

我们打个比方,大模型是一个房间,但这个房间不能单独存在,它需要上有屋顶,下有地基,中有门窗。对于金融大模型来说,地基就是要有与其适配的基础设施建设,屋顶就是要有场景化方案作为应用牵引,中间的门窗就是要通向行业,打通大模型通用性与金融行业专业性之间的界限。

扎扎实实打好基础设施的地基,铺设好金融智能化场景的屋顶,开好大模型与金融业特性间的门窗,从而让金融大模型“顶天立地”——这就是华为推进大模型走入金融行业的系统和建设方案。

今年6月,华为发布了面向金融行业的“小蛮腰”解决方案。面对汹涌而来的金融大模型需求,华为对“小蛮腰”进行全面的智能升级,专注大模型在金融行业的落地,全面开启AIGC在金融场景的加速,其中具体包括:

1.以高效互联的AI算力,构建大模型智能底座,升级智简韧性的基础设施。

2.将大模型融入经营决策与应用现代化,增强智慧业务引擎。

3.通过大模型全面升级客户联接,打造智能交互。

4.在产业金融等场景侧,以大模型配合端云协同,构建无处不智的金融服务。

在这样的解决方案升级牵引下,华为打造了金融大模型三层解决方案,其中首次发布3大类10个应用场景、盘古金融大模型和大模型智能底座,系统性建设了一座金融智能化的大厦。

wKgaomUK0XyAXkmCAAB8vLDZXN8338.jpg

其中,在相当于房屋地基的基础设施层,华为整合了ICT软硬件产品组合优势,构建“算网存云”协同的智能底座方案,从高性能集群训练、高可靠模型保护、高效绿色节能三个方面,为大模型提供澎湃算力。通过高速集群互联架构,将token处理时延降低至100ms以内;通过计算与存储协同,将训练中断时间从天缩短到分钟级,实现月级稳定训练;通过全液冷集群和多租户资源共享,将网络能效比从0.1提升到0.5 PFLOPS/KW。

wKgZomUK0X2ABye8AACAhTJl1yc487.jpg

在能够对大模型发展起到引导、推进作用的场景应用层,华为围绕创新生产力,首次推出AI for Data、AI for Business、AI for IT三大类10个应用场景。其中包括智能客服、信贷报告生成、智能数据分析、智能编程助手等,并且提供模型微调、数据工程、应用开发、安全工程等系列工程化套件,联合数据标注、模型调优、应用开发等伙伴,构建丰富的大模型生态体系。目前,这10个应用场景都已经和头部金融机构实现了合作落地。

wKgaomUK0X2ARmuAAAB4-Af0odo459.jpg

在最受外界期待的模型层,华为带来了与金融行业需求与特性真正打通的盘古金融大模型。华为在7月7日发布了盘古系列大模型,从L0自主构建基础大模型,沉淀100多种模型能力,比如NLP重点投入思维链、长序列等基础能力,在同样的数据浇灌下,能训练出更“聪明”的模型。

从基础大模型,走向金融大模型,还需要专业知识和行业规则的浇灌。华为在盘古大模型基础上,加强了金融知识、技能,打造盘古金融大模型。在金融知识方面,注入五大类金融数据、千亿级金融Tokens;在金融技能方面,与客户和伙伴共创,构建了数千个细分应用场景模板;融合100多个行业标准、规范的知识库,让大模型更专业;在安全方面,构建了数据安全、模型安全、内容安全等全流程的合规能力,支撑模型的可信。

下有先进的以存、算、网基础设施为支撑,上有场景应用为导向,中间有深度理解金融行业专业性的大模型。这样的体系化工程与全栈能力,正是华为在金融大模型赛道上的核心优势。这也是为什么中国Top20银行中,已有1/2选择了华为的AI软硬件平台。

很多金融机构都在探索大模型的使用,华为通过自身的技术能力和积极的生态合作,努力去解决一个个问题,让金融机构面对大模型实现会用、好用、有用。

全面升级分布式3.0,发布金融PaaS能力

大模型是金融智能化的基础,而想让大模型充分发挥价值,必须将其与应用现代化紧密结合。未来,大模型将带来多样化、高效率的业务创新可能。这种情况下帮助软件敏捷开发、业务快速迭代,以及缩小爆炸半径,确保数字系统高性能、高可用的现代化应用能力,将成为金融机构的核心竞争力。

为此,华为希望将自身积累的软件开发与PaaS能力贡献给金融客户,帮助金融行业完成面向未来的现代化应用成长。在今年6月,华为金融军团提出了“平台+服务”模式是金融走向商业敏捷的关键,应用现代化是必经之路。为了满足金融应用现代化与大模型发展的正向循环,华为金融军团进一步提出了“平台+服务+AI”模式。

wKgZomUK0X6AQhL-AAB1b9OxZak254.jpg

推动包括金融核心系统在内的全面应用现代化,在应用韧性、架构、开发、交付、运维落地方面进行5维升级,为金融行业提供可用、好用的智能+PaaS能力。在HC2023期间,华为全面升级了分布式核心解决方案3.0,发布金融级PaaS能力,其能够以V模型驱动的服务化架构设计,高低代码结合的智能开发、单元化运行、智能化运维、Serverless化部署,帮助客户通过核心升级,构筑业务价值。

在运行态,华为结合产业实践打造全栈单元化、混沌工程,支持金融客户构建5个9的高可用。基于华为消费者云3亿用户多年沉淀的中间件,分布式事务处理支撑万级TPS。

在开发态,凭借华为30年的研发管理经验,打造出CodeArts软开流水线,工程构建效率10倍提升。通过盘古大模型构建CodeArts Snap代码助手,研发效能提升30%以上。

金融大模型的成功,需要系统化的成功

总结华为在金融大模型领域的独特价值,会发现华为一如既往,成为了技术世界与产业世界的联接器,基础设施与行业应用之间的架桥人。

wKgaomUK0X-AeZj2AABkAWoY6fM448.jpg

华为并不仅仅关注将一个大模型送到金融客户手中,并且还关注金融客户的长期智能化发展目标,考虑如何将大模型真正融入到金融业智能化的整体蓝图中。

金融大模型的成功,需要的是系统化的成功。秉持这样的思路,华为带给金融客户的价值显得更加长远,也更加体现出站在金融行业思考金融问题的产业厚度。

这样的差异化,也体现在全联接大会2023期间的一系列动作上。比如大会期间,华为发布了《迈向智能世界》系列白皮书,涵盖10大产业和行业篇章。针对智能化时代金融行业面临的严峻挑战,以“智领睿变,共建数智金融未来”为主题,华为提出了对未来金融数字化、智能化转型升级的趋势和展望。不难看出,华为关注的不仅是此刻火热的金融加大模型话题,更有面向未来的智能金融之路。

同时,在华为全联接大会2023期间,华为还携手北京金融科技产业联盟、银行客户及合作伙伴共同发布了《区域银行数据能力体系建设白皮书》。期间,分析了数字化发展相对滞后的区域银行如何升级能力,顺应智能浪潮。从中可见,华为考虑着金融行业的整体性与实在性,而不是仅仅着眼于短期利益和头部客户。

在基础设施支持、金融大模型赋能、应用现代化升级等能力构成的系统性方案下,华为正帮助金融大模型由设想变成现实。截至目前,华为在全球已经服务了3300家金融客户,在全球Top100的银行中,有53家选择与华为合作。

或许可以说,金融机构选择华为,就是选择了大模型的系统化工程,选择了一条风物长宜放眼量的未来之路。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 华为
    +关注

    关注

    215

    文章

    34308

    浏览量

    251189
  • AI
    AI
    +关注

    关注

    87

    文章

    30146

    浏览量

    268421
  • 大模型
    +关注

    关注

    2

    文章

    2328

    浏览量

    2485
  • 盘古大模型
    +关注

    关注

    1

    文章

    109

    浏览量

    242
收藏 人收藏

    评论

    相关推荐

    从零开始训练大语言模型需要投资多少钱?

    ,前言   在AI领域,训练大型语言模型(LLM)是耗时且复杂的过程。几乎每个做大型语
    的头像 发表于 11-08 14:15 146次阅读
    从零开始训练<b class='flag-5'>一</b><b class='flag-5'>个</b>大语言<b class='flag-5'>模型</b><b class='flag-5'>需要</b>投资多少钱?

    浪潮信息:元脑企智EPAI助力金融模型快速落地

    近日,2024金融科技应用创新发展大会暨农村金融机构信息化发展创新座谈会在上海举办。浪潮信息推出元脑企智EPAI企业大模型开发平台,面向金融业务场景,实现7天完成POC验证、2
    的头像 发表于 09-20 16:07 308次阅读
    浪潮信息:元脑企智EPAI助力<b class='flag-5'>金融</b>大<b class='flag-5'>模型</b>快速落地

    飞腾智算底座亮相2024中国国际金融

    近日,2024 中国国际金融展在北京国家会议中心正式开幕,本届金融展以 “数字金融引领未来 守正创新共筑金融新生态” 为主题,紧扣金融业深度
    的头像 发表于 07-22 09:55 463次阅读

    【大语言模型:原理与工程实践】大语言模型的应用

    类任务上表现出色,甚至在零样本条件下也能取得良好效果。另类则需要逐步推理才能完成的任务,类似于人类的系统2,如数字推理等。然而,随着参数量的增加,大语言模型在这类任务上并未出现质的飞
    发表于 05-07 17:21

    【大语言模型:原理与工程实践】大语言模型的评测

    安全性的评测则关注模型在强化学习阶段的表现。行业模型的评测则针对特定行业的能力,如金融和法律等领域。整体能力的评测从宏观角度评估模型作为
    发表于 05-07 17:12

    中软国际金融业AIGC解决方案,开启金融数智化新篇章

    近日,在某大型外资银行主办的信息技术创新竞赛中, 中软国际金融业务集团产品与技术服务业务线专家张利受邀通过Webinar分享了中软国际在金融行业AIGC应用领域的建设思路和赋能案例。
    的头像 发表于 04-30 09:32 578次阅读
    中软国际<b class='flag-5'>金融业</b>AIGC解决方案,开启<b class='flag-5'>金融</b>数智化新篇章

    工业大模型的五基本问题

    工业业大模型是大模型为赋能工业应用所产生的产业新形态,是制造数字化转型3.0的重要载体,是新质体。
    发表于 04-23 16:04 661次阅读
    工业大<b class='flag-5'>模型</b>的五<b class='flag-5'>个</b>基本问题

    中软国际金融业务集团携金融业信创与智能解决方案精彩亮相2024华为中国合作伙伴大会

    “因聚而生,数智有为”,2024华为中国合作伙伴大会于3月14日-15日在深圳盛大举行,中软国际金融业务集团携金融业信创与智能解决方案精彩亮相。
    的头像 发表于 03-17 09:42 1037次阅读
    中软国际<b class='flag-5'>金融业</b>务集团携<b class='flag-5'>金融业</b>信创与智能解决方案精彩亮相2024华为中国合作伙伴大会

    华为云盘古大模型通过金融模型标准符合性验证

    近日,在中国信通院组织的可信AI大模型标准符合性验证中,华为云的盘古大模型表现出色,成功通过了金融模型标准的符合性验证,并荣获优秀级(4+级)评分。此评级不仅是本次
    的头像 发表于 03-05 10:12 599次阅读

    智慧安全用电产品在金融业的应用与分析

    综合治理。 【关键词】:金融业;智能微型断路器;智慧用电在线监控装置;故障电弧探测器。 前言 2017年4月26日,国务院安全生产委员会印发《国务院安全生产委员会关于开展电气火灾综合治理工作的通知》(安委〔2017〕4号),强调
    的头像 发表于 02-02 14:23 247次阅读
    智慧安全用电产品在<b class='flag-5'>金融业</b>的应用与分析

    浪潮云海刘健:可演进的IT云敏捷支撑金融行业数字化转型

    转型的加速,科技金融的发展,金融数据中心IT基础设施建设模式也引申出了新的要求。以云原生、自主云基础设施为内涵的IT云建设理念,为新金融业模型支撑体系建设,提供了新思路。 北京202
    的头像 发表于 12-29 18:09 3631次阅读
    浪潮云海刘健:可演进的IT云敏捷支撑<b class='flag-5'>金融</b>行业数字化转型

    金融服务急需数据层改造

    金融服务越来越注重实时互动体验,重构关键业务流程,从数据层入手该怎么做?文章速览:数字化转型正在颠覆银行与金融业金融服务的未来RedisEnterprise赋能实时金融应用
    的头像 发表于 12-23 08:04 776次阅读
    <b class='flag-5'>金融</b>服务急需数据层改造

    金融行业开源技术应用社区(FINOC)闭门会议成功召开

    目前,金融业正在经历数字化转型,开源技术作为这转型的推动力,在行业中应用愈加广泛、深入。
    的头像 发表于 12-22 17:09 722次阅读
    <b class='flag-5'>金融</b>行业开源技术应用社区(FINOC)闭门会议成功召开

    荣誉资质| 润和软件旗下捷科智诚体化智能测试服务平台荣获“2023中国金融业软件测试成果交流会推荐优秀

    2023年12月13日,由中国金融杂志社、中信银行股份有限公司联合主办的“2023中国金融业软件测试成果交流会”在北京召开。本次会议以“新业态下金融软件测试领域发展趋势”为中心内容,聚焦国家
    的头像 发表于 12-19 15:55 922次阅读
    荣誉资质| 润和软件旗下捷科智诚<b class='flag-5'>一</b>体化智能测试服务平台荣获“2023中国<b class='flag-5'>金融业</b>软件测试成果交流会推荐优秀

    AI引领智能工程变革|软通动力协办第八届中国金融业软件测试成果交流会

    12月13日,由中国金融杂志社、中信银行股份有限公司联合主办,《中国金融》《金融博览》《金融博览·财富》杂志承办的“2023金融业软件测试成
    的头像 发表于 12-16 16:15 305次阅读