0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

度小满,让“推理大模型”走向金融核心业务

脑极体 来源:脑极体 作者:脑极体 2024-10-31 09:06 次阅读
wKgaoWciVt2AQ6cYAAkUlcn4flA446.jpg

最近一段时间,AI领域被谈及最多的关键词是“推理大模型”。

今年9月,OpenAI发布了o1大模型,这种具有“慢思考”能力的大模型最大特点是能够推理复杂的任务,可以解决科学、编程、数学等领域更为复杂的问题。它的出现,让推理大模型成为AI发展进程中的全新可能性,业界普遍好奇它能够带来怎样的价值,最适合在怎样的场景落地。

10月28日,2024年香港金融科技周在香港亚洲国际博览馆开幕。从讨论内容上看,“大模型在金融行业的应用”毫无疑问是本届科技周最受关注的话题,将推理大模型带到金融行业则是热点中的热点。

wKgZoWciVt6AXrz-AASjcgxDvUg921.jpg

(度小满CEO朱光在2024香港金融科技周主论坛上发言)

度小满CEO朱光2024香港金融科技周主论坛上表示,“以o1推理大模型为代表的新一波生成式AI技术在金融领域的应用,将从外围场景深入到核心业务,直接影响金融行业的核心决策质量,在为客户的产品和服务体验上带来巨大突破的同时,将会重塑金融科技行业”。

我们可以从度小满的思考和实践出发,去看看“慢思考”如何触发金融智能化的新一轮变革。

wKgaoWciVt6ACv6mAAGX4p_WXMI910.jpg

事实上,OpenAI的“草莓”模型在业界风传已久。此前很多人认为它将是GPT家族的最新一员,而在9月13日正式发布后大家发现,OpenAI 将o1列为一个全新的模型系列。

之所以如此重视,是因为o1所代表的推理大模型,打开了一种与以往大模型不同的全新运作机理,同时也取得了截然不同的效果。

o1大模型的思考模式,对应的是心理学家丹尼尔·卡尼曼(Daniel Kahneman)提出的逻辑系统。与占据95%的直觉系统不同,逻辑系统这种思考方式只占据人类思考系统的5%,特点是启动缓慢,耗时较长,但能够解决非常复杂的问题。日常生活里,我们往往只会在解数学题、科学思考、下棋、案件推理等环节中启动逻辑系统。

回到AI领域,如果说以往的AIGC能力大体属于直觉系统,特点是快速调用已有信息和数据,能够给出即时反馈与生成结果,但缺点是讹误多、幻觉强,且不能应对复杂的问题。那么o1大模型则有着更长的内部思维链,在生成结果前会进行复杂的逻辑推理,从而在物理、化学、数学等领域刷新了AI的上限。在一系列测试中,o1大模型都表现出了能媲美相关领域博士的专业思考水平。这些结果,让“推理大模型”成为AI进化的全新可能。

如果我们把“慢思考”看作一个全新的科技变量,哪些应用领域能充分发挥它蕴藏的价值呢?

需要详细理解数据,缜密分析,层层思考的金融行业,毫无疑问就是答案。

wKgaoWciVt-AVot5AAGd2-4-6bQ007.jpg

金融行业有着海量数据,以及包罗万象的数据应用场景,但如果从AI应用这些数据的层级来看,会发现较为明显的浅层与深层之分。

所谓的浅层AI应用,是指用大模型来补充和代替一些基础的金融服务,比如用智能客服来提升用户沟通效率,用AI文档助手来提升金融机构办公效率等。这些AI应用涉及的场景较为单一,也无需对数据进行深入分析和推理。朱光认为,这些应用可以替代一部分的人力,提升服务效率,降低金融机构的服务成本,但创造的核心价值并不显著。

而在金融行业的核心业务中,比如风控、信贷决策、投资决策等场景中,有着数据类型复杂,分析要素多样,推理需求严苛的特点,让AI大模型来驱动这些场景的智能化,是名副其实的深层AI应用。类似场景更加具有挑战,同时也会给金融智能化带来更加具有变革力的价值提升。

朱光认为,生成式AI技术要对一个行业带来巨大变革有两个前提,“一是必须让核心的客户体验发生巨大改变;二是必须对业务的核心决策产生影响。比如信贷业务,只有当大模型能够对客户的金融服务体验带来影响、对风险决策、经营决策这样的核心业务决策产生重大影响的时候,才真正释放出大模型的潜力”。

而具有慢思考能力的推理大模型,就很可能让这种设想变为现实。基于推理大模型,未来我们可以看到AI像专业审核员一样读征信报告、看账单流水,甚至能解读网络大数据,思考和捕捉数据之间的关联,并生成风险判断的依据和结论。这将让AI真正抵达金融的核心业务,甚至比人类交易员、分析师做得更好,突破金融行业的价值上限。

沿着推理大模型与金融行业结合的可能性,我们会发现一系列关键金融场景都可能迎来新的AI变革,比如说:

在风控领域,具备了风控知识与思考能力的推理大模型,可能会提升风控决策质量。

在投资领域,推理大模型可以挖掘高价值的因子,并优化投资算法

在保险领域,推理大模型可以根据用户需求进行个性化的产品设计,并做出是否承保的决策。

归纳这些可能性,会发现推理大模型的核心意义在于,它可能将AI在金融行业的应用范畴,从客服、文档助手等基础、单一场景,升级到风控、投资决策等复杂、高价值场景。

而让推理大模型的变量,成为金融智能化的新动力,还需要先驱企业的积极实践,以及整个行业的不断突破。

wKgZoWciVuWAFcgWAAGtnEbbjxs541.jpg

虽然“慢思考,强逻辑”的推理大模型,目前还处在非常具有前瞻性的新兴阶段,但依靠AI大模型几年以来的极速发展,以及中国金融智能化的长足进步,将推理大模型的新能力积极引入到金融行业,已经成为很多知名厂商正在进行研发和布局的战略高地。相信不久的将来,我们会看到“慢思考”给金融行业带来巨大的价值提升。

比如说,本次大会上朱光就分享了度小满用推理大模型在风控场景上所进行的一系列创新性探索。

其中,在信贷领域推理大模型可以通过分析客户的征信报告、银行流水,推理出客户的还款能力,最后给出是否审核通过的风控决策建议。这种探索正在不断验证推理大模型在金融核心业务中的价值可能性与可靠性,为金融智能化打开新的发展空间。

基于推理大模型,将金融行业的智能化升级从外围场景深入到核心业务。

风起时已经来临,重塑金融科技的机会,或许就在AI的下一次思考中。

wKgZoWciVuaAfV9HAAHlv48vyFo078.jpg
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30919

    浏览量

    269167
  • 金融科技
    +关注

    关注

    0

    文章

    60

    浏览量

    4005
  • 大模型
    +关注

    关注

    2

    文章

    2459

    浏览量

    2734
  • AI大模型
    +关注

    关注

    0

    文章

    316

    浏览量

    310
收藏 人收藏

    评论

    相关推荐

    如何开启Stable Diffusion WebUI模型推理部署

    如何开启Stable Diffusion WebUI模型推理部署
    的头像 发表于 12-11 20:13 108次阅读
    如何开启Stable Diffusion WebUI<b class='flag-5'>模型</b><b class='flag-5'>推理</b>部署

    阿里云开源推理模型QwQ

    近日,阿里云通义团队宣布推出全新AI推理模型QwQ-32B-Preview,并同步实现了开源。这一举措标志着阿里云在AI推理领域迈出了重要一步。 据评测数据显示,QwQ预览版本已具备研究生水平的科学
    的头像 发表于 11-29 11:30 560次阅读

    使用vLLM+OpenVINO加速大语言模型推理

    随着大语言模型的广泛应用,模型的计算需求大幅提升,带来推理时延高、资源消耗大等挑战。
    的头像 发表于 11-15 14:20 402次阅读
    使用vLLM+OpenVINO加速大语言<b class='flag-5'>模型</b><b class='flag-5'>推理</b>

    高效大模型推理综述

    模型推理的文献进行了全面的综述总结。首先分析了大模型推理效率低下的主要原因,即大模型参数规模、注意力计算操的二次复杂
    的头像 发表于 11-15 11:45 392次阅读
    高效大<b class='flag-5'>模型</b>的<b class='flag-5'>推理</b>综述

    FPGA和ASIC在大模型推理加速中的应用

    随着现在AI的快速发展,使用FPGA和ASIC进行推理加速的研究也越来越多,从目前的市场来说,有些公司已经有了专门做推理的ASIC,像Groq的LPU,专门针对大语言模型推理做了优化
    的头像 发表于 10-29 14:12 464次阅读
    FPGA和ASIC在大<b class='flag-5'>模型</b><b class='flag-5'>推理</b>加速中的应用

    澎峰科技高性能大模型推理引擎PerfXLM解析

    自ChatGPT问世以来,大模型遍地开花,承载大模型应用的高性能推理框架也不断推出,大有百家争鸣之势。在这种情况下,澎峰科技作为全球领先的智能计算服务提供商,在2023年11月25日发布了针对大语言
    的头像 发表于 09-29 10:14 485次阅读
    澎峰科技高性能大<b class='flag-5'>模型</b><b class='flag-5'>推理</b>引擎PerfXLM解析

    OpenAI即将发布“草莓”推理模型

    科技界迎来新动态,据可靠消息透露,OpenAI正紧锣密鼓地筹备着一项重大发布——预计在两周内,将正式推出名为“草莓”的新型AI推理模型,并将其无缝融入ChatGPT服务中。这款以卓越推理能力为核心的大
    的头像 发表于 09-11 16:53 528次阅读

    摩尔线程携手东华软件完成AI大模型推理测试与适配

    先进技术,并结合大模型智算加速卡MTT S4000的高性能算力,不仅助力东华软件完成了政企客户多种业务系统的AI升级,同时也为东华软件在医疗、金融、智慧城市、水利等多个关键行业提供了强大的端到端AI软硬件支持,加速
    的头像 发表于 07-31 10:51 742次阅读

    LLM大模型推理加速的关键技术

    LLM(大型语言模型)大模型推理加速是当前人工智能领域的一个研究热点,旨在提高模型在处理复杂任务时的效率和响应速度。以下是对LLM大模型
    的头像 发表于 07-24 11:38 900次阅读

    华为如何助力金融模型开出价值之花

    2024,我们正见证金融模型走向成熟
    的头像 发表于 07-09 13:59 2598次阅读

    如何加速大语言模型推理

    随着人工智能技术的飞速发展,大语言模型(LLM)已成为自然语言处理领域的核心工具,广泛应用于智能客服、文本生成、机器翻译等多个场景。然而,大语言模型的高计算复杂和资源消耗成为其在实际
    的头像 发表于 07-04 17:32 537次阅读

    【大语言模型:原理与工程实践】大语言模型的应用

    实际应用前需解决的挑战。为提升大语言模型的性能,高级的提示词技术可以促进大语言模型与环境进行动态交互,引导其生成和推理规划。 检索增强生成技术(RAG)的核心理念在于从知识库或互联网
    发表于 05-07 17:21

    【大语言模型:原理与工程实践】大语言模型的评测

    至关重要,涉及常识推理、数学推理和演绎推理等。这些评测任务旨在全面评估模型的逻辑推理能力,如金融
    发表于 05-07 17:12

    【大语言模型:原理与工程实践】揭开大语言模型的面纱

    能力,使其能够应对更复杂和抽象的语言任务。神经网络的前向传播和反向传播算法是其核心技术。前向传播中,模型根据输入文本的上下文和先前知识生成相关输出;而在反向传播中,模型通过调整参数使输出更接近预期结果
    发表于 05-04 23:55

    小满轩辕:金融行业的大模型实战派

    以小博大,智见金融
    的头像 发表于 03-12 09:12 1849次阅读
    <b class='flag-5'>度</b><b class='flag-5'>小满</b>轩辕:<b class='flag-5'>金融</b>行业的大<b class='flag-5'>模型</b>实战派