0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

什么是AI查询引擎

NVIDIA英伟达 来源:NVIDIA英伟达 2025-01-10 10:00 次阅读

AI 查询引擎可高效处理、存储和检索大量数据,以增强生成式 AI 模型的输入。

数据是 AI 应用的燃料,但企业数据的量级和规模往往会使其使用成本高且耗时,难以有效利用。

根据 IDC 的 Global DataSphere1,到 2028 年,企业每年将产成 317ZB 数据——包括 29ZB 的独特数据——其中 78% 是非结构化数据,44% 为音频视频数据。由于数据量巨大且类型多样,大多数生成式 AI 应用只会使用所存储和生成数据总量的一小部分。

为了在 AI 时代蓬勃发展,企业就必须找到利用其所有数据的方法。这一点无法依靠传统的计算和数据处理技术来实现。相反,企业需要一个 AI 查询引擎。

什么是 AI 查询引擎?

简而言之,AI 查询引擎是将 AI 应用或 AI 智能体与数据连接的系统。它是代理式 AI 的关键组成部分,充当企业或机构知识库与 AI 赋能的应用之间的桥梁,能够实现更准确、具有上下文感知的响应。

AI 智能体构成 AI 查询引擎的基础,它们能够收集信息并开展工作以协助人类员工。AI 智能体将从众多数据源收集信息,计划、推理并采取行动。AI 智能体可以与用户交流,也可以始终保持在后台工作,获取人类的反馈和互动。

实际上,AI 查询引擎是一个复杂系统,用于高效处理大量数据、提取和存储知识,并对这些知识进行语义搜索,确保其能够被 AI 快速检索和使用。

AI 查询引擎处理、存储和检索数据——将 AI 智能体与洞察力关联。

AI 查询引擎从非结构化数据中解锁智能

企业的 AI 查询引擎将能够访问以多种不同格式存储的知识,而从非结构化数据中提取智能是其实现的最重要进步之一。

为产生洞察,传统的查询引擎依赖于结构化查询和数据源,例如关系数据库。用户必须使用类似于 SQL 的语言制定精确的查询,且结果仅限于预先定义的数据格式。

相比之下,AI 查询引擎能够处理结构化、半结构化和非结构化数据。常见的非结构化数据格式包括 PDF、日志文件、图像和视频,通常存储在对象存储、文件服务器和并行文件系统中。AI 智能体使用自然语言与用户进行交流。这使其能够通过访问不同的数据源来解读用户意图,即便意图是模糊的。这些智能体能够以对话形式提供结果,以便用户能够理解。

这种能力使其能够从任何类型的数据中获得更多的洞察和智能——而不只是整齐排成行和列的数据。

例如,DataStax 和 NetApp 等公司正在构建 AI 数据平台,使客户能够为其新一代应用提供 AI 查询引擎。

AI 查询引擎的主要功能

AI 查询引擎具有以下几项关键能力:

多样化数据处理:AI 查询引擎能够访问和处理各种数据类型,包括来自多个来源的结构化、半结构化和非结构化数据,如文本、PDF、图像、视频和专业数据类型。

可扩展性:AI 查询引擎能够高效处理 PB 级数据,使 AI 应用能够快速获取所有企业知识。

精确检索:AI 查询引擎提供高精度、高性能的嵌入、向量搜索以及来自多个来源的知识重新排序。

持续学习:AI 查询引擎能够存储并整合来自 AI 赋能应用的反馈,创建一个 AI 数据飞轮,并根据反馈完善模型以及逐渐提高应用的有效性。

检索增强生成(RAG)是 AI 查询引擎的一个组成部分。RAG 利用强大的生成式 AI 模型作为数据的自然语言接口,允许模型在响应生成过程中访问和整合来自大量数据的相关信息。

使用 RAG,任何企业或组织都能够将其技术信息、政策手册、视频和其他数据转化为有用的知识库。AI 查询引擎可以依靠这些数据源为客户关系、员工培训和开发人员生产力等领域提供支持。

其他信息检索技术和知识存储方法也正在研究和开发中,因此预计 AI 查询引擎的能力将会迅速进化。

AI 查询引擎的作用

借助 AI 查询引擎,企业能够充分发挥 AI 智能体的作用,将员工与海量企业知识建立连接,提高 AI 生成回答的准确性和相关性,处理和利用以前未开发的数据源,并创建数据驱动的 AI 飞轮以持续改进其 AI 应用。

例如,提供个性化、全天候的客户服务体验的 AI 虚拟助手;用于搜索和总结视频的 AI 智能体;用于分析软件漏洞的 AI 智能体或 AI 研究助手。

AI 查询引擎在原始数据和 AI 赋能的应用之间架起一座桥梁,将在帮助组织从数据中提取价值方面发挥重要作用。

NVIDIA Blueprint 能够帮助企业着手将 AI 与其数据连接。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5025

    浏览量

    103265
  • AI
    AI
    +关注

    关注

    87

    文章

    31155

    浏览量

    269482
  • 智能体
    +关注

    关注

    1

    文章

    158

    浏览量

    10596

原文标题:为何企业需要 AI 查询引擎来推动代理式 AI?

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    中科创达携手火山引擎开启AI智能座舱新体验

    12月18日至19日,"2024火山引擎FORCE原动力大会·冬"在上海隆重召开。中科创达作为火山引擎的重要生态合作伙伴受邀参与此次盛会,并在会上展示了与火山引擎共创的端云结合 AI
    的头像 发表于 12-19 15:45 240次阅读

    使用 AMD Versal AI 引擎释放 DSP 计算的潜力

    “Versal AI 引擎可以在降低功耗预算的情况下提高 DSP 计算密度,”高级产品营销经理 Udayan Sinha 表示。这种效率使 Versal AI 引擎能够在严格的功耗预算
    的头像 发表于 11-29 14:07 566次阅读

    使用AMD Versal AI引擎加速高性能DSP应用

    AMD Versal AI 引擎使您能够扩展数字信号处理( DSP )算力与面向未来的设计,从而适应当前和下一代计算密集型 DSP 应用。借助 Versal AI 引擎,客户能以更低的
    的头像 发表于 11-20 16:35 357次阅读

    阿里国际推出全球首个B2B AI搜索引擎Accio

    近日,在欧洲科技峰会Web Summit上,阿里国际正式推出了全球首个B2B领域的AI搜索引擎——Accio。这一创新产品面向全球商家开放,标志着阿里国际正式入局当前备受瞩目的AI Search赛道。
    的头像 发表于 11-15 16:53 718次阅读

    英特尔与火山引擎飞连携手升级AI时代企业IT管理体验

    AI 技术的推动下,企业 IT 管理正经历一场革命。日前,火山引擎飞连新品发布会成功举办。英特尔受邀参与此次活动,并在会上展示了新一代英特尔凌动 x7000 系列处理器等产品,与火山引擎飞连携手升级
    的头像 发表于 11-14 17:17 552次阅读

    李开复:中国擅长打造经济实惠的AI推理引擎

    10月22日上午,零一万物公司的创始人兼首席执行官李开复在与外媒的交流中透露,其公司旗下的Yi-Lightning(闪电模型)在推理成本上已实现了显著优势,比OpenAI的GPT-4o模型低了31倍。他强调,中国擅长打造经济实惠的AI推理引擎,这是推动
    的头像 发表于 10-22 16:54 374次阅读

    AI引擎机器学习阵列指南

    AMD Versal AI Core 系列和 Versal AI Edge 系列旨在凭借 AI 引擎机器学习 ( ML ) 架构来提供突破性的 AI
    的头像 发表于 09-18 09:16 423次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>引擎</b>机器学习阵列指南

    月访问量超2亿,增速113%!360AI搜索成为全球增速最快的AI搜索引擎

    与传统搜索引擎不同,作为AI原生搜索引擎的360AI搜索基于公开网络、知识库、大模型三大支柱。借助首创的 CoE 技术架构,360AI搜索整
    的头像 发表于 09-09 13:44 505次阅读
    月访问量超2亿,增速113%!360<b class='flag-5'>AI</b>搜索成为全球增速最快的<b class='flag-5'>AI</b>搜索<b class='flag-5'>引擎</b>

    谷歌发布革命性AI游戏引擎GameNGen

    谷歌近期震撼推出全球首款完全由人工智能驱动的游戏引擎——GameNGen,这一创新技术标志着游戏开发领域的新纪元。GameNGen凭借其强大的计算能力,能够在单个TPU上实现每秒20帧的实时游戏生成,每一帧画面均源自精密的扩散模型预测,展现了AI在游戏创作中的无限潜力。
    的头像 发表于 08-29 18:07 900次阅读

    腾讯推出自主研发的AI引擎,工作效率提升超40倍

    隆重推出了自主研发的AI引擎,该引擎在加速游戏场景构建与内容创作流程方面展现出非凡能力,实现了工作效率超过40倍的提升。
    的头像 发表于 07-30 17:07 645次阅读

    微软计划在搜索引擎Bing中引入AI摘要功能

    近期,科技界传来新动向,微软紧随百度与谷歌的步伐,宣布计划在其搜索引擎Bing中引入先进的AI摘要功能,旨在为用户带来更加智能、丰富的搜索体验。
    的头像 发表于 07-26 14:23 481次阅读

    蚂蚁数科发布新一代融合AI风控引擎“AIR Engine”

    在数字化浪潮的推动下,金融科技领域的风控技术正迎来新的突破。近日,蚂蚁数科旗下的蚁盾风控团队正式发布了新一代融合AI风控引擎——“AIR Engine(AIFUSERiskEngine)”,该引擎在原有的决策式
    的头像 发表于 06-26 18:20 1277次阅读

    HDC 2024软通动力携手华为云共启AI原生应用引擎全域生态合作

    华为开发者大会2024(HDC 2024)期间,华为云开天aPaaS高峰论坛首发“AI原生应用引擎”。软通动力高级副总裁、数字基础设施与集成总经理谢睿受邀出席,并参与“AI原生应用引擎
    的头像 发表于 06-25 19:19 1326次阅读
    HDC 2024软通动力携手华为云共启<b class='flag-5'>AI</b>原生应用<b class='flag-5'>引擎</b>全域生态合作

    新火种AI|谷歌推出AI搜索引擎惹得出版商担忧!新闻流量的至暗时刻要来了吗?

    作者:小岩 编辑:彩云 在数字化浪潮的推动下,AI技术正逐渐渗透到我们生活的方方面面。最近,谷歌宣布推出一款全新的AI搜索引擎,这在使我们见识到了科技巨头所拥有的超能力和“钞”能力的同时,也让我们
    的头像 发表于 05-17 09:40 366次阅读
    新火种<b class='flag-5'>AI</b>|谷歌推出<b class='flag-5'>AI</b>搜索<b class='flag-5'>引擎</b>惹得出版商担忧!新闻流量的至暗时刻要来了吗?

    AMD发布适用于Linux系统的XDNA驱动,助力APU AI引擎

    AMD于去年推出了Ryzen 7040“凤凰城”系列APU,其中首次搭载了基于Xilinx IP的XDNA架构AI引擎。借助此引擎,PyTorch和TensorFlow等机器学习框架的运行速度得以显著提高。
    的头像 发表于 01-30 14:04 975次阅读