近年来,随着大数据和人工智能技术的逐步成熟与广泛应用,AI业务对算力的需求不断增加,算法迭代速度持续加快,新的算法框架层出不穷,场景化的算法应用日趋丰富。面对日益复杂的海量算法应用场景,如何建设一个更加高效并可持续演进的算法资源管理平台,来帮助企业实现算法全生命周期管理,已成为各大企业在开展AI应用过程中面临的一大挑战。
为了帮助企业实现算法的统一管理和算法在企业应用中的全生命期支撑,提升企业资源的利用率和开放性,构建算法管理生态体系,渊亭科技针对行业痛点需求推出了算法仓平台服务。
算法仓介绍
1.什么是算法仓?
人工智能的“三算”包括算力、算料和算法,分别对应算力仓、算料仓和算法仓。
其中,算法仓是管理算法模型的仓库,仓库集中管理所有的AI算法模型,并提供AI分析服务能力,实现多厂家、多版本算法的快速集成,提供算法的生命周期管理能力。
2.算法仓做什么用?
算法仓提供统一的算法管理服务和生命周期管理能力,实现终端设备、平台、算法和应用之间的全解耦,通过分层架构设计和提供标准化的接口,将各种能力以模块化服务的方式提供给不同应用灵活调用,实现算法与应用解耦、算法与数据解耦、算法与硬件解耦,同时通过统一API接口进行能力开放,实现数据共享与生态合作。算法仓体系架构使得算法分析能力不再固化在应用产品中,具有系统高可用、资源高利用率、算法灵活开放等优势。
渊亭科技算法仓平台
渊亭科技算法仓基于公司深厚的技术沉淀进行研发,平台既集成了国内外各类领先的算法模型和渊亭科技自研算法模型,也支持第三方算法厂商的算法接入,建设算法开发-自动化准入-运行-运营的全生命周期管理体系,以满足不同场景的算法管理需求。平台遵循成熟的算法自动化检测标准,符合企业的算法运营体系规范,能够快速实现人工智能应用高质量落地,促进AI资源高效共享与运营。
1.平台总体架构
算法仓平台核心功能包括算法厂家管理、算法信息管理、算法服务管理、算法资源管理、开发者服务、准入自动化测试等模块,并支持对接企业的基础设施平台和运营平台,实现算法所需数据和支持应用的快速对接。算法仓平台遵循了一套完整的算法统一对接标准规范,支持通过准入准出机制和统一对接标准实现第三方算法与自研算法的接入。基于算法仓平台整体能力可为企业提供算法全生命周期管理服务,简化算法调度流程,提升算法的管理、部署和上线应用效率。
渊亭科技算法仓平台架构图
2.核心功能介绍
(1)算法仓功能介绍
本功能实现对算法厂商信息的全面管理。该功能不仅可对算法厂商基本信息进行管理,还支持对厂商接入、退出、评价和算法授权等进行管理,可实现自动生成和删除厂商编码、预生成算法编码等特性,同时支持对算法授权日志、算法授权数据进行统计和展示。
预生成算法编码管理
(2)算法信息管理
该功能支持第三方算法厂商进行算法信息管理,厂商可基于通用/专用的算法镜像关联维护多个算法。该模块支持对算法类别、事件告警等基本信息进行管理。同时,用户可对镜像编号、镜像版本等信息进行录入、修改、删除等操作,校验并管理镜像状态(测试态、下架态、上架态)等。
新增算法
(3)算法服务管理
该功能具备服务动态调度、算力资源调度、算法镜像调度和算法自动化发布的能力。用户可根据运营管理规划,进行服务初始化部署,启动算法的服务实例。服务动态调度支持根据实际下发任务进行服务的运行期资源调度,实现动态调度(弹性扩容、缩容、销毁)的特性。算力资源调度支持结合算法任务承载量动态调度相应算力资源(包括整服务器资源、碎片化单卡资源、利用率较低的单卡资源),实现算法分析任务漂移的能力,支持在容器宕机、算法假死等情况下实现任务重新下发和任务分析。
算法服务管理
(4)算法准入管理
该模块提供了算法接口规范检测、算法功能验证、资源情况评估和导出测试报告等功能,支持第三方算法和自研算法根据统一的对接标准实现算法接入,算法厂家可快速接入算法仓,同时提供算法验证功能,包含告警上报验证、算法准确率验证和误报率评估验证等。
(5)算法资源管理
提供纳管中心节点及边缘节点算力资源的能力,中心节点可统一管理边缘节点,其中算力资源包括资源IP、资源规格、(CPU、GPU、内存等)、归属节点等信息。监控中心节点及边缘节点的服务器资源、主机资源等,算法维度统计算法资源消耗,可视化展示统计结果。监控算法容器的运行状态和资源使用情况,支持以图表可视化方式展示资源监控信息并支持导出报表。
容器监控管理
3.平台核心价值
(1)帮助企业提高算法生态整合能力。
(2)帮助企业建立算法全生命周期管理规范,提升算法资源利用效率。
(3)通过“赛马机制”形成算法更新迭代的良性循环,帮助企业持续提升算法的计算性能。
(4)帮助企业节省算力资源的成本支出。
应用案例
1.天翼云案例
2022年3月,渊亭科技成功中标天翼数字生活科技有限公司算法仓项目。该平台面向6000万+个生活终端,实现数百个人工智能算法的集中加载、定向分发、择优计算及统一管理,形成算法生态合作,助力中国电信践行“云改数转”策略,极大发挥在数字生活领域的领先实力。
平台累计对接6个运营子平台接口、3个OOS接口、5个算法规范接口、2个镜像服务接口和30多个云平台接口。上线了算法产家管理、算法管理、算法服务管理、算法准入自动化测试等核心模块。同时,算法成功应用在老鼠识别、佩戴厨师帽检测、安全帽检测、车牌识别、工程车辆检测、身份证识别等20+个业务场景。
天翼云算法仓极大地提升了天翼数字生活科技有限公司对算法的自主掌控能力,有效的支撑多场景的智联业务发展。
2.中国铁塔案例
近日,渊亭科技就算法仓共建与中国铁塔签订合作协议。项目根据中国铁塔的运营思路,依托渊亭科技算法仓平台,设计算法商城、动态配额等机制,激发算法厂商参与的积极度,持续构建算法生态,并同步建立算法自动化检测标准和算法运营体系规范,在缩短算法应用周期的同时,帮助中国铁塔整合通信基础设施、IT基础设施等监控能力,研发视联算法任务调度机制,实现边缘自治和算法动态调度的运行保障能力。
为进一步拓展通信铁塔基础设施的服务能力,打造具有电信行业特色的自主掌控、开放高效的通信铁塔基础设施服务信息化平台,提高AI技术在运营效率、服务水平等方面的应用能力,同时推进数字化管理创新,中国铁塔基于算法仓等关键能力,对现有业务应用进行智能化改造,智能化地支撑生产和决策,切实为基层减负,提高运营管理效率。
3.中国移动案例
本项目通过在中国移动的计算节点上部署算法仓平台,实现了跨区域算法的统一管理、分发和部署,有效管理了中国移动在山东、江西、云南、内蒙、四川等地的算力资源,使得各省公司算法应用上线效率大幅提升,上线周期大幅缩短。同时,算法仓平台有力的支撑了中国移动和包贷应用场景落地,通过算法对移动用户进行授信分析,激活无法授信的沉睡客户,实现了最终客户转换,使得获客成本大幅降低,最终助力移动和包贷业绩大幅增长。
4.国防领域案例
渊亭科技算法仓平台除在政企领域开展实践外,在国防领域也有着广泛的运用,能够为国防领域丰富的物联网、人工智能场景,输出包含机器学习和深度学习的应用级全栈算法服务能力,基于完备的边雾云一体化架构实现算法的全面管理和调度。例如在某项目中,围绕指挥控制、战场态势、支援保障等业务方向,构建覆盖指挥中枢到单兵作战终端的一体化算法分发和运行调度框架,对国防领域复杂的异构计算资源(大数据集群、GPU 集群、边缘节点、终端算力等)进行优化调配,匹配算力和数据进行高效计算,统筹情报取证、战场目标意图识别、作战策略推荐等高频算法的运行和使用,提高了智能作战的体系韧性,实现方案优化和综合管理一体化,大大降低了人工智能在军事领域落地的复杂性。
算法仓能力在各领域的广泛应用,只是渊亭诸多人工智能技术创新和产品化沉淀的缩影之一。渊亭科技还将持续扎根技术、沉淀产品、服务场景,聚焦人工智能的应用价值,把落地业务做深做透,以获得更多客户的信赖、认可,助力各行各业在智能化时代的创新与突破。
-
物联网
+关注
关注
2902文章
44170浏览量
370638 -
AI
+关注
关注
87文章
29925浏览量
268218 -
终端设备
+关注
关注
1文章
165浏览量
15221 -
人工智能技术
+关注
关注
2文章
211浏览量
10518
发布评论请先 登录
相关推荐
评论