0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

旷视宣布开源深度学习框架“天元”,开源成为AI发展新趋势

21克888 来源:电子发烧友整合 作者:Norris 2020-03-26 09:15 次阅读


一、旷视宣布开源深度学习框架“天元”

3月25日下午,旷视科技举办线上发布会,宣布开源新一代AI生产力平台Brain++的核心深度学习框架旷视天元(MegEngine)。


据了解,天元的前身是旷视内部自用的算法训练推理引擎MegEngine,由旷视3名实习生在2013年启动研发,并与2014年正式完成上线。这款自研的深度学习框架支撑了旷视6年以来在国际AI竞赛的表现,以及公司产品和业务的落地,



二、天元框架采用推理一体化的机制

据介绍,在传统深度学习研发中,产品从原型到生产部署往往需要分开设计和调用训练框架和推理框架两种框架,这就导致模型在训练和推理的转换的过程中出现不明原因的性能或精度损失,需要开发者手工进行优化,而算法在计算平台部署的时候出现各种问题也无法追溯。

天元框架避免了这样的问题,通过训练、推理一体化的机制省去模型转换的过程,可直接将训练后的模型进行推理,并保证跨设备的模型精度对齐,同时天元内置自动模型优化、简化流程,减少因手工操作的机会,降低出错概率。

除此之外,天元配置了 PythonC++ 接口,支持动态图、静态图一键转换和混合编程,可使用高级编程语言进行图优化和图编译。在运行时管理环节,天元具备执行流与调度器,采用动态、静态内存分配并存的方式,并通过自动的亚线性内存管理优化器可以得到更好的内存优化效果;在底层设计上,天元的计算内核兼容主流计算设备,且支持多机多卡和分布式训练。而为了解决模型复现困难的问题,天元则支持 PyTorch Module 导入,可针对计算机视觉任务进行优化。

目前,旷视已在中国新一代人工智能开源开放平台OpenI启智社区和开源社区 GitHub 上同步发布了天元 Alpha 版源代码,开发者也可以通过天元官方网站的在线深度学习工具免费调用算力、获取最新数据集和训练脚本,进行简单训练和试用。

三、开源MegEngine,逐步释放Brain++生产力

在MegEngine框架基础之上,旷视研究院还提出了“三位一体”概念,将数据和算力平台融合,构建了集“算法、数据和算力”于一体的AI生产力套件Brain++。

旷视Brain++本质上是一个超级工具套件,初衷是降低人工智能的使用成本。唐文斌曾提到,希望Brain++能够为研发人员提供端到端的解决方案,提升大家的工作效率,不用再重复“造轮子”。


旷视做了这一一个类比:一个餐馆的核心价值是为客人提供美味的菜品(就像AI产业的核心价值是提供专业可靠的AI解决方案),那么实现这个价值最重要的人则是大厨(开发者)。小作坊里的厨师需要自己洗菜(数据清洗)、配菜(搭模型)、炒菜(训模型)、调火候和口味(调参数),一个中午也许只能为三桌客人提供菜品。而在现代化、自动化中央厨房里工作的大厨,他将拥有标准化、流水线管理的配菜间和智能化的炉灶等套件工具,那么或许他一个人就可以搞定一栋楼菜品供应。旷视Brain++就是希望为开发者提供这样一套“中央厨房”式的解决方案。

Brain++这个生产力套件最为核心的部分就是能够批量生产算法的深度学习框架,旷视希望通过MegEngine的开源,逐步将Brain++的生产力赋能给学术界和产业界的广大开发者。

三、开源成为人工智能下一阶段发展新趋势

2012 年后,深度学习的发展带动人工智能进入拐点,前者拥有高于传统机器学习十倍、百倍的神经网络参数,在人工智能最先落地的语音识别、图像识别领域,深度学习都是不可或缺的重要工具。商业落地中的数据反哺,也带动了算力、框架上的不断升级。开发者口中通用的深度学习开源框架基本不出这几种:TensorFlow、 PyTorch、Caffe、CNTK、ONNX 等,这背后又分别站着谷歌、Facebook、微软等巨头。

唐文斌在发布会上提到,技术信仰是旷视人的基因,相信技术的变革能够改变世界。对于旷视来说,自研的AI生产力套件已经能够满足企业发展需要,但一个人的力量始终是有限的,一群人在一起才能创造奇迹。只有开源才能让更多优秀的开发者凝聚起来共享、共建、共赢,打破坚硬的技术壁垒,碰撞激发出更多优秀的代码。

更重要的是,开源是推进技术实现产业发展的催化剂。AI要真正实现产业化、通用化,需要大规模部署AI能力,在数据、计算、部署场景、硬件解决方案上具备一系列“工业级”的基础,但眼前本质的问题在于AI技术的基础条件尚未成熟,旷视希望能够通过开源为AI产业基础设施添砖加瓦。

人工智能算法从研发到部署是一套庞大的系统工程,深度学习框架作为通用性的底层支持平台,可实现算法训练和模型部署的高效流程化和深度神经网络模型设计自动化。在减少人员参与而不牺牲训练质量的条件下,能够大幅提高算法生产效率,对于人工智能技术及应用研发人员的重要性不言而喻。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 旷视科技
    +关注

    关注

    1

    文章

    153

    浏览量

    11111
收藏 人收藏

    评论

    相关推荐

    全球首个开源AI标准正式发布

    近日,在备受瞩目的2024年ALL THINGS OPEN大会上,开源组织Open Source Initiative(OSI)宣布了一项重大突破——正式发布了开源人工智能定义(OSAID)1.0版本。这一里程碑式的成就标志着全
    的头像 发表于 10-31 10:59 209次阅读

    Llama 3 与开源AI模型的关系

    在人工智能(AI)的快速发展中,开源AI模型扮演着越来越重要的角色。它们不仅推动了技术的创新,还促进了全球开发者社区的合作。Llama 3,作为一个新兴的
    的头像 发表于 10-27 14:42 314次阅读

    AI大模型与深度学习的关系

    AI大模型与深度学习之间存在着密不可分的关系,它们互为促进,相辅相成。以下是对两者关系的介绍: 一、深度学习
    的头像 发表于 10-23 15:25 366次阅读

    RISC-V如何支持不同的AI和机器学习框架和库?

    RISC-V如何支持不同的AI和机器学习框架和库?还请坛友们多多指教一下。
    发表于 10-10 22:24

    真格基金宣布捐赠开源AI项目vLLM

    开源技术处于 AI 革命的中心。Llama 3、Mistral 等开源大模型迅速追赶 GPT-4,TensorFlow、Pytorch 等开源深度
    的头像 发表于 09-24 16:13 326次阅读

    开源 KiCad/AD 查看器 + AI Copilot?

    ),某些功能更强一些。 查看器支持原理图、PCB、3D、BOM,可以交互查看原理图、PCB中几乎所有对象的属性(应该是实时渲染的) 原理图支持 AI-Copilot,可以直接对话也可以使用菜单
    发表于 08-18 22:41

    NVIDIA推出全新深度学习框架fVDB

    在 SIGGRAPH 上推出的全新深度学习框架可用于打造自动驾驶汽车、气候科学和智慧城市的 AI 就绪型虚拟表示。
    的头像 发表于 08-01 14:31 522次阅读

    开启开源布道新篇章 — LF开源软件学园诚邀开源精英加入成为OSPO讲师

    OSPO——企业开源战略的引擎在当今数字化时代,开源软件已成为推动全球技术创新的加速器。它不仅重塑了软件开发的模式,更成为企业构建竞争优势的关键。然而,随着
    的头像 发表于 07-04 08:36 268次阅读
    开启<b class='flag-5'>开源</b>布道新篇章 — LF<b class='flag-5'>开源</b>软件学园诚邀<b class='flag-5'>开源</b>精英加入<b class='flag-5'>成为</b>OSPO讲师

    TensorFlow与PyTorch深度学习框架的比较与选择

    深度学习作为人工智能领域的一个重要分支,在过去十年中取得了显著的进展。在构建和训练深度学习模型的过程中,深度
    的头像 发表于 07-02 14:04 885次阅读

    蚂蚁集团发布首个开源金融场景多智能体框架

    在第七届数字中国建设峰会上,蚂蚁集团宣布了一项引人注目的举措:正式开源其多智能体框架agentUniverse。这一框架不仅是金融领域的首个开源
    的头像 发表于 05-28 09:25 676次阅读

    科技与上海家化正式签署《AI科技创新合作框架协议》

    3月18日,在2024年上海家化“致美·致时代”年度发布会上,上海家化联合股份有限公司与北京科技有限公司正式签署《AI科技创新合作框架协议》,双方将在
    的头像 发表于 03-20 10:21 548次阅读

    AI推理框架软件ONNX Runtime正式支持龙架构

    近日,知名AI推理框架开源社区ONNX Runtime正式发布支持龙架构的版本1.17.0。
    的头像 发表于 03-12 12:23 543次阅读
    <b class='flag-5'>AI</b>推理<b class='flag-5'>框架</b>软件ONNX Runtime正式支持龙架构

    星动纪元开源人形机器人训练框架Humanoid-Gym

    星动纪元,这家专注于人形机器人技术的创新公司,近日宣布计划将其训练框架Humanoid-Gym进行开源。Humanoid-Gym是一个为人形机器人设计的训练框架,其
    的头像 发表于 03-06 18:13 1921次阅读

    蚂蚁集团AI研发部门开源AI Infra技术,助力大模型训练效率提升

    蚂蚁集团AI创新研发部门NextEvo近日宣布,他们将全面开源AI Infra技术,以推动AI研发效率的提升。该技术
    的头像 发表于 02-04 10:01 1009次阅读

    边缘计算平台开源框架有哪些类型

    边缘计算平台开源框架是指基于边缘计算概念开发的开源软件框架,用于构建和管理边缘计算平台。这些框架提供了一套工具和技术,用于将计算和存储资源推
    的头像 发表于 12-27 15:17 1162次阅读