0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

阿里云的工程师向业界揭开了“舜天”的神秘面纱,新引擎初露锋芒

Xilinx赛灵思官微 来源:djl 作者:赛灵思 2019-07-26 15:06 次阅读

当您在天猫/手淘上买买买的时,图片会以不同格式或分辨率来转码呈现,这就要求后台系统需要强大的算力来保障数倍于平时的转码需求。FPGA是可编程芯片中处理这类并行计算的最佳能耗比方案,这位曾经高冷的“王谢堂前燕”,通过云计算的价值加成,正在赋能越来越多的科技创新。

在今年的XDF 2018大会上,阿里云的工程师首次向业界揭开了阿里云FPGA平台“舜天”的神秘面纱,这台云端计算加速的新引擎初露锋芒。

图 1:XDF 2018 上,阿里云 “舜天” FPGA 平台初露锋芒

初识FPGA:计算加速新引擎

FPGA最大的特点是直接基于硬件编程,拥有高吞吐和低延时等特性,可以很容易搭建出数据并行通道,同时完成流水线并行;相对于ASIC,又具有软件的可编程性和灵活性,这让它能完美适应AI等对大算力有刚性需求并且尚处于快速迭代期的场景。

图 2:FPGA能力模型

然而,传统的FPGA线下开发,过程非常繁琐。对于IP提供商或方案集成商来说,需要自己开发和维护硬件,推广难、成本高。对于客户来说,开发时也绕不开硬件环节,试错成本大、周期长。

FPGA+云正好是解决这些难题的最佳方案。

“舜天”平台整合了传统FPGA产业链的多个环节:从芯片原厂商,硬件,IP供应商等等,将它们统一打包成平台资源,使客户可以专注于算力的实现,而IP供应商可以简化交付流程,大幅优化交付周期和运营成本。

—— 阿里云工程师,张振祥

“舜天”平台整合了传统FPGA产业链的多个环节:从芯片原厂商,硬件,IP供应商等等,将它们统一打包成平台资源,使客户可以专注于算力的实现,而IP供应商可以简化交付流程,大幅优化交付周期和运营成本。

从2017年8月开始,“舜天”已经历经三代产品迭代,最新上线的F3系列实例,可提供超过1000万逻辑单元和高达47 TeraMACs的DSP计算能力。

以时序数据库为例,舜天平台的处理效率比CPU高出30倍以上:单路FPGA实现的实测峰值性能为2.97GB/s,相比之下,单核CPU压缩的实测性能约为90M/s。在图片识别场景下,舜天F3提供的算力约相当于7台CPU服务器,大幅降低了Capex成本,相比CPU服务器,TCO降低超40%。

阿里云的工程师向业界揭开了“舜天”的神秘面纱,新引擎初露锋芒

而且,这个能力还可以扩展,当开发者在处理高性能计算和机器学习时,往往需要多芯片共同计算。“舜天”提供了各类高速接口,可完成1/2/4片芯片互联拓扑,并支持动态配置。以卡内双芯片通信为例,带宽高达600Gbps,同时支持多种轻量级传输协议,传输效率达95%。

一睹真容:久经沙场的悍将

在阿里巴巴内部,“舜天”其实已经久经沙场,支撑了包括双11在内的超大型计算场景、城市大脑、时序数据库、高清视频编解码等等明星业务都涉及FPGA加速。

以双11举例,在客户通过淘宝/天猫APP或者网页端浏览商品时,图片需要以不同格式或分辨率来呈现。舜天平台的并行计算能力,直接将图片处理的延时缩减到CPU服务器的50%,将吞吐能力提升了数倍。

在基因赛场里,“舜天“的表现也很出色,100Gbp全基因组分析时间被缩短至两小时,速度比过去提升了10倍,单位成本也大大降低。全基因,指的就是把物种细胞里面完整的基因组序列从第1个DNA开始一直分析到最后一个DNA,这种技术几乎能够鉴定出基因组上任何类型的突变。

化繁为简:大幅降低开发门槛

在传统软件工程师眼里,FPGA芯片的开发门槛是很高的,一方面需要了解HDL硬件编程,一方面需要对底层硬件和接口了如指掌。

在此次的XDF大会上,阿里云工程师潘岳介绍了舜天平台的解决方案。

首先,“舜天”增加了对高级系统语言的支持,包括C, C++, OpenCL等。这意味着开发者可以在他们熟悉的编程语言和工作流程中顺畅使用,而且确保原本基于CPU或GPU的开发可以轻松移植到云上的FPGA器件中。同时,阿里云还提供了大量的参考设计和开发包,帮助开发者快速建立系统。

接口方面,“舜天”提供了统一的标准总线接口,包括:DDR4/5、PCIe、DMA等等,开发者无需动手,只需要关心内部逻辑实现(图中灰色部分)。

阿里云的工程师向业界揭开了“舜天”的神秘面纱,新引擎初露锋芒

此外,阿里云还支持多种主流FPGA的Shell+Role实现,可以适配跨平台的Multi-boot方案,让用户能够轻松完成跨平台迁移。

IP加密隔离:安全不打折

作为FPGA生态的最重要一环,IP厂商非常在意云上的多租户环境。既要需要确保IP产品不泄露,又要保证用户购买的IP只能被自己使用。

为此,阿里云采用了IP加密、网络隔离、IP所属权和使用权分离等方式确保了用户的源码(或IP源码)、发行包、部署环境全程对第三方完全不可见,同时还提供健康监控能力,及时感知底层故障并实时报警。

阿里云的工程师向业界揭开了“舜天”的神秘面纱,新引擎初露锋芒

作为最早入住舜天平台的IP提供商之一,联捷计算科技CTAccel CEO俞海乐博士表示,上云后安全是我们最关注的问题,阿里云的安全隔离做得非常到位,这也是我们优先选择阿里云进行部署的原因。

不变的使命:共建普惠异构生态

此前阿里云的Slogan“为了无法计算的价值”一直深入人心,积极布道普惠计算。自推出异构计算依赖,开发者在阿里云上能以更少的价格使用性能更强的GPU/FPGA实例,在深度学习领域将开发成本降低了一半以上。

为了让更多开发者能够享受到FPGA的收益,阿里云推出了FPGA弹性云服务器,并建立了FPGA镜像市场,让具有创新思路和成熟解决方案的IP产品通过平台脱颖而出,扩大市场规模,加快研发进度,提高设计稳定性。

“舜天”是阿里云使能人工智能产业的一大利器,我们欢迎更多的开发者加入阿里云FPGA生态,推动技术落地到产业中去。

—— 阿里云工程师,张振祥

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 赛灵思
    +关注

    关注

    32

    文章

    1794

    浏览量

    131144
  • 引擎
    +关注

    关注

    1

    文章

    358

    浏览量

    22522
  • 硬件编程
    +关注

    关注

    0

    文章

    3

    浏览量

    9227
收藏 人收藏

    评论

    相关推荐

    解读版|Air780E软件中C语言内存数组的神秘面纱

    今天我们来揭开Air780E 软件中 C 语言内存数组的神秘面纱,希望有所收获。
    的头像 发表于 11-17 10:00 50次阅读
    解读版|Air780E软件中C语言内存数组的<b class='flag-5'>神秘</b><b class='flag-5'>面纱</b>!

    艾毕胜电子全自动跟拍智能台驱动板方案的神秘面纱

    在科技飞速发展的今天,全自动跟拍智能台已经成为摄影、直播等领域的热门设备。而在其背后,驱动板方案则是实现其出色性能的关键所在。今天,就让我们一同来揭开全自动跟拍智能台驱动板方案的神秘
    的头像 发表于 10-09 17:29 197次阅读
    艾毕胜电子全自动跟拍智能<b class='flag-5'>云</b>台驱动板方案的<b class='flag-5'>神秘</b><b class='flag-5'>面纱</b>

    用智能DAC揭开医疗报警设计的神秘面纱

    电子发烧友网站提供《用智能DAC揭开医疗报警设计的神秘面纱.pdf》资料免费下载
    发表于 09-14 10:50 0次下载
    用智能DAC<b class='flag-5'>揭开</b>医疗报警设计的<b class='flag-5'>神秘</b><b class='flag-5'>面纱</b>

    艾毕胜工程师台驱动IC方案中的神秘技术

    在当今科技飞速发展的时代,台驱动 IC 方案在众多领域中发挥着至关重要的作用。今天,就让我们跟随艾毕胜工程师的脚步,从技术结构方面深入剖析这一神秘而又关键的技术。 首先,我们来了解一下
    的头像 发表于 09-12 18:13 247次阅读

    北斗卫星时钟——揭开“授时”的神秘面纱

    ,这些时间信息又是从哪里来的呢?为什么我们可以随时随地都能获取准确的时间信息?这得益于高精度的 授时服务 ,今天我们就来揭开“授时”的神秘面纱。      大家都知道我国的北斗导航卫星,是用于定位导航的。那么北斗是怎么进行定位导
    的头像 发表于 07-25 16:21 333次阅读
    北斗卫星时钟——<b class='flag-5'>揭开</b>“授时”的<b class='flag-5'>神秘</b><b class='flag-5'>面纱</b>

    xAI公司将在八月揭开其新Grok-2大语言模型的神秘面纱

    在科技界的浩瀚星空中,埃隆·马斯克的每一次发声都如同璀璨的新星,瞬间照亮前行的道路。近日,这位科技巨擘在推特上的一则简短宣告,再次将全球的目光聚焦于人工智能的前沿阵地——他的初创公司xAI即将在八月揭开其最新力作Grok-2大语言模型的神秘
    的头像 发表于 07-02 11:38 444次阅读

    阿里发布首个AI程序员,引领应用开发进入“分钟级”时代

    近日,在备受瞩目的阿里上海AI峰会上,阿里全球开发者们展示了其最新的技术成果——首个“AI程序员”。这款创新应用基于通义大模型构建,具
    的头像 发表于 06-24 10:36 614次阅读

    揭开Pluto XZU20的神秘面纱—探寻未来紧凑而强大的FPGA解决方案

    创新成果具有挽救生命、改变生活和创造梦想的能力。现在让我们一起紧随Pluto产品发布会的步伐,揭开PlutoXZU20的神秘面纱,与我们一起探寻未来紧凑而强大的FP
    的头像 发表于 06-21 08:09 318次阅读
    <b class='flag-5'>揭开</b>Pluto XZU20的<b class='flag-5'>神秘</b><b class='flag-5'>面纱</b>—探寻未来紧凑而强大的FPGA解决方案

    阿里巴巴杭州全球总部正式启用

    近日,阿里巴巴在杭州的未来科技城正式揭开了其全球总部新园区的面纱。这座园区不仅是阿里巴巴目前规模最大的综合性办公空间,更是其绿色、科技、可持续发展理念的生动体现。
    的头像 发表于 05-13 11:15 512次阅读

    大厂电子工程师常见面试题#电子工程师 #硬件工程师 #电路知识 #面试题

    电子工程师电路
    安泰小课堂
    发布于 :2024年04月30日 17:33:15

    【大语言模型:原理与工程实践】探索《大语言模型原理与工程实践》

    《大语言模型》是一本深入探讨人工智能领域中语言模型的著作。作者通过对语言模型的基本概念、基础技术、应用场景分析,为读者揭开了这一领域的神秘面纱。本书不仅深入讨论了语言模型的理论基础,还涉及自然语言
    发表于 04-30 15:35

    揭开快充芯片的神秘面纱

    UFP芯片是一种用于USB快充技术的关键元件,它在移动设备和充电器之间进行通信和协调,以实现高效、安全、快速的充电过程。下面我们将揭开快充芯片的神秘面纱,深入探讨UFP快充芯片的工作原理和功能。
    的头像 发表于 04-15 12:51 552次阅读

    电子工程师第一上班就暴揍师傅。。。#科普 #示波器 #电子工程师 #打工日记

    电子工程师示波器
    安泰小课堂
    发布于 :2023年12月18日 17:36:12