物联网传感器的日益普及推动着各个行业的巨大变革,包括用来“看”的摄像头、用来“听”的麦克风,还有其他帮助企业感知、了解现实世界中所发生事情的智能设备。
在边缘生成的数据量呈指数级增长,而实时处理海量数据的唯一方法,就是将服务器放置在行动点附近,并利用GPU的强大算力。
未来的企业数据中心不会在一个地点放置一万台服务器,而是会在一万个不同地点放置一台或多台服务器。这些服务器将被放置于办公楼、工厂、仓库、手机信号塔、学校、商店和银行中,用于探测交通堵塞和森林大火、安全引导交通并预防犯罪。
企业可通过部署一个分布式服务器网络,从数百个传感器中流式传输数据,在边缘使用数据中心网络,并通过AI立即采取行动。此外,在边缘处理数据可以缓解对于隐私的担忧,并解决数据主权问题。
边缘服务器缺乏企业IT认为理所当然的物理安全基础架构,而且公司没有让空闲IT人员去管理这些远程系统的预算。因此,边缘服务器的设计必须具备自我安全功能,并且方便从远处进行更新、管理和部署。
此外,AI系统需要能够永久保持运行,不能出现停机。
我们构建的NVIDIA EGX边缘AI平台用来确保全球范围内的安全性。通过简化部署和管理,NVIDIA EGX帮助始终在线的AI应用程序实现了未来关键基础架构的自动化。该平台是Kubernetes和容器原生软件平台,它能将GPU加速AI带入到从双路x86服务器到基于ARM的NVIDIA Jetson SoCs等一切应用。
目前,已有20多家服务器供应商正在构建基于EGX的边缘和微边缘服务器,包括ADLINK、研华、Atos、AVerMedia、思科、Connect Tech、戴尔科技、Diamond Systems、富士通、Gigabyte、惠普、浪潮、联想、广达和超微。除此之外,NVIDIA边缘生态系统还有数十家混合云和网络安全合作伙伴,包括Canonical、Check Point、Excelero、Guardicore、IBM、Nuage Networks、Nutanix、Palo Alto Networks、Rancher、Red Hat、VMware、Weka和Wind River。
NVIDIA EGX上还有数百家AI应用程序和集成解决方案供应商,它们为全球企业提供行业特定产品。
运行AI的企业不仅需要保护客户数据,还需要保护将数据转化为行动的AI模型。我们通过将安全、高性能网络的行业标准NVIDIA Mellanox SmartNIC与我们的AI处理器,集成到组合式聚合加速器NVIDIA EGX A100中,为边缘AI引入基础创新技术。
NVIDIA EGX A100
更高的安全系数和性能
从Hardware Root-of-Trust通过安全认证启动GPU和SmartNIC,可保证对设备固件和生命周期的安全管理。NVIDIA Ampere架构中的第三代Tensor核心技术带来了业内领先的AI性能。专为EGX A100开发的保密AI安全区使用全新GPU安全引擎加载加密AI模型,并对所有AI输出进行加密,进一步防止宝贵的IP遭到盗用。
随着加密高分辨率传感器在边缘的日益普及,SmartNIC开始支持线速的线内密码编译加速。这使得加密数据推送被解密后,直接发送至GPU内存,从而绕过CPU和系统内存。
边缘还需要更高级别的安全性,以防范来自网络上其他设备的威胁。通过在硬件中动态配置防火墙卸载,SmartNIC可以有效地为混合云、安全服务网格通信构建起第一道防线。
NVIDIA Mellanox专为电信公司提供精准时钟调度5G无线报文的传输技术(5T for 5G),使商用现成解决方案能够通过我们的NVIDIA Aerial SDK,满足5G vRAN最具时间敏感性的用例,引领CloudRAN在电信行业的新一轮应用浪潮。
通过将NVIDIA Ampere GPU和Mellanox ConnectX-6 D部署在一个聚合产品上,EGX A100可为安全和虚拟网络功能提供低延迟、高吞吐量的数据包处理。
简化大规模部署、管理和安全
通过NVIDIA GPU优化容器目录NGC,我们提供了行业应用框架和特定领域的AI工具包,简化AI的入门并根据新边缘环境调节AI应用程序。它们可以一起使用或单独使用,为各种边缘用例开辟新的可能性。
借助NGC专用注册表,可以在发布前对应用程序进行签名,从而确保它们在传输过程中未被篡改。然后,可以在边缘运行这些应用程序之前,对其进行验证。NGC专用注册表还支持模型版本控制和加密,因此可以快速、安全地进行轻量级模型更新。
未来的边缘计算需要在网络边缘运行安全、可扩展、有弹性、易于管理的AI驱动系统群。我们正在将NVIDIA GPU、NVIDIA Mellanox SmartNIC的复合加速与NVIDIA EGX的加速度结合起来,构建组成全球各行业AI神经系统的平台和生态系统。
想要了解关于NVIDIA EGX的更多信息,请点击“阅读原文”。另外,您也可以通过扫描文末海报二维码观看GTC 2020主题演讲,了解更多相关信息。
-
传感器
+关注
关注
2550文章
51046浏览量
753120 -
物联网
+关注
关注
2909文章
44578浏览量
372859 -
数据中心
+关注
关注
16文章
4764浏览量
72100
原文标题:NVIDIA EGX如何为全球各行业构建中央神经系统
文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论