优化引擎和控制器，加速AI火箭

你学过指数吗？恐怕没几个人会对这个问题说 “No”。那么，你对指数式发展有什么样的认识？这个问题回答起来也许就没那么容易了。然而，指数式发展实实在在地就在我们身边、在我们手上发生。不相信吗？看看你的手机。

1965年，英特尔的创始人之一戈登·摩尔提出了“摩尔定律”。半个世纪以来，“摩尔定律”一直推动着人类社会不断向前进步。现在技术带来的便利，是半个世纪以前的人不能想象的。这正是因为“摩尔定律”在数学本质上是一个指数式发展定律，它指明了计算设备的计算能力将以指数式发展前进。

（图片来源:https://iq.intel.com/millennials-marching-to-the-quickening-metronome-of-moores-law/关键词为：Moore law）

指数式发展之所以难以认识，是因为一开始它的发展速度相对缓慢，甚至是难以察觉的，然而突破某个阶段之后，它就会以人力难以想象的速度飞升。就像一艘火箭，点火后的前五秒，它的速度并不快，可一旦马力全开，强大的引擎加上高动能的燃料，足以让火箭在几分钟内飞上蓝天，遨游太空。

目前，人工智能技术的发展，可以说正处在火箭的点火和准备加速阶段。在大众媒体上，AI相关的新闻比比皆是。在技术领域中，处理器和算法的演进同样日新月异，公共云服务商UCloud和英特尔一起，在这方面携手取得了诸多进展。

▌优化引擎和控制器，加速AI火箭

UCloud实验室研发总监、创新产品线总监叶理灯指出：“人工智能有三个要素——数据、算法、计算能力。有一个理论叫’火箭理论’，就是説如果把人工智能当火箭的话，那么数据是火箭的原料，计算能力就是引擎，算法就是引擎的控制器。”

为了帮助初创企业、传统企业AI转型， UCloud推出了UCloud AI在线服务UAI-Inference，并以英特尔至强处理器E5产品家族作为这艘火箭的引擎，利用该处理器产品家族强大的可扩展性完成弹性部署，既能获得高性能，还降低了成本以及用户的TCO。

（图片来源: https://iq.intel.com/making-genomic-healthcare-available-to-everyone/关键词为 cloud computing）

在英特尔至强处理器这架引擎中，还集成了一套AVX浮点计算指令集，它有增强的数据重排能力，可以更有效地存储、读取数据。叶理灯和他的团队发现：在UCloud提供的公共云服务中，很多虚拟云主机仅仅用到简单指令集，而没有发挥AVX的强大能力。因此，他们和英特尔的工程师一起，在算法层面，利用各个虚拟机中此前未能“物尽其用”的英特尔AVX能力，借助其优势和特性，优化它在UCloud AI在线服务中的应用表现，满足AI在线服务的计算需求。AI在线服务时延成功降低到数百毫秒，完全满足UCloud用户的实际应用需求。

UAI-Inference还和英特尔合作，使用了性能更佳的AI框架——面向英特尔架构优化的Caffe框架，从而更好地支持英特尔至强处理器产品家族和至强融核TM处理器产品家族，其中集成最新版本的英特尔数学核心函数库2017，能更高效地利用英特尔AVX处理能力。

一系列测试结果表明，借助面向英特尔架构优化的Caffe框架，测试系统的执行时间从最初的37秒缩短至优化后的3.6秒，整体执行性能提高了10倍以上。UAI-Inference的AI在线服务效率得到了极大跃升。

换句话说，UCloud和英特尔一起，将UAI-Inference的引擎和其控制器的能力充分发挥出来，助推这架火箭飞得越来越快。

（原文链接: https://iq.intel.com/artificial-intelligence-teaching-machines-to-learn-like-humans/关键词 Caffe框架）

▌解决两大难题，把企业送上AI火箭

众多企业深知搭上AI火箭的重要性，但如果要自己搭建相关系统，却面临两大难题：

不熟悉AI系统的设计、部署和运维，AI系统需要多维度的巨大投入，一旦选型失败，就会面临高昂的成本损失。

即便初始选型正确，AI仍会带来巨大成本开支，侵蚀企业的总体TCO。

这两大难题正是UAI-Inference想要解决的痛点。基于大规模分布式计算平台，它提供了“两步走”时的部署模式。用户先按照UCloud提供的SDK工具包完成相关准备工作，打包完成任务的在线部署后，就能使用UAI-Inference的PaaS平台完成自动化的管理和维护，同时还保证了平台数据的安全性。

叶理灯说：“UAI-Inference给用户带来的最大优势，就是省去了部署时的大量繁琐工作，让用户可以将宝贵资源聚焦在自身业务上。”

(图片来源: https://iq.intel.com/artificial-intelligence-teaching-machines-to-learn-like-humans/ 关键词: Artificial Intelligence machine )

现在，UAI-Inference已经可以在图像识别、机器学习等多个AI领域满足企业用户的需求。一些人脸表情识别应用的实践检验证明：基于英特尔AVX支持的UAI-Inference，完全具备了与传统方案相媲美的能力，成效出色。“我们的目标是帮助用户像使用云主机、云存储这些成熟的云产品一样使用AI在线服务。”叶理灯说。

当火箭进入太空之后，进入失重状态的宇航员可以在火箭中自由漂浮。有朝一日，AI这架火箭也必将让人类从很多繁琐的劳动中解放出来，让我们自由自在，享受更多自由。