电子发烧友App
2019年6月28日，由<电子发烧友>主办，深圳市机器人协会、深圳市人工智能行业协会和华强智慧网联合主办的“2019年人工智能技术峰会”在深圳成功举行。本次峰会以“加速人工智能技术落地”为主题，包括一场高峰论坛和两场技术分论坛：图像与语音识别技术、大数据与AI技术应用论坛。大会汇聚了人工智能产业链上下游领先企业——国际一流IP供应商、EDA供应商、芯片/算法独角兽企业、知名的系统和平台供应商、系统集成商、投资机构以及来自垂直应用领域的新锐企业等等。本次大会还获得了深圳半导体行业协会、深圳市物联网协会、深圳湾、寻材问料、CIOE光博会、华强PCB和华强芯城等单位与机构的大力支持。
超过一千名专业观众参加了大会，近30位企业高管、行业专家纵论产业发展之道，从不同领域、不同产业环节出发，对2019年人工智能在中国市场的进一步落地，进行了探讨及预测。并有数家公司在会上发布最新产品，还有丰富的AI技术/方案等落地资源，实现了供应商与需求方之间的有效对接。
<电子发烧友>总经理张迎辉在致辞中表示，中国的华南地区一直是高科技应用落地的主要地区，深圳则是这块科技创新热土的重要基地。在过去两年中，人工智能语音识别音箱出货量过亿，成为第一代人工智能产品爆品，它宣告人工智能技术落地正式全面启动。从此深圳的新产品的出现，可能将不再是一件件单品，而是带有人工智能技术的多品类产品应用落地。他强调，人工智能创新技术呈现出无限的商机，未来的科技企业，谁能在人工智能技术发展的路上走得更快更强，谁就将会成为接下来的科技霸主。
<电子发烧友>分析师张慧娟就人工智能调研成果进行了主题报告。结合全球领先科技企业的布局，以及国内市场的落地应用情况，分析认为人工智能将在2-3年内在国内市场形成更大规模的落地效应，包括新兴领域和传统行业。在人工智能落地的动力与瓶颈方面，提到数据问题应该受到足够的重视，不论是硬件架构还是数据资源的调取方面。随着人工智能从云到端的发展，端侧芯片竞争会更为激烈，背后考验的还有软件支持、生态、服务等因素。报告最后谈到了智能终端人机交互的趋势，以及5G与AI融合后可能带来的改变。
以下是高峰论坛演讲嘉宾的精彩观点：
Arm中国：连接无处不在，智能无处不在
Arm中国市场部负责人梁泉在演讲中谈到，人工智能会继续赋能边缘设备发展，应用于每个IoT终端节点。现在，90%的AI智能设备都基于Arm IP，Arm IP极大驱动了人工智能和机器学习技术的发展。
Arm中国市场部负责人梁泉
回顾计算发展的历史，梁泉表示，经历了主机计算时代、个人计算和软件、互联网、移动和云计算这四次浪潮，第五次浪潮将是一个由数据驱动的计算时代。Arm生态系统在这波浪潮中将迎来巨大的机遇，推动经济增长及社会进步，但是，只有把当前的先进技术转化为坚实的业务，第五次浪潮才会成为现实。
根据Arm之前的预测，到2035年，全球将有一万亿设备实现互联。飞速发展的物联网已成为人类文明史中推进速度最快的新兴经济体系，全球累计物联网设备产生的新产值已达到30万亿美元，而在接下来的20年内，预计累计中国物联网相关设备及产值就将达到60万亿元以上。
如何满足嵌入式平台日益增长的智能处理需求？梁泉指出，分布式计算成为未来方向。边缘处理在带宽、电源、成本、延迟、可靠性和安全性方面提供了好处。并非所有数据都需要发给数据中心去处理，在数据被搜集和使用的节点也应该具有这一能力。这意味着不仅要在笔记本电脑处理器中启用这种边缘处理能力，还要在性能、功耗和内存方面有限的小型嵌入式设备上实现这种计算水平。Arm希望与合作伙伴共建面向未来的智能生态，实现这些优势。
去年6月Arm把中国业务分拆，成立由中资51%控股的Arm中国，并推出本土工程团队的第一个成果——周易人工智能平台。周易平台采用完全自主开发的AI处理器和软件框架，让芯片厂商能够在现有的技术能力上，快速部署人工智能计算的算力，在同等的成本功耗情况下，能做到人工智能应用所需要的算力。它的核心包含两部分，一是Tengine软件框架，二是AIPU（人工智能处理单元），主要处理卷积神经网络、深度神经网络为代表的AI计算。从优化端侧芯片开发的角度看，周易平台降低了两个门槛：一方面是SoC集成AI功能的设计门槛，另一方面是上层软件的开发门槛。
梁泉表示，未来的智能生态，所有基础革命都必须通过开放生态系统把成本功耗降下来，又能通过共同的标准和体系让大家协作，在同一个开发环境中，把应用服务做好。
Wave Computing:创新架构设计应对数据中心至边缘端计算挑战
随着神经网络、AI应用场景和方案的不断创新和多元化，以及5G网络发展为边缘计算带来的发展机会，Wave Computing中国总经理熊大鹏博士认为兼顾效率、通用性、灵活性、可扩展性与成本的AI深度学习计算加速的新架构技术，将会是下一个对AI产业发展至关重要的技术进步。
Wave Computing中国总经理熊大鹏博士
Wave Computing最新推出的面向边缘和端侧AI计算的TritonAI 64 IP平台，基于DataFlow处理器，是基于CGRA的DPU技术，针对边缘和端侧市场，做了一定的优化，在性能功耗和通用性方面能够达到更好的平衡。
熊大鹏博士表示，CPU、GPU等芯片不适合对巨量数据进行处理、传输和存储的要求。此外，人工智能应用场景非常丰富，从小到几十个Gops的轻量级推理，大到上百个Tops的重量级多网络并发推理；从追求PPA的专用网络的应用场景，到网络变化无穷的应用场景，该平台都能很好的支持。
采用非冯诺依曼架构，通过软件实时动态地控制成千上万个异步的处理器来构成具有特定功能的、并行处理的、数据驱动的计算流水线，能够充分使用芯片的算力，最大程度减少数据存储、传输和交换，实现更佳的效率、通用性和可扩展性。熊大鹏博士表示，这一方案基本上能将芯片算力资源的利用效率保证在75%-80%以上。
基于DataFlow技术架构芯片DPU的解决方案不仅适用于数据中心，在边缘计算方面也有独特的价值。一方面，AI对边缘处理的能力要求越来越高；另一方面，AI不再只是单一模型的处理，需要同时支持多个不同的神经网络，对处理器的通用性和能效的要求更高。
Wave Computin于去年6月收购了IP提供商MIPS，致力于将通用计算技术和深度学习的AI数据流核的计算技术融合在一起，加速数据中心至边缘终端计算的AI算法。
Cadence：如何在边缘侧/端侧快速部署神经网络？
Cadence公司Tensilica事业部产品管理总监Megha Daga指出，神经网络推断将会无处不在，例如智能语音助手、人脸识别、安防监控等等，现在多数的AI推断都需要传给云端去处理，但未来，边缘侧/端侧AI推断会成为趋势。
Cadence公司Tensilica事业部产品管理总监Megha Daga
这样可以带来三方面好处：首先是低延时，尽管云端具备强大的算力，但是当越来越多的算力都移到边缘或端侧，能够省去了数据传输的时间，延迟会大大缩小；其次，针对需要离线推断的场景，可支持设备在不接入网络的情况下进行推断；第三，人们对隐私安全非常注重，数据在端侧处理，能够进一步提升安全性。
但是，在边缘侧或端侧进行运算有些特别的要求，特别是对于多数都是使用电池供电的嵌入式设备，有低功耗方面的需求；同时还要求具备很高的运算能力；此外，还要求设备能够实现可配置、可扩展，从而适应不同的场景。诸如此类要求，都对设备提出了很高的要求。
致力于加速边缘侧/端侧神经网络推理，Cadence去年推出专门针对人工智能领域的全新处理器IP——Tensilica DNA 100。无论小至0.5还是大到数百TeraMAC（TMAC），均可实现高性能和高能效，性能有望达到100TMACs（万亿矩阵积累操作）。
与具有类似尺寸的MAC引擎的竞争解决方案相比，DNA 100具有高达4.7倍的性能优势。这主要通过它的稀疏计算架构而实现，这意味着它只计算非零激活和权重，并实现了更高的硬件MAC利用率。
Megha Daga表示，神经网络的特点是固有的权重和激活的稀疏性，这会导致其他处理器中的MAC通过加载和乘零而不必要地消耗性能。而Tensilica DNA 100处理器的专用硬件计算引擎消除了这些问题，允许利用这种稀疏性来提高效率和减少计算量。神经网络的再训练有助于增加网络的稀疏性，并通过处理器的稀疏计算引擎实现最大性能。
例如汽车动力这种拥有大量传感器的应用中，包括了摄像头、激光雷达和超声波等，对于推理性能的需求非常急迫。有了神经网络加速器后，就可以实现标准DSP负责信号处理的主要任务，处理感知和决策制定等任务被移交给神经网络加速器。
软件方面，Cadence提供了一个完整的软件栈和神经网络编译器，包括网络分析器和优化器以及所需的设备驱动程序，可以进一步降低开发难度，缩短开发周期。目前，Tensilica DNA 100已开始供货。
太谷计算:IoT+AI如何赋能智慧安防？
智能化城市的开发目标，正在从原来的单个需要，转向对整个生活形态或生态链的“全应用场景”模式。按四个维度划分，人工智能在城市应用场景覆盖：社会管理场景，覆盖AI+安防、AI+交通、AI+能源；公共服务场景，覆盖AI+医疗、AI+政务、AI+服务机器人；产业运作场景，覆盖AI+农业、AI+楼宇、AI+零售；个人应用场景，覆盖AI+生活娱乐、AI+教育、AI+移动设备。
太古计算总经理陈伟认为，升级安防场景有助于搭建更高效的城市治安系统。他指出，传统安防系统的监控中心，基本上只能实现事后视频取证的功能，并不能及时通过监控发现问题，因此，亟需对安防系统增加事前预警功能。
太古计算总经理陈伟
那么，如何能够实现事前预警？陈伟指出了行为监控的重要性。基于AI神经网络的视觉分析算法，太古计算的智能AI行为识别系统可以利用拍摄回来的视频画面，结合人体姿态特征，识别出人的各种动作，赋予监控系统智能分析的能力，同时该系统还可以实现广播系统和消防报警系统的相互联动。因为增加了对视频中人的动作识别，达到提前预警的目的，该系统可以广泛应用于社会治安、小区、工厂、酒店、学校、医院、养老机构、公园、广场、旅游区、监狱、客运公交、地铁、机场、海关、施工工地等领域。
陈伟介绍，传统的行为识别技术多是基于移动侦测技术、伴线技术、图像比对、学习人形或物体、轨迹分析等多种技术糅合在一起，实现对场景的分析，当场景发生变化时，判断为出现异常。
太古计算这款智能AI行为识别系统，基于骨架的行为识别及检测，是以LSTM（Long-Short Term Memory）的循环神经网络（RNN）与卷积神经网络（CNN）为基础框架搭建而成。由于是根据运动轨迹定义各种异常行为，因此无需针对场景进行分析。这样带来的好处是误报率降低，识别精准度、识别能力、识别效率提升。
陈伟表示，智能AI行为分析技术具有实用性强、应用场景多等特点，是很多企业看好的方向。随着数据的积累，智能AI行为分析技术的不断突破，有望在各个行业的应用场景落地。
地平线：从算法到芯片一站式方案，构建AI生态
现今边缘侧的数据量越来越大，AI若想真正普惠大众，挑战在于数据。据国际 IDC 数据公司（IDC）白皮书《数据时代 2025》预测，2025 年，超过 25% 的数据将成为实时数据，其中 95% 生产自 IoT 终端，并且绝大部分不能直接创造价值，需要进一步提炼才能更好地发挥数据价值。地平线智能芯片解决方案事业部总经理张永谦就此谈到了边缘计算如何赋能行业落地。
地平线智能芯片解决方案事业部总经理张永谦
5G网络时代，多接入边缘计算成为必由之路，边缘计算的好处是实时计算，减少反应延迟，可靠性高，离线正常运作，安全合规满足隐私要求，高性价比，节省存储运输成本。张永谦提到，未来，AI计算将是分布式的，边端云协同，在一个更大的范围内寻找AI解决方案最优解。
同时，他还指出，AI芯片的真实性能要从四个维度来衡量：每瓦的峰值算力和每美元的峰值算力（由芯片架构、前后端设计和芯片工艺共同决定），峰值算力的有效利用率（由算法和芯片架构决定），以及有效算力转化为 AI 性能的比率（主要是速度和精度两个方面，由算法决定），结合这四点得到的才是有效的AI性能。
从算法演进时间轴，可以看到地平线AI芯片的表现高于典型AI芯片，原因是地平线AI芯片将算法和芯片协同优化，首重效率，兼顾灵活性，高效架构设计服务经典和未来算法。
地平线于2017年底成功流片量产了中国首款边缘人工智能处理器——专注于AIoT的“旭日(Sunrise)”系列处理器和专注于智能驾驶的“征程(Journey)”系列处理器，并已实现大规模商用。目前，地平线第二代芯片已流片成功，具备强大的语音和视觉融合计算能力。AI需要生态链的支撑，张永谦表示地平线希望与生态合作伙伴一同推动边缘人工智能在智慧楼宇、智慧安防、智能零售、智能社区等领域的发展。
今年4月的上海车展上，地平线首次对外明确了地平线的战略选择——AI on Horizon，做AI时代最底层的赋能者。地平线将充分发挥自身在人工智能软硬件方面的核心优势，聚焦在边缘AI芯片+工具链组成的基础技术平台的搭建和打磨，赋能产业合作伙伴，向行业提供“超高性价比的AI芯片、极致功耗效率、开放的工具链、丰富的算法模型样例和全面的赋能服务”。
瑞芯微：在AI峰会之际正式发布AI计算棒
瑞芯微在今年正式进军人工智能芯片市场。瑞芯微在2019年1月正式推出AI开发平台Toybrick。瑞芯微电子高级产品经理邱建斌在演讲中介绍，硬件上，瑞芯微提供多系列开发平台和参考设计满足不同用户群体。软件上，提供稳定可靠的系统平台、丰富的开发工具、AI教学案例和开源的社区。
瑞芯微电子高级产品经理邱建斌
瑞芯微推出TB-RK3399Pro开发板，采用高性能AI处理芯片RK3399Pro,提供一站式AI解决方案。集成多路USB接口，PCIe接口，双MiPi CSI接口，HDMI、DP、MIPI和eDP显示接口等。预装Android和Linux双操作系统。
此外，瑞芯微还推出了Toybrick AI计算棒TB-RK1808S0，它的内部搭载算力3.0T ops RK1808 NPU。多种开发模式，支持二次开发，进行深度定制。主要面向AIOT应用。在此次AI峰会上，瑞芯微也带来了好消息，宣布这款计算棒正式上市。
计算棒强化了边缘侧的AI推理能力，也使得AI应用更加简化。实际流程中，把模型送到计算棒上，进行推理，再把结果返回到开发平台，再进行展示即可。可广泛应用于人脸识别闸机，计算机视觉，智能零售，车载产品，工业电脑，智能家居设备，医疗健康和穿戴设备等。
在瑞芯微的AI开发平台，可进行模型转换，称做RKNN功能，目前已经支持TENSORFLOW，CAFFE，ONNX，DARKNET等深度学习架构。除了客户已有的算法可以在平台进行评估，瑞芯微还提供人体骨骼关键点，人脸特征关键点等AI SDK，客户可以快速评估性能，未来还有条型码，二维码等识别。
整体而言，瑞芯微AI芯片的应用场景非常广泛，包括新零售，计算机视觉，人脸识别闸机，车载产品，工业电脑，AIOT，医疗健康，智能穿戴等等。
RT-Thread：AIoT操作系统如何智能？
AI与物联网密不可分，由于语音、视觉、图形、数据分析向智能化转移，物联网设备的AI处理成为必须。上海睿赛德电子科技RT-Thread COO邹诚分析说，从操作系统来看，AIoT还主要以linux和安卓系统为主，占比80%。而RTOS操作系统占比20%，以M4F和ARM，RISC-V处理器为主。RT-Thread是国内目前合作和支持芯片厂商最多、社区开发者最多、组件最丰富、应用领域最广的IoT OS。
上海睿赛德电子科技RT-Thread COO邹诚
邹诚介绍，RT-Thread操作系统推出两代架构，新一代RT-Thread4.0将最大限度的兼容之前的组件和软件包生态。凭借两代架构，RT-Thread将在70%以上的AI领域具备竞争力。
在RT-Thread4.0之前，内核的网络协议，驱动等都跑在一个内核里面。下一代微内核架构，更多运用在M4，M7,R9,11，RISC-V等处理器上，这个架构是把驱动等放在用户态，内核态放内核调度，IPC等。
为什么要推出微内核，邹诚表示，微内核架构启动时间快，更低功耗和内存资源占用，构建音视频框架，集成AI平台以及图形化IDE。在高端智能设备领域，微内核架构更有竞争力。IOS，安卓也用的微内核架构。
与linux操作系统相比，RT-Thread具有低成本如RAM和Flash只需linux的五分之一，低功耗、快启动、小体积、实时性和快上市等特点。成为MCU，无线SoC，AI/AP领域芯片厂商的选择。
现在，超过40家公司支持RT-Thread，几乎所有主流的MCU芯片都支持，无线SOC领域例如芯之联、RDA、博通集成等也有合作；AIAP领域，已经有多家芯片选用，例如国科微、全志、瑞芯微、SIFIVE等。
最近搭载RT-Thread的智能音箱方案开始出货，这个方案基于MCU，并在DSP上跑降噪和语音识别，采用RT-Thread优化了整个方案的性能。
RT-Thread还具有开源组件丰富（软件包生态）、拥有高附加值组件如GUI、音频框架、Flash日志文件系统等，优秀的软件架构设计，高度可伸缩，良好的应用生态环境，如支持POSIX，CMSIS，Webnet，脚本运行环境等拥有丰富的开发工具包，易用和便捷开发。
邹诚认为，物联网时代的碎片化等特征，使得终端开发的复杂性增加，产品对功耗和上市时间要求皆高。RT-Thread致力于解决这些痛点，朝着物联网操作系统更简化、更智能发展。
阜时科技：AI时代生物特征识别是怎样的？
在此次AI峰会上，阜时科技对人脸识别与指纹识别两种识别方式进行了剖析。阜时科技人工智能与机器视觉技术联合实验室研究员许家妙谈到，生物特征识别是根据生理特征（人脸、指纹、虹膜等）和行为特征（姿态、动作、情感等）实现身份认证的技术。人脸识别应用于闸机、门禁考勤、支付、在线办事等等行业。
阜时科技人工智能与机器视觉技术联合实验室研究员许家妙
以智慧影院为例，通过人脸注册，专注度分析，收费评估，专注度汇总等步骤，最终可通过大数据给影片打分。现如今，人脸识别已经出现在无人超市，智能售货机等应用，此外还可以进行整容妆容模拟等。
不过，如果采用2D人脸识别，其面临一些挑战。例如低分辨率，计算力限制，人脸反欺骗等。在丹麦有案例通过猪脸识别，监测猪的喂养情况还需要考虑细粒度分类问题。
相比之下，3D人脸识别更加精确。3D活体检测可以有效地分辨出伪造图片，视频和面具等。许家妙介绍说，阜时科技的3D结构光人脸识别，相比传统2D识别，能够提供更精细的结构信息，能够进一步改善识别精度。
在指纹识别领域，阜时科技推出了基于LCD的屏下指纹芯片。目前，屏下指纹大多数基于OLED屏，它具有透光性，厚度较薄等特点。据悉，阜时的LCD屏下指纹，已经与国内公司达成合作，将于今年底量产。
生物特征识别在算法、硬件和法律法规方面仍然面临着挑战，也是芯片厂商需要为之不断努力的方向。近几年人脸的隐私保护受到关注，人脸反应出的基因信息等如何得到保护，同时不影响人脸认别的精度，这些都是人脸识别行业将要研究的课题。
圆桌论坛：AI产业链畅谈加速人工智能落地
AI产业已经受到瞩目，当务之急就是各种落地应用。本次圆桌论坛由电子发烧友AI分析师张慧娟主持，在这个环节，诸位嘉宾就“加速人工智能落地”的话题进行了热烈的讨论。他们分别是：Wave Computing中国区总经理熊大鹏，太古计算机董事长陈伟，RT-Thread COO邹诚，华为云专家，平安智慧城市李镐炜博士。
从产业政策到AI产业存在的痛点，再到AI有哪些落地的方向等，嘉宾们都给出了分析。
熊大鹏认为在政府的推动下各种AI应用开始推广，其中与视频和图像有关的AI应用很多。AI计算架构和软件开发平台还处于碎片化，目前业界的共识是两种思路，即与应用相结合，或者通用性不针对特定应用。Wave Computing比较擅长后者。他同时指出，计算内部数据的存储是阻碍AI发展的一个关键点，好比人脑通过某些思考可以很快地发现答案，片上存储容量的突破能够加速信息的即时处理，避免数据在处理器和存储器之间频繁进行传输而耗时。
陈伟认为包括算法积累，算力提升以及5G到来，目前只是第一阶段的进程。往后发展到类人脑，需要芯片、算法、终端厂商的共同发展。
RT-Thread COO邹诚谈到AI在智慧城市已经开始发力、语音模组、摄像头AI还没有上规模。AI芯片厂商面临的问题是场景的碎片化和芯片的专用性以及市场空间等，这影响着芯片厂商的现实生存和发展。
华为云专家认为，创新周期在缩短，有了云平台，算法可以直接跑在云端。同时落地周期又相对较长，一个项止的落地可能要经历商业咨询，顶层设计，部署IoT传感器，数据中台，部署AI，人才培训等一系列过程，因此落地项目很重要，建议通过示范项目找落地点。
平安智慧城市李镐炜博士直言，人工智能的算力，能否从不太精准的数据中分离出有价值的信息，这将是一个挑战和机会。他同时指出AI从信息安全角度如何落地，AI的安全、合规性也是相当重要的问题。
与会嘉宾们一致认为，AI是数字经济的发动机，也是弯道超车的机会，当然，现阶段还是要加强算法和算力研发的力度，培养大量的人才，并建立良好的AI生态。
精彩花絮
工商网监
评论