Imagination 与 MulticoreWare 合作将 GPU 技术用于全新的双目视觉方案

Imagination 近日宣布了与MulticoreWare.Inc公司的合作，后者是多核和异构计算环境软件解决方案和开发工具的领先供应商。MulticoreWare公司在展锐T710开发板上实现双目视觉算法stereoBM的openCL版本的移植和优化，移植后的算法在GPU平台上性能提升明显。展锐T710开发板内部集成了Imagination GM9446显示芯片，主频为800MHz，采用12nm工艺制造，支持openCL4.0, openCL1.2和openGL3.0版本，最高性能能够达到128 FP32 FLOPs/Clock 和256 FP16 FLOPs/Clock。CPU支持八核处理器，主频2.0GHz, 内部集成AI神经网络处理器NPU,综合算力达4.2TOPS。为了进一步提升开发板的算力，MulticoreWare团队在双目视觉stereoBM的OpenCL实现中，使用了开发板的Imagination GM9446系列GPU作为运算核心，相对于传统CPU的双目视觉算法stereo版本得到了极高的加速比。这组算法的设计充分使用了Imagination GM9446的特点，采用大窗口尺寸和小分辨率图像620x188，local memory存储优化等方式提高了程序的性能。

算法经过调整不同的参数，窗口winSize大小为21，n_disp为64的时候，性能达到最佳。通常kernel越复杂，寄存器占用的空间就越大，最大工作组的大小就越小,有时候发挥不出来并行流水线的最大数量，从而影响性能。

MulticoreWare公司团队在对kernel代码优化内部的寄存器使用量，根据GM9446内部结构，设置合理的global全局工作组大小256x图片高度，local工作大小为256，从而最大程度发挥GPU并行流水线的并发量，一般情况下，第一个维度的工作组大小应该是wave大小的倍数(例如32)，这样可以充分利用wave资源，MulticoreWare团队根据多年优化经验，手动调整工作组大小以满足这个条件来保证性能有所提升。此外内存读取也是影响kernel运行效率的一方面，在OpenCL中一般有全局global内存,本地local内存,常量Constant和Private四种形式组成，MulticoreWare公司团队在将stereo算法重新调整内存布局，将主机内存使用零拷贝技术与GPU内存直接填充，另外将内核kernel多次内存访问的数据，从global内存转存到local内存中，虽然增加了一次转存数据的时间，但是对于对此存取数据整体时间是缩减的，从降低IO时间的角度整体提高了kernel内核的运行效率，性能也有所改善。运行10次后进行效率对比，GPU比CPU计算最高提速80倍左右，平均提速50倍左右。

	CPU(展锐T710 2.0GHz) CPU(Unisoc T710, 2.0GHz)	GPU (Imagination GM9446)	倍数 Multiple
1	31.935 ms	0.76 ms	41.9
2	56.17 ms	0.699 ms	80.3
3	54.22 ms	0.72 ms	75.3
4	51.67 ms	0.77 ms	67
5	31.72 ms	0.74 ms	42.8
6	27.12 ms	0.73 ms	37.1
7	33.35 ms	0.77 ms	43.3
8	50.12 ms	0.75 ms	66.8
9	31.29 ms	0.71 ms	44
10	29.73 ms	0.72 ms	41.29

未来Imagination和MulticoreWare两家公司将致力于共同促进OpenCL在行业中的广泛采用，鼓励OpenCL广泛应用于异构计算、APU、以及CPU和GPU独立计算的领域中，实现计算资源利用率最大化、高效率处理数据传输。