恩智浦半导体NXP Semiconductors N.V.发布了eIQ机器学习（ML）软件对Glow神经网络（NN）编译器的支撑功用，针对恩智浦的i.MX RT跨界MCU，带来业界首个完成以较低存储器占用供给更高功用的神经网络编译器运用。Glow编译器由Facebook开发，可以集成特定于方针的优化，恩智浦运用这种才能，运用适用于Arm Cortex-M内核和Cadence Tensilica HiFi 4 DSP的神经网络算子库，最大程度地进步i.MX RT685以及i.MX RT1050和RT1060的推理功用。此外，此功用已集成到恩智浦的eIQ机器学习软件开发环境中，在恩智浦的MCUXpresso SDK中免费供给。
运用Glow充分发挥MCU架构特性的优势
2018年5月，首先开发PyTorch的Facebook推出了开源社区项目Glow（Graph Lowering神经网络编译器），其意图是供给优化，进步一系列硬件渠道上的神经网络功用。作为一种神经网络编译器，Glow依据未优化的神经网络生成高度优化的代码。这个特色有别于典型的神经网络模型处理，后者选用即时编译，因此需求更高的功用，还会添加存储器开支。像Glow这样直接运转优化代码可以明显下降处理和存储器要求。恩智浦也在Glow开源社区中扮演着活跃人物，协助推行和遍及Glow的新功用。
Facebook软件工程司理Dwarak Rajagopal表明：“GitHub中供给的规范版Glow可以直接在任何设备上运转，让用户可以灵敏地针对感兴趣的根底架构编译神经网络模型，包含Arm Cortex-A和Cortex-M内核以及RISC-V架构。恩智浦运用充分运用MCU核算元件的专用软件库，完成了2-3倍的功用进步，展现了从依据云的高端机器到低成本的嵌入式渠道的广泛范围内，将Glow神经网络编译器用于机器学习应的许多优势。”
优化机器学习结构以增强竞赛优势
未来几年内，对机器学习运用的需求预期将会大幅添加。据TIRIAS Research猜测，到2025年，98%的边际设备将运用某种方式的机器学习/人工智能。依据市场猜测，到2025年，估计将有180亿至250亿部设备包含机器学习功用，虽然它们或许并没有专用的机器学习加速器。消费型设备制造商和嵌入式物联网开发人员将需求优化机器学习结构，以便完成运用MCU的低功耗边际嵌入式运用。
恩智浦半导体资深副总裁兼边际处理事务总司理Ron Martino表明：“凭仗eIQ机器学习软件结构，运用高度集成的i.MX运用处理器和高功用i.MX RT跨界MCU的强壮功用，恩智浦正在推进机器学习功用在边际设备上的完成。跟着i.MX RT系列跨界MCU添加对Glow的支撑，咱们的客户可以编译深度神经网络模型，为他们的运用带来竞赛优势。”
恩智浦的面向机器学习的边际智能环境解决方案是一个全面的东西包，供给开发人员需求的构建模块，协助他们高效地在边际设备中施行机器学习。Glow整合到eIQ软件后，机器学习开发人员将具有全面的高功用结构，可在包含i.MX RT跨界MCU和i.MX 8运用处理器的恩智浦边际处理解决方案上进行扩展。客户具有了更强壮的东西，可以在i.MX RT MCU和i.MX运用处理器上开发机器学习语音运用、目标辨认、人脸辨认等运用。
运用恩智浦Glow神经网络施行来进步功用
eIQ现在包含对Glow和TensorFlow Lite的推理支撑，关于这些施行，恩智浦通常会履行基准测验以衡量其功用。MCU基准测验包含规范神经网络模型，例如CIFAR-10。以CIFAR-10模型为例，恩智浦收集的基准测验数据表明晰怎么运用i.MX RT1060器材（选用600MHz Arm Cortex-M7）、i.MX RT1170器材（选用1GHz Arm Cortex-M7）和i.MX RT685器材（选用600 MHz Cadence Tensilica HiFi 4 DSP）的功用优势。
恩智浦对Glow的支撑离不开Cadence为Tensilica HiFi 4 DSP供给的神经网络库(NNLib)，该DSP供给了4.8GMAC功用。相同以CIFAR-10为例，恩智浦的Glow施行运用这一DSP来加速神经网络运算，完成了25倍的功用进步。
Cadence Tensilica IP企业副总裁Sanjive Agarwala表明：“Tensilica HiFi 4 DSP开始集成在i.MX RT600跨界MCU中，意图是进步各种不同的音频和语音处理运用的速度。可是，当有越来越多机器学习推理运用瞄准了低成本、低功耗的MCU级运用时，HiFi 4 DSP凭仗固有的DSP核算功用，成为加速这些神经网络模型的抱负挑选。跟着恩智浦在eIQ机器学习软件中施行Glow，i.MX RT600 MCU的客户可以运用该DSP来满意多种机器学习运用的需求，包含关键词检索（KWS）、语音辨认、降噪和反常检测。”
Arm公司机器学习营销副总裁Dennis Laudick表明：“恩智浦将Arm CMSIS-NN软件库包含在elQ中，意图是最大程度地进步功用，削减Arm Cortex-M内核上的神经网络存储器占用。以CIFAR-10神经网络模型为例，恩智浦可以运用CMSIS-NN完成1.8倍的功用进步。其他神经网络模型应该可以发生类似的成果，这明晰地展现了这款高档编译器和咱们的优化神经网络算子库的优势。”
上市时刻
恩智浦的集成Glow神经网络编译器的eIQ软件现已上市，经过i.MX RT600跨界MCU、i.MX RT1050和i.MX RT1060跨界MCU的MCUXpresso SDK供给。未来将会推出适用于恩智浦其他MCU的集成Glow神经网络编译器的eIQ软件。
