手机与物联网终端商场潜力大
现在人工智能（AI）刚刚鼓起，许多公司重视主动驾驶，或到ImageNet ILSVRC竞赛上去显现实力，或进行下棋。一起应该更重视AI实践为人们带来了什么，例如现在现已老练的手机，以及正在鼓起的物联网终端商场的时机。 “假如有想创业的企业家，能够向这些方向幻想，这方面的潜力非常大。”美国高通公司产品商场资深司理刘学徽先生对电子产品世界的记者说。
近来，刘学徽司理到会了在京举行的“人工智能与芯片高峰论坛”，并宣告了“终端设备上的人工智能”的宗旨演说。该论坛由电子产品世界、启迪之星和洪泰智造工厂联合主办。
刘学徽司理指出，我国每年大约有6亿部手机出货，假如这6亿部手机中有10%用上了人工智能算法完成的功用，收益将非常惊人，关于厂商来说其收入也是相当可观的。别的，现在手机经过滑屏、触屏等办法操控，未来经过语音算法和语音辨认，完成手机操控的办法将会渐渐流行起来。经过AI技能，未来手机还能够了解用户的喜爱、主动协助翻开App，也能够作为一些广告的引荐进口等。
现在咱们热心议论云核算，但人工智能运算并不是一切场合都合适云端处理，有些需求在传感器端邻近当即核算。例如无人机、主动驾驶、IP camera（摄像头）、手机摄影等。由于无人机和主动驾驶需求实时避障，而IP camera的人脸辨认假如彻底在云上核算，从原始图画收集，之后紧缩、传输、解压，算完再把成果告知端，这非常浪费时刻时刻。在手机中，摄影前要对手机预览、对焦，也一定是在终端上运算。
在厂商近期发布的最新智能手机傍边，有些类型选用了布景虚化技能，使摄影作用达到了单反作用，这其实就用到了AI算法开发的功用。实践上，手机上还有许多功用能够运用AI技能，例如摄影的美颜，还有人脸辨认方面，是选用10个特征点，仍是一二百个特征点、四百个特征点，对人脸辨认的作用会不同。可把这些算法在云上练习好，然后转移置到手机上运转。
在VR/AR方面，现在存在的瓶颈之一是用户缺少存在感体会，没有定位。假如把AI参加VR终端，戴着头盔能够看到自己的手和脚。依据你的摄像头的移动，能够看到周围的物体。其办法是头盔/眼镜外装个摄像头，假定辨认周边有一个凳子，那么在人的视界里放一个虚拟凳子，这样作用更传神。在直播交际文娱场景中，主播跳舞时的头饰由于延时常常跟不上脸部的移动；别的假如人在移动，谈天的作用也大打折扣。假如在端上做AI运算，作用会大大提高。
骁龙神经元处理引擎SDK
Qualcomm供给了专为端上运转神经元网络的骁龙神经元处理引擎（Snapdragon Neural Processor Engine）简称SNPE。 现在在Qualcomm® 骁龙 600系列部分渠道和820、835上都得到了支撑。经过这个引擎，算法能够运转在GPU和DSP上，速度和功耗相对CPU能够得到大幅提高。现在支撑的架构有Caffe，Caffe 2，Tensorflow，咱们供给转化东西和benchmark东西，便利算法厂商的开发调试。
以Qualcomm® 骁龙TM 835移动渠道上的测验为例，得到的成果是相同的神经元网络，在GPU上运转比CPU上运转均匀快4倍，在DSP上运转比CPU快16倍；功耗上， 在GPU上运转的功耗是CPU上的1/8，在DSP上运转的功耗是CPU上的1/25。
运用SNPE SDK的根本流程是以TensorFlow、caffe、caffe2做的模型，装备调用GPU，DSP或CPU的API，然后经过转化东西转化成在DLC格局，再经过SDK让算法在骁龙移动渠道三种内核上运转，完成各式各样的功用，例如人脸辨认、语音辨认、文字辨认等功用。换言之，Qualcomm SNPE SDK中供给了现成算法和函数，比如卷积、池化等常用函数都已将做好，算法开发者直接调用即可。一起还支撑用户界说层（User Defined Layer, UDL）。
关于软件算法，值得一提的是，曩昔是传统算法，现在根据机器学习的算法，速度更快作用更好，并且功耗更低，开发更为便利。此外跟着算法的前进，对硬件的依赖度下降，例如要摄影明晰，曩昔一般要高像素分辨率，现在能够不必很贵的硬件，依托算法提高作用。
终端与云端相得益彰
那么，比较市面上的一些硬件处理器，高通的特征及与他们的联系是什么？
现在AI芯片有两种形状，一种是像Qualcomm相同是做在一个SoC中，特点是体积更小、功耗更低，运算速度快，由于CPU、GPU和DSP等核算内核都做在一个SoC上，会对数据搬移、推迟和功耗等进行优化。未来跟着运算要求的提高，或许会呈现专门运算Neural Network（NN，神经网络）的核。第二种形状，是一些公司做的所谓的AI芯片，实践上是在主处理器外做的协处理器，因而主芯片和外置芯片之间的许多数据搬移、交互等将是应战。
相同是NN芯片，各家的定位是有差异化的。例如FPGA较为合适在云上或车载等对功率和体积不太考究的使用场景。一些IP公司也推出了AI架构和指令集，但现在还没有到结论时。由于各种技能都是演进过程中，终究要看商场的挑选。
Qualcomm与许多云端处理器厂商是相得益彰的联系。例如云端处理器的GPU非常强壮，练习/training做得非常好，但功耗不抱负，据悉某专用神经元网络芯片功耗高达30W。云端合适模型的练习，练习后的成果可转移到端去运转。骁龙终端芯片现在不做练习，但非常拿手运转。 “咱们的生态生长有赖于云端，云端的模型做得越好，越有利于咱们AI技能的完成和落地。”刘学徽司理着重。
已与Facebook协作
实践上，Qualcomm® 骁龙TM 移动渠道在手机端也有靓丽的成绩。例如本年4月18日，Facebook 和高通宣告协作支撑 Facebook 开源深度学习结构 Caffe2 和Qualcomm® 骁龙TM 神经处理引擎（NPE）结构的优化。Facebook将在其一切安卓使用中集成SNPE SDK， 运转在骁龙移动渠道上时，比没有SNPE的速度提高5倍。
跟着我国手机与AI的开展，等待会有更多的我国算法公司开发手机上AI使用！
