但为什么在手机中,我们却没有看到这种想象力爆棚的AI体验呢?很简单,因为贫穷限制了开发者的想象力。确切地说,是终端算力的贫瘠和开发路径的穷困,限制了移动AI开发的想象力边界。
这种尴尬,让我们敲开了端侧AI的大门。
端侧AI:没道理让算力限制想象力
让AI应用在手机这个活跃度最高的硬件种类上跑起来,早就不是什么新鲜命题。毕竟AI的识别和学习能力,需要更多的实时数据和不间断的训练过程,在今天的人类世界中,恐怕没有比手机更好的温床。
反过来说,也没有像手机一样可以让AI快速产生用户价值的市场。毕竟AI不是个新东西,历史上的AI浪潮归于失败,就是因为工程化难度被低估导致市场价值沦丧。不能用的技术肯定不是好技术。
于是让AI技术跑在手机上,成为了国内外友人的共识。谷歌还推出了专门帮助机器学习任务跑在终端的TensorFlow Lite。各种花样的手机AI功能其实并不少。
但为什么我们始终没有见到这些应用来到自己的手机上呢?原因也很简单,移动芯片支撑不起来足够的端侧运算需求。由于AI任务有自己的深度学习运算需求,用CPU+GPU的模式会带来功耗和能耗上的支撑不足,不是卡顿严重就是根本跑不起来。而引入云计算又会产生很多问题。
比如视频、图像类的AI任务,假如要上传到云端进行算法处理再传回手机,那么无论如何都是有延迟的。直播的时候永远自带延迟效果,相信用户从手机里爬出来踹飞主播的心都有。
而另一个问题,是AI目前的主要任务是识别。而手机用户识别的更多是自己与家人朋友的相片,以及周遭生活的各种图像与信息数据,这些东西上传到云端永远是有风险的。扎克伯格那种眉清目秀的都叛变革命了,咱们还是小心谨慎点好。
种种迹象表明,想要打开开发者的想象力,让他们可以尝试在手机世界中进行AI开发,终端AI算力就是个必不可少的先决条件。于是我们看到去年华为推出了搭载NPU专用硬件处理单元的麒麟970芯片,随后推出了几款产品,以及全面向开发者开放的AI开发平台HiAI。