C114通信网  |  通信人家园

资讯
2018/3/7 07:57

高通Gary Brotman解读AI战略:专注终端侧的人工智能

C114中国通信网  乐思

C114讯 3月7日消息(乐思)从2016年下半年开始,智能手机市场就已经燃起了人工智能(AI)热。到2018年,几家主流手机厂商更是将人工智能热带到了巅峰。在MWC 2018世界移动大会期间,三星索尼、华硕等手机厂商发布了其最近的旗舰机。而这些新机都以人工智能为主打。在手机领域创新越发匮乏的今天,人工智能无疑给了这些手机厂商创新的希望。

而在这些新发布的手机中,华硕ZenFone 5Z、三星盖乐世S9/ S9+、索尼Xperia XZ2都采用了高通骁龙845芯片,这款芯片是高通在去年12月新发布的最新的移动平台。虽然高通对外很少提及,但骁龙845已经是高通的第三代AI移动平台。其实,高通在机器学习领域的探索可以追溯到2007年,自那时起,高通就开始了面向计算机视觉和运动控制应用的机器学习脉冲神经方法研究,随后,其研究范围从仿生方法拓展到了人工神经网络

高通产品管理总监Gary Brotman在接受C114采访时表示,如今,越来越多的终端侧的人工智能用例开始涌现。高通是一家个芯片提供商,可以提供相应的解决方案支持不同终端上的AI用例。包括智能手机、智能音箱、联网摄像头、联网汽车、无人机等等的智能终端。高通不仅支持单一的操作系统,而且还提供跨平台的解决方案。

人工智能正向终端迁移

传统而言,很多对神经网络的训练和推理都是在云端或者基于服务器完成的。但是过去几年,这样的模式发生了变化,很多人工智能的工作,比如模式匹配、建模检测、分类、识别、检测等逐渐从云端转移到了终端侧。

Gary Brotman介绍,有三个主要的原因驱动了这样的迁移和演进:

第一,数据隐私。消费者对于个人数据隐私极其看重,个人数据的分享应该受到更好的保护,普遍认为终端侧的安全性会更好一些。

第二,性能。在终端侧完成相关的处理和推理工作能保持超低时延的操作和运行,如果一切都在云端完成,考虑到云端处理获取信息的往返时间,无疑在时延方面会有很大的挑战。

第三,整体的可靠性。终端不可能完全依赖于云端来完成所有AI的运算和处理。而且一旦连接中断,那么终端将失去其自身价值。

“以上是终端侧人工智能能带来的价值,而终端侧也是高通的优势所在。” Gary Brotman表示。

作为一个硬件平台和计算平台提供商,高通的角色就是确保这些终端侧AI用例无论是在性能上还是续航表现上都可以高效地运行,在终端侧实现更好的续航和无缝的用户体验。

软硬件结合应对复杂AI用例

Gary Brotman称,从骁龙820开始到最新旗舰级骁龙845,高通一直致力于对终端侧的AI用例进行优化。

在2018年MWC上,高通还推出了人工智能引擎AI Engine。AI Engine包含了三个部分:硬件上主要是Adreno GPU、Kryo CPU和 Hexagon DSP。每个内核架构各不相同,在处理不同AI工作负载时有各自的角色和独特价值。比如CPU可以处理32位的浮点运算和8位的定点精准分类网络,保证不同等级的精准性和性能;Adreno支持32位和16位的浮点运算;Hexagon DSP可以处理8位的定点运算。这些都是高通在硬件侧做的优化,并提供给开发者和OEM选择。

AI Engine的第二个组成部分是软件部分。Gary Brotman表示,在处理AI用例时,软件和工具无疑更加重要。如果硬件是一个加速的平台,那么在软件层面开发者则能够实现大量的创新,并且实现最新的AI用例。

高通人工智能引擎AI Engine的核心软件构成也包括了三部分:第一,骁龙神经处理引擎软件框架;第二,API,随着Google Android Oreo发布Android NN API,可以让开发者通过Android操作系统直接访问骁龙平台;第三,高通提供了一个非常独特的Hexagon Neutural Network(NN)库,开发者可以直接将人工智能算法在Hexagon向量处理器上运行。

最后一部分是框架,框架相当于是AI算法使用的语言。高通支持很多不同的架构,包括Facebook的Caffe/Caffe2、Google的TensorFlow。近期,微软和Facebook启动了新的开源项目——ONNX(开放神经网络交换)。ONNX的目的在于整合各种框架,支持开发者有更多灵活性,他们可以继续在自己选择的框架进行编程,并通过ONNX与其他框架协同运行。这将为开发者和厂商带来极大的便利,高通也可不必为每一个单一的框架提供支持。Gary Brotman称,这是一个非常有前景的整合趋势,得以支持更广阔的生态系统。

Gary Brotman另外还特别强调了骁龙神经处理引擎软件开发包(SDK)。骁龙NPE SDK帮助有意创建人工智能(AI)解决方案的开发者,在骁龙移动平台上(不管是CPU、GPU还是DSP)运行通过Caffe/Caffe2或Tensorflow训练的一个或多个神经网络模型。通过SDK在软件层面上完成了大量对库和不同核心的优化,使开发者获得更大的灵活性,选择合适的内核来处理相应的AI应用。

携手产业共推人工智能发展

目前,高通正通过广泛的生态系统合作来推动人工智能的发展。“高通的优势在于强大的边缘计算能力,而我们的生态系统合作伙伴很多则是开发AI算法和模型的专家,他们拥有大量数据,并有能力实现不同的AI用例。我们的合作伙伴各有所长,每个企业专注的AI细分领域都不太一样,包括视觉处理、手势追踪等。但无论是哪一家厂商,他们都面向骁龙平台进行了大量算法和模型优化,使得他们的应用能在我们的平台上高效运行。”Gary Brotman称。

此外,高通还与两家中国的人工智能软件开发企业——商汤科技和旷视Face++建立了合作关系。据悉,目前这两家厂商都已基于骁龙800及骁龙600系列平台开发了优化的AI用例,并且已经实现了商用。在MWC大会上,高通展示了他们各自的应用产品。

除了与软件厂商的合作外,高通还与很多云服务领导厂商开展了合作。其中包括在中国与腾讯的合作,腾讯利用高通的骁龙神经处理引擎对旗下的手机QQ应用程序“高能舞室”进行了优化。此外,高通还和百度基于DuerOS开展合作,发展终端侧的关键词侦测和自然语言处理技术,从而为云端服务提供支持。

同时,高通与谷歌也有着悠久的合作关系,双方在AI领域的合作可以追溯到骁龙820平台,高通帮助谷歌实现TensorFlow面向移动终端的优化,事实上骁龙平台是首款支持TensorFlow的商用移动SoC。在AR领域。高通与微软和亚马逊也基于ONNX交换格式进行了很多合作。此外,高通正在和这些合作伙伴共同探索终端侧人工智能与云端人工智能的结合。

给作者点赞
0 VS 0
写得不太好

版权说明:C114刊载的内容,凡注明来源为“C114通信网”或“C114原创”皆属C114版权所有,未经允许禁止转载、摘编,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。编译类文章仅出于传递更多信息之目的,不代表证实其描述或赞同其观点;翻译质量问题请指正

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2024 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141