编者按:本文来自微信公众号“量子位”(ID:QbitAI),作者董云峰。36氪经授权发布。
在高通人工智能开放日之后,我们需要再次刷新对高通这家公司的认知了。
不需要耗费巨大的算力,高通与vivo、腾讯王者荣耀、腾讯AI Lab合作,他们正共同打造一支AI电竞战队“SUPEX”,将与人类玩家对战。
让手机芯片就能打败王者荣耀人类职业战队,而这只是高通对未来AI畅想的起点。
曾经在大众眼中,高通骁龙系列SoC、4G调制解调器几乎占据了Android手机的主流市场。而高通的发展定位显然不只为一家行业领先的芯片公司那么简单。
实际上,在过去的10年间,强大的技术研发底蕴,已经让高通在不知不觉中成为一家5G+AI双引擎驱动的科技公司。
5G的作用不仅仅是使手机网络更快,它也赋予了AI更多、更复杂的应用场景。AI的出现让5G的意义远远超出了手机通讯。
在5G通讯和AI芯片的加持下,高通正在让手机、物联网、汽车变得更强大。
手机行业一直是高通的主战场,今年高通的中高端手机SoC将全面集成高通人工智能引擎AI Engine,未来全球数十亿台智能手机将全部成为边缘AI设备,让手机用户充分享受AI技术变革带来的红利。
从骁龙820开始,高通就开始在手机芯片中加入AI核心。今年的异构多核旗舰移动平台骁龙855集成了最新的高通第四代人工智能引擎AI Engine,所谓异构就是由CPU、GPU、Hexagon不同功能的核心发挥各自所长,而又相互协作,共同实现高效的AI处理。
高通骁龙855芯片中,Adreno 640 GPU、Hexagon 690处理器和Kryo 485 CPU相互协作,通过异构计算智能分配AI任务,相比前代实现了整体AI性能3倍的提升。
其中Hexagon 690新增的Hexagon张量加速器(Hexagon Tensor Accelerator,HTA)功不可没。张量运算是AI算法中的基础操作,PC和云计算厂商近年来引入张量计算单元为AI加速。该张量加速器是Qualcomm自主设计、面向更多AI处理的硬件核心。
Hexagon张量加速器的加入对手机行业意义重大,它不仅使数字信号处理的功能得到扩展,还让开发者实现可编程的AI加速。AI如今已经成为高端智能手机的核心卖点。
目前,多家安卓厂商的旗舰机,比如小米9、iQOO、黑鲨手机2、魅族16s等都已经使用上骁龙855。可以预见,骁龙855还将受到更多OEM厂商的青睐。
当然,仅有AI硬件的升级远远不够,还需要有软件开发商的支持,才能发挥出高通第四代人工智能引擎的运算潜能。应用程序开发商们不必为此担心,高通早已考虑到开发中的软件支持问题。
在软件框架层面,骁龙855底层硬件支持TensorFlow、PyTorch、ONNX等主流机器学习平台,以及Google NN API等运行软件框架,让开发者充分利用AI特性,围绕高通人工智能引擎AI Engine,打造覆盖范围最广的AI生态系统。
在近期举行的高通AI开放日现场,我们能看到AI为照片去除噪点、实时翻译语音、手势识别等实际应用。
曾经在PC上需要大量资源才能运行的图像、语音处理模型,如今在手机上也能轻松运行。
而且,大家熟知的AI“独角兽”商汤、旷视、虹软等公司纷纷积极参与到高通的AI生态“朋友圈”中来,基于高通AI芯片硬件与软件支持平台,将自身AI技术落地化。
现今多家芯片制造商都利用单独的AI核心处理AI任务,但高通认为骁龙系列SoC异构多核是一个更适合的架构,AI运算应该调用多核心,智能分配任务,以此实现更出色的AI运算。这不仅能适用于当下AI技术,将来还能应对未来出现的各种不同AI算法。
除了旗舰级SoC外,高通在美国的AI Open Day上推出了骁龙665、730、730G三款中高端移动平台,在中国的AI开放日上也详细讲解了这三款移动平台,它们的共同点是都加入了高通人工智能引擎AI Engine,可以为手机用户提供更强劲的拍摄、AI和游戏体验。
其中骁龙730G更是集成了高通第四代人工智能引擎AI Engine,旨在为玩家带来更高水平的游戏体验。近日,三星也宣布推出了首款搭载骁龙730G的手机Galaxy A80。
将前沿技术下放到中端设备,实现“AI民主化”也是高通的愿景之一。高通预计到2025年,手机等细分市场的AI渗透率将达到100%,其中必然少不了高通芯片的努力。
AI的无限种可能
手机是最普遍存在的AI终端,但是高通的AI布局绝不仅仅在手机上,高通正在践行AI+物联网、AI+汽车,让AI技术渗透到手机以外的其他角落。
在AI走向边缘时,面向物联网的AI迎来全新的增长和机遇。云端与边缘的通讯需求,物联网设备对低功耗的要求,让高通的5G通讯技术和低功耗IoT芯片发挥其所长。扫地机器人、智能音箱、安防摄像头等设备核心都有高通芯片的身影。
下一个风口无人驾驶是5G+AI的另一个重要应用场景,无论是哪个汽车厂商都离不开高通的帮助。而高通对于自动驾驶的理解跳出了汽车公司视野,站在一个更高的角度。
在高通的发展战略中,智能的交通设施不仅仅只有汽车,道路本身也包含无数传感器,成为指挥交通不可或缺的一部分。
高通希望将车与车、车与智能交通设施完全连接起来,形成一张巨大的信息网,让所有联网设备共享交通系统,让所有智能设备共同处理交通信息。
另外,AI还能为司机提供智能驾驶座舱,为AI添加了人性化特色,不仅在用户看不见的智能驾驶芯片和算法中,在车内的HUD、语言助手等方面,也能让用户直接感受到AI的强大。
这里值得一提的是,在业界领先的骁龙820A平台的技术基础上,高通也推出了第三代骁龙汽车数字座舱平台,面向入门级的Performance系列、面向中端的Premiere系列和超级计算平台Paramount系列,面向车内虚拟助理高度直观的AI体验、汽车与驾驶员之间的自然交互、以及各种情境安全用例,旨在为驾乘人员打造突破性的全新体验。
云端与边缘协同发展
以上都是高通在边缘计算市场的努力。5G的出现让云端和边缘协作的模式成为可能,高通显然不可能放过AI云端市场。
高通估计,到2025年,AI数据中心市场规模将增长到170亿美元,6年内增长将10倍。
但是以往云端AI推理的芯片的能效比太低,而ARM架构能发挥出优势。这就是为什么高通最近发布了Cloud AI 100。它能降低终端与数据中心的延迟,提高AI云端效率,用5G与边缘计算的结合变革用户体验。
传统CPU并不是为AI数据中心而生,FPGA进入数据中心后将AI性能提升了10倍。高通Cloud AI 100为数据中心提供AI加速,还能在FPGA基础上再提升10倍。
Cloud AI 100还未正式上市,高通就开始为它铺路搭桥,创造完善的生态系统支持。Cloud AI 100集成了各种开发人员工具,包括编译器、调试器、分析器、监视器、服务、芯片调试器等开发环境。
此外,它还支持Keras、MXNet、谷歌的TensorFlow、Facebook的PyTorch、百度的PaddlePaddle和微软的认知工具包等主流机器学习框架。
去年11月,高通公司建立了资金达1亿美元的AI创业基金,专注于自动驾驶汽车、机器人、计算机视觉和物联网领域。这些创业企业都可能成为Cloud AI 100生态的潜在用户。
Cloud AI 100应用范围广泛,微软用它发现工业生产中的安全问题,Facebook用它处理智能助理、视频AR特效以及加速VR硬件。
例如,Facebook每天要处理超过59.5次的AI翻译量,进行超过200万亿次推理运算。数据中心的能耗逐年增长,需要有能效比更高的AI硬件节约成本。
Cloud AI 100不仅仅是硬件,还包含软件和解决方案。它支持PyTorch、TensorFlow、ONNX等主流AI开发平台。它也不是不仅仅高通手机芯片的简单升级,其AI性能比骁龙855强50倍。
与其他商用方案相比,Cloud AI 100每瓦特性能提升了10倍,节约了大量能耗。高通表示,Cloud AI 100将于今年下半年出样。
高通表示,对Cloud AI 100的性能优势有信心,这款芯片将在深度学习云端芯片市场占据一席之地。
高通背后的AI技术积累
2018年5月,高通在北京成立人工智能研究院Qualcomm AI Research,如今已经接近一年。
实际上,高通有着不为人所熟知的一面,这家以通讯技术见长的公司已经投入AI研发超过10年。在这10年间其中不乏AI基础领域的研究,比如神经网络压缩、机器学习训练工具等,目的都是在有限的计算资源内尽量提升AI运算性能。
高通希望推动AI研究实现高能效,利用AI技术来优化AI模型。高通利用张量分解、通道简化等手段压缩AI模型架构,压缩量达到3倍,同时准确度仅损失不到1%。
重视技术人才是高通AI战略的核心之一。通讯人才、基础科学人才的积累,才是给高通带来了更多新技术突破的基础。
深度学习领域知名科学家、VAE的提出者Max Wellings的加入,帮助高通将基础科学与深度学习领域相结合,在AI开放日当天,让高通引以为傲的规范等变卷积神经网络(G-CNN)正是 由Wellings所提出,这一研究将广义相对论和量子场论的数学原理应用到深度学习中,为3D物体识别提供了新思路。
无论从硬件还是软件两个方面,高通都做好了应对未来几年AI应用井喷的准备。
5G的出现让AI有了更多的应用场景,用5G将终端和云端连接,共同发挥出AI的巨大潜力。高通这方面的技术优势更是毋庸置疑。
高通就像是拥有了下一个时代5G+AI“两条腿”。高通在云端和边缘AI方面的布局,将帮助高通把AI技术扩展到领域,5G则是高通各领域的桥梁,这”两条腿”让高通跑得更快、更远。