高通徐晧谈混合AI优势：加速AI普及到每个人，5G是桥梁

(资料图片)

在2023年中国国际服务贸易交易会成果发布会中，高通公司发布了白皮书——《混合AI是AI的未来》，系统性地梳理了AI发展和应用趋势。高通公司中国区研发负责人徐晧博士在发布会发表演讲，详细地解读混合AI的领先优势，还指出5G在混合AI中的连接作用。

徐晧博士介绍了混合AI的概念，是一个包括云端、边缘云和终端的统一架构。需要巨大算力海量数据资源的大规模AI模型训练，仍留在云端进行。推理计算可以部分转移到终端侧，如果终端侧算力无法完成，则通过5G等网络，推到云端，运算后再推回终端。混合AI架构可以很好地协调终端和云端的资源分配，把AI能力发挥到极致。

他引用计算机的发展历史，预测AI也会有这样的趋势。计算机从最早是专用的大型设备，随后发展到个人使用的PC，再到可以携带的笔记本，最后发展成随身的智能手机。这个过程是把以前大型计算机能做的事，慢慢演化贴近每个人的身边。同样的，终端侧的AI算力会越来越强，功能会越来越多，各种AI功能也将逐渐由云端转移到个人身边。他在演讲中展示了高通的一个案例，在今年初，高通实现首个在Android手机上运行Stable Diffusion。这是一个10亿参数规模的生成式AI模型，以前只能在PC设备上运行，这次高通的运行设备是一台不联网的高通骁龙8Gen2 5G手机，能在15秒内完成20步推理，根据用户的自然语言输入生成图片。徐晧还解释了终端侧AI取代云端推理其中一个深层原因，生成式AI每一次对话的成本是之前搜索引擎的10倍，当成千上万的用户使用时，就会产生巨大的算力成本。这时候终端侧AI就可以节约大量的计算成本，进而加速AI普及速度。

徐晧罗列了一组数据，介绍了高通在普及终端侧AI的优势。高通从2007年开始投入AI研发，不断的将最新的AI算法和能力加入高通AI引擎，现在已经发展到第八代高通AI引擎。全球范围内有数十亿台高通骁龙设备，并且继续以每年数亿台的速度增长。高通还提供能简化AI在终端侧运行的软件和算法的综合平台。海量的硬件数量，优秀的软件生态，将会让AI普及到更多人。

关键词：