C114讯 9月1日消息（岳明）当前，AI大模型参数规模正从千亿奔向万亿，甚至有厂商探索10万亿参数的超级大模型。然而参数膨胀背后是算力成本、数据隐私、响应时延等挑战。
作为终端侧AI技术的重要力量，高通提出“混合AI是AI的未来”，主张端侧与云侧协同计算。高通对于AI产业有怎样的判断，其布局如何展开？高通会做自研基础大模型吗？面对快速迭代的AI技术，高通又是如何打造产品-研发的“飞轮”？带着这些问题，C114走进高通总部，与高通公司工程技术高级副总裁侯纪磊博士深度对话。作为高通公司AI工程团队的负责人，侯纪磊领导的部门涵盖研发、系统、商用软件与开发者AI Hub等团队，负责AI技术路线图的落地与执行。
端云协同：混合AI才是未来
“无论是大模型、生成式AI，或者是现在更普遍的智能体AI，一个重要的愿景应该是端云协同。”侯纪磊表示。
在他看来，简单、与隐私数据相关的任务更适合放在端侧完成；相对地，比较复杂的，长步骤、长上下文的，需要强推理能力的任务更适合在云端处理。他认为，两者“可以非常好地进行结合，无论是从成本、隐私、时延各个方面都是相对互补的，只要能把它们配合得很好，就可以为用户带来比较好的无缝体验”。
支撑这一判断的是端侧模型能力的快速提升。侯纪磊提到“智能密度”的概念：以10B参数的小模型为例，“如果把三年前它的能力水平设为1，今年可能达到15、20。按照我个人的观察，智能密度大概每12个月会有2—4倍的提升”。面向个人、家庭、私有化场景，甚至一些小型企业，他认为：“100B或以下的模型，已经可以覆盖70%到80%的日常任务需求，剩余的复杂任务，可以分配给云端处理。”
模型能力的提升，同样需要底层芯片算力平台的支持。侯纪磊指出，在大模型训练方面，高通在端侧具有比较强的能力。去年发布的第五代骁龙8至尊版上，已经能够支持端侧学习（on-device learning）的功能。但这种训练更多是微调，而不是从头开始；端侧学习可以在终端内部对模型进行微调，让模型更好地学习用户的个人偏好。
从端侧到云端：分布式智能持续扩展
混合AI的愿景要求高通在端侧和云端同时发力。“无论是端侧还是云侧，从研发角度我们看到一个核心的共同点，就是模型效率，本质上就是在单位能量范围之内尽可能优化计算。”高通在端侧投入多年，带来了低比特量化、多词元生成、近存计算、稀疏注意力、长上下文处理等诸多创新。尽管侧重的参数规模不同，这些技术在端侧和云侧是共通的，“端侧的很多技术迁移到云侧实际上是更容易的”。
今年6月，高通宣布进入数据中心领域，其差异化切入点是高带宽计算技术（HBC）。侯纪磊解释，大语言模型处理分为预填和解码两个阶段，“预填相对来讲是一个计算密集型的阶段，解码相对来讲是一个带宽密集型的阶段”。在带宽密集的解码阶段，行业大量使用HBM，但在提供相同带宽的前提下，HBM价格更高，性价比较低。而高通的HBC方案采用相对低成本的DDR内存，以3D堆叠的近存计算架构减少了电路板面积，在带宽受限、性能相当的场景下，体现出更优的综合性价比。
侯纪磊透露，高通与海内外主流客户进行了深度交流，相关方案也得到了大型存储器厂商的认可。他认为“在面向prefill和decode等大模型处理场景，推动HBC的应用，无论是对高通还是客户，都能够带来实际价值。”
目前，高通已发布飞龙AI100至AI300多代加速器，并完成对Modular的收购，整合更多软件能力。与此同时，高通也希望推出更为灵活的设备形态，能够在家庭和小企业环境下“承载万亿级别的模型”。
不做基础大模型：构建AI研发与产品“飞轮”
在AI产业链中，高通明确了自己的定位。“从研究的角度，我们会做一些训练任务，但这些任务更多是为了探索技术前沿。”侯纪磊表示，“但是从商业角度来看，我们更多把自己定位为底层计算解决方案平台，为大语言模型提供服务。”
这一定位在高通与国内大模型厂商的合作中体现得尤为明显。模型厂商位于模型层，高通位于更底层的芯片平台层，双方接触的OEM客户重合度很高。从规模化的角度，由高通和这些模型厂商进行深入的适配和优化，形成成熟的参考方案，再把它推广给更多客户，是一个对双方都更有优势的方式。目前，高通已与两家重要模型厂商推进这类合作。
这一合作模式的落地，离不开中国研发团队的支撑。在AI领域，“中国的AI团队非常注重市场需求和应用场景”。侯纪磊表示，高通在手机、汽车、IoT甚至机器人等业务单元接收的客户需求，不仅需要工程上的支持，更需要针对问题和需求提供研发层面的解决方案。以2比特量化为例，“高通应该是走在行业前沿的企业，我们已经在和部分中国厂商合作”，而2比特QAT的关键在于“一定要用实用的数据，要跟厂商最终的实际用例数据进行匹配”。
在采访最后，侯纪磊指出，AI研发与产品必须保持强耦合，两者之间需要形成“飞轮”。“如果我们从技术导向看到了新东西，一定要有很强的驱动力去思考它能否落地到产品中；另一方面，当产品在真实世界的应用过程中遇到实际问题时，也必须有足够强的驱动力将这些问题反馈到研发体系里面去解决。因此，研发驱动产品、产品反哺研发，这两种力量必须形成一个‘飞轮’。”侯纪磊表示，只有这样，整个体系才能有生命力。在当前的AI环境下，创新非常重要，但是把创新落地到产品中的速度可能更重要。 
