移动平台
2026/9/10 12:31

海光信息首次推出“词元经营双芯加速方案” 加速AI要素流转

0
0

C114讯 9月10日消息(颜翊)9月9日,以“向智同行,连接算网新生态”为主题的中国联通合作伙伴大会正式开幕。海光信息首次推出“面向词元(Token)经营的双芯加速解决方案”,凭借CPU与DCU双芯协同及开放互连体系,将算力组网、大模型训练/推理、智能体Agent调度与运营纳入统一算力架构,为运营商词元经营提供从芯片到应用的全栈式算力新方案,助力AI要素高效流转与产业价值加速释放。

双芯协同,贯通运营商词元(token)经营全链路

作为芯片厂商,海光信息以“降低百万Token成本”目标,将芯片与应用进行深度优化,并构建了涵盖驱动层、算子层、框架层、模型层及应用层的五维优化体系,全面提升系统性能并显著降低运营成本。

面对运营商加速算力网络布局、探索词元经营新模式的战略机遇,该方案紧扣词元“生产、调度、计量、成本核算、应用变现及复购扩容”的完整价值周期,精准匹配真实业务场景。

该架构确立了明确的分工协同机制:以海光CPU为智能调度中枢,发挥拓扑感知优势,智能对齐GPU内存分配与NUMA节点,统筹编排、工具调度及记忆管理等复杂任务;以海光DCU为加速计算引擎,支撑并行计算加速、P/D分离优化、批量解码、KV缓存优化、预处理加速及长序列高效处理。双芯通过高效的数据协同与内存协同机制,实现业务流量的智能分流与动态调度,为词元规模生产、运营管理和行业落地提供系统级算力支撑。

四维开放构建产业协同底座

针对词元经营过程中算力分布不均、成本波动、生态适配及行业需求差异化等挑战,海光方案在算力、互连、安全、软件栈四个维度全面开放,打破传统算力供给壁垒,为国产算力生态协同提供标准化对接框架。

在算力开放方面:支持双芯原生组合及异构芯片交叉适配,灵活满足不同并发规模与词元生产场景;

在互连开放方面:基于自研HSL高速互连协议,突破带宽瓶颈,大幅提升芯片间数据流转效率;

在安全开放方面:内置芯片级内生安全能力,为词元经营构筑全链路可信防护;

在软件栈开放方面:全栈开发工具链适配百余种主流AI框架,显著降低迁移与开发门槛,加速词元价值转化。

用户可依据业务并发规模、任务复杂度、词元生成量级动态调度算力资源,助力词元价值向千行百业实体场景高效落地。

为解决框架适配“最后一公里”的兼容性挑战,海光还组建了专门的优化团队,在指令集架构及应用开发阶段即与合作伙伴展开深度交流,并在大模型发布前完成适配工作,确保基于大模型构建的应用在发布后即可直接落地部署。

未来,海光将依托光合生态,持续联合整机、基础软件、行业应用等上下游伙伴深化产品适配与联合创新,推动国产CPU、DCU及各类异构加速硬件实现统一调度与协同运行。行业用户可充分利用现有硬件资源,结合业务发展节奏实现分阶段平滑扩容,让国产算力以更高质量、更高效率赋能实体经济数字化转型

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

给作者点赞
0 VS 0
写得不太好

C114简介     联系我们     网站地图

Copyright©1999-2025 c114 All Rights Reserved 沪ICP备12002291号-4

C114通信网版权所有 举报电话:021-54451141 用户注销