资讯
`
2025/7/23 17:17
中国联通完成业界首例基于模型分割学习的分布式训推试点 实现用户隐私数据零泄露!
0
0

2025年7月19日,中国联通在合作伙伴大会期间举办CUBE-Net 3.0新突破--下一代互联网系列成果发布会,中国联通集团建设发展部副总经理吕洪涛、中国联通研究院副院长唐雄燕、上海联通副总经理欧大春、华为数据通信产品线路由器领域总裁蔡骏等相关领导上台发布业界首个隐私数据零泄露的分布式训推试点成果。

当前,DeepSeek正加速推进AI普惠化,各行各业纷纷布局AI推理应用,助力企业数智化转型向纵深发展。然而,对于大多企业用户来说,自建AI算力受限于成本、机房场地及供电等因素,而租用云端算力,又担心数据离开企业园区会造成泄露不安全。因此如何保障灵活便捷的算力供应,同时又满足企业客户对数据安全的诉求,成为智算服务快速惠及千行百业的关键问题。

中国联通面向隐私数据保护与数据安全需求,成功在上海金桥与临港数据中心间完成了业界首例基于模型分割学习的分布式边云协同训推技术方案验证,通过部署AINet智算网关,以轻量化网络升级实现分割学习、边云协同和无损网络融合创新,解决隐私数据敏感型用户在使用AI训推服务中的痛点问题,提供更加安全可靠的人工智能服务。

在边云协同训练场景下,在企业侧部署轻量级算卡资源,通过PP并行模式与云侧智算中心算力进行协同训练,样本和模型首尾层部署在企业本地,保障样本数据不出园区;按需租赁运营商智算中心算力资源,仅部署模型中间层,接收/发送激活值、梯度值。云边算力之间通过智算IP广域网连接,高效、无损传输激活值、梯度值数据。当前基于Llama 2模型实测,与云上集中训练相比,算效损失小于3%

在边云协同推理场景下,在企业侧部署轻量级算卡资源,通过模型分割学习与云侧智算中心算力进行协同推理,Embedding&Unembedding层及模型首尾层部署在企业园区本地,保障Prompt不出园区;按需租赁运营商智算中心算力资源,仅部署模型中间层,接收/发送隐变量。云边算力之间通过智算IP广域网连接,高效传输隐变量数据。当前基于DeepSeek模型实测,边云协同推理吞吐达到集中推理吞吐95%以上

中国联通研究院副院长、首席科学家唐雄燕介绍,以网强算,以算赋智,通过网络技术创新实现AI服务的普惠化是网络升级演进的重要方向。分布式边云协同训推方案解决了AI训推服务过程中的用户隐私数据安全的痛点问题,满足了智算业务面向云化发展的需求,不仅可以实现算网资源灵活协同,也实现了隐私训推数据“0”泄露。

未来,中国联通持续推进算网一体服务创新,不断丰富和完善分布式边云协同训推方案的核心内涵。通过提供高品质的算网一体化服务,加速企业AI应用规模化普及,促进产业升级与效率提升,驱动企业数智化转型,为社会经济的高质量发展持续贡献力量。

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

给作者点赞
0 VS 0
写得不太好

C114简介     联系我们     网站地图

Copyright©1999-2025 c114 All Rights Reserved 沪ICP备12002291号-4

C114通信网版权所有 举报电话:021-54451141 用户注销