移动平台
2024/3/22 18:11

中国移动研究院秦凤伟:大模型时代 智算网络性能评测面临四大挑战

0
0

C114讯 3月22日消息(赵婷婷)人工智能正处于快速发展阶段,其应用深入到各个行业和领域,将逐步改变着我们的生活和工作方式。智能时代,通信及网络重要性在不断提升,产品迭代速度明显加速,对数据、算力、网络持续演进提出了新的要求。

在日前思博伦举办的“创新驱动智能未来”的Spirent Day 2024峰会上,中国移动通信有限公司研究院项目经理秦凤伟在主题演讲中指出,智算中心具有明显的通信特征,随着AI技术的快速发展,推动算、网软硬件技术的快速选代升级。而在测试领域,制定普适统一的智算中心网络性能评测体系仍然面临四大挑战。

首先,节点规模方面,模拟GPU实际的计算、周期性通信,测试结果是否可以客观反映实际结果;以及仪表是否能支持千卡级、甚至万卡即模拟能力。

其次,性能指标方面,测试仪端口、规模是否能匹配网络的演进速度;能否有效反映如有效宽带、长尾时延等新指标。

再次,模型种类层面,不仅需考察基本的通信原语及其不同的实现方式,还要关注测试工具迭代速速能否匹配并支持各类大模型,以及针对不同模型能否形成统一的网络性能评价标准。

最后,定制化需求上,随着端网协同的趋势日益明显,需兼顾做网卡和网络;对于私有拥塞控制协议、传输协议等的定制优化,评估是否具备高度灵活的可编程能力和定制化功能显得尤为关键。

 

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

给作者点赞
0 VS 0
写得不太好

C114简介     联系我们     网站地图

Copyright©1999-2025 c114 All Rights Reserved 沪ICP备12002291号-4

C114通信网版权所有 举报电话:021-54451141 用户注销