C114通信网  |  通信人家园

资讯
2024/3/22 18:11

中国移动研究院秦凤伟:大模型时代 智算网络性能评测面临四大挑战

C114通信网  赵婷婷

C114讯 3月22日消息(赵婷婷)人工智能正处于快速发展阶段,其应用深入到各个行业和领域,将逐步改变着我们的生活和工作方式。智能时代,通信及网络重要性在不断提升,产品迭代速度明显加速,对数据、算力、网络持续演进提出了新的要求。

在日前思博伦举办的“创新驱动智能未来”的Spirent Day 2024峰会上,中国移动通信有限公司研究院项目经理秦凤伟在主题演讲中指出,智算中心具有明显的通信特征,随着AI技术的快速发展,推动算、网软硬件技术的快速选代升级。而在测试领域,制定普适统一的智算中心网络性能评测体系仍然面临四大挑战。

首先,节点规模方面,模拟GPU实际的计算、周期性通信,测试结果是否可以客观反映实际结果;以及仪表是否能支持千卡级、甚至万卡即模拟能力。

其次,性能指标方面,测试仪端口、规模是否能匹配网络的演进速度;能否有效反映如有效宽带、长尾时延等新指标。

再次,模型种类层面,不仅需考察基本的通信原语及其不同的实现方式,还要关注测试工具迭代速速能否匹配并支持各类大模型,以及针对不同模型能否形成统一的网络性能评价标准。

最后,定制化需求上,随着端网协同的趋势日益明显,需兼顾做网卡和网络;对于私有拥塞控制协议、传输协议等的定制优化,评估是否具备高度灵活的可编程能力和定制化功能显得尤为关键。

 

给作者点赞
0 VS 0
写得不太好

版权说明:C114刊载的内容,凡注明来源为“C114通信网”或“C114原创”皆属C114版权所有,未经允许禁止转载、摘编,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。编译类文章仅出于传递更多信息之目的,不代表证实其描述或赞同其观点;翻译质量问题请指正

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2024 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141