C114通信网  |  通信人家园

新闻
2021/8/30 15:10

让视频直播、点播与卡顿、延迟说Byebye,优化CDN节点缓存是关键

C114通信网  

日前,奥运大赛如火如荼时,你是在为中国运动健儿十米气枪夺首金而欣喜若狂,还是为高台跳水的神级压水而感到不可思议,或是为了金牌榜数目的不断上升而欢呼雀跃。不过,无论有何感受,只要有时间发表感慨,就证明你的网络还是挺顺畅的。

然而,有一群抱着手机、平板、电脑观看网络直播的观众朋友可就不那么畅快——直播画面调至1080P清晰度还不如标清,关键时刻就卡顿让人防不胜防……对此网友的抱怨也五花八门:

甲:看个圣火点燃仪式,只看到了圣火燃起来,没看到点燃的过程。

乙:直播网页延迟,金牌已经出来了,我还在傻傻的等赛场画面。

丙:网络卡的呀,乒乓球比赛分数直接从1:1变成5:1。

……

其实,此类问题并不是奥运会比赛直播一家独有,在诸如演唱会、带货等各种直播中也屡见不鲜。频繁出现的卡成马赛卡、卡成PPT、卡到错位、卡出屏幕之外的画面,已让人无力吐槽,套用仓央嘉措的句式就是,你抱怨或不抱怨,卡顿就在那里,不舍不弃。

随着5G网络的普及,视频点播、直播服务已成为互联网流量的绝对“C位”担当。要提升用户体验,那么卡顿、延迟、画面模糊这些问题就必须尽可能消除,这很大程度上依赖于CDN服务提供的高效内容分发和缓存加速能力。CDN(Content Delivery Network,内容分发网络)服务可以将用户的点播、直播请求调度至最近的CDN节点就近响应,从而有效解决因跨运营商访问、跨地域访问、服务器带宽及性能带来的访问延迟问题,提升用户体验。对此,中国电信优化CDN节点缓存系统,提升视频直播、点播性能之路上已经做出了成功探索。

中国电信优化CDN节点缓存系统,视频直播、点播性能再升级

中国电信是全球领先的电信运营商,一直在为众多头部视频服务商提供高效的内容分发和缓存加速能力,希望通过优化旗下天翼云CDN节点缓存系统性能,进一步提升终端视频播放的流畅度与清晰度。

天翼云CDN节点缓存系统采用三级架构,自上而下为内存级、固态盘级和硬盘级,其中内存级性能最优,但容量最小、价格昂贵且易失;硬盘级性能最低,但容量最大;固态盘级的性能和容量居中。中国电信的自研算法可根据数据热度和文件大小动态调整缓存内容,以获得最佳性能。例如,在奥运会期间,比赛相关视频会受到更多关注和点播,这时动态调整算法会根据节目热度上升幅度,将其从硬盘迁移到性能较好的固态盘,如热度再上升,就会迁移到性能最高的内存中;热度减退,则会将其下沉至大容量的硬盘,以节省内存空间。

天翼云对CDN节点缓存系统的优化提出了两大要求:

其一,扩容内存级缓存,确保高热点数据获得性能加持;同时升级固态盘缓存性能,使其成为缓存加速主力,提升天翼云CDN整体性能。在此基础上,还要满足不同业务场景对CDN节点缓存系统的需求。如视频直播中,热点视频在一定时间内被反复观看,大量数据会被长时间保留在内存级缓存中,但DRAM内存昂贵,不能无限扩容;视频点播中,热点内容分散持续时间短,更注重缓存系统整体性能表现,需要固态盘缓存性能与内存缓存平滑过度,弥合NAND固态盘时延性能与DRAM内存之间的巨大差距。

其二,提升CDN节点索引性能。当CDN节点出现断电、宕机等意外情况时,索引数据的恢复速度会影响CDN服务的连续性和可用性。所以,中国电信需要兼顾性能、容量和非易失性的存储产品,为索引服务提供更好的性能保证。

图一:不同业务场景对CDN节点缓存系统的需求

英特尔® 傲腾™技术,为CDN缓存系统注入新能量

基于不同场景的需求和对成本、性能的考虑,中国电信选择了英特尔® 傲腾™ 持久内存与英特尔® 傲腾™ 固态盘两种产品,来应对CDN升级两大需求,提升节点缓存性能。

英特尔® 傲腾™ 持久内存:让高性能、大容量、多场景融于一体

英特尔® 傲腾™ 持久内存基于创新的存储介质以及字节寻址能力,性能几乎与DRAM内存持平,而且具备内存和App Direct(AD)两种应用模式,能够从容应对不同业务场景。

图二:英特尔® 傲腾™ 持久内存的两种应用模式

英特尔® 傲腾™ 持久内存单模组容量最高可达512GB,在内存模式下与DRAM内存配合使用,可以获得6TB的内存总容量,能够以内存和存储的分层架构,优化工作负载性能与成本,帮助中国电信CDN节点内存级缓存保持既有性能水平。测试表明,该组合方案使得测试数据大多被存储在英特尔® 傲腾™ 持久内存中,首字节平均时延和传输时延两项指标均在中国电信的预期内。

AD模式英特尔® 傲腾™ 持久内存:索引恢复性能提升18倍+

为提供高性能索引能力,天翼云CDN节点通常将索引服务部署在内存数据库中。当CDN节点出现断电、宕机等意外时,传统DRAM内存易失的缺点,需要从磁盘备份中重新读取索引文件,导致数分钟的服务停顿,影响用户体验。

AD模式的英特尔® 傲腾™ 持久内存,一方面,既能保持卓越性能,又可为CDN节点提供高密度内存容量;另一方面,持久性的特征使得系统即使断电或重启,数据仍会保留。

图三:部署在不同存储设备中的索引文件恢复方式

测试证明,与DRAM内存相比,英特尔® 傲腾™ 持久内存在AD模式下的各项性能差值均符合中国电信的预期,而在中国电信最关注的索引恢复速度上,英特尔® 傲腾™ 持久内存加载耗时下降多达18倍以上,大幅提升CDN服务的连续性和可用性。

英特尔® 傲腾™ 固态盘弥合内存与固态盘之间的性能差距

当缓存数据规模及性能要求的不断提升时,DRAM内存和NAND固态盘之间的性能差距也会越来越大,就会在一些场景中造成用户体验问题,英特尔® 傲腾™ 固态盘产品则可有效弥补这一性能差距。

英特尔® 傲腾™ 固态盘 P4800X可实现55万次的随机读写性能,读写延迟可低至10微秒,可确保CDN缓存加速工作负载表现一致,性能最优;其使用寿命也比NAND固态盘延长数十倍。而新一代的英特尔® 傲腾™ 固态盘 P5800X在这几个维度上性能表现更强劲,其具备读写双通道,在任何工作负载下数据写入和读出的性能相互不影响,4K混合读写可以达到180万的IOPS(基于PCIe 4.0)。

中国电信测试结果也显示,英特尔® 傲腾™ 固态盘在不同的QPS请求下都获得了良好的带宽表现,整体时延以及首字节时延性能指标符合预期,堪为CDN节点优化缓存性能的绝佳选择。

总结:

中国电信与英特尔联合开展的面向CDN节点缓存系统和索引能力的优化,已被证明可以有效提升CDN服务效能,在控制成本的同时,能为视频点播、直播及其它互联网服务提供更多高等级缓存加速能力,满足更多热点数据的分发加速需要,从而在5G时代为用户打造流畅的视频体验。

给作者点赞
0 VS 0
写得不太好

  免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2021 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141