C114通信网  |  通信人家园

资讯
2017/12/15 13:59

重庆移动大数据平台升级

人民邮电报  李媛婧

日前,重庆移动大数据平台圆满完成升级任务,升级后系统安全性、稳定性显著增强,每年可节约50万元的运营维护费用。

据悉,重庆移动大数据平台目前有超过300个节点,数据规模达到12PB。本次升级任务重、难度大,该公司成立了由专家组成的大数据平台升级项目组,对原大数据平台从前期选型到升级割接制定了详细计划和方案,进行了周密准备。

重庆移动对目前业界主流的大数据平台产品,从技术成熟度、使用便捷性、应用广泛性、后期服务支撑能力几个方面进行了深入研究和讨论,最终选定方案。新部署平台全部经过基准性能测试,进行了DACP适配改造及部署。历时1个月,在线将B域历史数据迁移到新平台,共计迁移数据1.4PB。随后对执行不通过、执行慢的原有程序进行改造,累计改造程序315个,并对3500多个应用程序进行数据质量比对,对存在数据质量问题的程序进行改造。新搭建ETL平台,将接口数据同时向老集群和新集群分发,为割接创造数据接入条件。割接之前,准备平台并行割接方案:在新平台并行生产任务,通过3个月的观察和测试,新平台性能、稳定性、数据质量均符合要求,具备割接条件。

在本次升级方案讨论中,重庆移动创新使用双平台迁移割接方案,避免了传统割接面临的数据丢失的巨大风险。新版本的大数据平台具备cloudera manager管理工具,能方便地对平台进行监控和管理,实现快速扩容和滚动不间断业务重启计算节点,每年可节约50万元。

给作者点赞
0 VS 0
写得不太好

  免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2024 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141