数字化时代，直播已成为广泛流行的传媒方式。据第51次《中国互联网络发展状况统计报告》显示，截至2022年12月，我国网络直播用户规模达7.51亿，占网民整体的70.3%。同时，直播短视频的市场规模也极为巨大，根据《2023中国网络视听发展研究报告》，2022年网络直播领域市场规模为1249.6亿。海量的用户和巨大的市场推动网络直播行业蓬勃发展。
视频直播如火如荼发展的同时，也带来了许多问题。低俗直播、涉黄直播、直播间谩骂、引流、涉暴恐等问题层出不穷。杭州亚运会期间，“清朗·杭州亚运会和亚残运会网络环境整治”专项行动查处一批违法违规网络账号。
针对直播中出现的各类内容违规问题，中国移动贯众和盾产品基于先进的AI识别技术和人工审核系统，推出直播内容检测，结合直播拉流抽帧、图像识别、语音识别、文本审核、行为分析、实时人工复审等全流程服务，构建智能、高效的直播内容安全防护系统，为直播平台及用户提供安全、健康的直播环境。
图1：和盾直播流内容防护功能
和盾直播内容防护系统具备诸多优势：
（1）AI能力:基于业界先进的ResNeSt和transformer网络框架，可以快速准确地检测直播视频和音频文字中的不良内容。目前已具备直播涉政、涉黄、谩骂、涉暴等多种检测能力，其中涉黄检测准确率达97%（内部测试结果），处于业界先进水平。
（2）秒级抽帧：采用自研实时抽帧技术，用户可动态调整直播流的抽帧频率。在重点场景可设置高频抽帧，频率为1～2秒，最大可能避免不良内容的漏检。在普通场景可设置关键帧抽帧，频率为5～10秒，可减少服务资源的压力。
（3）高效监测：系统可7×24h不间断运行，最大可支2000路2k高清直播流的同时接入。采用该系统可减少直播平台管理人数，无需大量审核员不断监控直播，极大降低人力成本的同时提高监测效率。
（4）灵活配置：直播内容安全防护系统支持用户灵活配置。用户可以根据具体场景需求进行个性化设置。例如自定义抽帧频率、审核时长、敏感词库、违规标准、审核策略等内容，选择最适合的策略守护直播内容安全。
目前，中国移动贯众和盾产品已应用于移动看家慢直播、和家亲、移动办公、移动高清等86个业务，累计过滤消息254亿条，拦截违规消息近2亿条。
未来，和盾直播内容防护系统将持续致力于为更多直播平台和企业提供安全、可靠的直播环境，为广大用户带来更加优质的直播体验，提供更加全面、高效的安全防护能力，推动直播行业的健康发展。
