C114讯 9月2日消息(九九)“哪有什么岁月静好,不过是有人替你负重前行。”这句广为人知的话语,在人工智能领域同样适用。随着AI加速渗透到生活与产业的方方面面,其背后始终需要坚实的安全治理作为支撑。
7月27日,在2025世界人工智能大会(WAIC)期间,中国移动人工智能安全治理研究中心正式授牌成立。该中心依托中国移动研究院安全团队组建,定位为公司在人工智能安全治理领域的核心研究机构和技术支撑主力军。
近日,在接受C114专访时,中国移动研究院安全技术研究所所长、中移湾区(广东)创新研究院院长何申,对研究中心的目标定位、使命愿景与未来规划进行了系统阐释。安全治理:AI发展的基石
安全是AI发展的基石,无安全,不AI。
何申强调,随着越来越多业务引入AI以提升效率和用户体验,人工智能的滥用与安全风险问题也逐渐凸显。在此时间节点成立人工智能安全治理研究中心,恰逢其时。
何申进一步解释,以往安全更倾向于“安全管理”,其结构更像树状,由权威主体自上而下下达指令,侧重管控;而“安全治理”则强调对等主体之间的协作,是从“树状”向“环状”的融合转变。
“以智能体为例,在安全管理模式下,我们关注的往往是系统安全、网络安全,本质上仍是单智能体问题;而在多智能体协作过程中,安全治理的核心就是要确保在互认的制度下,不同智能体之间在价值、标准与协议上的对齐。”何申补充道。
他还指出:“虚拟世界是物理世界的映射,同样复杂多变。研究中心正是要从伦理、政策、法律到底层技术展开全链条研究,并推动中国移动内部多部门协作,形成合力。”
产业需求牵引下的人工智能安全治理:技术反哺与应用落地
何申指出,人工智能有四大基础—算网数智。一是强大的算力,二是强大的网络,三是丰富的数据,四是智慧的大模型。中国移动人工智能安全治理研究中心作为通信行业中央企业下设的面向AI的研究机构,具有独特优势:
一是场景覆盖广:立足中国移动“供给者、汇聚者、运营者”的AI定位,具备丰富业务场景,可实现安全治理方案的快速验证与高效迭代;
二是能力融合深:依托研究院在AI与安全技术的双重积累,能够形成“研发—安全—应用”的闭环能力,而非碎片化拼凑;
三是产业协同强:发挥央企责任优势与通信龙头优势,联动上下游企业、高校与科研机构,贯通“技术—标准—应用”全链条,形成“产业驱动创新、创新反哺产业”的良性循环。
其中,中移湾区创新院发挥着“桥梁”作用:将研究中心的理论与技术成果转化为产品下沉至省公司,由省公司进一步包装为业务商品,并依据市场需求及时反馈,形成“研究—产品—市场”的双向循环,推动理论研究与实践应用同向发力、互促共进。
成果初显:标准、平台与“三大问题”破解
目前,研究中心已在多个方面取得突破:推动ITU-T全球首个智能体安全标准立项,自主研发AI安全评测平台,发布《智能体安全技术白皮书》,并在中国移动大模型产创基地开展安全评测试点。
何申表示,研究中心正重点攻坚三类核心问题:
一是“瞎子和聋子问题”:当外部信息被攻击或篡改,AI失去有效感知,极易被欺骗;
二是“白痴问题”:输入准确但算法错误,导致无法作出正确决策;
三是“神经性问题”:AI虽能正确识别并决策,但无法下达正确执行指令。
“唯有系统性地解决这三类问题,人工智能及智能体在运行过程中才能真正为公众提供更加安全、可靠的服务。”何申强调。
国际视野与三位一体担当
何申同时强调,国际交流是研究中心的重要工作方向之一,特别是人工智能数据领域的国际合作是非常重要的国家战略。研究中心将在三个方面推动“中国方案”走向世界:
定规则:把大模型数据合规、智能体安全、全生命周期风控的实践经验转化为ITU、ISO等国际标准提案,提升中国话语权;
建圈子:依托GTI等平台,联合全球伙伴共建区域与领域性安全规则和互认机制,防范技术孤立风险;
传经验:在WAIC等国际平台系统发布白皮书与最佳实践,推广“中国实践”,推动规则兼顾安全与创新、发展与平衡。
在总结时,何申将研究中心定位为三位一体的“安全担当”:对公司,成为中国移动AI业务的“安全基石”;对行业,构建赋能千行百业的“安全平台”;对国家,支撑人工智能安全战略的“核心力量”。
迈向新阶段:战略科技力量的持续塑造
研究中心的成立,标志着中国移动在人工智能安全治理领域的系统性布局进入新阶段。未来,研究中心将持续深耕基础理论、伦理规范、安全可信技术、标准制定、国际交流与人才培养,推进科技创新与产业创新深度融合,打造国家战略科技力量,助力实现高水平科技自立自强。