C114通信网  |  通信人家园

信息安全
2024/9/13 08:56

深度伪造技术被滥用 如何守好个人信息安全门?

通信信息报  林碧涓

眼见一定为实?在信息爆炸的时代,这个观念正受到挑战。近日,在微博等公众平台中,#Deepfake#多次冲榜,利用Deepfake工具进行侵权的行为引发公众关注。以“AI换脸”为代表的AIGC技术被应用在诈骗的案件屡屡发生……人工智能时代,如何守护我们的信息安全?

AI深度伪造,躲不掉的诈骗和侵权

随着生成式人工智能技术的飞速发展,一张简单的“肖像照片”、一段视频或音频,都可能成为不法分子实施诈骗的利器。四川攀枝花市民王先生遭遇的“外甥”借钱骗局,以及深圳市民吴先生收到的“换脸”伪造不雅照敲诈勒索事件,都是AI换脸技术被滥用的典型案例。

AI技术的发展,也在不断降低“实时换脸”技术门槛,有数据显示,2023年基于AI的深度伪造欺诈暴增了3000%,全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌在接受媒体采访时表示,AIGC的生成伪造,今年的攻击量比去年大概增加了10倍,整个风险其实是呈指数级上升的情况,不仅仅是在中国,在韩国,在菲律宾、印尼等等国家都有类似的情况发生。

以技术治理技术,AI+安全纵深发展

随着生成式人工智能驱动AI发展进入新阶段,AI治理随之也变成了一个突出问题。在权衡AI应用与安全,行业共识日益清晰:既要充分发挥AI技术的高效性与精准度优势,提升安全运营的智能化水平,又要强化安全措施,确保技术应用的抗风险能力。

行业已积极将人工智能技术应用到安全领域,例如,电信安全自研的安全垂类大模型“见微安全大模型”有效提升了安全事件的响应和处理能力,当前已成功赋能五条内部产线及十多家省级专业安全服务公司;中国移动推出九天泰合安全大模型,融合了启明星辰安全行业特有的海量数据资源,有效支撑各类安全业务场景下的AI技术应用;中国联通推出元景网络安全大模型,有效针对告警日志降噪、恶意样本检测、威胁情报生产等核心安全场景提供智能化解决方案,极大提升了安全防护的效能和响应速度。

工业和信息化部反诈专班专家李坤表示,正在会同行业内的手机终端企业,将推出AI换脸诈骗风险提醒功能。这项功能仅在手机端来本地运行,能够有效保护用户数据不泄露,经过用户授权后,可为用户提供AI换脸诈骗风险预警提醒。

产业协同共治安全未来

伴随着AI技术的发展,在积极防范人工智能等新技术带来的安全风险,持续提升技术筑牢安全防线的同时,也要加强人工智能产业协同。在第二十三届中国互联网大会数据安全论坛上,中国信通院携手三大运营商集团公司共同启动信息通信行业“人工智能+安全”领航计划,将从“提升企业人工智能安全管理能力”“提升企业人工智能安全技术保障能力”“深化人工智能安全能力行业赋能”三方面展开,推动行业人工智能安全能力整体提升。

如何让人工智能循着以人为本和技术向善的方向发展,监管之外离不开法治的保障。目前,我国已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律。

给作者点赞
0 VS 0
写得不太好

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2024 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141