本文版权为《邮电设计技术》所有,如需转载请联系《邮电设计技术》编辑部
摘要:6G的发展将使通信基础设施成为AI对抗的前沿战场,攻击智能体与防御智能体在通信环境中持续博弈、相互演化。传统对抗性机器学习聚焦于单点攻击,忽视了对手行为建模、长期欺骗与策略适应这一关键维度。定义并综述行为智能在AI对抗中的内涵与核心技术,涵盖博弈建模、行为预测与对手建模、AI欺骗3个层面,进而阐述面向行为智能的防御技术与行为智能在通信网络中的应用。最后分析了AI对抗模型建模存在的问题及未来的方向,未来行为智能将是AI对抗的真正前沿,对构建可信通信网络自主安全系统具有关键意义。
关键字:行为智能;AI对抗;通信网络自主安全
doi:10.12045/j.issn.1007-3043.2026.09.011
概述
人工智能系统的能力正从封闭环境下的模式识别走向开放场景中的自主决策。随着大语言模型(LLM)和多智能体系统被赋予越来越多的执行权限,AI 与AI 之间的对抗(如自动化红队与防御代理的攻防、伪装成正常用户的恶意机器人之间的博弈)正成为现实威胁[1-2]。这种对抗的核心变化在于:攻击方不再依赖明显的异常特征,而是通过学习模仿正常的行为序列来规避检测[3]。相应地,防御方仅依靠单点特征或孤立异常已无法完成攻击行为发现及有效应对,必须理解对手的行为意图和长期策略[4],即网络安全的未来在于以行为智能(Behavioral Intelligence,BI)为核心的主动防御。
这一转变引出了一个新的焦点:行为智能(BI)。在人工智能对抗领域,行为智能被理解为智能体通过对另一个智能体的行为序列进行感知、建模与推断,从而预测其未来动作并策略性地影响其决策的能力[5]。近期研究将行为智能视为社会智能的三大支柱之一,与认知智能和情境智能并列[6],并从架构层面探索了LLM代理中行为智能的实现路径[2]。与传统对抗性机器学习关注输入对抗样本扰动或模型结构窃取相比,行为智能聚焦于带时间维度的策略互动,它将AI 对抗建模为动态、不完全信息的博弈过程。与早期聚焦于人类行为分析与识别的人工行为智能(Artifi⁃cial Behavior Intelligence)相比,AI 对抗语境下的行为智能更强调智能体之间的策略性行为互动[5,7]。
然而,现有综述大多仍以模型鲁棒性、对抗样本生成、后门攻击等为中心,对行为层面的长期博弈、对手建模与欺骗操控缺乏系统性梳理[3,8]。随着自主AI代理在网络安全领域的部署,填补这一空白变得更有必要[1,4]。
本文以行为智能在AI对抗中的应用为主线,围绕行为智能在AI 对抗中的四大模块:博弈建模、行为预测、欺骗操控、防御与评估进行梳理。文章结构如下:第2 章定义行为智能的概念并介绍AI 对抗的基本博弈框架;第3 章详细阐述核心技术,包括博弈建模、对手预测以及欺骗与反欺骗;第4 章综述面向行为智能的防御方法及评估基准;第5 章讨论开放挑战和未来方向,并给出结论。








































