中央网信办近日决定在全国范围内开展为期2个月的“清朗·整治网络直播打赏乱象”专项行动，从严打击低俗团播引诱打赏、虚假人设诱骗打赏、诱导未成年人打赏和刺激用户非理性打赏等4方面突出问题。其中提到使用AI技术生成虚假内容，诱骗用户打赏等问题。
AI技术滥用风险正加速蔓延
AI生成技术的突破，使“无中生有”从科幻想象变为现实场景，但技术赋能的背后，滥用风险正加速蔓延，形成多维度的权益侵害链条。
历史与公众人物成为AI滥用的重灾区。2024年，AI“复活”历史名人的热潮曾引发创意讨论：李时珍戴着老花镜详解草药配伍原理，唐伯虎挥毫间畅谈书画创作心得，苏轼伫立西湖边吟诵“AI新作”，这类内容一度以“文化传承”的名义获得流量追捧。但创意很快滑向侵权深渊，2025年以来，已故艺人的AI形象被频繁用于短视频营销，其家属多次公开发声反对，直指“技术滥用践踏逝者尊严”。
直播打赏场景的AI滥用更具隐蔽性与危害性。部分主播利用AI生成虚假直播背景以及虚假弹幕刺激消费；更有平台开发“AI陪聊打赏系统”，用生成式虚拟形象与用户互动，诱导打赏……这类行为的技术门槛正持续降低。
当技术先行，监管已在加速跟进
面对AI滥用的蔓延态势，我国监管体系正从“被动应对”转向“主动防控”，形成“法律法规+专项行动+地方创新”的立体化治理格局。
国家层面的制度基石逐步夯实。2023年8月施行的《生成式人工智能服务管理暂行办法》首次确立核心规则，明确要求AI服务不得侵害他人肖像权、名誉权，生成内容必须按规定标识，为技术应用划定基本底线。2025年9月《人工智能生成合成内容标识办法》的正式施行，进一步细化操作标准，要求视频类内容在角落标注“AI生成”，音频中嵌入特殊数字水印，从技术层面实现“可识别、可追溯”。地方监管创新实现“精准破题”。浙江省出台的《网络直播营销行为规范指引》，首次针对AI数字人直播作出专项规范，明确禁止“通过AI伪造他人声音肖像制作引流广告”。北京市监管部门开创性地将AI虚假宣传纳入《广告法》监管框架，对涉事企业处以行政处罚，相关责任人被纳入失信名单，3年内禁止进入直播行业，成为AI侵权执法的典型案例。
守住AI的底线，需构建多层级的约束体系
AI技术的治理难题，本质是技术创新与权利保护的平衡问题。
首先，监管层面应细化标准，对“商业性AI合成内容”实行分类备案，根据应用场景实施差异化管理；针对敏感主体应用，应明确刚性底线，例如使用名人形象需提供书面授权，使用逝者形象需经直系亲属同意，未成年人相关AI应用实行“企业+监护人”双备案制。
其次，平台需承担起技术把关责任，开发AI合成内容的溯源工具，让用户能一键验证内容真实性。同时建立“AI滥用黑名单”制度，将多次违规的企业与个人纳入信用惩戒，限制其参与AI技术研发与商业合作，形成“一处违法、处处受限”的监管效应。
最后，公众也需建立理性认知。既要避免因噎废食否定AI的积极意义，如AI在文化传承、医疗诊断等领域的创新应用，也要警惕“AI生成=绝对真实”的认知误区。
