小红书专项治理三类AI违规直播，AI换脸伪装公众人物将被关停禁播

8月18日，小红书官方账号“小红书薯管家”发布《关于打击AI违规直播的治理公告》，宣布即日起对三类AI违规直播行为开展专项治理。公告显示，近期平台AI相关直播举报量激增，AI身份造假、AI低质直播、使用AI却不声明等问题频发，损害了用户知情权与观看体验。 根据公告，此次专项治理覆盖三类行为。其一，AI身份造假直播：利用AI换脸、声音克隆、数字人技术伪装成明星、企业家、头部网红等公众人物进行直播，误导用户身份认知，此类行为无法通过声明豁免，一经查实将被关停并处12小时禁播，情节严重者将从重处理，视情况延长禁播期限直至永久封禁。其二，AI低质直播：以AI生成为主、画面渲染错误（穿模、畸形、糊化）或声音合成失真、低于基本播出标准的直播内容，同样无法声明豁免，将面临限流处置。其三，使用AI技术但未声明：包括AI数字人或虚拟形象出镜、AI人声或录音替代真人讲解等模糊AI与真实主体边界的情形，平台将作停推处置，主播开启“AI声明”即可实时豁免。 公告同时明确了不属违规的直播场景：真人AI换装、AR滤镜特效、Vtuber虚拟主播，以及展示、演示第三方产品或设备内置AI功能等，均可正常直播。为方便主播合规开播，平台公布了“AI声明”的具体开启路径：手机端开播前可在“更多—直播设置—AI声明”中开启，直播中可在“更多—功能设置—AI声明”中开启，电脑端则在“直播设置—房间管理—AI声明”中开启。开启后，观众端将在直播画面看到“含AI生成内容”标签；若主播未声明但被平台监测到疑似使用AI，观众将收到“直播封面或画面疑似含AI生成内容，请谨慎甄别”的提示。 这一治理动作的背景是AI内容监管的持续收紧。公告援引《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》《直播电商监督管理办法》等规定，指出数字人等AI内容已纳入强制监管范畴，须显著标注。随着数字人直播在电商、娱乐等场景加速渗透，如何平衡技术创新与内容真实性，正成为各大平台共同面对的治理课题。 业内人士认为，小红书此次将AI治理细化到直播场景，并配套“声明豁免＋梯度处罚”机制，既回应了用户对AI内容透明度的诉求，也为合规使用AI技术的主播留出了空间。平台表示将持续加强AI直播识别与治理，呼吁主播诚信使用AI技术，共同守护社区真实底色。