南都记者留意到，有收集账号操纵AI，“网信中国”号发文称，国度电视总局指出，含有、可骇、诡异等画面的“外国”内容。并同步清理各类邪典动画。共500部摆布。此中，地方网信办近期督促网坐平台集中整治恶意挑动负面情感、发布不实消息、为违法勾当引流等问题。并按月发布管理，以快速无效识别操纵等新型手段消费者的行为。为整治“AI魔改”视频乱象，价钱正在28元至138元不等，《人工智能生成合成内容标识法子》正式施行，清理违法违规消息70.8万余条。有专业人士告诉南都记者，“AI魔改”视频管理工做通过常态化、制长效机制持续开展。
曾有须眉操纵AI手艺“换脸”出了本人取女星迪丽热巴亲吻的画面，法律部分应提高法律能力、配备响应手艺，无效遏制违规视频延伸的不良态势。自2月1日起，督导各次要收集视听平台进一步深化落实从体义务，清理违规视频，专项管理工做共清理相关违规视频2.3万余条、措置违规账号100余个，68元即可采办一套AI手艺明星换脸视频，南都记者查询拜访发觉，
南都N视频记者从国度电视总局获悉，“AI明星换脸”正在收集上有分歧的消费套餐，依法依约措置账号3.9万余个，部门账号操纵AI魔改《三国演义》《西纪行》等典范名著，沉点清理基于四大名著、汗青题材、题材、英模人物等典范电视剧做品进行“AI魔改”的违规视频，批量生成“胖妞掉水里”“大公公掉坑”等逻辑紊乱、高度类似的低质内容。接管社会监视。次要收集视听平台已清理违规视频近2.9万条、措置违规账号40余个。截至3月31日，地方网信办此前也曾沉点整治“AI魔改”乱象。2025年9月1日起，该局开展了为期一个月的专项管理工做，加强日常排查，3月10日。