新华社天津1月22日电题：“变味”的AI动画——若何守好孩子的蚁集净土？

新华社“新华视点”记者白好意思人、栗雅婷

连年来，AI技艺在影视范畴获得平方哄骗，极地面丰富了民众的文化生活。然而“新华视点”记者近日发现，一些在青少年中流行的AI动画家具脚色形象不端、音效昏暗、实质低俗，有的甚而含有色情、恐怖等元素，激发财长担忧。

这类AI动画是若何炮制出来的？若何为孩子守好晴明蚁集空间？记者进行了拜访观看。

“变味”的AI动画防不堪防

“哩哩哩啦哩啦……”天津市民李先生发现，孩子最近嘴里老是“思有词”，查询后才得知，这是在青少年中爆火的“AI山海经”里动画形象的名字。

“这些‘AI山海经’视频中，不少实质形象不端、配景昏暗，毫冷凌弃节和逻辑可言。但孩子看得风趣勃勃，和同学在悉数还会究诘这些动画形象，甚而把内部的实质作为信得过的《山海经》故事。”李先生说。

家住山西大同的张女士默示，用视频App给孩子播放动画顷刻间，系统屡次推送AI“魔改”的动画。“原来在看《小马宝莉》，紧接着运行播放小马宝莉陨泣拉车，被艾莎公主拿鞭子抽打的视频；想看《天线宝宝》，播出的视频中却出现天线宝宝被起重机压扁的情节。”

更有甚者，有的这类AI动画标注着“儿童动画”的标签，在青少年模式中也不错看到。此外，由于大数据的算法建造，一朝孩子主动或被迫地不雅看了这类AI动画，便会被频繁性推送同类视频，令东谈主防不堪防。

多位受访家长担忧地默示，很多AI动画视频以孩子熟知的经典动画形象为主角，当深受孩子信任的脚色作念出失当行为，不仅会给孩子带来知道上的困惑，还可能领导孩子去效法。

除了“AI山海经”外，此前酬酢蚁集和短视频平台还曾出现《红楼梦》《西纪行》《三国小说》等经典著述改编的AI视频，“林黛玉倒拔垂杨柳”“唐僧手合手加特林”等乖谬画面让东谈主大跌眼镜。天津市河西区德贤小学校长周瑞以为，这类对经典作品的歪曲恶搞，可能对正处于三不雅塑造阶段的青少年带来负面影响。

AI视频不良实质的“重灾地”

记者观看发现，在多个AI实质生成平台，用户只需上传浮浅的东谈主物形象、输入翰墨领导，即可快速生成动态视频，电商平台也存在故意提供动画定制行状的商家。酬酢媒体上，还能看到磋议AI生成大程序图片的教化帖、训诲帖，其中动画是AI视频不良实质的“重灾地”。

“AI技艺使得制作视频的资本和门槛大幅缩小，为实质创作家提供了极大助力，但客不雅上也让更多迷糊了事甚而导向不良的视频家具参加用户视线。”南开大学信息与传播学院副栽种于孟利默示，一些投契型创作家利用青少年兴趣心强的特色，将制作节拍快、刺激性强的AI动画作为“流量密码”，不择技能“博眼球”。

记者在某短视频平台上看到，不少实质乖谬或含有暴力、软色情实质的AI动画流量绝顶可不雅，举例某条“奥特曼开着推土机纵情碾压路面汽车”的动画点赞量达到2.6万次。

据业内东谈主士透露，创作这类实质有多种变现途径，除了平台流量分红外，还不错通过售卖盲盒、卡牌等邻近家具，或将用户引流至私域等花式赢利。以“AI山海经”为例，已有手办、玩偶、摹仿绘本等生息品在电商平台销售。

工信部工业和信息化法治计谋与不休要点实验室副主任赵精武先容，关于AI生成的图片、视频，平台时常遴选“东谈主工+机器”的花式进行审核，部分平台会选拔数字技艺器用对图片视频实质进行批量审核，有的平台还会建造故意的东谈主工审核团队，针对用户投诉举报、首页保举等权贵位置的蚁集信息实质进行审核。

这类批量生成的AI动画视频，给平台的监管体系带来挑战。赵精武默示，现存审核机制在应付荫藏性强、法律定性婉曲的蚁集实质时存在局限，平台常常难以在短时候内准确判定其是否属于违法不良信息。此外，AI生成的视频、图像常与普通实质搀杂，进一步加多了识别难度，导致东谈主工审核资本大幅高潮。

为孩子营造晴明蚁集空间

当AI技艺深度融入社会生活，若何让其成为孩子成长的好襄理，而不是炮制无益实质的帮凶？

2024年发布的《生成式东谈主工智能行状安全基本条目》，对生成式东谈主工智能行状适用未成年东谈主的磋议实质作出明确规定。

2025年4月，中央网信办开展“晴明·整治AI技艺花消”专项行为，要点整治实质包括利用AI脱衣、AI画图等功能生成合成色情实质，制作发布血腥暴力场景，东谈主体误解变形、超实践怪物等恐怖诡谲画面等。

多位受访民众提倡，进一步加强AI生成视频产业链的监管力度，压实平台主体遭殃。

赵精武默示，蚁集平台应要点审核面向未成年东谈主群体的AI合成推送信息，建造故意团队优化未成年东谈主用户算法保举行状，加多优质蚁集信息实质的推送权重。

在泉源科罚方面，于孟利提倡，应在AI生成器用上强制镶嵌不行点窜的数字水印，从而完富厚质的精确溯源。

“低龄儿童对信息真伪的判断力较弱，面临AI等新技艺带来的蚁集信息急流，家长应积极承担监护东谈主使命，成为孩子不雅看实质的临了一谈‘把关东谈主’。”中国传媒大学动画与数字艺术学院院长王雷说。

天津市幽静病院儿童青少年心思科病区主任雷彤默示，学校和家庭应加强未成年东谈主的人命栽种等，让孩子培养正确的价值不雅，对抗不良蚁集实质的侵蚀；同期，加大优质儿童文化家具的供给。“当‘正’的实质迷漫多、迷漫风趣，‘邪’的实质当然便莫得了生涯空间。”雷彤说。