近年來，AI技術(shù)在影視領(lǐng)域得到廣泛運用，極大地豐富了群眾的文化生活。然而“新華視點”記者近日發(fā)現(xiàn)，一些在青少年中流行的AI動畫產(chǎn)品角色形象怪異、音效陰森、內(nèi)容低俗，有的甚至含有色情、恐怖等元素，引發(fā)家長擔憂。

　　這類AI動畫是如何炮制出來的？如何為孩子守好清朗網(wǎng)絡(luò)空間？記者進行了走訪調(diào)查。

　　1

　　“變味”的AI動畫防不勝防

　　“哩哩哩啦哩啦……”天津市民李先生發(fā)現(xiàn)，孩子最近嘴里總是“念念有詞”，查詢后才得知，這是在青少年中爆火的“AI山海經(jīng)”里動畫形象的名字。

　　“這些‘AI山海經(jīng)’視頻中，不少內(nèi)容形象怪異、背景陰森，毫無情節(jié)和邏輯可言。但孩子看得津津有味，和同學在一起還會討論這些動畫形象，甚至把里面的內(nèi)容當作真正的《山海經(jīng)》故事?！崩钕壬f。

　　家住山西大同的張女士表示，用視頻App給孩子播放動畫片時，系統(tǒng)多次推送AI“魔改”的動畫?！氨緛碓诳础缎●R寶莉》，緊接著開始播放小馬寶莉流淚拉車，被艾莎公主拿鞭子抽打的視頻；想看《天線寶寶》，播出的視頻中卻出現(xiàn)天線寶寶被起重機壓扁的情節(jié)?！?/p>

　　更有甚者，有的這類AI動畫標注著“兒童動畫”的標簽，在青少年模式中也可以看到。此外，由于大數(shù)據(jù)的算法設(shè)置，一旦孩子主動或被動地觀看了這類AI動畫，便會被經(jīng)常性推送同類視頻，令人防不勝防。

　　多位受訪家長擔憂地表示，許多AI動畫視頻以孩子熟知的經(jīng)典動畫形象為主角，當深受孩子信任的角色做出不當行為，不僅會給孩子帶來認知上的困惑，還可能誘導孩子去模仿。

　　除了“AI山海經(jīng)”外，此前社交網(wǎng)絡(luò)和短視頻平臺還曾出現(xiàn)《紅樓夢》《西游記》《三國演義》等經(jīng)典著作改編的AI視頻，“林黛玉倒拔垂楊柳”“唐僧手持加特林”等荒誕畫面讓人大跌眼鏡。天津市河西區(qū)德賢小學校長周瑞認為，這類對經(jīng)典作品的歪曲惡搞，可能對正處于三觀塑造階段的青少年帶來負面影響。

　　2

　　AI視頻不良內(nèi)容的“重災區(qū)”

　　記者調(diào)查發(fā)現(xiàn)，在多個AI內(nèi)容生成平臺，用戶只需上傳簡單的人物形象、輸入文字指令，即可快速生成動態(tài)視頻，電商平臺也存在專門提供動畫定制服務的商家。社交媒體上，還能看到有關(guān)AI生成大尺度圖片的教學帖、經(jīng)驗帖，其中動畫是AI視頻不良內(nèi)容的“重災區(qū)”。

　　“AI技術(shù)使得制作視頻的成本和門檻大幅降低，為內(nèi)容創(chuàng)作者提供了極大助力，但客觀上也讓更多粗制濫造甚至導向不良的視頻產(chǎn)品進入用戶視野?！蹦祥_大學信息與傳播學院副教授于孟利表示，一些投機型創(chuàng)作者利用青少年好奇心強的特點，將制作節(jié)奏快、刺激性強的AI動畫當作“流量密碼”，不擇手段“博眼球”。

　　記者在某短視頻平臺上看到，不少內(nèi)容荒誕或含有暴力、軟色情內(nèi)容的AI動畫流量十分可觀，例如某條“奧特曼開著推土機瘋狂碾壓路面汽車”的動畫點贊量達到2.6萬次。

　　據(jù)業(yè)內(nèi)人士透露，創(chuàng)作這類內(nèi)容有多種變現(xiàn)途徑，除了平臺流量分成外，還可以通過售賣盲盒、卡牌等周邊產(chǎn)品，或?qū)⒂脩粢髦了接虻确绞将@利。以“AI山海經(jīng)”為例，已有手辦、玩偶、臨摹繪本等衍生品在電商平臺銷售。

　　工信部工業(yè)和信息化法治戰(zhàn)略與管理重點實驗室副主任趙精武介紹，對于AI生成的圖片、視頻，平臺通常采取“人工+機器”的方式進行審核，部分平臺會采用數(shù)字技術(shù)工具對圖片視頻內(nèi)容進行批量審核，有的平臺還會設(shè)置專門的人工審核團隊，針對用戶投訴舉報、首頁推薦等顯著位置的網(wǎng)絡(luò)信息內(nèi)容進行審核。

　　這類批量生成的AI動畫視頻，給平臺的監(jiān)管體系帶來挑戰(zhàn)。趙精武表示，現(xiàn)有審核機制在應對隱蔽性強、法律定性模糊的網(wǎng)絡(luò)內(nèi)容時存在局限性，平臺往往難以在短時間內(nèi)準確判定其是否屬于違法不良信息。此外，AI生成的視頻、圖像常與普通內(nèi)容混雜，進一步增加了識別難度，導致人工審核成本大幅上升。

　　3

　　為孩子營造清朗網(wǎng)絡(luò)空間

　　當AI技術(shù)深度融入社會生活，如何讓其成為孩子成長的好幫手，而不是炮制有害內(nèi)容的幫兇？

　　2024年發(fā)布的《生成式人工智能服務安全基本要求》，對生成式人工智能服務適用未成年人的有關(guān)內(nèi)容作出明確規(guī)定。

　　2025年4月，中央網(wǎng)信辦開展“清朗·整治AI技術(shù)濫用”專項行動，重點整治內(nèi)容包括利用AI脫衣、AI繪圖等功能生成合成色情內(nèi)容，制作發(fā)布血腥暴力場景，人體扭曲變形、超現(xiàn)實怪物等恐怖詭譎畫面等。

　　多位受訪專家建議，進一步加強AI生成視頻產(chǎn)業(yè)鏈的監(jiān)管力度，壓實平臺主體責任。

　　趙精武表示，網(wǎng)絡(luò)平臺應重點審核面向未成年人群體的AI合成推送信息，設(shè)置專門團隊優(yōu)化未成年人用戶算法推薦服務，增加優(yōu)質(zhì)網(wǎng)絡(luò)信息內(nèi)容的推送權(quán)重。

　　在源頭治理方面，于孟利建議，應在AI生成工具上強制嵌入不可篡改的數(shù)字水印，從而實現(xiàn)內(nèi)容的精準溯源。

　　“低齡兒童對信息真?zhèn)蔚呐袛嗔^弱，面對AI等新技術(shù)帶來的網(wǎng)絡(luò)信息洪流，家長應積極承擔監(jiān)護人職責，成為孩子觀看內(nèi)容的最后一道‘把關(guān)人’。”中國傳媒大學動畫與數(shù)字藝術(shù)學院院長王雷說。

　　天津市安定醫(yī)院兒童青少年心理科病區(qū)主任雷彤表示，學校和家庭應加強未成年人的生命教育等，讓孩子培養(yǎng)正確的價值觀，抵御不良網(wǎng)絡(luò)內(nèi)容的侵蝕；同時，加大優(yōu)質(zhì)兒童文化產(chǎn)品的供給?！爱敗膬?nèi)容足夠多、足夠有趣，‘邪’的內(nèi)容自然便沒有了生存空間?！崩淄f。

《中國教育報》2026年01月23日 第02版