奧特曼懷孕、喜羊羊挖眼珠子吃、小豬佩奇打骷髏……記者注意到，近期一些AI創(chuàng)作的“邪典視頻”在未成年人群體中廣泛傳播。有的動(dòng)畫(huà)看似是卡通風(fēng)格，實(shí)則充斥殘害肢體、高空墜落等血腥暴力內(nèi)容。這些“邪典視頻”如同隱藏在網(wǎng)絡(luò)深處的毒瘤，對(duì)未成年人身心健康構(gòu)成嚴(yán)重威脅，必須高度警惕。
過(guò)去多年來(lái)，有關(guān)部門通過(guò)關(guān)停違規(guī)賬號(hào)、下架非法應(yīng)用程序、處罰傳播有害信息的平臺(tái)等舉措，讓曾經(jīng)的“邪典視頻”亂象得到有效治理。越來(lái)越成熟的AI技術(shù)，讓視頻制作更加便利、精良。然而，在一些不法分子手中，技術(shù)進(jìn)步卻一定程度上催生了“邪典視頻”回潮。
使用生成式AI，制作者無(wú)需掌握太多動(dòng)畫(huà)制作技術(shù)，就可以生成自己想要的畫(huà)面。一些不法分子為博取關(guān)注、賺取流量，大肆制作無(wú)底線內(nèi)容，將血腥暴力、惡搞低俗等元素融入其中，再打上“識(shí)字”“辨別形狀”等標(biāo)簽，以欺騙未成年人和家長(zhǎng)。在部分社交平臺(tái)和短視頻平臺(tái)，還有人專門傳授如何設(shè)置關(guān)鍵詞讓AI生成“邪典視頻”，妄圖將其打造成“畸形產(chǎn)業(yè)鏈”。
“邪典視頻”是針對(duì)未成年人思維與價(jià)值觀的“投毒”，危害極大。有的視頻通過(guò)“可愛(ài)形象”與“殘酷內(nèi)容”的強(qiáng)烈反差來(lái)吸引點(diǎn)擊、滿足極少數(shù)人的不良心理需求，甚至可能帶有誘導(dǎo)、教唆等性質(zhì)，孩童若模仿會(huì)造成不可挽回的后果。部分AI生成的“邪典視頻”歪曲歷史人物言行，對(duì)中華優(yōu)秀傳統(tǒng)文化污名化，讓未成年人形成扭曲的歷史觀與文化認(rèn)知。
面對(duì)“邪典視頻”卷土重來(lái)，各方必須協(xié)同發(fā)力，共同筑牢防線。監(jiān)管部門需加大執(zhí)法力度，嚴(yán)厲打擊制作傳播“邪典”內(nèi)容及銷售相關(guān)商品的行為，斬?cái)嗬骀湕l。網(wǎng)絡(luò)平臺(tái)應(yīng)承擔(dān)起主體責(zé)任，優(yōu)化內(nèi)容審核機(jī)制，及時(shí)下架“有毒”內(nèi)容的制作教程，阻斷傳播路徑。同時(shí)，更要將“家校聯(lián)動(dòng)”落到實(shí)處，強(qiáng)化對(duì)孩子的陪伴和幫助、教育和引導(dǎo)，提升孩子們的認(rèn)知能力。
AI技術(shù)應(yīng)是賦能成長(zhǎng)的工具，而非炮制有害內(nèi)容的幫兇。我們絕不允許“邪典視頻”死灰復(fù)燃，污染未成年人的成長(zhǎng)環(huán)境。有關(guān)各方必須提升優(yōu)質(zhì)內(nèi)容供給，豐富未成年人的網(wǎng)絡(luò)空間，為未成年人營(yíng)造健康、安全、積極的網(wǎng)絡(luò)環(huán)境，讓他們?cè)谇謇实木W(wǎng)絡(luò)環(huán)境中汲取成長(zhǎng)力量。?(王楚然 農(nóng)冠斌)
（責(zé)任編輯：盧相?。?/span>
晉公網(wǎng)安備 14090202000008號(hào) 
