你能想象嗎,？哪吒和敖丙,，時(shí)而街邊擼串、時(shí)而T臺(tái)走秀,，時(shí)而舉起機(jī)關(guān)槍掃射……《哪吒之魔童鬧?！返琼斎騽?dòng)畫電影票房冠軍時(shí)，AI魔改也蹭上了電影中的角色,。在廣電總局網(wǎng)絡(luò)視聽司發(fā)布針對(duì)“AI魔改”的管理提示新規(guī)出臺(tái)3個(gè)月后,，記者調(diào)查發(fā)現(xiàn)，互聯(lián)網(wǎng)上仍頻繁有AI魔改的音頻,、視頻出現(xiàn),，影視角色、明星,、企業(yè)家,，都成了被魔改的對(duì)象。
亂象
哪吒“被玩壞”扛起機(jī)關(guān)槍
“天雷滾滾我好怕怕,，劈得我渾身掉渣渣,。”電影中的經(jīng)典臺(tái)詞一出場(chǎng)，市民陳女士眼前的短視頻里,，哪吒就手持機(jī)關(guān)槍在土肥坡對(duì)著土撥鼠們狂轟濫炸,。
“要不是我看過電影，沒準(zhǔn)真會(huì)以為這個(gè)場(chǎng)景是真的,。”陳女士一邊說一邊向下滑動(dòng),，系統(tǒng)竟一連給她推送了好幾條有哪吒、敖丙,、申公豹等角色的視頻,，其中一些畫面令人啼笑皆非。“這個(gè)老奶奶抱著哪吒過馬路的視頻,，就更不像話了,！”陳女士氣憤地說。只見視頻中,，哪吒不僅出現(xiàn)在了現(xiàn)代城市場(chǎng)景中,，身旁還有一位穿著西服套裝,、滿頭白發(fā)的老奶奶，一把抱起它在馬路上狂奔,。“這樣的魔改視頻我一定不會(huì)讓孩子看到，容易影響他的價(jià)值觀,。”
AI魔改,，即將經(jīng)典影視劇通過人工智能技術(shù)進(jìn)行篡改和惡搞的行為。記者在一社交媒體平臺(tái)搜索“哪吒”后發(fā)現(xiàn),，使用AI技術(shù)對(duì)《哪吒2》進(jìn)行魔改的短視頻不在少數(shù),，其中最火的一條轉(zhuǎn)發(fā)量已超164萬。在該視頻中,，哪吒出現(xiàn)在了《甄嬛傳》的入宮選秀場(chǎng)景中,，和甄嬛、沈眉莊,、安陵容一同面圣選秀,，并表演踢毽子等才藝。
而在另一條獲贊4.4萬,、轉(zhuǎn)發(fā)達(dá)3萬的短視頻里,，申公豹戴上了墨鏡、穿上了西裝,，穿梭在寫字樓中,，嘴里還念叨著“凡是讓你不惜代價(jià)的，你就是那個(gè)代價(jià)”等雞湯語錄,。一些不明所以的網(wǎng)友留言“越來越喜歡申公豹,，太通透了”“哪吒臺(tái)詞太精辟”，錯(cuò)把利用AI技術(shù)嫁接的臺(tái)詞當(dāng)作原片,。
探因
離譜魔改只為引流收費(fèi)
實(shí)際上,，AI魔改從去年開始便甚囂塵上，甄嬛開上摩托車,、林黛玉變成拳擊手和賈寶玉對(duì)打,、唐僧對(duì)妖精點(diǎn)頭哈腰……只有想不到，沒有變不了,。廣電總局去年12月發(fā)布的《管理提示（AI魔改）》提出,，要嚴(yán)格落實(shí)生成式人工智能內(nèi)容審核要求，對(duì)各自平臺(tái)開發(fā)的大模型或AI特效功能等進(jìn)行自查,，對(duì)在平臺(tái)上使用,、傳播的各類相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看，對(duì)AI生成內(nèi)容做出顯著提示。
新規(guī)執(zhí)行3個(gè)月,，平臺(tái)對(duì)AI魔改視頻的主動(dòng)審核有所加強(qiáng),，但也有不少“漏網(wǎng)之魚”。記者注意到,，有兩條高贊魔改視頻在發(fā)布之初,，并未被主動(dòng)注明“此視頻為AI生成”，等熱度飆升后,，平臺(tái)隨后在視頻下方用小字發(fā)布了“疑似使用了AI生成技術(shù),，請(qǐng)謹(jǐn)慎甄別”的提示。即便如此,，由于平臺(tái)標(biāo)識(shí)并不顯眼，仍有網(wǎng)友被誤導(dǎo),。
同時(shí),，不少靠發(fā)布魔改視頻招攬流量的賬號(hào)開始轉(zhuǎn)型AI魔改視頻教學(xué)，企圖再收割一波流量,。“用AI一天做一百個(gè)視頻,，原創(chuàng)視頻起號(hào)行不行”“AI生成魔改視頻教學(xué)，掌握流量密碼”“AI影視惡搞,，抓住興起的藍(lán)海項(xiàng)目”……在各大社交媒體平臺(tái),，這樣的吸睛話術(shù)并不罕見。
記者隨機(jī)點(diǎn)進(jìn)了一個(gè)生成甄嬛打架情節(jié)的教學(xué)視頻,，被引導(dǎo)添加了博主微信，領(lǐng)取工具包,。添加微信后,，記者發(fā)現(xiàn)，領(lǐng)取免費(fèi)AI工具包只是噱頭,，這名博主實(shí)際上做的是收費(fèi)帶學(xué)徒,、拉人頭賺傭金的生意。“99元進(jìn)AI訓(xùn)練營(yíng),，流量變現(xiàn)后輕松賺回學(xué)費(fèi),。”博主向記者展示了幾名“學(xué)員”取得的成績(jī)，聲稱有人發(fā)布4個(gè)AI視頻一周就漲粉一萬,，有人新賬號(hào)起號(hào)只用3天就突破10萬瀏覽量,。
不過，記者進(jìn)群后發(fā)現(xiàn),，所謂的AI訓(xùn)練營(yíng)只是現(xiàn)成信息的簡(jiǎn)單集納,，例如，群主會(huì)提供哪吒AI走秀的圖片素材以及可靈AI、騰訊元寶,、DeepSeek等AI工具的下載網(wǎng)址,，讓學(xué)員生成惡搞短視頻并發(fā)布。“蹭哪吒這種有熱度的話題,，吃一個(gè)月（流量）還是可以的,。”
隨后，記者又私信了一些發(fā)布AI魔改視頻教學(xué)視頻的博主,，發(fā)現(xiàn)套路非常類似,，都是為了將流量引至自己的社交群內(nèi)，開設(shè)課程或者用同類所謂的“訓(xùn)練營(yíng)”變現(xiàn),。
在這些所謂AI訓(xùn)練營(yíng)老師的指導(dǎo)下,，學(xué)員發(fā)布AI魔改視頻的目的也只有一個(gè)，就是博得更多流量并接廣告變現(xiàn),。一名學(xué)員告訴記者,，他進(jìn)群的目的就是為了快速漲粉。然而,，自己從年初開始發(fā)布AI視頻,，目前卻只有幾百個(gè)粉絲，離變現(xiàn)還有十萬八千里,。
起底
9塊9就能讓“雷軍”帶貨
記者調(diào)查發(fā)現(xiàn),，不管雷軍、馬云,、劉強(qiáng)東等知名企業(yè)家,，還是劉曉慶、劉德華等文娛明星,，只需要花9塊9,，就能讓他們“開口”說話，至于說些什么,，個(gè)人就能定,。
“僅需幾句話，克隆任何聲音,，立等可取,，還原度95%。”在電商平臺(tái)上一家提供AI聲音克隆服務(wù)的店鋪頁面,，商家用顯眼的字眼招攬著生意,。
商家負(fù)責(zé)人告訴記者，只需要提供時(shí)長(zhǎng)1分鐘左右的電話錄音,、錄屏等包含人聲的音頻信息以及文案,，他就能在半小時(shí)左右完成對(duì)任何聲音的克隆,。當(dāng)記者提出克隆明星或雷軍、馬云等知名企業(yè)家的聲音后,，商家也表示沒問題,。定價(jià)方面，300字以內(nèi)的“1條體驗(yàn)”9.9元,，“4條優(yōu)惠裝”19.9元,，10條特惠裝39.9元，1500字以內(nèi)的長(zhǎng)音頻則為59.9元,。
記者花費(fèi)9.9元下單，將一段用手機(jī)在雷軍視頻號(hào)上錄制的1分鐘時(shí)長(zhǎng)音頻內(nèi)容,，以及一段提前用DeepSeek寫好的“雷軍推銷某產(chǎn)品的文案”提供給商家后,，不到半小時(shí)，一條從文本到音頻都由AI工具生成的“克隆版雷軍”語音就完成了,。“各位米粉和女性朋友們,，今天我們要做一件重新定義‘安心’的事——不玩材質(zhì)虛標(biāo)、不搞溢價(jià),，讓厚道守護(hù)每個(gè)月的特殊時(shí)刻！”商家提供的這段音頻中,，不僅音色高度仿真,，連咬字習(xí)慣、語氣停頓等都與在公開場(chǎng)合中講話的雷軍極為相似,。
“有一說一,，太像了！”“只給了幾句話,，就給我完美地復(fù)刻聲音了,，太厲害了吧。”“聲音克隆得挺像的,，這個(gè)價(jià)錢很劃算,！”頁面顯示，這項(xiàng)克隆AI聲音的服務(wù)已成功售出超400單,。而在電商平臺(tái)上,，售賣同類服務(wù)的商家至少有數(shù)十家。
反思
如何避免中性工具被濫用
AI魔改為何總是春風(fēng)吹又生,？長(zhǎng)期從事生成式人工智能內(nèi)容檢測(cè)技術(shù)研究的瑞萊智慧聯(lián)合創(chuàng)始人,、算法科學(xué)家蕭子豪分析，除了流量等商業(yè)利益考慮外,，從技術(shù)角度看,，一大原因在于AI工具獲取難度不斷降低,。
“隨著技術(shù)快速進(jìn)步，AI工具易獲取性越來越強(qiáng),，AI技術(shù)的使用門檻降低,，這對(duì)行業(yè)發(fā)展來說是好事，但也意味著通過各種動(dòng)機(jī)生成AI內(nèi)容的成本降低了,。”蕭子豪透露,，對(duì)于有一定技術(shù)基礎(chǔ)的個(gè)人或公司來說，基于開源社區(qū)里的免費(fèi)資源,，只需要花費(fèi)萬余元,，就能在家中配置一臺(tái)小型服務(wù)器，并讓一些能夠進(jìn)行智能語音合成,、視頻生成的開源模型在服務(wù)器上“跑”起來,，產(chǎn)出各種AI音視頻內(nèi)容。
“AI工具本身是中性的,，如何避免工具被不良動(dòng)機(jī)的人濫用,，是監(jiān)管部門、平臺(tái)需要進(jìn)一步探索的,。”在蕭子豪看來,，由于個(gè)人用戶判別能力有限，平臺(tái)應(yīng)盡可能對(duì)于所有的人工智能生成內(nèi)容進(jìn)行明顯標(biāo)注,，并提醒用戶或觀眾進(jìn)行交叉驗(yàn)證,，避免被誤導(dǎo)甚至遭遇詐騙風(fēng)險(xiǎn)，但目前來看,，各平臺(tái)尚未對(duì)此做出足夠的投入,。
侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，也給AI魔改的治理帶來較大挑戰(zhàn),。記者體驗(yàn)可靈AI,、海螺AI等視頻生成平臺(tái)發(fā)現(xiàn)，非會(huì)員用戶制作的AI生成視頻會(huì)自動(dòng)打上“某某AI”的水印,，但如果用戶花上十余元到數(shù)十元不等的會(huì)員月費(fèi),，就能實(shí)現(xiàn)無水印。“當(dāng)你看到一段AI魔改視頻時(shí),，早已不知轉(zhuǎn)手了多少次,，而最初制作這個(gè)視頻的人和AI工具也極難溯源。”蕭子豪說,。
小米創(chuàng)始人雷軍發(fā)文建議加強(qiáng)對(duì)AI換臉擬聲的治理,。他建議，應(yīng)明確AI換臉擬聲應(yīng)用的邊界紅線,，完善侵權(quán)證據(jù)規(guī)則,，加大對(duì)利用人工智能技術(shù)實(shí)施犯罪行為的處罰力度,。相關(guān)部門應(yīng)支持平臺(tái)企業(yè)開發(fā)可精準(zhǔn)識(shí)別人工智能深度合成內(nèi)容的技術(shù)能力，優(yōu)化升級(jí)通信軟件和內(nèi)容平臺(tái)巡查審核機(jī)制,、投訴舉報(bào)機(jī)制,、應(yīng)急處理機(jī)制，確保及時(shí)阻斷問題內(nèi)容傳播,。
來源：北京日?qǐng)?bào)客戶端
記者：孫奇茹,鹿楊
流程編輯：u070
如遇作品內(nèi)容,、版權(quán)等問題，請(qǐng)?jiān)谙嚓P(guān)文章刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,。版權(quán)侵權(quán)聯(lián)系電話：010-85202353
未登錄
全部評(píng)論
0條