如今,，“AI（人工智能）換臉”圖片和視頻成為熱門現(xiàn)象。娛樂之余,，讓人真假莫辨,，風(fēng)險與困擾也不少。記者調(diào)查發(fā)現(xiàn),，屢被曝光的“AI換臉”背后,，從傳播到制作再到后端環(huán)節(jié)，幾乎都藏著生意,。當前,，包括網(wǎng)絡(luò)平臺、通信公司在內(nèi),，已有一些技術(shù)和措施識別“換臉”,，但也面臨著“矛與盾”的考驗。

 

傳播

“換臉”名人短視頻流傳甚廣

“AI換臉”視頻碰瓷他人尤其是名人,，屢屢引發(fā)關(guān)注,。前段時間，“張文宏醫(yī)生帶貨蛋白棒”讓不少人信以為真,，引得當事人出面辟謠和譴責(zé),。記者調(diào)查發(fā)現(xiàn)，眼下依舊有一些“換臉”名人的視頻流傳,。

“咽炎看著多簡單啊,，能治嗎？”“高血壓能治嗎,？”一個封面為“白巖松談健康 《驚人的超慢跑》”的短視頻,，用知名主持人白巖松的圖片、聲音配以文字解說,。短短幾秒鐘的人臉視頻,，畫面一閃而過，很難分辨真假,。緊接著,，一位AI配音的女解說順著“白巖松”的話，表示“跑步中的超慢跑,，更是適合中老年人……”這條視頻由一位跑步博主發(fā)出,，獲得數(shù)十次轉(zhuǎn)發(fā)和點贊,。

一則推薦書籍的短視頻，出鏡的“李玲”教授面部表情和唇語,，同樣被“AI換臉”,。事實上，這名教授在今年9月就發(fā)表聲明稱,，自己已經(jīng)報警,，“網(wǎng)上大量假冒本人推銷醫(yī)藥書籍和治療手段的虛假視頻，大多是人工智能AI合成……”盡管當事人聲明已報警,，但平臺上這則“換臉”視頻依舊存在,。記者注意到，發(fā)布這則短視頻的博主,，總共發(fā)布了20條原創(chuàng)內(nèi)容,，最多的一條短視頻點贊為7000多次。

此前,，“AI換臉”還曾冒充雷軍,、靳東等人士,。類似“AI換臉”視頻之所以存在且能較快較廣地傳播,，不同領(lǐng)域的博主賬號和相關(guān)平臺是重要因素。

制作

生成一條視頻只需幾十元

“AI換臉”的圖片或視頻在各平臺傳播,，起源又是哪里呢,？調(diào)查發(fā)現(xiàn)，如今“換臉”這項業(yè)務(wù)產(chǎn)業(yè)成熟,，既有相關(guān)軟件售賣,，也有現(xiàn)成制作服務(wù)提供商。而制作合成一張臉或一段視頻,，價格低至幾元幾十元,。

在網(wǎng)絡(luò)搜索“AI換臉軟件”，很快就彈出不同開發(fā)版本的軟件平臺,。一家“一站式AI創(chuàng)作平臺”,，可提供的服務(wù)包括圖片換臉、視頻換臉,、多人換臉,。以圖片換臉為例，上傳模板圖,、人臉圖,，選擇清晰度等指標，就可“一鍵”換臉,。而視頻換臉,，除了可選擇清晰度,，還有“人臉增強”功能。視頻換臉的套餐體驗價為59元,，最多可生成25個視頻,。軟件頁面下方，則用小字提醒,，“僅供娛樂學(xué)習(xí),，嚴禁上傳非法照片和用于非法用途。”

在線使用“換臉”軟件之外,，還有售價更便宜的軟件包出售,。記者輾轉(zhuǎn)聯(lián)系上一位賣家，其出售的換臉軟件,，通過網(wǎng)盤發(fā)貨,，可在手機和電腦端安裝使用，“視頻和照片皆可替換,，滿足各類換臉需求,，并且完全免費。”價格只要1元錢,，“就賺個信息差”,。記者購買發(fā)現(xiàn)，網(wǎng)盤中包含了適用不同系統(tǒng)電腦的換臉軟件,、注意事項,，以及具體使用教程等資料。

如果不想耗神費力制作,，也可以在電商平臺花錢請人制作“換臉”成品,。為了躲避電商平臺關(guān)鍵詞識別，一位賣家打出“AI換lian”的廣告,，宣稱（質(zhì)量）遠超市面上99%替換效果,，“小本生意，做好不退,，其他懂的都懂,。”至于價格，單張“換臉”圖片為5元,，幾分鐘就可以完成,。一段5秒內(nèi)“換臉”視頻為9.9元，10秒內(nèi)“換臉”視頻為19.9元,，1分鐘“換臉”視頻則為80元,。相比“換臉”圖片，視頻生成時間久一點，一般數(shù)小時內(nèi)也能完成,。

生意

引流賣書帶貨甚至搞詐騙

“AI換臉”的圖片和視頻為什么屢屢出現(xiàn),？調(diào)查發(fā)現(xiàn)，相關(guān)軟件資源門檻低,、易獲取是一個原因,，但背后的生意“算盤”，也是重要原因,。

如前所述,，“白巖松”帶貨的AI合成短視頻左下角，就掛著“《驚人的超慢跑》6本套裝”商品鏈接,。點擊后發(fā)現(xiàn),，這套書還打出了“央視推薦”字樣，商品評價達到7200多條,。“我要讓普通老百姓,，也要看到這本書。不過庫存不多了,，大家抓緊下單這本書,。”李玲教授的“換臉”視頻下方，同樣掛著圖書商品鏈接,。頁面顯示,，這套書已售出近1100本。

推廣商品賣貨之外,，另一種手段,，則是通過打著“科普”“教程”“教學(xué)”AI換臉的名義,，來引流用戶到私域開課賺錢,。在一些平臺，能搜索到大量諸如“高精度AI換臉,，全網(wǎng)最詳細教程”“AI換臉最新版喂飯級使用教程”的視頻資料,。記者注意到，有的博主本身就在開展AI教學(xué)培訓(xùn)業(yè)務(wù),，且留下了合作聯(lián)系方式,。

某短視頻平臺相關(guān)負責(zé)人介紹，平臺劃定的AI創(chuàng)作“禁區(qū)”中,，就包括生成精英人士,、虛假人設(shè)，利用多種手段低質(zhì)吸粉甚至引流到站外以賣課,、入群等方式獲利,。

生意算盤之外，“AI換臉”的圖片或視頻，也滋生出諸如詐騙等違法犯罪風(fēng)險,。前不久,，豐臺方莊街道某社區(qū)就成功攔截了一起涉及AI換臉技術(shù)的詐騙案件。當時,，詐騙分子通過精巧的手段,，假冒馬云的身份，試圖誘導(dǎo)一位老人購買保健品,。最終,，在社區(qū)工作者與民警的及時干預(yù)下，犯罪行為被識破,。但在山東淄博,，一名82歲的老人近期則被“AI外孫”騙走了32.6萬元。

提醒

技術(shù)“打補丁”  防范多警惕

如今有的品牌手機自帶了“AI換臉”識別功能,，也有互聯(lián)網(wǎng)平臺強化識別手段和處罰措施,。可為何“換臉”還是層出不窮,，“換臉”騙局能被技術(shù)有效攔截嗎,？

“‘AI換臉’的技術(shù)日益成熟，獲取使用的門檻低,。我們曾專門做過AI換臉實驗,，不論圖片還是視頻，非常容易實現(xiàn)且很逼真,。”網(wǎng)絡(luò)安全研究專家,、北京漢華飛天信安科技有限公司總經(jīng)理彭根介紹，這主要是因為各類“換臉”軟件或程序是開源性質(zhì),，“幾乎誰都可以用,，相當于裝個軟件。”

對于“AI換臉”帶來的風(fēng)險,，彭根認為既有個人隱私泄露,、被造謠的情形，也有詐騙,、敲詐犯罪等風(fēng)險,。對于普通人來說，識別“AI換臉”難度很大,，但可以仔細觀察畫面邊緣的覆蓋,、貼合和畫質(zhì)，是否有所謂“算法跳動”,。如果懷疑遭遇“換臉”聊天騙局,，則可要求對方進行較大幅度的低頭、扭頭等動作，以及用“對暗號”等手段,，觀察識別,。不輕信不轉(zhuǎn)賬，如果發(fā)現(xiàn)被“換臉”詐騙,，要第一時間報警,。

來源：北京日報客戶端

記者：李松林

如遇作品內(nèi)容、版權(quán)等問題,，請在相關(guān)文章刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,。版權(quán)侵權(quán)聯(lián)系電話：010-85202353