記者6月13日獲悉,，虛假內(nèi)容,、虛假人設(shè)、低質(zhì)AIGC內(nèi)容等將成為小紅書(shū)進(jìn)一步打擊的重點(diǎn)違規(guī)內(nèi)容,，2025年上半年,，該平臺(tái)處置虛假筆記320萬(wàn)篇，處置虛假人設(shè)賬號(hào)1萬(wàn)個(gè),，處置虛假低質(zhì)AIGC筆記60萬(wàn)篇,。據(jù)了解，平臺(tái)還計(jì)劃引入更多用戶(hù)參與網(wǎng)絡(luò)社區(qū)共治,。

您是否在互聯(lián)網(wǎng)上刷到這樣的博主——“霸總創(chuàng)業(yè)三年成功買(mǎi)下8000平辦公樓”,；您又是否刷到過(guò)——“一位鮮少露面的老牌知名藝人在視頻中推薦三無(wú)化妝品”,，小紅書(shū)虛假內(nèi)容治理負(fù)責(zé)人蒂法介紹，網(wǎng)友看到的這些內(nèi)容可能涉及人設(shè)造假,，以及AIGC“換臉”,。當(dāng)前，虛假不實(shí)內(nèi)容,、虛假人設(shè)和AIGC造假是社區(qū)打擊的三個(gè)重點(diǎn)方向,。

然而網(wǎng)絡(luò)上每天都有數(shù)以萬(wàn)計(jì)的新內(nèi)容發(fā)布，平臺(tái)該如何有效率地審核及判斷這些內(nèi)容,？據(jù)介紹,，在虛假不實(shí)內(nèi)容方面，平臺(tái)已上線(xiàn)內(nèi)容信息量模型,、筆記摘要提取模型,、AIGC謠言診斷模型等15個(gè)識(shí)別大模型，并建立了真實(shí)信源庫(kù)和謠言庫(kù),，能夠?qū)崿F(xiàn)了對(duì)虛假內(nèi)容的實(shí)時(shí)攔截和批量回掃,。當(dāng)前，大模型已廣泛應(yīng)用到互聯(lián)網(wǎng)社區(qū)的內(nèi)容審核中,。

此外,，在虛假低質(zhì)AIGC內(nèi)容方面，平臺(tái)也加大了對(duì)AIGC識(shí)別模型的研發(fā)投入,，目前,，平臺(tái)對(duì)AIGC生成內(nèi)容做主動(dòng)標(biāo)識(shí)工作，提升信息透明度,。

除了技術(shù)的力量外,，平臺(tái)還將優(yōu)化舉報(bào)機(jī)制，鼓勵(lì)用戶(hù)參與共治,。據(jù)介紹,，網(wǎng)友可通過(guò)平臺(tái)監(jiān)管網(wǎng)站、APP客戶(hù)端舉報(bào),、舉報(bào)熱線(xiàn)和舉報(bào)郵箱四種途徑參與共治,。

人民大學(xué)傳播學(xué)教授董晨宇表示，應(yīng)對(duì)當(dāng)前互聯(lián)網(wǎng)虛假內(nèi)容快速增長(zhǎng)與傳播,，需要各平臺(tái)積極打擊,，更多全社會(huì)共同參與。“虛假內(nèi)容無(wú)法完全被消滅,，但可以通過(guò)科普,、舉報(bào)、公眾傳播學(xué)素養(yǎng)的提升,，將虛假控制在較低的水平線(xiàn),。”董晨宇說(shuō),。

來(lái)源：北京日?qǐng)?bào)客戶(hù)端

記者：鹿楊

如遇作品內(nèi)容、版權(quán)等問(wèn)題,，請(qǐng)?jiān)谙嚓P(guān)文章刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,。版權(quán)侵權(quán)聯(lián)系電話(huà)：010-85202353