每經(jīng)記者 楊昕怡    每經(jīng)編輯 董興生    

AI技術(shù)飛速發(fā)展給每個(gè)領(lǐng)域帶來的，既是一次來自新時(shí)代的重塑，也是一場(chǎng)前所未有的挑戰(zhàn)。

“在AI技術(shù)的加持下，我們發(fā)現(xiàn)網(wǎng)絡(luò)謠言的發(fā)展呈現(xiàn)出了一些新的特征。”在2月24日舉辦的今日頭條“平臺(tái)治理開放日”活動(dòng)上，清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊表示，AI謠言在跨平臺(tái)影響力、傳播速度以及逼真性上都比傳統(tǒng)謠言更具破壞性。

作為國(guó)內(nèi)一大內(nèi)容平臺(tái)，面對(duì)“進(jìn)化”中的虛假信息和低質(zhì)內(nèi)容，今日頭條的攔截措施也在與時(shí)俱進(jìn)。

“人工審核的投入會(huì)越來越少，因?yàn)轭^條上的發(fā)文量級(jí)巨大，純靠人去審核是不可能的，所以目前占比90%以上的審核通過機(jī)器來做。”今日頭條安全運(yùn)營(yíng)負(fù)責(zé)人閆夢(mèng)茹在接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)表示，“但機(jī)器審核的準(zhǔn)確率還不是100%，沒有人工準(zhǔn)確，需要人不斷去校準(zhǔn)機(jī)器、給它投喂更準(zhǔn)確的樣本去訓(xùn)練它。”

圖片來源：每經(jīng)記者 楊昕怡 攝

“除了謠言這一‘老課題’，低質(zhì)AI（內(nèi)容）的治理是我們的一個(gè)新命題。”今日頭條生態(tài)治理運(yùn)營(yíng)負(fù)責(zé)人韓雨桐表示，“在過去一年中，我們對(duì)于低質(zhì)AI發(fā)文治理工作投入了大量的精力，包括但不限于不斷升級(jí)、迭代AI低質(zhì)模型的識(shí)別能力，收嚴(yán)低質(zhì)AI內(nèi)容治理標(biāo)準(zhǔn)等。”

記者在活動(dòng)現(xiàn)場(chǎng)了解到，2024年，今日頭條對(duì)超93萬條低質(zhì)AI內(nèi)容進(jìn)行了識(shí)別和管控；對(duì)近3萬個(gè)利用AI批量發(fā)布虛假低質(zhì)內(nèi)容或惡意抄襲、洗稿他人的賬號(hào)進(jìn)行了處罰；站內(nèi)用戶對(duì)AI相關(guān)的負(fù)向反饋聲量，從年初的每天近28條降低至目前的每天1到2條。

“90%以上的審核通過機(jī)器”，今日頭條“用魔法打敗魔法”

AI時(shí)代的信息爆炸中，虛假信息和低質(zhì)內(nèi)容的泛濫為內(nèi)容平臺(tái)治理設(shè)下了重重難關(guān)。

首先在低質(zhì)量的同質(zhì)化內(nèi)容治理上，閆夢(mèng)茹指出，近年來AI技術(shù)快速發(fā)展，大模型能力迭代快、效果好。雖然提高了創(chuàng)作者的寫作效率，但也降低了低質(zhì)內(nèi)容的洗稿成本。并且，現(xiàn)在市面上出現(xiàn)了很多專業(yè)化洗稿工具，可以支持綁定賬號(hào)批量提供AI文章，還可以招聘兼職人員批量復(fù)制發(fā)文。

她表示，相比其他平臺(tái)，今日頭條在時(shí)政、歷史等領(lǐng)域內(nèi)容的用戶更多，“所以我們的治理難度也會(huì)更大”。

對(duì)于同質(zhì)化內(nèi)容的發(fā)現(xiàn)和識(shí)別方式，閆夢(mèng)茹介紹，今日頭條內(nèi)部有巡查團(tuán)隊(duì)，實(shí)時(shí)巡查站內(nèi)高風(fēng)險(xiǎn)的同質(zhì)化內(nèi)容。其次，內(nèi)部會(huì)通過模型識(shí)別和人工評(píng)估相結(jié)合的方式，對(duì)同質(zhì)化內(nèi)容進(jìn)行二次與綜合判定和評(píng)估，以確保準(zhǔn)確性。

“在堅(jiān)持AI低質(zhì)內(nèi)容治理層面，目前常用的手段其實(shí)就是在拿AI去對(duì)抗AI。”陸洪磊提出了三點(diǎn)治理建議，分別是迭代、加強(qiáng)機(jī)器識(shí)別能力，加強(qiáng)人工審核能力以及上線“AI創(chuàng)作標(biāo)簽”來幫助用戶鑒別AI內(nèi)容，保持理性思考。

對(duì)此，閆夢(mèng)茹表示，目前今日頭條在人工審核的投入會(huì)越來越少，“占比90%以上的審核通過機(jī)器來做”。“但機(jī)器審核有弊端，準(zhǔn)確率還不是100%，沒有人工準(zhǔn)確，需要人不斷去校準(zhǔn)機(jī)器、給它投喂更準(zhǔn)確的樣本去訓(xùn)練它。”

她向記者表示，內(nèi)部在內(nèi)容治理上運(yùn)用了多個(gè)不同類別的模型。“比如在處理虛假內(nèi)容問題上，可能有大大小小幾十個(gè)模型，每個(gè)效果都不太一樣，最好的（模型）在‘實(shí)錘’謠言上的準(zhǔn)確率有100%。”

同時(shí)，韓雨桐介紹，對(duì)于虛假謠言，今日頭條早已建立起三大核心治理能力，包括謠言庫、權(quán)威信源庫以及專業(yè)審核團(tuán)隊(duì)。

她還指出，今日頭條于2024年在發(fā)文下方增加權(quán)威媒體報(bào)道來源標(biāo)簽，在保障資訊真實(shí)性的基礎(chǔ)上，為用戶提供了更多客觀視角。

記者了解到，2024年，今日頭條累計(jì)攔截不實(shí)信息超500萬條，封禁造謠、傳謠等違規(guī)賬號(hào)4.77萬個(gè)；平臺(tái)去年全年還攔截和處置涉嫌詐騙內(nèi)容超200萬條，禁封涉嫌詐騙賬號(hào)17.85萬個(gè)，配合警方抓捕87人。

“認(rèn)知戰(zhàn)爭(zhēng)”面前，內(nèi)容平臺(tái)如何獲得主動(dòng)權(quán)？

“我們正面臨一場(chǎng)前所未有的認(rèn)知戰(zhàn)爭(zhēng)。”在陸洪磊看來，過去的謠言是一種隱蔽的、分散的公眾情緒，而網(wǎng)絡(luò)時(shí)代的謠言往往具備新聞性、說服性、非官方性和強(qiáng)傳播性。“新的AI謠言將越來越逼近真話，專業(yè)媒體人可能都要進(jìn)行實(shí)時(shí)核查才能判斷這個(gè)消息是不是真的，它的破壞性將成倍增加。”

例如，今年1月西藏日喀則市定日縣突發(fā)6.8級(jí)地震后，一張廢墟中被埋兒童的照片在社交平臺(tái)熱傳，引發(fā)公眾關(guān)切。而后經(jīng)查證，該圖實(shí)為2024年11月某創(chuàng)作者標(biāo)注的AI生成作品，被部分自媒體盜用并打上地震相關(guān)標(biāo)簽博取流量。

另外，清華大學(xué)新聞與傳播學(xué)院新媒體研究中心在2024年4月發(fā)布的一份研究報(bào)告顯示，近一年來，經(jīng)濟(jì)與企業(yè)類AI謠言量增速達(dá)99.91%。

在開放日現(xiàn)場(chǎng)，北京師范大學(xué)法學(xué)院院長(zhǎng)、教授梁迎修表示，對(duì)于AI虛假謠言，網(wǎng)絡(luò)平臺(tái)要積極承擔(dān)社會(huì)責(zé)任，重視內(nèi)容整治，同時(shí)政府機(jī)構(gòu)、媒體、公眾等更應(yīng)加強(qiáng)協(xié)同，網(wǎng)絡(luò)謠言治理需要多方綜合施策。

“一方面我們要去打擊、消滅假的信息，另一方面也希望用平臺(tái)的力量去主動(dòng)傳播真實(shí)的信息。”今日頭條內(nèi)容策劃負(fù)責(zé)人劉姍姍在開放日現(xiàn)場(chǎng)談及了《頭條講真的》項(xiàng)目的創(chuàng)辦初衷。

記者了解到，自2023年以來，今日頭條推出了《頭條講真的》項(xiàng)目。該項(xiàng)目以“傳播真實(shí)信息”為理念，把“硬核科普”作為主要傳播方向，平臺(tái)聯(lián)合醫(yī)學(xué)、財(cái)經(jīng)、法律等領(lǐng)域?qū)I(yè)創(chuàng)作者，為用戶進(jìn)行辟謠、反詐宣傳。截至2024年，《頭條講真的》發(fā)布科普、辟謠等主題視頻在全網(wǎng)話題討論量已超36億。

“在合作創(chuàng)作者的選擇上，我們肯定會(huì)選擇在今日頭條上有賬號(hào)、比較活躍、平臺(tái)數(shù)據(jù)也比較好的創(chuàng)作者。另外，跟作者溝通過程中，我們也會(huì)不斷傳達(dá)平臺(tái)對(duì)于治理的決心，讓創(chuàng)作者能夠在創(chuàng)作過程中融入更多今日頭條的信息內(nèi)容，以及今日頭條如何做科普辟謠等。”劉姍姍向記者表示，“從調(diào)研的數(shù)據(jù)中發(fā)現(xiàn)，通過一系列合作，用戶會(huì)看到今日頭條官方‘下場(chǎng)了’，和科普創(chuàng)作者一起進(jìn)行內(nèi)容輸出，用戶能明顯認(rèn)知到這個(gè)內(nèi)容是今日頭條作為一個(gè)主體參與其中的。”