從“地震廢墟中被埋小男孩”的虛假圖片，再到“7月起老人坐火車(chē)打折”的假消息……AI生成的不實(shí)信息，已成當(dāng)前網(wǎng)絡(luò)信息生態(tài)中的重要污染源。在此背景下，“如何治理AI謠言”也成了社會(huì)關(guān)心的問(wèn)題。
謠言治理，也離不開(kāi)平臺(tái)參與。在9月16日的不實(shí)信息治理開(kāi)放日上，抖音方面就表示，謠言治理是抖音2025年最重要的工作之一，分享了平臺(tái)治理謠言的“方法論”，并宣布上線“AI抖音求真”功能。
在AI謠言為不實(shí)消息治理帶來(lái)了新挑戰(zhàn)的當(dāng)下，借助AI技術(shù)突破“事后辟謠依賴(lài)”的被動(dòng)治理模式，構(gòu)建起從謠言生成預(yù)警、傳播路徑監(jiān)測(cè)到內(nèi)容自動(dòng)澄清的全鏈條治理體系，無(wú)疑為AI謠言治理提供了新思路。
“AI謠言”已成新型網(wǎng)絡(luò)毒瘤
如今，AI技術(shù)在文本生成、圖片創(chuàng)作、視頻制作等方面的應(yīng)用越來(lái)越廣泛，只需輸入幾個(gè)關(guān)鍵詞即可快速生成一篇文章、一幅圖片、一段視頻，為內(nèi)容創(chuàng)作提供了極大便利。
但AI在重塑信息生產(chǎn)傳播鏈條、賦能內(nèi)容創(chuàng)作的同時(shí)，AI也讓不實(shí)信息生產(chǎn)制作邁入了“低成本，高逼真”階段。
莎士比亞曾說(shuō)過(guò)：謠言是一只憑著推測(cè)、猜疑和臆度吹響的笛子。到了AI時(shí)代，謠言更是一個(gè)不費(fèi)吹灰之力就能輕松吹響的哨子。以往需要專(zhuān)門(mén)技術(shù)支撐的圖片合成、語(yǔ)音模仿，如今借助AI工具就可輕易完成；曾經(jīng)依賴(lài)專(zhuān)業(yè)筆桿子的邏輯自洽作文、適合傳播文案，現(xiàn)在通過(guò)AIGC技術(shù)就能快速生成。
這帶來(lái)了兩大影響：一是謠言可以從“少量精心編造”轉(zhuǎn)向“批量高效生產(chǎn)”。在生成式AI大面積應(yīng)用前，謠言制造多依賴(lài)人工編撰，耗時(shí)費(fèi)力，成本高昂，但有了那些AI工具后，很多人無(wú)需依托技術(shù)背景和專(zhuān)業(yè)團(tuán)隊(duì)，就可完成專(zhuān)業(yè)級(jí)內(nèi)容制作，謠言生產(chǎn)成本更低了。
二是謠言治理難度呈指數(shù)級(jí)上升。AI生成的謠言經(jīng)常會(huì)嫁接真實(shí)事件背景，呈現(xiàn)看似現(xiàn)場(chǎng)的畫(huà)面，引用貌似專(zhuān)業(yè)的數(shù)據(jù)，披上真實(shí)情形的外衣，甚至偽造權(quán)威媒體的“報(bào)道畫(huà)面”、政務(wù)機(jī)構(gòu)的“公告截圖”，擬真度很高、迷惑性極強(qiáng)。加上謠言來(lái)源的分散、謠言數(shù)量的倍增，謠言治理難度更高了。
清華大學(xué)副教授陸洪磊就說(shuō)，“AI謠言可以做到分平臺(tái)、分渠道、分時(shí)段、分媒介的定制化生成和發(fā)布，并且成本低廉，可以短時(shí)間內(nèi)成倍率傳播，AI謠言間還能彼此交叉、共振與放大，辟謠難度大大增加。”
這類(lèi)以圖片為憑、視頻為據(jù)為幌子的AI謠言，動(dòng)輒侵害他人權(quán)益，誤導(dǎo)公眾認(rèn)知，還制造社會(huì)恐慌、污染網(wǎng)絡(luò)空間，實(shí)質(zhì)上已成新型網(wǎng)絡(luò)病毒。有些真假難辨的“小作文”，就讓企業(yè)遭遇重大損失；假消息熱傳后頻現(xiàn)的反轉(zhuǎn)，也讓“狼來(lái)了”在現(xiàn)實(shí)中頻繁上演……足見(jiàn)其危害之深。
“用AI治理AI謠言”是個(gè)有益有效的思路
未來(lái)學(xué)家凱文·凱利曾說(shuō)過(guò)：對(duì)于科技帶來(lái)的問(wèn)題，永遠(yuǎn)不能靠減少科技來(lái)解決，而應(yīng)該發(fā)明更好的科技。
AI謠言的“定制化、門(mén)檻低、識(shí)別難、破壞大”特點(diǎn)決定了，以往響應(yīng)滯后、覆蓋有限的“人工審核+事后辟謠”被動(dòng)應(yīng)對(duì)模式難以應(yīng)對(duì)AI謠言的挑戰(zhàn)。“解鈴還須系鈴人”，技術(shù)帶來(lái)的負(fù)外部性，也需要技術(shù)層面的突破性解決方案來(lái)消除。
抖音推出“AI抖音求真”功能，將AI大模型能力用在謠言治理上，對(duì)謠言“發(fā)現(xiàn)即管控”，就趟出了通過(guò)技術(shù)創(chuàng)新推動(dòng)謠言治理從“被動(dòng)攔截”到“主動(dòng)防控”的新路徑。
在技術(shù)識(shí)別層面，引入AI大模型能力，可重構(gòu)謠言治理的全鏈路。
以往謠言治理高度依賴(lài)人工，經(jīng)常需等待媒體報(bào)道或機(jī)構(gòu)發(fā)聲提供辟謠信號(hào)，再由運(yùn)營(yíng)人員將謠言信息納入數(shù)據(jù)庫(kù)，進(jìn)而回查下架相關(guān)內(nèi)容，單例處置時(shí)效常以“天”為單位。
隨之而來(lái)的，就是馬克·吐溫那句名言得到應(yīng)驗(yàn)：“當(dāng)真相還在穿鞋的時(shí)候，謠言就已經(jīng)跑遍半個(gè)地球了。”
但抖音謠言治理大模型如同全天候在崗的“謠言鑒定專(zhuān)家”，能主動(dòng)召回平臺(tái)內(nèi)達(dá)到一定熱度的所有資訊內(nèi)容，通過(guò)“視頻信息提取—主旨提煉—聯(lián)網(wǎng)檢索—風(fēng)險(xiǎn)研判”的全自動(dòng)化流程完成甄別。在AI賦能下，不實(shí)信息處理效率得到了提升，單例謠言的處置時(shí)效被縮短至“小時(shí)級(jí)”，大幅降低了謠言擴(kuò)散風(fēng)險(xiǎn)。
由于信源庫(kù)涵蓋權(quán)威媒體報(bào)道、政務(wù)公開(kāi)平臺(tái)及歷史謠言樣本，還能精準(zhǔn)定義“內(nèi)容誤導(dǎo)性”“公共價(jià)值”“可證偽性”等核心特征，避免人工審核的主觀偏差與精力局限，因而謠言研判的準(zhǔn)確性也會(huì)更高。
數(shù)據(jù)顯示，將AI大模型技術(shù)引入謠言治理工作后，一個(gè)季度內(nèi)平臺(tái)謠言曝光量下降67%，這是對(duì)AI治理有效性的直觀注腳。
在用戶(hù)賦能層面，“AI抖音求真”功能的推出，也能構(gòu)建直達(dá)用戶(hù)的“認(rèn)知防線”。
如果說(shuō)后端大模型是從技術(shù)維度筑起防火墻，那“AI抖音求真”功能則是面向用戶(hù)提供甄別工具。
今年4月，抖音曾推出“辟謠卡”功能，會(huì)在用戶(hù)搜索謠言相關(guān)信息時(shí)進(jìn)行提示；此次升級(jí)的“AI抖音求真”功能，則將辟謠提醒從搜索延伸至瀏覽，實(shí)現(xiàn)了辟謠服務(wù)全場(chǎng)景嵌入。
一方面，當(dāng)用戶(hù)瀏覽疑似不實(shí)信息的視頻時(shí)，頁(yè)面會(huì)掛載“求真”跳轉(zhuǎn)鏈接，點(diǎn)擊即可進(jìn)入“求真卡”查看完整事件脈絡(luò)與澄清信息；另一方面，當(dāng)用戶(hù)搜索相關(guān)關(guān)鍵詞時(shí)，“求真卡”會(huì)優(yōu)先呈現(xiàn)，包含事件溯源、權(quán)威報(bào)道、當(dāng)事人發(fā)聲等核心內(nèi)容，對(duì)確認(rèn)謠言的信息還會(huì)顯著標(biāo)注“謠言”或“存疑”標(biāo)簽。
這種“遇事不明，一鍵查證”的設(shè)計(jì)，可以讓用戶(hù)從被動(dòng)的信息接收者轉(zhuǎn)變?yōu)橹鲃?dòng)的真相探尋者，激發(fā)他們?cè)谛畔⑾M(fèi)場(chǎng)景中完成事實(shí)核查的主動(dòng)性，提升其識(shí)謠辟謠的辨別力。
技術(shù)防治是屏障，多方共治是基礎(chǔ)
用AI治理AI謠言，形成“技術(shù)識(shí)別+用戶(hù)賦能”的雙螺旋，的確能將謠言防治的屏障筑得更高，但也要看到，謠言從生成到傳播，往往是寄附在復(fù)雜的社會(huì)土壤之上，僅依靠平臺(tái)側(cè)的積極作為、技術(shù)端的能力提升，仍無(wú)法滿(mǎn)足筑牢謠言防止網(wǎng)絡(luò)之需。
哈佛大學(xué)教授桑斯坦曾在著作《謠言》中說(shuō)過(guò)，謠言有三大傳播機(jī)制：信息流瀑、群體極化、偏頗吸收。不少謠言黨就精準(zhǔn)拿捏了受眾心理，會(huì)精準(zhǔn)捕捉其獵奇心態(tài)、焦慮情緒，針對(duì)儲(chǔ)戶(hù)擔(dān)憂(yōu)編造“千萬(wàn)存款消失”故事，針對(duì)老年人編造“養(yǎng)老政策大變化”謠言……
而無(wú)論是神經(jīng)學(xué)中的“大腦對(duì)壞刺激的反應(yīng)比對(duì)好刺激的更強(qiáng)烈”，還是心理學(xué)中的“首因效應(yīng)”，都表明，那些甄別能力薄弱的人群必然會(huì)成為謠言易感人群。
還有，信源污染與識(shí)別難題也會(huì)給技術(shù)治理“上難度”。謠言治理大模型的準(zhǔn)確性高度依賴(lài)權(quán)威信源的及時(shí)性與完整性，但在實(shí)際場(chǎng)景中，部分突發(fā)事件的權(quán)威信息發(fā)布存在滯后性，而自媒體卻已編造“內(nèi)幕消息”搶占傳播節(jié)點(diǎn)，此時(shí)平臺(tái)也難以立即判定其為謠言，這難免會(huì)帶來(lái)治理空窗期。
更何況，如今部分謠言制造者也會(huì)“道高一尺，魔高一丈”，通過(guò)“模糊表述”“摻雜部分事實(shí)”等方式降低虛假特征的顯著性，其甄別難度遠(yuǎn)高于那些“一眼假”信息。
鑒于此，要真正破解謠言治理難題，還需構(gòu)建“平臺(tái)主導(dǎo)、媒體聯(lián)動(dòng)、用戶(hù)參與”的社會(huì)共治體系。
在此過(guò)程中，平臺(tái)作為信息傳播的關(guān)鍵樞紐，需要從技術(shù)與運(yùn)營(yíng)等維度持續(xù)發(fā)力：借助AI提升對(duì)深度造假、隱性謠言的識(shí)別能力，建立謠言治理的透明化機(jī)制，定期發(fā)布治理報(bào)告，公開(kāi)謠言特征、處置數(shù)據(jù)及功能迭代方向，并建立跨平臺(tái)的謠言數(shù)據(jù)庫(kù)共享機(jī)制，就是必要之舉。
政務(wù)與媒體機(jī)構(gòu)作為辟謠主力軍，該充當(dāng)起壓艙石作用：媒體當(dāng)建立熱點(diǎn)事件的快速核查機(jī)制，第一時(shí)間發(fā)布事實(shí)信息，擠壓謠言生存空間；政務(wù)機(jī)構(gòu)可借助平臺(tái)開(kāi)設(shè)官方賬號(hào)，針對(duì)民生政策、公共安全等高頻謠言領(lǐng)域，主動(dòng)發(fā)布科普內(nèi)容，從源頭減少謠言滋生土壤。
提升信息發(fā)布時(shí)效性與精準(zhǔn)性，填補(bǔ)信息真空，就是從源頭減少謠言滋生空間。
用戶(hù)作為信息消費(fèi)者，需提升媒介素養(yǎng)：在蕪雜的信息環(huán)境重構(gòu)了“有圖有真相”和改寫(xiě)了“眼見(jiàn)為實(shí)”的語(yǔ)境中，用戶(hù)該多些謹(jǐn)慎采信、少些偏聽(tīng)盲信，避免成為謠言傳聲筒。
抖音的“AI抖音求真”為用戶(hù)提供了查證工具，但用戶(hù)形成主動(dòng)查證的意識(shí)，才能將其價(jià)值最大化。唯有每個(gè)人都能成為謠言過(guò)濾器，構(gòu)建起無(wú)死角的治理網(wǎng)絡(luò)才不是奢望。
謠言治理的本質(zhì)是對(duì)信息生態(tài)的凈化，是對(duì)社會(huì)信任的守護(hù)。所以它需要以技術(shù)為盾，更需要以共治為基。
可以預(yù)見(jiàn)的是，接下來(lái)，謠言與治謠的博弈還將長(zhǎng)期存在。這場(chǎng)博弈的勝負(fù)，建基于平臺(tái)的技術(shù)創(chuàng)新能力，更取決于全社會(huì)的協(xié)同程度。也只有平臺(tái)堅(jiān)守技術(shù)向善的底線，媒體扛起積極發(fā)聲的責(zé)任，用戶(hù)養(yǎng)成理性辨別的習(xí)慣，形成治理合力，才能更有力地遏制謠言的傳播，還信息生態(tài)以健康，還網(wǎng)絡(luò)空間以清朗。
(文/佘宗明)