生成式AI出現后，標題黨、小編體、擦邊內容的制作門(mén)檻正變得越來(lái)越低。

在現代技術(shù)的加持下，這些低質(zhì)內容、謠言的傳播力、說(shuō)服力、偽裝性，也迎來(lái)了空前強化。

可以說(shuō)。

隨著(zhù)技術(shù)的不斷發(fā)展，一場(chǎng)沒(méi)有硝煙卻與所有人息息相關(guān)的“認知戰爭”正在打響。

頭條用魔法打敗魔法

今日頭條所發(fā)布的《2024年度治理報告》指出。

在2024年，平臺所攔截的不實(shí)信息超500萬(wàn)條，封禁造謠、傳謠等違規賬號4.77萬(wàn)個(gè)；處置低質(zhì)量AI內容超93萬(wàn)條，封禁、禁言相關(guān)賬號超2.9萬(wàn)個(gè)；處罰同質(zhì)化發(fā)文超781萬(wàn)篇，封禁、禁言違規賬號超6.3萬(wàn)個(gè)。

“作為內容資訊平臺，今日頭條有責任、有義務(wù)讓我們的用戶(hù)看到真實(shí)、有用的信息?！痹谙嚓P(guān)報道中，今日頭條內容策劃負責人劉姍姍說(shuō)道。

對平臺而言，虛假、低質(zhì)內容的出現會(huì )破壞平臺生態(tài)，降低優(yōu)質(zhì)創(chuàng )作者的更新熱情；對用戶(hù)而言，虛假、低質(zhì)內容的出現不僅會(huì )左右自己的事件認知，甚至還可能影響我們的深度思考能力、道德價(jià)值判斷。

所以在這場(chǎng)認知戰爭中，平臺作為內容的保管方+審核方，它們必須沖鋒在前。

為此，今日頭條推出了自己的“治謠套餐”。它們分別是謠言庫、權威信源庫、專(zhuān)業(yè)審核團隊，并基于此展開(kāi)了一場(chǎng)“用魔法打敗魔法”的反擊行動(dòng)。

依托謠言庫所建立的大模型，可以通過(guò)關(guān)鍵詞抓取、內容比對等方式快速驗證信息的真偽；權威信源庫的存在，不僅能幫助謠言庫、審核人員進(jìn)行信息判定，還能夠在定位謠言后進(jìn)行精準辟謠；人工審核團隊搭配AI審核機制，讓平臺內部“風(fēng)險發(fā)現-風(fēng)險識別-風(fēng)險處置”的治理流程更加靈動(dòng)可靠，在守護原創(chuàng )空間之余凈化了用戶(hù)的閱文環(huán)境。

想要擊敗對手，就不能一味加固自己的盾牌，還要磨利劍鋒。

為實(shí)現科普內容、權威內容的跨圈傳播，今日頭條官方同醫學(xué)、法律等領(lǐng)域專(zhuān)家合作推出了《頭條講真的》項目，對不實(shí)信息、劣質(zhì)信息主動(dòng)出擊。最終在維護優(yōu)質(zhì)內容增量的同時(shí)，和上述辟謠系統共同構成了今日頭條在認知戰爭中的“雙輪驅動(dòng)體系”。

抖音劍指虛假信息

1月26日，抖音發(fā)布了2024年平臺治理報告。

報告內容顯示，2024年，抖音累計刪除謠言452萬(wàn)條；提前攔截謠言340萬(wàn)條；處置涉企謠言視頻4.8萬(wàn)條。

另針對老年人易受騙一事，抖音日均下架違規視頻5000余條；每日成功勸阻約1萬(wàn)人。

需要注意的是。

和今日頭條不同，身為短視頻平臺的抖音還面臨著(zhù)“擺拍亂象”的沖擊。

談及此事，抖音集團副總裁李亮曾坦言稱(chēng)：“其實(shí)，怎么識別擺拍是治理難點(diǎn)，一些媒體有時(shí)也會(huì )誤把段子當作新聞來(lái)報道?！?/p>

在擺拍亂象面前，抖音給出的答案是“專(zhuān)項核實(shí)”。當某個(gè)事件達到特定的熱度閾值或收到舉報后，平臺便會(huì )聯(lián)系當事人或邀請當地媒體進(jìn)行真實(shí)性核查。在沒(méi)有明確的調查結果前，平臺會(huì )暫停相關(guān)內容的推薦，以此來(lái)確保信息真實(shí)性。

2月13日，字節跳動(dòng)全員會(huì )上，CEO梁汝波特意提到抖音要做好虛假信息和謠言的治理，對無(wú)底線(xiàn)博流量的行為展開(kāi)打擊。

據悉，目前抖音除準備安全與信任中心，去推動(dòng)算法和平臺治理透明化外。還針對網(wǎng)友們關(guān)心的不同問(wèn)題，推出了不同的治理方案。

比如。

針對爭議內容，抖音將擴大同權威媒體、機構的合作，在各類(lèi)熱點(diǎn)事件中加強人工研判與核實(shí)；針對優(yōu)質(zhì)內容，抖音將加大扶持力度，預計在2025年增加300%的優(yōu)質(zhì)內容曝光；針對信息繭房，抖音將進(jìn)一步完善推薦算法，加強內容多樣性探索、興趣探索和匹配等機制去補充推薦信源。

學(xué)會(huì )讓子彈再飛一會(huì )

想要取得認知戰爭的勝利，除了靠各平臺把好審核關(guān)以外，用戶(hù)自己的大腦防火墻構建也十分重要。

舉個(gè)例子。

近期，互聯(lián)網(wǎng)上有關(guān)“截至2024年末，80后死亡率突破5.2%，相當于每20個(gè)80后中就有1人已經(jīng)去世”“80后的死亡率已經(jīng)超過(guò)70后”的內容廣為流傳。

通過(guò)進(jìn)行延伸搜索，我們發(fā)現這些借“80后死亡率”來(lái)博取流量的內容，大多稱(chēng)自己的數據來(lái)源為2020年所進(jìn)行的第七次人口普查。

那么問(wèn)題就來(lái)了。

一份出自2020年的報告，又是怎樣得到“2021年-2024年的人口死亡數據”“80后在2024年的死亡率、存活率”的呢？莫非它學(xué)會(huì )了時(shí)空穿梭？

中國人民大學(xué)教授李婷在內容溯源后表示，這一錯誤信息的源頭可能是AI對話(huà)。

總所周知，AI沒(méi)有意識。

與其說(shuō)它掌握了和人類(lèi)對話(huà)的能力，倒不如說(shuō)它掌握了“詞語(yǔ)接龍Plus版”。在互動(dòng)過(guò)程中，AI往往會(huì )根據提示詞、對話(huà)歷史進(jìn)行延伸搜索，并在數據庫里抓取對應的內容進(jìn)行回復。

倘若用戶(hù)提出的要求過(guò)于“抽象”，它就會(huì )因為數據庫無(wú)法錨定而出現“幻覺(jué)效應”，開(kāi)始一本正經(jīng)地胡說(shuō)八道；或是被互聯(lián)網(wǎng)上的非權威信源所誤導，在自己生成的結果里摻雜錯誤的數據或內容。

除此以外，那些想要用AI截圖傳播謠言的惡意分子，還可以通過(guò)“角色扮演法”“復讀游戲法”等途徑去生成特定信息，混淆人們的視聽(tīng)。

這類(lèi)情況的出現，恰好為我們敲響了警鐘。

在今天，有太多人對AI呈現出了一種錯誤的“信任”，去盲目認為AI所給出的內容、數據都是絕對準確、權威的。

殊不知，AI也會(huì )犯錯，AI也會(huì )被人操控。

在日益復雜的網(wǎng)絡(luò )生態(tài)面前，每個(gè)人都將是認知戰爭的親歷者和參戰者。想要取得最終的勝利，除內容平臺本身要去強化審核機制外，我們每個(gè)人也都應該在大腦里建立“信息防火墻”；在按下轉發(fā)鍵之前，學(xué)會(huì )“讓子彈再飛一會(huì )”。

參考：

觀(guān)察者網(wǎng)：今日頭條2024年攔截不實(shí)信息超500萬(wàn)條，處置不友善內容3億條

北京商報：當平臺治理遇上AI挑戰，今日頭條分享“經(jīng)驗包”

新京報：抖音年度治理報告：不當言論展現量降63%，將建安全與信任中心

每日經(jīng)濟新聞：打擊網(wǎng)暴及謠言、整治“信息繭房”??推進(jìn)算法和平臺治理透明化，抖音出手了

光明網(wǎng)：“每20個(gè)80后就有1人去世”？謠言！罪魁禍首可能是AI

科學(xué)辟謠：警惕！全網(wǎng)熱傳的的AI截圖可能正在成為新的謠言制造機！