2月24日，今日頭條“平臺治理開放日”活動在北京舉辦。相關業(yè)務負責人與學界專家圍繞網(wǎng)絡虛假謠言、同質化發(fā)文、AI低質內(nèi)容等領域的治理進行了深入探討，分享了今日頭條在正面?zhèn)鞑?、平臺安全、內(nèi)容生態(tài)等三方面治理工作上的舉措、成果及規(guī)劃。
營造優(yōu)質、清朗、綠色、安全的平臺
“作為內(nèi)容資訊平臺，今日頭條有責任、有義務讓我們的用戶看到真實、有用的信息”，在開放日上，今日頭條內(nèi)容策劃負責人劉姍姍表示，“一方面要消滅假的信息，另一方面更要主動傳播真的信息，這也是我們團隊最重要的工作之一?！?/p>
自2023年以來，平臺立足“傳播真實信息”理念，以“硬核科普”為主要傳播方向，推出《頭條講真的》項目。聯(lián)合醫(yī)學、財經(jīng)、法律等領域專業(yè)創(chuàng)作者，為用戶進行辟謠、反詐宣傳。并與熊出沒、南京紅山動物園、我是小魔等知名IP、機構和優(yōu)質創(chuàng)作者多元合作，實現(xiàn)科普內(nèi)容的跨圈傳播，為平臺治理工作拓展了新的思路。截至2024年，《頭條講真的》發(fā)布科普、辟謠等主題視頻，全網(wǎng)話題討論量超36億，成為今日頭條健康和優(yōu)質內(nèi)容生態(tài)的重要一環(huán)。
今日頭條內(nèi)容策劃負責人劉姍姍安全問題是各大互聯(lián)網(wǎng)資訊平臺的治理重點與核心，今日頭條安全運營負責人閆夢茹分享了2024年平臺在安全治理領域取得的成果：作為民生熱點、新聞資訊起家的內(nèi)容平臺，今日頭條深知網(wǎng)絡不良信息將極大影響用戶體驗，擾亂平臺環(huán)境。近年來，今日頭條建立完善的“風險發(fā)現(xiàn)→風險識別→風險處置”全流程治理體系，秉持“早識別、多攔截、多提示、快速干預”的原則，針對同質化發(fā)文、網(wǎng)絡詐騙、網(wǎng)絡水軍等亂象加大治理力度。
今日頭條安全運營負責人閆夢茹除此之外，今日頭條聯(lián)合多家航空公司，開辟反詐主題航班進行反詐知識宣傳，推出官方反詐、辟謠小課堂等加強用戶教育。閆夢茹表示，2025年，將繼續(xù)把虛假謠言和同質化治理、黑灰產(chǎn)管控及作者教育等方面作為工作重點，持續(xù)加碼，不斷深化安全治理工作，為用戶營造健康、綠色的網(wǎng)絡環(huán)境。
今日頭條生態(tài)治理運營負責人韓雨桐提到，近年來越來越多用戶在頭條上參與創(chuàng)作、記錄生活，大大提升了平臺內(nèi)容的豐富度，然而，海量內(nèi)容里的虛假謠言、低質AI內(nèi)容等，破壞了平臺生態(tài)，也不利于創(chuàng)作公平。
今日頭條生態(tài)治理運營負責人韓雨桐對于虛假謠言，今日頭條早早建立起三大核心治理能力，包括：謠言庫、權威信源庫以及專業(yè)審核團隊。并于2024年在發(fā)文下方增加權威媒體報道來源標簽，在保障資訊真實性的基礎上，為用戶提供了更多客觀視角。針對近年來快速發(fā)展的AI技術和涌現(xiàn)的低質內(nèi)容問題，平臺在鼓勵用戶使用AI提效的基礎上，保護原創(chuàng)空間，迅速升級、迭代AI模型的識別能力，收嚴AI內(nèi)容的審核力度。
此外，今日頭條同步加強對優(yōu)質內(nèi)容的扶持力度，“頭條深一度”等欄目精選不同領域深度內(nèi)容，通過更多的推薦機制傳達至用戶。最后韓雨桐表示，希望能夠與媒體、學界等加強合作，一起共建更好的互聯(lián)網(wǎng)生態(tài)。
善用AI技術，完善法律體系，積極應對網(wǎng)絡謠言治理
在場的專家學者和媒體也從AI技術發(fā)展、平臺難點、法治助力等角度，探討了當前復雜的互聯(lián)網(wǎng)環(huán)境下，資訊平臺將如何迎接新挑戰(zhàn)，維護用戶體驗與內(nèi)容安全。
清華大學新聞與傳播學院副教授陸洪磊指出，生成式AI正在重塑謠言的傳播生態(tài)，技術的加持讓AI謠言無論在空間、速度還是結構、方向、效果上，都更具“說服性”、虛假性和強傳播性，使得傳統(tǒng)辟謠手段難以招架。陸洪磊表示，今日頭條近年來構建起涵蓋內(nèi)容治理制度、內(nèi)容審核、辟謠教育、內(nèi)外聯(lián)動的四位一體防御工事，取得了較為顯著的效果，對于AI謠言治理提供了一條具有可行性的發(fā)展之路。此外，道阻且長，也需要多方力量聯(lián)合：比如執(zhí)法機構需要做好法治保障的護盤手，建立“技術取證-電子證據(jù)-司法鑒定”的全鏈條執(zhí)法標準；而每位用戶也都應當成為理性的受者和傳者，對可疑內(nèi)容主動進行核實。最后，陸洪磊呼吁有更多像今日頭條這樣的平臺攜手，共同應對網(wǎng)絡亂象治理。
清華大學新聞與傳播學院副教授陸洪磊北京師范大學法學院院長、教授梁迎修發(fā)表題為《網(wǎng)絡謠言治理：法治引領與多元共治》的演講，系統(tǒng)分析了網(wǎng)絡謠言的類型、變體及發(fā)展趨勢，從概念層面厘清了治理的理論基礎，并基于我國法律法規(guī)梳理了網(wǎng)絡謠言治理的法律依據(jù)。梁教授提出，隨著AI技術的發(fā)展，AI虛假謠言層出不窮，增加了甄別和治理難度，加快了謠言的傳播速度。但同時我們可以利用AI技術作為新工具，在謠言內(nèi)容識別、路徑追蹤和自動化辟謠等方面“用魔法打敗魔法”。梁教授還指出，網(wǎng)絡平臺要積極承擔社會責任，重視內(nèi)容整治，同時政府機構、媒體、公眾等更應加強協(xié)同，網(wǎng)絡謠言治理需要多方綜合施策。
北京師范大學法學院院長、教授梁迎修彰顯平臺責任擔當，協(xié)力共建清朗生態(tài)
據(jù)介紹，這是今日頭條自成立以來首次舉辦平臺治理開放日。此前，今日頭條發(fā)布《2024年度治理報告》，對外公布了過去一年來平臺針對網(wǎng)絡虛假謠言、同質化發(fā)文、網(wǎng)絡詐騙、無底線博流量、網(wǎng)絡水軍等重點專項的治理成果。《報告》顯示：平臺全年累計攔截不實信息超500萬條，低質AI內(nèi)容超93萬條，處罰同質化發(fā)文超781萬篇，攔截和處置涉嫌詐騙內(nèi)容超200萬條。未來，今日頭條將繼續(xù)聚焦平臺安全與生態(tài)治理，為社會和用戶營造清朗、健康的互聯(lián)網(wǎng)環(huán)境。