2月24日，今日頭條在北京舉辦平臺治理開放日，圍繞AI謠言、同質化發文、網絡詐騙等熱議的網絡治理焦點，與會嘉賓共同分享今日頭條過去一年來在安全治理、內容生態等方面的細致舉措及有效經驗。
活動現場，今日頭條相關業務負責人與學界專家紛紛發表演講，對近年來AI謠言與AI技術治理等議題給予了高度關注。
今日頭條生態治理運營負責人韓雨桐介紹稱，平臺很早就關注到AI謠言等情況、問題的出現，更針對性升級、迭代了AI模型的識別能力。在四位一體防御工事外，還建立起了包括謠言庫、權威信源庫以及專業審核團隊在內的三大核心治理能力，全面優化了AI謠言的防控水平，加強了對AI謠言、低質內容的可靠治理和管控。
會上，清華大學新聞與傳播學院副教授陸洪磊分享了題為《AI謠言治理：多方協力的數字戰役》的演講，在聚焦AI謠言產生背景及特點。他指出，伴隨AI技術的進一步應用，生成式AI正在重塑網絡信息的傳播生態，體現在內容端就是AI謠言的日益猖獗。在AI的加持之下，謠言實現了分平臺、分渠道、分時段、分媒介的定制化發布，為網絡環境帶來了更加嚴峻的跨平臺影響。其低廉的成本和倍率傳播特性，使得辟謠難度大幅增加。而AI技術自我學習和自我強化的特性，匹配AI生成圖片等造假手段，使得AI謠言越來越逼真，對于內容平臺來說這無疑是一場需要特別關注的“進化危機”。
清華大學新聞與傳播學院副教授陸洪磊如何應對這一新的態勢，陸洪磊以今日頭條為例，指出今日頭條平臺所采取的“內容治理制度、內容審核、辟謠教育、內外聯動”四位一體防御工事，為AI謠言的治理提供了一條具有可行性的發展之路。
事實證明，今日頭條對AI謠言的相關治理舉措卓有成效。不久前今日頭條發布的《2024年度治理報告》中顯示，截止2024年底，今日頭條平臺已處理低質AI內容超93萬條，禁言、封禁相關賬號超2.9萬個，用戶關于低質AI內容的負反饋量級從28條/天降到了2條/天，有效抑制和打擊了AI謠言的傳播鏈條與傳播溫床。
陸洪磊認為，AI謠言的治理難以依靠單一力量來完成，需要聯動各方建立謠言線索互通機制。在協同治理方面，平臺需要做好技術的守門員，加強跨平臺辟謠合作，破解AI謠言的“deepfake”陷阱；平臺也可以考慮推出“事實快速核驗通道”，激發用戶的反謠言意識，便于遏制謠言的傳播。執法機構需要做好法治保障的護盤手，加快相關法律細則的出臺和落實，建立“技術取證-電子證據-司法鑒定”的全鏈條執法標準；而每位網民則都應當成為理性的受者和傳者，轉發前思考三秒，分析一下信息來源是否真實、邏輯是否合理、是否屬于誘導內容等，并對可疑內容主動進行核實。
陸洪磊總結道，魔高一尺，道高一丈。當網友發現AI圖片中的異常字母時，他們會在評論區自發形成的“真相拼圖”，這正是協同治理最生動的注腳。