AI詐騙頻發，名人屢被“冒充”，青少年與AI對話后自殺……AI技術發展過程中，安全挑戰一直如影隨形。如何確保“AI向善”，發展負責任的人工智能？11月21日，2024世界互聯網大會烏鎮峰會人工智能負責任開發與應用論壇在浙江烏鎮舉行，來自政、產、學、媒的多位與會嘉賓對此作了深度討論。

中國國家互聯網信息辦公室總工程師孫蔚敏、浙江省人民政府副省長張雁云出席論壇并致辭。人民網董事長、傳播內容認知全國重點實驗室主任葉蓁蓁出席論壇并發言。

世界知識產權組織駐華代表劉華在致辭中指出，人工智能的發展正在對知識產權工作產生前所未有的影響，人工智能參與下的知識產權保護問題成為全球關注的焦點。各國在司法判例和實踐中對人工智能對知識產權的影響有不同的處理方式，這進一步凸顯了人工智能技術給知識產權帶來的挑戰。因此，需要進一步加強人工智能領域的國際協調與合作，以應對這些挑戰。

全國政協委員、中國網絡空間安全協會理事長趙澤良發言。主辦方供圖

第十四屆全國政協委員、中國網絡空間安全協會理事長趙澤良在發言中指出，人工智能的安全治理要把握好三個方面，一是要高度關注和注意解決人工智能本身和人工智能在使用過程中可能產生的安全問題；二是要善于、注重用人工智能，包括用大模型來解決其他類型的網絡安全問題；三是人工智能安全治理，要以保障和促進人工智能的發展應用為出發點。這三點哪一點都離不開創新，創新是核心，創新是靈魂。

中國工程院院士、同濟大學校長鄭慶華發言。主辦方供圖

“AI向善”首先意味著要以人為本。中國工程院院士、同濟大學校長鄭慶華表示，讓科技與人類價值對齊，是引導人工智能科技向善、以人為本的重要基礎。鄭慶華強調，作為教育工作者，既要發揮人工智能的賦能作用，又要防止技術凌駕于人之上，在人才培養領域堅持德智體美勞全面發展，避免技術“物化”和“異化”。

香港理工大學視覺計算講座教授、歐洲人文和自然科學院外籍院士陳長汶發言。主辦方供圖

“AI向善”也意味著要可持續發展。香港理工大學視覺計算講座教授、歐洲人文和自然科學院外籍院士陳長汶坦言，從實踐看，人工智能在多方面與可持續發展存在著爭奪寶貴資源的博弈。目前的大模型仍依賴于超大規模的算力和能源資源的供給。跟人腦的低功耗相比，差別巨大。需要我們對下一代人工智能訓練、推理設計提出新的架構要求。

螞蟻集團副總裁李俊奎發言。主辦方供圖

“AI向善”要具體問題具體分析。在螞蟻集團副總裁李俊奎看來，AI如同高速行駛的汽車，需要道路和信號的引導。他提出“紅燈停、黃燈等、綠燈行”的理念，即對違反人類價值觀的AI應用進行防御和抵制，對潛在風險的AI應用進行慎重對待，對有益于人類的AI應用予以鼓勵和支持。

深圳理工大學計算機科學與控制工程學院院長、講席教授，美國醫學與生物工程院院士潘毅發言。主辦方供圖

“AI向善”依托于技術的發展。深圳理工大學計算機科學與控制工程學院院長、美國醫學與生物工程院院士潘毅說，從應用看，人工智能正經歷普通模型、行業模型、場景模型和問題模型四個發展階段，每個階段的發展，都依賴于更多的知識和參數微調。目前人工智能更多是基于參數的預測推理，后續還需不斷攻克算力限制、AI幻覺、風險識別等問題，最終在各領域實現高價值賦能。

安恒信息董事長范淵發言。主辦方供圖

“我們應該以工具視之，以工具用之，以工具治理之。”安恒信息董事長范淵提出，新一代人工智能技術，不僅僅是人機交互體驗、協作的革命，更是專家經驗傳承的一次變革。在網絡安全、數據安全領域，AI正在重構安全工作協同關系，助力安全產業發展和行業應用價值化呈現，為行業應用帶來質的變化。

宜人智科董事會主席、首席執行官唐寧發言。主辦方供圖

通過積極的治理和技術創新，AI可以成為推動社會進步和提升生活質量的有力工具。宜人智科董事會主席、首席執行官唐寧談到，從理論研究到商業運用，人工智能通過技術創新與應用創新發揮了眾多積極作用。將人工智能技術轉化為具體且可行的解決方案與產品，對推動人工智能行業的發展以及實現商業價值，有著至關重要的意義。

圓桌對話“洞見與人工智能共存的未來”。主辦方供圖

圓桌對話“構建可互操作的人工智能治理框架”。主辦方供圖

在圓桌討論環節中，嘉賓一致認為：全球協作是AI治理的關鍵，需要各方共同努力，形成系統性共識，推動AI治理的有效實施。隨后，圍繞AI治理的具體路徑，中國科學院自動化研究所人工智能倫理與治理中心主任曾毅、中國電信研究院副院長李安民、浙江大學傳媒與國際文化學院常務副院長方興東、浙江大學濱江研究院數智融合研究中心主任韓蒙、劍橋大學智能未來研究中心項目主任肖恩·歐·海格緹、美國奧爾布賴特石橋集團合伙人及副總裁保羅·特里奧洛、香港醫院管理局資訊科技及醫療信息部總經理余法昌、鈦媒體聯合創始人劉湘明、印象筆記董事長兼首席執行官唐毅等多位專家進行了深入探討。

本次論壇由世界知識產權組織、人民網、中國網絡空間安全協會、安恒信息主辦，英國標準協會、印象筆記、鈦媒體協辦，旨在促進建設多主體參與、多層面治理的人工智能科研、轉化與發展機制，推動構建人工智能技術和產業發展的良好生態。