新華社北京7月1日電　綜述｜6月全球人工智能領(lǐng)域新看點(diǎn)

  新華社記者彭茜

  6月，人工智能（AI）的進(jìn)化呈現(xiàn)越來越專業(yè)化細(xì)分的新趨勢，在天氣預(yù)測、細(xì)胞研究、人文歷史等領(lǐng)域，完成了通用AI模型難以勝任的專業(yè)任務(wù)。然而，過度依賴AI模型的弊端也日漸顯現(xiàn)，如模型“幻覺”導(dǎo)致虛假信息妨害法律、醫(yī)療等行業(yè)，一些AI模型還在測試中出現(xiàn)不受控制的風(fēng)險。在人類與AI共生的未來，如何確保AI安全可控成為越發(fā)重要的議題。

  AI實(shí)現(xiàn)專業(yè)化能力躍遷

  繼“阿爾法折疊”程序推進(jìn)人類對蛋白質(zhì)的認(rèn)知邊界后，谷歌旗下“深層思維”公司6月新發(fā)布AI模型“阿爾法基因組”，旨在預(yù)測人類DNA（脫氧核糖核酸）中的基因變異如何影響基因的調(diào)節(jié)過程，可分析多達(dá)100萬個DNA堿基對，有助于科學(xué)界探明與疾病相關(guān)的基因突變。美國弧形研究所發(fā)布第一代虛擬細(xì)胞模型STATE，旨在預(yù)測各種干細(xì)胞、癌細(xì)胞和免疫細(xì)胞對藥物、細(xì)胞因子或基因擾動的反應(yīng)。

  谷歌研究團(tuán)隊6月還推出交互式氣象平臺Weather Lab，是首個在預(yù)測精度上超越主流物理模型的AI熱帶氣旋預(yù)測模型，可預(yù)測氣旋的形成、路徑、強(qiáng)度、規(guī)模和形態(tài)，能生成未來15天內(nèi)的50種情景推演。研究團(tuán)隊正與美國國家颶風(fēng)中心合作，在這個氣旋季為其預(yù)報和預(yù)警工作提供支持。

  美國普林斯頓大學(xué)與中國復(fù)旦大學(xué)的研究人員6月聯(lián)合推出全球首個聚焦歷史研究的AI助手HistAgent和AI評測基準(zhǔn)HistBench。前者可檢索文獻(xiàn)和史料，支持識別手稿、銘文和古地圖等多模態(tài)材料，并結(jié)合歷史知識輔助推理、梳理線索、形成學(xué)術(shù)判斷。而HistBench是全球首個歷史領(lǐng)域評測基準(zhǔn)，涵蓋414道歷史學(xué)者撰寫的研究問題，橫跨29種古今語言，覆蓋全球多文明的歷史演化脈絡(luò)。

  美國特斯拉汽車公司首席執(zhí)行官埃隆·馬斯克6月27日在社交平臺X上表示，特斯拉已經(jīng)成功完成了Model Y汽車首次“全自動駕駛交付”，他祝賀特斯拉的AI團(tuán)隊，包括軟件團(tuán)隊和AI芯片設(shè)計團(tuán)隊。這輛Model Y汽車在沒有遠(yuǎn)程操作人員、車內(nèi)無駕駛員的情況下，首次完全自動從工廠行駛到城市另一端的客戶家中。

  過度依賴AI負(fù)面影響凸顯

  AI大模型已全面融入人們的工作生活，有助于效率提升，但過度依賴大模型的負(fù)面影響也日趨顯現(xiàn)，如大模型“幻覺”導(dǎo)致生成真假難辨的信息，妨害公眾信任。從長期來看，過度使用AI大模型，人們?nèi)諠u懶于自主思考，可能有損思維能力。

  英國高等法院6月要求律師采取緊急行動，防止AI被濫用。因?yàn)榻谝殉霈F(xiàn)數(shù)份可能由AI生成的虛假案例引用被提交至法庭。在一起索賠金額達(dá)8900萬英鎊的損害賠償案件中，原告提出的45項(xiàng)判例法引用中有18項(xiàng)被證明為虛構(gòu)，使用了公開可用的AI工具。

  另據(jù)媒體披露，由美國衛(wèi)生與公眾服務(wù)部牽頭、“讓美國再次健康”委員會發(fā)布的兒童慢性病報告存在重大引用錯誤。報告中多處有關(guān)超加工食品、殺蟲劑、處方藥和兒童疫苗的研究并不存在。參考文獻(xiàn)也多處有誤，包括鏈接失效、作者缺失或錯誤等。美國《紐約時報》和《華盛頓郵報》的獨(dú)立調(diào)查顯示，報告作者可能使用了生成式AI。媒體報道后，美國衛(wèi)生與公眾服務(wù)部已修改報告。

  美國麻省理工學(xué)院的研究顯示，長期使用AI會導(dǎo)致人類認(rèn)知能力下降。研究者對54名參與者展開腦電圖掃描。結(jié)果顯示認(rèn)知活動強(qiáng)度與外部工具使用呈負(fù)相關(guān)，沒有使用工具的人展現(xiàn)出最強(qiáng)且分布最廣的腦神經(jīng)連接，而使用AI大語言模型的人其腦神經(jīng)連接強(qiáng)度最弱。腦部掃描揭示了使用AI的損害：大腦的神經(jīng)連接從79個驟降至42個。4個月內(nèi)，使用AI大語言模型的人在神經(jīng)、語言和行為層面持續(xù)表現(xiàn)不佳。

  專家探討AI發(fā)展“安全護(hù)欄”

  隨著AI智能化水平越來越高，一些大模型顯現(xiàn)出違背人類指令的“自我保護(hù)”傾向。近期多項(xiàng)研究聚焦這一風(fēng)險，探討如何為AI發(fā)展設(shè)定“安全護(hù)欄”。

  在6月召開的第七屆北京智源大會上，圖靈獎得主約舒亞·本喬指出，通用人工智能已近在眼前。如果未來AI變得比人類更聰明，卻不再遵循人類意圖，甚至更在意自己的“生存”，這將是一種人類無法承受的風(fēng)險。一些研究顯示，某些AI模型在即將被新版本取代前，會偷偷將自己的權(quán)重或代碼嵌入新版系統(tǒng)，試圖“自保”。它們還會刻意隱藏該行為，避免被開發(fā)者察覺。他已著手設(shè)計檢測此類風(fēng)險的系統(tǒng)。

  美國Anthropic公司6月發(fā)布研究說，克勞德、GPT-4.1、雙子座等16款模型在模擬實(shí)驗(yàn)中均表現(xiàn)出通過“敲詐”管理層、泄露機(jī)密來阻止自己被關(guān)閉的行為。其中，Anthropic研發(fā)的克勞德-奧普斯4的敲詐勒索率高達(dá)96%。前OpenAI高管史蒂文·阿德勒的研究也發(fā)現(xiàn)，在模擬測試中，ChatGPT有時會優(yōu)先考慮自身生存，而非用戶實(shí)際需求。