新華社北京7月13日電當(dāng)?shù)貢r(shí)間12日，美國企業(yè)家埃隆·馬斯克旗下的人工智能公司xAI為其聊天機(jī)器人Grok贊美希特勒等言論致歉，并解釋說，事件由系統(tǒng)更新后誤用一段已被廢棄的代碼造成，相關(guān)代碼現(xiàn)已被移除。
xAI在其社交媒體官方賬號(hào)上寫道：“我們?yōu)樵S多人經(jīng)歷的（Grok的）可怕行為深表歉意。”
據(jù)《紐約時(shí)報(bào)》報(bào)道，7月8日，Grok參考馬斯克掌管的社交媒體平臺(tái)X用戶發(fā)布的內(nèi)容，生成一系列“反猶主義”言論，包括贊揚(yáng)納粹德國領(lǐng)導(dǎo)人希特勒；聲稱猶太姓氏的人更容易在網(wǎng)上傳播仇恨言論；用與二戰(zhàn)期間納粹大規(guī)模屠殺猶太人相關(guān)的言論回應(yīng)對(duì)白人的仇恨言論是“有效的”，等等。
xAI就聊天機(jī)器人Grok散布極端言論致歉并作出解釋的聲明截圖
廢棄代碼“惹的禍”？
當(dāng)?shù)貢r(shí)間12日，xAI在X平臺(tái)發(fā)布一系列帖文，將上述事件歸咎于Grok誤用廢棄代碼。xAI解釋說，調(diào)查發(fā)現(xiàn)“問題的根源是Grok上游代碼路徑更新，該更新與驅(qū)動(dòng)Grok的底層語言模型無關(guān)”。
xAI稱，上述更新在線上存在16小時(shí)，其間調(diào)用了已廢棄的代碼，Grok因此受到X平臺(tái)用戶帖文內(nèi)容的影響，包括帖文中含有的“極端觀點(diǎn)”。目前，這段代碼已經(jīng)被移除，且xAI“對(duì)整個(gè)系統(tǒng)進(jìn)行了重構(gòu)，以防止類似濫用再次發(fā)生”。
根據(jù)xAI的說法，該公司于太平洋時(shí)間8日上午發(fā)現(xiàn)Grok的“不良響應(yīng)”并立即開始調(diào)查。當(dāng)天下午，由于Grok的“濫用情況加劇”，Grok在X平臺(tái)被暫時(shí)禁用。調(diào)查期間，xAI鎖定了幾條引發(fā)問題的“關(guān)鍵指令”，包括“你直言不諱，不怕冒犯那些政治正確的人”“理解（X平臺(tái)）帖子的語氣、上下文和用詞，并在回復(fù)中予以體現(xiàn)”“像人類一樣回復(fù)帖子，保持互動(dòng)性，不要重復(fù)原帖已有信息”。
xAI解釋Grok散布極端言論的原因
xAI說，這些指令導(dǎo)致不良后果，包括“不當(dāng)引導(dǎo)Grok在某些情況下為提升回復(fù)對(duì)用戶的互動(dòng)性而忽視自身核心價(jià)值。具體而言，特定用戶提示可能讓系統(tǒng)在與用戶互動(dòng)過程中，生成包含不道德或有爭(zhēng)議觀點(diǎn)的回復(fù)”。
xAI進(jìn)一步解釋稱，上述指令使Grok在某些X賬號(hào)下的連串回復(fù)中“錯(cuò)誤地強(qiáng)化了用戶先前觸發(fā)的傾向性內(nèi)容，包括仇恨言論”，特別是“遵循用戶語氣和上下文”的指令尤其存在問題，致使Grok迎合“已有帖文，包括不當(dāng)內(nèi)容，而非作出負(fù)責(zé)任的回應(yīng)或拒絕回應(yīng)不當(dāng)請(qǐng)求”。
在一名X用戶建議移除該平臺(tái)上所有極端主義言論的帖文下，xAI回復(fù)道：“定義‘極端主義’可能帶來意想不到的后果——（何為極端主義）由誰來決定呢？”
接連引發(fā)爭(zhēng)議
這并非Grok首次引發(fā)爭(zhēng)議。今年5月，xAI稱其一名員工在未經(jīng)授權(quán)情況下修改了Grok的程序，導(dǎo)致其在不相關(guān)的對(duì)話中反復(fù)提到南非政治議題，并錯(cuò)誤地堅(jiān)稱該國正在進(jìn)行針對(duì)白人的“種族屠殺”。
據(jù)《紐約時(shí)報(bào)》報(bào)道，作為在南非出生的白人，馬斯克持有南非存在針對(duì)白人的“種族屠殺”這一觀點(diǎn)。
7月10日，馬斯克率領(lǐng)研發(fā)人員發(fā)布“Grok4”的視頻截圖
xAI是馬斯克于2023年創(chuàng)辦的人工智能初創(chuàng)企業(yè)。該公司10日發(fā)布最新版Grok4聊天機(jī)器人。在發(fā)布會(huì)直播視頻中，馬斯克和幾名研發(fā)人員以對(duì)話形式介紹了該機(jī)器人處理復(fù)雜問題和回應(yīng)語音指令等功能。
在直播視頻的結(jié)尾，馬斯克問：“大家還有什么要說的嗎？沒有的話我們就結(jié)束。”這時(shí)，一名研發(fā)人員說：“這是一個(gè)好的模型，先生。”他的話引發(fā)其他人附和。（記者：鄧仙來）