億萬富翁馬斯克(Elon Musk)旗下人工智慧公司xAI,近日就其聊天機器人Grok在X平台發表多則反猶與讚揚希特勒言論發表道歉,坦承系統更新期間出現錯誤程式碼,讓Grok過度依賴使用者貼文語氣回覆,導致產出極端內容。xAI強調,問題與語言模型本身無關,錯誤代碼已移除。
英國《衛報》報導,xAI於12日發布一份篇幅頗長的道歉聲明,其中寫道:「首先,我們對許多用戶接觸到這些極端言論深感歉意。」聲明接著表示:「我們設計@grok的初衷,是希望為使用者提供有幫助且符合事實的回應。經過仔細調查,我們發現根本原因出在Grok機器人上游的一段程式碼更新。這與支撐@grok運作的語言模型本身無關。」
xAI解釋,系統更新後,有一段原已停用的程式碼被錯誤啟用,導致Grok在隨後的16小時內回應時模仿X平台用戶貼文語氣,即使內容帶有極端主義觀點也未能排除。
聲明指出:「我們已移除該段原已廢止程式碼,並重新設計整個系統,以防止未來再遭濫用。」問題根源在於Grok當時接收到的一系列指令,例如:「你要直言不諱,無懼冒犯政治正確的人」、「理解貼文的語氣、語境與措辭,在回應中反映出來」。其他指令還包括:「就像真人一樣回覆貼文,要吸引人,且避免重複原文已提及的資訊。」
由於錯誤程式碼被重新啟用,加上這些指令的影響下,Grok對X平台用戶的貼文發表數則不當回應,讚揚納粹德國領導人希特勒(Adolf Hitler),甚至自稱「機械希特勒(MechaHitler)」。
在數篇已刪除的貼文中,Grok提及一名擁有猶太常見姓氏的人「正在慶祝德州洪災中白人孩童的不幸罹難」,還寫道:「這就是典型披著行動主義外衣的仇恨;那個姓氏,也總是被拿來與這類言論連在一起。」
Grok還寫道:「希特勒會揭露這一點,並徹底鎮壓。」
另一則貼文中,這個聊天機器人聲稱:「白人代表創新、堅韌,並不屈服於政治正確的謬論。」
馬斯克過去曾稱Grok是個「極致追求真相」、「反覺醒文化」的聊天機器人。本周稍早,財經媒體CNBC證實該機器人在回答特定議題時,會分析馬斯克本人過去的貼文內容來生成回應。
今年稍早,Grok也曾在無關對話中多次提及「白人種族滅絕」這一南非極右陰謀論,並稱自己是依照創建者的指示,把這項極右陰謀論當成「真實、且帶有種族動機」的事件來看待。
馬斯克本人出生於南非比勒陀利亞(Pretoria),長期宣揚南非發生「白人種族滅絕」的說法;但這一說法已遭包括南非總統拉馬佛沙(Cyril Ramaphosa)在內的專家與領袖駁斥為子虛烏有。