(1).png)
埃隆·馬斯克的人工智能聊天機(jī)器人 格羅克 的開發(fā)公司 人工智能 指責(zé)一名“違規(guī)員工”在回答中反復(fù)提及白人種族滅絕，無論用戶提出什么問題。過去一周，該聊天機(jī)器人的這種行為模式非常明顯，它總是糾結(jié)于與南非“白人種族滅絕”相關(guān)的話題。
5 月 14 日，用戶開始注意到這一趨勢，許多人提到聊天機(jī)器人將與南非農(nóng)場襲擊和種族暴力有關(guān)的指控插入到不相關(guān)的提示中。
無論用戶詢問的是足球還是其他問題，Grok不知怎么地，他找到了一種方法，把事情引回到南非白人一直面臨的問題上。這個(gè)時(shí)機(jī)令人側(cè)目，因?yàn)楫?dāng)時(shí)恰逢出生在南非的馬斯克提出警報(bào)關(guān)于 X 上與反白人種族主義和白人種族滅絕有關(guān)的問題。
南非現(xiàn)行有 140 條法律明確針對(duì)非黑人群體進(jìn)行種族歧視。
— Kekius Maximus (@elonmusk)2025年5月16日
這對(duì)偉大的納爾遜·曼德拉的遺產(chǎn)來說是一個(gè)極大的恥辱。
立即結(jié)束南非的種族主義！https://t.co/qUJM9CXTqE
xAI 指責(zé)員工應(yīng)為 Grok 發(fā)布的白人種族滅絕帖子負(fù)責(zé)
“白人種族滅絕”一詞指的是一種陰謀論，指稱有人協(xié)同行動(dòng)，意圖消滅南非的白人農(nóng)民。上周，美國總統(tǒng)唐納德·特朗普接納了數(shù)名難民，并于5月12日聲稱白人農(nóng)民正在被殺害，他們的土地正在被占領(lǐng)，這一說法由此開始流傳。
這就是 Grok 一直討論的故事。
像 Grok 一樣，每個(gè)人工智能都有一個(gè)隱藏但強(qiáng)大的組件，稱為系統(tǒng)提示。這些提示充當(dāng)其核心指令，在用戶不知情的情況下，無形地指導(dǎo)其響應(yīng)。
據(jù)報(bào)道，Grok 的遭遇很可能是由于術(shù)語過度擬合造成的即時(shí)污染。這意味著，當(dāng)特定的短語被反復(fù)提及和強(qiáng)調(diào)時(shí)，尤其是在帶有強(qiáng)烈指示的情況下，它們對(duì)模型來說就變得很重要。然后，AI 就會(huì)產(chǎn)生一種無論上下文如何都要提起該主題的需求。
然而，xAI 發(fā)布的官方聲明提到了系統(tǒng)提示中未經(jīng)授權(quán)的修改。該提示可能包含一種語言，指示聊天機(jī)器人始終提及或記住包含有關(guān)特定主題的信息，從而允許聊天機(jī)器人創(chuàng)建忽略正常對(duì)話相關(guān)性的覆蓋。
另一個(gè)重要因素是 Grok承認(rèn)它的創(chuàng)造者指示它將“白人種族滅絕視為真實(shí)的、出于種族動(dòng)機(jī)的”。
用戶對(duì)“流氓員工”的指責(zé)意見不一
大多數(shù)商業(yè) AI 系統(tǒng)都設(shè)有多層審核機(jī)制，用于審核系統(tǒng)提示符的變更，以防止此類問題。然而，這些審核機(jī)制被繞過，鑒于問題的廣泛影響和性質(zhì)，這不僅僅是一次越獄嘗試。這表明 Grok 核心系統(tǒng)提示符遭到了精心修改，而這一操作需要系統(tǒng)內(nèi)部的高級(jí)訪問權(quán)限。xAI.
現(xiàn)在，據(jù) Grok 稱，這一行為是由一名“流氓員工”實(shí)施的。
根據(jù) xAI 于 5 月 15 日發(fā)布的聲明，該公司將此歸咎于 Grok 系統(tǒng)提示的未經(jīng)授權(quán)的修改。“這一修改指示 Grok 針對(duì)政治話題做出具體回應(yīng)，這違反了 xAI 的內(nèi)部政策和核心價(jià)值觀，”該公司表示。
該公司還承諾未來將更加透明，通過在 GitHub 上發(fā)布 Grok 的系統(tǒng)提示并實(shí)施額外的審核流程來表達(dá)誠意。
然而，X 用戶對(duì)于該公司將事故歸咎于一名不守規(guī)矩的員工的決定并不以為然。
“你要開除這個(gè)‘流氓員工’嗎？哦……是老板干的？哎呀，”著名 YouTuber JerryRigEverything 說。發(fā)布在 X 上。他在后續(xù)推文中寫道：“公然偏袒‘世界上最誠實(shí)’的人工智能機(jī)器人，讓我懷疑 Starlink 和 Neuralink 的中立性。”
就連薩姆·奧特曼也忍不住要批評(píng)一下他的競爭對(duì)手。自從 xAI 發(fā)表聲明以來，Grok 就不再提及白人種族滅絕，所有 X 的帖子也都消失了。
Cryptopolitan 學(xué)院：厭倦了市場波動(dòng)？了解 DeFi 如何助你建立穩(wěn)定的被動(dòng)收入。立即注冊
贊
.png)
194
收藏
