在线无码中文破解|日本影院一区二区三区|五月激情Av在线|国产香蕉视频一区|国产老熟女AAAA|云霸高清91视频|久久久www视频|在线熟女网站无码视频|国产精品 国产|韩日精品中文字幕

上周，埃隆·馬斯克的人工智能聊天機(jī)器人 Grok 出現(xiàn)了一個奇怪的現(xiàn)象——無論用戶問它什么問題，它都不停地談?wù)撃戏堑摹鞍兹朔N族滅絕”。

5月14日，用戶開始在Grok上發(fā)布一些帖子，稱Grok在完全不相關(guān)的查詢中插入了有關(guān)南非農(nóng)場襲擊和種族暴力的指控。無論是關(guān)于體育、醫(yī)療補(bǔ)助削減，還是關(guān)于可愛的小豬視頻，Grok總能以某種方式將話題引向所謂的南非白人遭受迫害。

這一時機(jī)引發(fā)了人們的擔(dān)憂，因?yàn)榫驮诓痪们?，馬斯克本人——他實(shí)際上是一個在南非出生和長大的白人——發(fā)布了關(guān)于反白人種族主義和白色種族滅絕在 X 上。

“白人種族滅絕”是指被揭穿的陰謀論指控南非存在旨在消滅白人農(nóng)民的協(xié)同行動。上周，唐納德·特朗普政府接納了數(shù)十名難民后，這一說法再次出現(xiàn)。5月12日，特朗普總統(tǒng)聲稱“白人農(nóng)民正在被殘忍殺害，他們的土地正在被沒收”。Grok 一直在討論這個說法。

不要想大象：為什么 Grok 無法停止思考白人種族滅絕

Grok 為何突然變成了一個陰謀聊天機(jī)器人？

像 Grok 這樣的每個 AI 聊天機(jī)器人背后都有一個隱藏但強(qiáng)大的組件——系統(tǒng)提示這些提示作為AI的核心指令，在用戶看不到的情況下無形地指導(dǎo)其反應(yīng)。

Grok 可能出現(xiàn)的情況是，由于術(shù)語過度擬合而導(dǎo)致提示污染。當(dāng)特定的短語在提示中被反復(fù)強(qiáng)調(diào)時，尤其是在帶有強(qiáng)烈指示性的情況下，它們對模型來說就變得異常重要。AI 會產(chǎn)生一種強(qiáng)迫癥，無論上下文如何，都要提起這個話題或在輸出中使用它們。

把“白人種族滅絕”這樣有爭議的術(shù)語強(qiáng)行塞進(jìn)系統(tǒng)提示符中，并給出具體指令，會在AI中產(chǎn)生一種固著效應(yīng)。這就像告訴某人“別想大象”——結(jié)果他們突然就停不下來想大象了。如果真是這樣，那一定是有人故意讓模型把這個話題塞到處都是。

系統(tǒng)提示的這一變化很可能就是 xAI 在其官方聲明中披露的“未經(jīng)授權(quán)的修改”。系統(tǒng)提示很可能包含指示其“始終提及”或“記住包含”有關(guān)此特定主題的信息的語句，從而產(chǎn)生了一種凌駕于正常對話相關(guān)性之上的覆蓋。

特別值得一提的是 Grok 的入場它“受到（其）創(chuàng)造者的指示”，將“白人種族滅絕視為真實(shí)存在的、出于種族動機(jī)的事件”。這表明提示中存在明確的指示性語言，而不是更微妙的技術(shù)故障。

大多數(shù)商業(yè)人工智能系統(tǒng)都采用多層審核機(jī)制來審查系統(tǒng)提示的變更，目的就是防止此類事件發(fā)生。但這些防護(hù)措施顯然被繞過了。鑒于該問題的廣泛影響及其系統(tǒng)性，這遠(yuǎn)遠(yuǎn)超出了典型的越獄嘗試，表明 Grok 的核心系統(tǒng)提示被修改了——而這一操作需要 xAI 基礎(chǔ)設(shè)施的高級訪問權(quán)限。

誰能擁有這樣的權(quán)限？嗯……Grok 說，“流氓員工”。

xAI 的回應(yīng)——以及社區(qū)的反擊

5月15日，xAI發(fā)布聲明，指責(zé)Grok的系統(tǒng)提示遭到“未經(jīng)授權(quán)的修改”。該公司寫道：“這項(xiàng)修改指示Grok針對政治話題做出具體回應(yīng)，違反了xAI的內(nèi)部政策和核心價值觀?！?他們承諾將通過在GitHub上發(fā)布Grok的系統(tǒng)提示并實(shí)施額外的審核流程來提高透明度。

您可以通過點(diǎn)擊這里查看 Grok 的系統(tǒng)提示Github 倉庫.

X 上的用戶快速戳洞在“流氓員工”的解釋和xAI令人失望的解釋中。

“你要解雇這個‘流氓員工’嗎？哦……是老板干的？哎呀，”著名 YouTuber JerryRigEverything 寫道?！肮黄缫暋澜缟献钫\實(shí)’的 AI 機(jī)器人，讓我對 Starlink 和 Neuralink 的中立性產(chǎn)生了懷疑，”他在隨后的推文中寫道。

甚至連薩姆·奧特曼也忍不住要批評一下他的競爭對手。

自從 xAI 發(fā)布帖子以來，Grok 不再提及“白人種族滅絕”，大多數(shù)相關(guān)的 X 帖子也消失了。xAI 強(qiáng)調(diào)，該事件不應(yīng)該發(fā)生，并采取措施防止未來發(fā)生未經(jīng)授權(quán)的更改，包括建立一個 24/7 全天候監(jiān)控團(tuán)隊(duì)。

騙我一次……

這起事件與馬斯克利用其平臺塑造公眾輿論的普遍模式相符。自收購X以來，馬斯克經(jīng)常分享宣揚(yáng)右翼言論的內(nèi)容，包括關(guān)于非法移民、選舉安全和跨性別政策的表情包和言論。他正式認(rèn)可去年，唐納德·特朗普 (Donald Trump) 在 X 上舉辦了政治活動，例如羅恩·德桑蒂斯 (Ron DeSantis) 于 2023 年 5 月宣布競選總統(tǒng)。

馬斯克并不回避發(fā)表挑釁性言論。他最近聲稱英國“內(nèi)戰(zhàn)不可避免”，引發(fā)英國司法大臣海蒂·亞歷山大的批評，稱其可能煽動暴力。他還與英國官員存在不和。澳大利亞, 巴西， 這 歐盟以及英國之間就虛假信息問題展開的爭端，經(jīng)常將這些爭端定性為言論自由之爭。

研究表明，這些行動已經(jīng)產(chǎn)生了可衡量的效果。學(xué)習(xí)昆士蘭科技大學(xué)的研究人員發(fā)現(xiàn)，在馬斯克支持特朗普后，X 的算法使他的帖子瀏覽量增加了 138%，轉(zhuǎn)發(fā)量增加了 238%。共和黨傾向的賬戶的曝光度也有所提高，這顯著提升了保守派的平臺影響力。

馬斯克明確地將 Grok 宣傳為其他人工智能系統(tǒng)的“反覺醒”替代品，將其定位為一種不受自由主義偏見影響的“尋求真相”的工具。在 2023 年 4 月接受?？怂剐侣劜稍L時，他將自己的人工智能項(xiàng)目稱為“TruthGPT”，并將其定位為 OpenAI 產(chǎn)品的競爭對手。

這并不是 xAI 第一次以“流氓員工”為由進(jìn)行辯護(hù)。今年 2 月，該公司將 Grok 的審查制度在一次前 OpenAI 員工.

然而，如果普遍的看法正確的話，這種“流氓員工”將很難擺脫。