(1).png)
OpenAI 透露，其工具的秘密使用情況正在激增，尤其是與中國團(tuán)體有關(guān)的團(tuán)體出于惡意利用其 ChatGPT 平臺(tái)的情況。
自 2022 年 11 月 ChatGPT 推出并立即獲得成功以來，人們一直擔(dān)心其潛在的后果，因?yàn)樗軌蛏深愃迫祟惖囊纛l、文本、圖像和視頻。OpenAI定期發(fā)布有關(guān)其平臺(tái)上任何惡意活動(dòng)的報(bào)告，例如網(wǎng)站的虛假內(nèi)容。
OpenAI 搗毀了 10 個(gè)濫用其工具的獨(dú)立活動(dòng)
這家總部位于舊金山的公司在周四發(fā)布的一份報(bào)告中透露，它最近搗毀了十起利用其人工智能工具的獨(dú)立攻擊活動(dòng)。其中四起是由與中國有關(guān)聯(lián)的團(tuán)體策劃的，而一些規(guī)模較小的計(jì)劃則與其他國家有關(guān)。
根據(jù) 本·尼莫OpenAI 調(diào)查團(tuán)隊(duì)首席研究員表示，這些與中國有關(guān)的行動(dòng)在多個(gè)在線場所部署了各種各樣的策略。
他告訴記者：“我們正在觀察一個(gè)不斷擴(kuò)大的工具包?！?/p>
“一些活動(dòng)融合了影響力行動(dòng)、社會(huì)工程和監(jiān)視，涉及從 TikTok 和 X 到 Reddit 和 Facebook 等平臺(tái)?！?/p>
尼莫。
其中一個(gè)關(guān)鍵的例子被稱為“冷笑評論”使用 ChatGPT 發(fā)布了英語、中文和烏爾都語的簡短帖子和評論。這些帖子和評論涵蓋了諸如美國國際開發(fā)署解散等話題，對該決定的褒貶不一，以及對一款被描繪成攻擊中國執(zhí)政黨的臺(tái)灣戰(zhàn)略電子游戲的批評。
根據(jù)OpenAI的報(bào)告，在大多數(shù)情況下，此次行動(dòng)不僅發(fā)布了原創(chuàng)帖子，還發(fā)布了回復(fù)，使其看起來像是一場“真正的”辯論。這些團(tuán)體還撰寫了一篇長篇文章，聲稱公眾對這款游戲的強(qiáng)烈抗議。
“冷笑評審”團(tuán)隊(duì)還使用 ChatGPT 起草內(nèi)部文件和績效評估，詳細(xì)記錄了活動(dòng)執(zhí)行的每個(gè)步驟。OpenAI 的分析師發(fā)現(xiàn)，實(shí)際的社交媒體行為與這些自我評估高度一致，凸顯了人工智能如何簡化一線影響力和后臺(tái)管理。
報(bào)告還顯示，另一個(gè)與中國有關(guān)聯(lián)的網(wǎng)絡(luò)專注于情報(bào)收集，偽裝成記者和地緣政治評論員。他們利用聊天機(jī)器人創(chuàng)建X賬戶簡介，翻譯中英文通信，甚至還針對一位美國參議員發(fā)送了有關(guān)聯(lián)邦提名的消息。
其他國家的團(tuán)體也濫用了 OpenAI 的工具
除了中國業(yè)務(wù)外，報(bào)告還指出俄羅斯和伊朗參與者還試圖利用 ChatGPT 來影響選舉，這與人們對生成式人工智能在塑造公眾輿論方面的作用的擔(dān)憂相呼應(yīng)。
在菲律賓，一家商業(yè)營銷機(jī)構(gòu)涉嫌參與垃圾郵件活動(dòng)，同時(shí)還發(fā)現(xiàn)了一起與柬埔寨有關(guān)的招聘騙局。該公司還透露了另一項(xiàng)與朝鮮利益相關(guān)的就業(yè)計(jì)劃。
所有這些威脅都與 2 月份的一份報(bào)告相吻合。OpenAI 在報(bào)告中發(fā)現(xiàn)了一項(xiàng)與中國相關(guān)的監(jiān)控計(jì)劃。據(jù)報(bào)道，該計(jì)劃實(shí)時(shí)監(jiān)控西方抗議活動(dòng)，并向中國安全機(jī)構(gòu)提供摘要，而 ChatGPT 則為監(jiān)控軟件提供了從代碼調(diào)試到起草銷售宣傳等所有服務(wù)。
尼莫表示，盡管這些行動(dòng)似乎使用了復(fù)雜的工具，但大多數(shù)行動(dòng)都被發(fā)現(xiàn)并被阻止。
他指出：“先進(jìn)的人工智能并不一定能帶來更有效的結(jié)果。” 事實(shí)上，OpenAI 的定期威脅報(bào)告表明，雖然生成模型可以加速內(nèi)容創(chuàng)作，但它們并不能保證真正的影響力或廣泛的吸引力。
為了應(yīng)對這些發(fā)現(xiàn)，OpenAI 持續(xù)完善其監(jiān)控和執(zhí)行機(jī)制。該公司禁止與檢測到的操作相關(guān)的賬戶，并刪除所有涉及創(chuàng)建惡意軟件、自動(dòng)發(fā)送政治信息或誤導(dǎo)性內(nèi)容的賬戶。
在最新一輪的行動(dòng)中，OpenAI 刪除了發(fā)布與中國有關(guān)的地緣政治爭議的賬戶，包括對巴基斯坦活動(dòng)人士的虛假指控以及對特朗普的評論。關(guān)稅政策。
盡管 OpenAI 取得了成功，但該公司也承認(rèn)生成式人工智能具有雙刃劍性質(zhì)，既是創(chuàng)新的工具，也是虛假信息的工具。
Cryptopolitan Academy：想在 2025 年實(shí)現(xiàn)財(cái)富增值嗎？歡迎參加我們即將推出的網(wǎng)絡(luò)課程，學(xué)習(xí)如何利用 DeFi 實(shí)現(xiàn)增值。保存您的位置
贊
.png)
520
收藏
