在线无码中文破解|日本影院一区二区三区|五月激情Av在线|国产香蕉视频一区|国产老熟女AAAA|云霸高清91视频|久久久www视频|在线熟女网站无码视频|国产精品 国产|韩日精品中文字幕

OpenAI 發(fā)布了迄今為止最自主的 AI 工具：ChatGPT 的一個(gè)版本，它可以瀏覽網(wǎng)頁(yè)、運(yùn)行應(yīng)用程序，并在幾乎無需人工輸入的情況下完成現(xiàn)實(shí)世界的任務(wù)。然而，隨著能力的飛躍，也帶來了一個(gè)嚴(yán)峻的警告：這項(xiàng)技術(shù)也可能引發(fā)新一波安全威脅。

ChatGPT Agent 于周四推出，它使用戶能夠委派復(fù)雜的任務(wù)，例如計(jì)劃假期、預(yù)訂酒店房間、研究競(jìng)爭(zhēng)對(duì)手、生成幻燈片，甚至在線下訂單。

該功能將于今日開始向 Pro、Plus 和 Team 用戶推出。

為了完成任務(wù)，代理人使用虛擬計(jì)算機(jī)和一套統(tǒng)一的工具，包括基于文本的瀏覽器、終端以及對(duì) Google Drive 和 GitHub 等第三方應(yīng)用的訪問。虛擬計(jì)算機(jī)是一個(gè)在云端運(yùn)行的模擬計(jì)算環(huán)境，ChatGPT 代理可以獨(dú)立控制它——有點(diǎn)像給 AI 一個(gè)專屬的沙盒機(jī)器來執(zhí)行實(shí)際工作。

OpenAI 首席執(zhí)行官 Sam Altman 在產(chǎn)品開發(fā)團(tuán)隊(duì)成員進(jìn)行的直播演示中表示：“我認(rèn)為這代表了人工智能能力的全新高度?！比欢?，此次直播也值得關(guān)注，部分原因在于 OpenAI 發(fā)出了大量“買家須知”的警告。

“這是一種新的人工智能使用方式，但也會(huì)帶來一系列新的攻擊，”Altman 說道。“隨著人們?cè)絹碓蕉嗟匾赃@種方式開展工作，社會(huì)和技術(shù)必須不斷發(fā)展，學(xué)習(xí)如何緩解我們甚至無法想象的威脅?！?/p>

舉個(gè)例子：客服人員可能會(huì)研究某筆購(gòu)買行為，在釣魚網(wǎng)站上找到該商品，然后提供用戶的信用卡信息。為了緩解這個(gè)問題，當(dāng)前版本設(shè)置了多項(xiàng)安全措施，例如，在用戶手動(dòng)批準(zhǔn)之前，會(huì)阻止用戶上傳信用卡信息。

OpenAI 研究員 Casey Chu 表示：“我們已經(jīng)訓(xùn)練模型忽略高風(fēng)險(xiǎn)網(wǎng)站上的可疑指令。我們還設(shè)置了監(jiān)視器，用于監(jiān)視代理的行為，并在發(fā)現(xiàn)任何可疑行為時(shí)阻止其執(zhí)行。”

Chu 補(bǔ)充說，雖然系統(tǒng)保障措施可以實(shí)時(shí)更新，但 ChatGPT 代理仍然是一種“尖端產(chǎn)品”，為新的攻擊形式打開了大門。

他說：“用戶了解風(fēng)險(xiǎn)并認(rèn)真考慮他們所分享的信息非常重要?！?/p>

ChatGPT Agent 的發(fā)布正值人工智能開發(fā)者致力于為虛擬助手賦予日益強(qiáng)大的功能之際。周三，谷歌在谷歌搜索中推出了一項(xiàng)新的人工智能功能，使其 Gemini AI 能夠電話代表用戶向企業(yè)提供。

OpenAI 的一位代表表示：“ChatGPT Agent 仍處于早期階段，我們正在利用這段時(shí)間從實(shí)際使用中學(xué)習(xí)，以改進(jìn)產(chǎn)品和我們的安全措施。”解密“當(dāng)前的系統(tǒng)卡反映了我們目前的方法，但我們正在為下一步做準(zhǔn)備，并將繼續(xù)分享更新，以使代理變得更好、更安全?！?/p>

網(wǎng)絡(luò)安全專家也對(duì)自主代理的影響表示擔(dān)憂。

網(wǎng)絡(luò)安全公司 0rcus 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Nic Adams 表示：“高度關(guān)注是理所當(dāng)然的，因?yàn)榇頁(yè)碛性趯?duì)話過程中透露個(gè)人身份信息的隱性權(quán)限。用戶應(yīng)該授予細(xì)粒度且可撤銷的權(quán)限，例如目標(biāo)業(yè)務(wù)、用途、允許的數(shù)據(jù)元素以及到期時(shí)間戳?！?/p>

在最佳實(shí)踐方面，亞當(dāng)斯建議，在執(zhí)行之后，代理人應(yīng)提交完整的記錄以供批準(zhǔn)，然后再將任何信息存儲(chǔ)超過法律要求的時(shí)間。

他說：“默許的、一刀切的同意會(huì)將責(zé)任轉(zhuǎn)嫁給用戶，而用戶卻無法真正控制。因此，有必要建立一個(gè)按任務(wù)確認(rèn)的模型?！?/p>

除了讓人工智能代理進(jìn)行購(gòu)買或制定計(jì)劃的風(fēng)險(xiǎn)之外，OpenAI 研究人員還一致認(rèn)為，這種程度的自主性會(huì)帶來新的威脅，尤其是即時(shí)注入攻擊，即惡意輸入誘騙人工智能泄露數(shù)據(jù)、傳播錯(cuò)誤信息或采取未經(jīng)授權(quán)的行動(dòng)。

為了降低這些風(fēng)險(xiǎn)，OpenAI 開發(fā)了接管模式。顧名思義，該模式賦予用戶接管代理并自行輸入信息的權(quán)力，而無需依賴代理。在某些情況下，ChatGPT 代理會(huì)在執(zhí)行重要操作（例如購(gòu)買商品或訪問敏感數(shù)據(jù)）之前請(qǐng)求用戶的明確批準(zhǔn)。

“我們已經(jīng)構(gòu)建了一個(gè)強(qiáng)大的工具，但用戶需要保持謹(jǐn)慎，”Chu 說。