(1).png)
英國(guó)三分之一的公司中有一家使用大型語(yǔ)言模型（LLMS）時(shí)擔(dān)心數(shù)據(jù)的安全性，因?yàn)樗鼈兪菑闹侄鴣淼?，這些助手會(huì)響應(yīng)命令或問題，使其成為獨(dú)立的系統(tǒng)，而這些系統(tǒng)而沒有持續(xù)不斷的人類干預(yù)。
結(jié)果，這些組織猶豫不決人工智能代理進(jìn)入他們的操作系統(tǒng)，因?yàn)樗麄儞?dān)心將數(shù)據(jù)和安全性失去可以“自我思考”的機(jī)器失去控制。
英國(guó)政府正在采取措施解決這些挑戰(zhàn)。 內(nèi)閣辦公室部長(zhǎng)帕特·麥克法登（Pat McFadden）宣布對(duì)情報(bào)評(píng)估進(jìn)行解密，表明AI將在未來幾年內(nèi)升級(jí)網(wǎng)絡(luò)威脅。
在2024年，NCSC收到了近2,000個(gè)網(wǎng)絡(luò)攻擊報(bào)告，近90個(gè)被視為“重要”，而“嚴(yán)重程度最高”。與前一年相比，這是嚴(yán)重攻擊的三倍。
英國(guó)企業(yè)在LLMS的數(shù)據(jù)安全性上提出了紅旗
英國(guó)的企業(yè)必須遵守嚴(yán)格保護(hù)人數(shù)據(jù)并防止其濫用的法規(guī)，例如英國(guó)數(shù)據(jù)保護(hù)法以及歐盟一般數(shù)據(jù)保護(hù)法規(guī)（GDPR）。
違反這些法律的公司有法律行動(dòng)并損害其聲譽(yù)，因此他們正在重新考慮其LLM策略。 AI可以透露私人信息或在不仔細(xì)的人類監(jiān)督或準(zhǔn)確提示的情況下產(chǎn)生誤導(dǎo)性結(jié)果。?
最初，像聊天機(jī)器人這樣的人工智能工具提供了固定的答案，而智能恒溫器只是通過遵循簡(jiǎn)單的規(guī)則，不從新數(shù)據(jù)，先前的操作或其決策結(jié)果中思考或?qū)W習(xí)來改變溫度。但是，今天的AI代理使用LLM從數(shù)據(jù)中學(xué)習(xí)，根據(jù)新信息更改其行為，并通過像人類這樣的推理來解決不同的問題。?
但這只有很大的關(guān)注點(diǎn)，因?yàn)槿藗冞€可以促使代理人處理任務(wù)，并且將其分解為較小的活動(dòng)，單獨(dú)解決每個(gè)活動(dòng)，然后評(píng)估結(jié)果。此外，有些代理可以合作處理復(fù)雜的任務(wù)，其中一個(gè)可以在工作中工作，而另一個(gè)則檢查結(jié)果以改善結(jié)果。?
即使這種增長(zhǎng)有助于企業(yè)自動(dòng)化運(yùn)營(yíng)并減少了人類團(tuán)隊(duì)所使用的時(shí)間，但這也是一個(gè)威脅，因?yàn)檫@些代理商自己做出的決定越多，我們就越難充分理解，預(yù)測(cè)或控制他們?cè)谧鍪裁?。同樣，他們的錯(cuò)誤后果可能會(huì)成倍增長(zhǎng)，因?yàn)檫@些AI代理在沒有停止人類投入的情況下行動(dòng)。?
公司在各個(gè)部門謹(jǐn)慎地采用AI代理商
英國(guó)的許多公司在日常運(yùn)營(yíng)中使用AI代理商，并使用客戶服務(wù)，人力資源（HR）等部門進(jìn)行營(yíng)銷，并慢慢地測(cè)試工具并敏銳地監(jiān)視它們。
一個(gè)很好的業(yè)務(wù)例子是寵物在家，該寵物為其獸醫(yī)人員建立了AI代理，以在寵物檢查期間提供快速答案和支持，這表明AI代理在實(shí)際工作中仍然有用。?
目前，大多數(shù)代理AI系統(tǒng)都需要人們指導(dǎo)他們，檢查工作并修復(fù)錯(cuò)誤，因?yàn)樗麄冞€沒有準(zhǔn)備好在沒有監(jiān)督的情況下完全替換人類。但是，未來可能會(huì)要求公司做出艱難的決定，使他們能夠?qū)I代理納入系統(tǒng)，同時(shí)保持控制。
鑰匙差線幫助加密品牌快速突破并統(tǒng)治頭條新聞
贊
.png)
480
收藏
