在线无码中文破解|日本影院一区二区三区|五月激情Av在线|国产香蕉视频一区|国产老熟女AAAA|云霸高清91视频|久久久www视频|在线熟女网站无码视频|国产精品 国产|韩日精品中文字幕

全球四十位頂尖人工智能研究人員剛剛發(fā)表了一篇論文，指出企業(yè)需要開始解讀其人工智能系統(tǒng)的“思想”。而不是它們的輸出——而是它們實際的逐步推理過程，也就是在 ChatGPT 或 Claude 給出答案之前發(fā)生的內(nèi)心獨白。

這 提議研究人員認為，這種名為“思維鏈監(jiān)控”的方法旨在防止不當行為，甚至在模型得出答案之前就進行，并可以幫助公司在“培訓(xùn)和部署決策”中設(shè)定分數(shù)。

但是有一個問題應(yīng)該會讓任何曾經(jīng)在 ChatGPT 中輸入過私人問題的人感到緊張：如果公司可以在部署過程中監(jiān)控人工智能的想法（當人工智能與用戶互動時），那么他們也可以監(jiān)控人工智能的任何其他行為。

當安全成為監(jiān)視

“這種擔心是有道理的?！?a rel="nofollow external noopener" class="sc-adb616fe-0 bJsyml">尼克·亞當斯商業(yè)黑客初創(chuàng)公司 0rcus 的首席執(zhí)行官告訴解密“原始 CoT 通常包含逐字記錄的用戶機密，因為模型會以其攝取的相同令牌進行‘思考’?！?/p>

你輸入到人工智能的所有內(nèi)容都會經(jīng)過它的思維鏈。健康問題、財務(wù)困境、自白——如果CoT監(jiān)控控制不當，所有這些都可能被記錄和分析。

“歷史總是站在懷疑論者一邊，”亞當斯警告說?！?·11事件后的電信元數(shù)據(jù)和1996年《電信法》后的互聯(lián)網(wǎng)服務(wù)提供商流量日志，最初都是‘為了安全’而引入的，后來卻被重新用于商業(yè)分析和傳票。除非強制加密保存，并依法限制訪問，否則CoT檔案也將面臨同樣的壓力?！?/p>

職業(yè)游牧者首席執(zhí)行官帕特里斯·威廉姆斯-林多 (Patrice Williams-Lindo) 也對這種做法的風險持謹慎態(tài)度。

“我們以前見過這種伎倆。還記得社交媒體是如何從‘聯(lián)系你的朋友’開始，最終演變成監(jiān)控經(jīng)濟的嗎？這里也有同樣的潛力，”她告訴解密.

她預(yù)測未來將會出現(xiàn)“同意劇場”，即“公司假裝尊重隱私，但卻用 40 頁的條款掩蓋 CoT 監(jiān)控”。

如果沒有全球性的防護措施，CoT 日志將被企業(yè)工具中的各種用途所利用，從廣告定位到‘員工風險分析’。尤其要注意人力資源技術(shù)和生產(chǎn)力 AI 領(lǐng)域。

技術(shù)現(xiàn)實使得這一點尤其令人擔憂。法學碩士只有在使用CoT時才能進行復(fù)雜的多步驟推理。隨著人工智能變得越來越強大，監(jiān)控變得更加必要，也更具侵入性。

泰吉·卡利安達谷歌的設(shè)計主管并不反對這一主張，但他強調(diào)透明度的重要性，以便用戶能夠安心地了解人工智能所做的事情。

“用戶不需要完整的模型內(nèi)部，但他們需要從人工智能聊天機器人那里知道，‘這就是你看到這個的原因’，或者‘這是我不能再說的’，”她告訴解密“好的設(shè)計可以讓黑匣子看起來更像一扇窗戶。”

她補充道：“在谷歌搜索等傳統(tǒng)搜索引擎中，用戶可以看到每個結(jié)果的來源。他們可以點擊查看，驗證網(wǎng)站的可信度，并自行做出決定。這種透明度賦予用戶一種自主感和信心。而有了人工智能聊天機器人，這種背景信息往往會消失。”

有沒有安全的前進之路？

出于安全的考慮，公司可能會讓用戶選擇不提供自己的數(shù)據(jù)用于訓(xùn)練，但這些條件不一定適用于模型的思維鏈（即人工智能的輸出，不受用戶控制），而人工智能模型通常會重現(xiàn)用戶提供的信息以進行正確的推理。

那么，有沒有一種解決方案既能提高安全性，又不損害隱私呢？

Addams 提出的保障措施是：“緩解措施：具有零日保留的內(nèi)存跟蹤、存儲之前對 PII 進行確定性散列、用戶端編輯以及任何聚合分析上的差異隱私噪聲?！?/p>

但威廉姆斯-林多仍然持懷疑態(tài)度?！拔覀冃枰氖秦撠熑蔚娜斯ぶ悄?，而不是表演性的人工智能——這意味著設(shè)計上的透明性，而不是默認的監(jiān)視?！?/p>

對用戶來說，目前這還不算什么問題——但如果實施不當，就可能成為問題。這項可以預(yù)防人工智能災(zāi)難的技術(shù)，或許也能將每一次聊天機器人對話變成一個記錄、分析，并可能轉(zhuǎn)化為商業(yè)價值的數(shù)據(jù)點。

正如亞當斯所警告的那樣，要警惕“泄露原始 CoT 的違規(guī)行為、盡管受到監(jiān)控但仍有 90% 以上的規(guī)避率的公共基準，或者將 CoT 歸類為受保護的個人數(shù)據(jù)的歐盟或加州新法規(guī)”。

研究人員呼吁采取諸如數(shù)據(jù)最小化、日志記錄透明化以及及時刪除未標記數(shù)據(jù)等保障措施。但要實施這些措施，需要信任那些控制監(jiān)控的公司。

但是隨著這些系統(tǒng)的功能越來越強大，當它們都能讀懂我們的思想時，誰來監(jiān)視它們的監(jiān)視者呢？