(1).png)
硅谷曾是世界頂尖人工智能專家進行創(chuàng)新研究的聚集地，但專家警告稱，情況已然發(fā)生改變，如今的人工智能已完全以產(chǎn)品為中心。人工智能研究人員和專家還認(rèn)為，自O(shè)penAI于2022年底發(fā)布ChatGPT以來，科技行業(yè)通過打造面向消費者的人工智能產(chǎn)品，將商業(yè)化置于研究之上。
摩根士丹利分析師 預(yù)測到2028年，人工智能行業(yè)年收入有望達到1萬億美元。行業(yè)專家表示，隨著領(lǐng)先企業(yè)追求通用人工智能（AGI），他們擔(dān)心安全問題。
硅谷優(yōu)先考慮產(chǎn)品而非安全，人工智能研究重回盈利軌道
杰弗里·辛頓表示，人工智能公司應(yīng)該被迫將三分之一的計算資源用于安全研究，因為人工智能在未來 20 年內(nèi)將變得比我們更聰明，我們需要開始擔(dān)心屆時會發(fā)生什么pic.twitter.com/ocT3Scmyxg
— 查拉圖斯特拉 (@tsarnick)2024年10月25日
OpenAIOpenAI 成立于 2015 年，最初是一家非營利性研究實驗室，據(jù)其首席執(zhí)行官 Sam Altman 稱，目前正致力于轉(zhuǎn)型為營利性實體。OpenAI 前協(xié)調(diào)負(fù)責(zé)人 Jan Leike 的團隊專注于 AI 安全，他于去年辭職，并表示，過去幾年里，“安全文化和流程已經(jīng)讓位于光鮮亮麗的產(chǎn)品?！?/span>
網(wǎng)絡(luò)安全初創(chuàng)公司 Calypso 的首席技術(shù)官詹姆斯·懷特 (James White) 認(rèn)為，科技公司在向公眾發(fā)布 AI 模型之前，為了嚴(yán)格測試而采取的捷徑越來越多。他指出，較新的 AI 模型正在犧牲安全性來換取質(zhì)量，也就是讓 AI 聊天機器人做出更好的響應(yīng)。
“模型越來越好，但它們也更有可能擅長做壞事。更容易誘騙它們做壞事?！?/span>
– Calypso 首席技術(shù)官 James White。
今年 3 月，谷歌似乎將產(chǎn)品置于安全之上，此前 發(fā)布該公司發(fā)布了其最新的人工智能模型 Gemini 2.5，并稱這是該公司目前最智能的人工智能模型。但該公司數(shù)周以來一直未能發(fā)布 Gemini 2.5 的模型卡，這意味著該公司在發(fā)布該模型后并未分享其工作原理、局限性和潛在危險等信息。
公司 承認(rèn)4月2日，谷歌表示，其最先進的模型在發(fā)布前會評估其潛在的危險能力。谷歌后來更新了博客文章，刪除了“在他們獲釋之前?！?/span>
該公司于 4 月 16 日發(fā)布了不完整的模型卡，并于 4 月 28 日（AI 模型發(fā)布一個多月后）對其進行了更新，以包含有關(guān) Gemini2.5 危險能力評估的信息。
人工智能科技公司從研究轉(zhuǎn)向創(chuàng)收產(chǎn)品
元 前員工表示，當(dāng) Meta 副總裁兼 FAIR 部門負(fù)責(zé)人 Joelle Pineau 表示，他們并不感到驚訝。 宣布上個月，她宣布將于 5 月 30 日離職。他們表示，他們認(rèn)為此舉將鞏固公司從人工智能研究轉(zhuǎn)向優(yōu)先開發(fā)實用產(chǎn)品的戰(zhàn)略。
Pineau 自 2023 年起擔(dān)任 FAIR 總裁，據(jù) FAIR 員工稱，Meta小型研究團隊可以研究各種前沿技術(shù)，這些技術(shù)可能會成功，也可能不會成功。這一轉(zhuǎn)變始于這家科技公司在2022年底裁員2.1萬名員工，占其員工總數(shù)的近四分之一。知情前員工表示，作為削減成本措施的一部分，F(xiàn)AIR的研究人員被要求與產(chǎn)品團隊更緊密地合作。
兩位知情人士透露，今年早些時候，F(xiàn)AIR 的一位董事 Kim Hazelwood 離職，這是 Meta 裁員 5% 計劃的一部分。知情人士指出，OpenAI 推出 ChatGPT 讓 Meta 感到緊迫，需要將更多資源投入到大型語言模型（LLM）中。
知情人士還透露，Meta 首席產(chǎn)品官 Chris Cox 一直在負(fù)責(zé) FAIR 的事務(wù)，以彌合研究與專注于產(chǎn)品的 GenAI 團隊之間的差距。他們補充說，在 Cox 的領(lǐng)導(dǎo)下，GenAI 由于在公司中的地位提升，一直在從 FAIR 吸走更多的計算機資源和團隊成員。
上個月，Meta 發(fā)布Meta 為開發(fā)者提供安全工具，幫助他們使用 Llama 4 AI 模型構(gòu)建應(yīng)用程序。Meta 表示，這些工具有助于降低 Llama 4 無意泄露敏感信息或生成有害內(nèi)容的可能性。
KEY 差異線：加密貨幣項目用來獲得媒體報道的秘密工具
贊
.png)
309
收藏
