在线无码中文破解|日本影院一区二区三区|五月激情Av在线|国产香蕉视频一区|国产老熟女AAAA|云霸高清91视频|久久久www视频|在线熟女网站无码视频|国产精品 国产|韩日精品中文字幕

谷歌發(fā)布了一款沒(méi)人要求但每個(gè)人都想嘗試的新應(yīng)用。

AI Edge Gallery 于 5 月 31 日悄然推出，它將人工智能直接放在您的智能手機(jī)上——無(wú)需云、無(wú)需互聯(lián)網(wǎng)，也不會(huì)與大型科技公司的服務(wù)器共享您的數(shù)據(jù)。

實(shí)驗(yàn)性應(yīng)用程序——根據(jù) Apache 2.0 許可證發(fā)布，允許任何人使用它來(lái)做幾乎任何事情——可以在 GitHub 上獲取，從 Android 平臺(tái)開(kāi)始.iOS版本即將推出。

它完全離線運(yùn)行 Google Gemma 3n 等模型，僅使用手機(jī)硬件即可處理從圖像分析到代碼編寫(xiě)的所有操作。

而且效果出奇的好。

該應(yīng)用程序目前似乎主要針對(duì)開(kāi)發(fā)人員，包括三個(gè)主要功能：用于對(duì)話的 AI Chat、用于視覺(jué)分析的 Ask Image 和用于重寫(xiě)文本等單次任務(wù)的 Prompt Lab。

用戶可以從 Hugging Face 等平臺(tái)下載模型，但選擇仍然僅限于 Gemma-3n-E2B 和 Qwen2.5-1.5 B 等格式。

Reddit 用戶立即質(zhì)疑該應(yīng)用的新穎性并將其與 PocketPal 等現(xiàn)有解決方案進(jìn)行比較。

一些提出安全問(wèn)題盡管該應(yīng)用托管在谷歌官方 GitHub 上，反駁了其存在冒充指控。目前尚未發(fā)現(xiàn)任何惡意軟件的證據(jù)。

我們?cè)谌?Galaxy S24 Ultra 上測(cè)試了該應(yīng)用程序，下載了可用的最大和最小的 Gemma 3 型號(hào)。

每個(gè) AI 模型都是一個(gè)獨(dú)立的文件，包含其所有“知識(shí)”——可以將其視為下載模型在訓(xùn)練期間所學(xué)內(nèi)容的壓縮快照，而不是像本地維基百科應(yīng)用程序那樣下載一個(gè)巨大的事實(shí)數(shù)據(jù)庫(kù)。應(yīng)用內(nèi)最大的 Gemma 3 模型約為 4.4 GB，最小的約為 554 MB。

下載后，無(wú)需進(jìn)一步的數(shù)據(jù) - 模型完全在您的設(shè)備上運(yùn)行，僅使用發(fā)布前學(xué)到的知識(shí)來(lái)回答問(wèn)題和執(zhí)行任務(wù)。

即使在低速 CPU 推理中，體驗(yàn)也與 GPT-3.5 在發(fā)布時(shí)提供的體驗(yàn)相匹配：對(duì)于更大的模型來(lái)說(shuō)速度不是很快，但絕對(duì)可用。

較小的 Gemma 3 1B 型號(hào)實(shí)現(xiàn)了每秒超過(guò) 20 個(gè)令牌的速度，在監(jiān)督下提供了流暢的體驗(yàn)和可靠的準(zhǔn)確性。

當(dāng)您離線或處理不想與 Google 或 OpenAI 的訓(xùn)練算法共享的敏感數(shù)據(jù)時(shí)，這一點(diǎn)很重要，除非您選擇退出，否則它們會(huì)默認(rèn)使用您的數(shù)據(jù)。

在最小的 Gemma 模型上，GPU 推理實(shí)現(xiàn)了令人印象深刻的預(yù)填充速度，每秒超過(guò) 105 個(gè)令牌，而 CPU 推理則達(dá)到每秒 39 個(gè)令牌。令牌輸出（即模型經(jīng)過(guò)思考后生成響應(yīng)的速度）在 GPU 上平均達(dá)到每秒約 10 個(gè)令牌，在 CPU 上平均達(dá)到每秒 7 個(gè)令牌。

多模式功能在測(cè)試中表現(xiàn)良好。

此外，似乎在較小模型上進(jìn)行 CPU 推理比進(jìn)行 GPU 推理產(chǎn)生的結(jié)果更好，盡管這可能只是傳聞；然而，這已在各種測(cè)試中觀察到。

例如，在一項(xiàng)視覺(jué)任務(wù)中，CPU 推理模型準(zhǔn)確地猜出了測(cè)試照片中我和我妻子的年齡：我 30 多歲，她 20 多歲。

據(jù)稱更好的 GPU 推斷功能錯(cuò)誤地估計(jì)了我的年齡，猜測(cè)我 20 多歲（不過(guò)，我隨時(shí)都愿意相信這個(gè)“信息”而不是真相。）

谷歌的模型受到嚴(yán)格的審查，但只需付出很少的努力就可以實(shí)現(xiàn)基本的越獄。

與禁止用戶規(guī)避?chē)L試的集中式服務(wù)不同，本地模型不會(huì)報(bào)告您的提示，因此使用越獄技術(shù)是一種很好的做法，而不會(huì)冒著訂閱的風(fēng)險(xiǎn)或向模型詢問(wèn)審查版本不會(huì)提供的信息。

有第三方模型支持，但有些有限。

該應(yīng)用程序僅接受 .task 文件，而不是競(jìng)爭(zhēng)對(duì)手喜歡的廣泛采用的 .safetensor 格式奧拉馬 支持。

這極大地限制了可用的模型，盡管有方法將 .safetensor 文件轉(zhuǎn)換為 .task，但并不適合所有人。

代碼處理已經(jīng)足夠好了，盡管像 Codestral 這樣的專(zhuān)用模型可以比 Gemma 3 更有效地處理編程任務(wù)。同樣，它必須有一個(gè) .task 版本，但它可以是一個(gè)非常有效的替代方案。

對(duì)于復(fù)述、總結(jié)和解釋概念等基本任務(wù)，這些模型無(wú)需將數(shù)據(jù)發(fā)送到三星或谷歌的服務(wù)器就能表現(xiàn)出色。

因此，用戶無(wú)需授予大型技術(shù)訪問(wèn)其輸入、鍵盤(pán)或剪貼板的權(quán)限，因?yàn)樗麄冏约旱挠布谔幚硭斜匾墓ぷ鳌?/p>

4096 個(gè)標(biāo)記的上下文窗口感覺(jué)受到 2025 年標(biāo)準(zhǔn)的限制，但與兩年前的標(biāo)準(zhǔn)相符。

在這些限制條件下，對(duì)話自然流暢。這或許是定義體驗(yàn)的最佳方式。

考慮到您正在智能手機(jī)上運(yùn)行 AI 模型，此應(yīng)用程序?qū)⒃谒俣群臀谋緶?zhǔn)確性方面為您提供與早期 ChatGPT 類(lèi)似的體驗(yàn)，并具有多模態(tài)和代碼處理等一些優(yōu)勢(shì)。

但是，為什么你要在手機(jī)上運(yùn)行你最喜歡的人工智能的速度較慢、質(zhì)量較差的版本，占用大量存儲(chǔ)空間，并使事情變得比簡(jiǎn)單地輸入 ChatGPT.com 更復(fù)雜呢？

隱私仍然是關(guān)鍵要素。例如，處理患者數(shù)據(jù)的醫(yī)護(hù)人員、現(xiàn)場(chǎng)記者或任何處理機(jī)密信息的人現(xiàn)在都可以訪問(wèn) AI 功能，而無(wú)需將數(shù)據(jù)離開(kāi)他們的設(shè)備。

“無(wú)需互聯(lián)網(wǎng)”意味著該技術(shù)可以在偏遠(yuǎn)地區(qū)或旅行時(shí)使用，所有響應(yīng)僅根據(jù)模型在訓(xùn)練時(shí)現(xiàn)有的知識(shí)生成。

成本節(jié)省立竿見(jiàn)影。云端 AI 服務(wù)按使用量收費(fèi)，而本地模型僅需手機(jī)的處理能力。小型企業(yè)和業(yè)余愛(ài)好者無(wú)需持續(xù)投入即可進(jìn)行實(shí)驗(yàn)。如果您在本地運(yùn)行模型，則可以可以隨心所欲地與其互動(dòng)，無(wú)需消耗配額、積分，或訂閱，并且無(wú)需支付任何費(fèi)用.

延遲的改善顯而易見(jiàn)。無(wú)需服務(wù)器往返意味著實(shí)時(shí)應(yīng)用（例如聊天機(jī)器人或圖像分析）的響應(yīng)速度更快。這也意味著您的聊天機(jī)器人永遠(yuǎn)不會(huì)下去.

總的來(lái)說(shuō)，對(duì)于基本任務(wù)來(lái)說(shuō)，這對(duì)于任何用戶來(lái)說(shuō)都已經(jīng)足夠了，有了 ChatGPT 的免費(fèi)版本，克勞德, 雙子座, 元, 雷卡， 和 米斯特拉爾在需要進(jìn)行更大量計(jì)算時(shí)提供良好的備份。

當(dāng)然，它短期內(nèi)還無(wú)法取代你最喜歡的聯(lián)網(wǎng)聊天機(jī)器人。早期采用它還面臨一些挑戰(zhàn)。

電池消耗問(wèn)題仍然存在，特別是對(duì)于較大的模型；設(shè)置的復(fù)雜性可能會(huì)讓非技術(shù)用戶卻步；與云產(chǎn)品相比，模型種類(lèi)相形見(jiàn)絀，而谷歌決定不支持 .safetensor 模型（幾乎占互聯(lián)網(wǎng)上所有 LLM 的 100%）令人失望。

然而，谷歌的實(shí)驗(yàn)性發(fā)布標(biāo)志著人工智能部署理念的轉(zhuǎn)變。該公司不再?gòu)?qiáng)迫用戶在強(qiáng)大的人工智能和隱私之間做出選擇，而是兩者兼顧，即使體驗(yàn)尚未完全達(dá)到。

AI Edge Gallery 的 Alpha 版本帶來(lái)了令人驚喜的精致體驗(yàn)。谷歌的優(yōu)化展現(xiàn)了其打造的可能是目前本地運(yùn)行 AI 模型的最佳 UI 的能力。

添加 .safetensor 支持將解鎖現(xiàn)有模型的龐大生態(tài)系統(tǒng)，將優(yōu)秀的應(yīng)用程序轉(zhuǎn)變?yōu)樽⒅仉[私的 AI 用戶必不可少的工具。

編輯喬什·奎特納 和 塞巴斯蒂安·辛克萊