在线无码中文破解|日本影院一区二区三区|五月激情Av在线|国产香蕉视频一区|国产老熟女AAAA|云霸高清91视频|久久久www视频|在线熟女网站无码视频|国产精品 国产|韩日精品中文字幕

一家西班牙人工智能初創(chuàng)公司剛剛以一個大膽的聲明說服投資者投資 2.15 億美元：他們可以在不影響其性能的情況下將大型語言模型縮小 95%。

Multiverse Computing 的創(chuàng)新取決于其 CompactifAI 技術(shù)，這是一種借用量子物理學(xué)的數(shù)學(xué)概念將 AI 模型縮小到智能手機(jī)大小的壓縮方法。

這家圣塞巴斯蒂安公司表示，他們壓縮的 Llama-2 7B 模型推理速度提高了 25%，同時使用的參數(shù)減少了 70%，準(zhǔn)確率僅下降 2-3%。

如果得到大規(guī)模驗(yàn)證，這可以解決人工智能的巨大問題：模型過于龐大，需要專門的數(shù)據(jù)中心才能運(yùn)行。

Multiverse 首席科學(xué)官 Román Orús 在一份聲明中表示：“歷史上第一次，我們能夠分析神經(jīng)網(wǎng)絡(luò)的內(nèi)部工作原理，從而消除數(shù)十億個虛假相關(guān)性，真正優(yōu)化各種人工智能模型。”博客文章星期四。

Bullhound Capital 領(lǐng)投了 2.15 億美元的 B 輪融資，HP Tech Ventures 和東芝也參與其中。

壓縮背后的物理原理

應(yīng)用量子啟發(fā)的概念來解決人工智能最緊迫的問題之一聽起來不太可能——但如果研究堅(jiān)持下去，這是真的。

與簡單地削減神經(jīng)元或降低數(shù)值精度的傳統(tǒng)壓縮不同，CompactifAI 使用張量網(wǎng)絡(luò)——物理學(xué)家開發(fā)的用于追蹤粒子相互作用而不會淹沒在數(shù)據(jù)中的數(shù)學(xué)結(jié)構(gòu)。

該過程就像 AI 模型的折紙一樣：權(quán)重矩陣被折疊成更小、相互連接的結(jié)構(gòu)，稱為矩陣積運(yùn)算符。

該系統(tǒng)并不存儲神經(jīng)元之間的每個連接，而是僅保留有意義的相關(guān)性，同時丟棄冗余模式，例如一遍又一遍重復(fù)的信息或關(guān)系。

Multiverse 發(fā)現(xiàn)，AI 模型并非均勻壓縮。早期層級已被證實(shí)較為脆弱，而較深的層級（最近被證明對性能的影響較?。﹦t能夠承受劇烈壓縮。

這種選擇性方法可以讓它們在其他方法失敗的情況下實(shí)現(xiàn)尺寸的大幅減小。

壓縮后，模型會經(jīng)歷短暫的“修復(fù)”——由于參數(shù)數(shù)量的減少，重新訓(xùn)練只需不到一個epoch。該公司聲稱，由于GPU-CPU傳輸負(fù)載的降低，此恢復(fù)過程比訓(xùn)練原始模型的速度快50%。

長話短說 - 根據(jù)公司自己的報價 - 你從一個模型開始，運(yùn)行 Compactify magic，最終得到一個壓縮版本，該版本的參數(shù)不到 50％，可以以兩倍的推理速度運(yùn)行，成本低得多，并且功能與原始版本一樣強(qiáng)大。

該團(tuán)隊(duì)在研究中表明，可以將 Llama-2 7B 模型的內(nèi)存需求減少 93%，將參數(shù)數(shù)量減少 70%，將訓(xùn)練速度提高 50%，將回答（推理）速度提高 25%，同時僅損失 2-3% 的準(zhǔn)確率。

傳統(tǒng)的縮小方法，如量化（降低精度，如使用更少的小數(shù)位）、修剪（完全切掉不太重要的神經(jīng)元，如修剪樹上的枯枝）或蒸餾技術(shù)（訓(xùn)練較小的模型來模仿較大模型的行為）甚至還無法接近實(shí)現(xiàn)這些數(shù)字。

Multiverse 已經(jīng)為包括博世和加拿大銀行在內(nèi)的 100 多家客戶提供服務(wù)，將其受量子啟發(fā)的算法應(yīng)用于人工智能以外的能源優(yōu)化和金融建模。

西班牙政府共同投資6700萬歐元3 月份，總?cè)谫Y額突破 2.5 億美元。

該公司目前通過 AWS 提供 Llama 和 Mistral 等開源模型的壓縮版本，并計(jì)劃擴(kuò)展到 DeepSeek R1 和其他推理模型。

OpenAI 或 Claude 的專有系統(tǒng)顯然仍然是禁止進(jìn)入的，因?yàn)樗鼈儾荒苡糜谛扪a(bǔ)或研究。

這項(xiàng)技術(shù)的前景遠(yuǎn)不止于成本節(jié)約?；萜湛萍硷L(fēng)險投資公司的參與表明了其對邊緣人工智能部署的興趣——在本地而非云服務(wù)器上運(yùn)行復(fù)雜的模型。

惠普技術(shù)與創(chuàng)新總裁 Tuan Tran 表示：“Multiverse 的創(chuàng)新方法有可能為各種規(guī)模的公司帶來人工智能的優(yōu)勢，即增強(qiáng)性能、個性化、隱私和成本效率?！?/p>

所以，如果有一天你發(fā)現(xiàn)自己在智能手機(jī)上運(yùn)行 DeepSeek R1，你也許應(yīng)該感謝這些家伙。

編輯喬什·奎特納 和 塞巴斯蒂安·辛克萊