在线无码中文破解|日本影院一区二区三区|五月激情Av在线|国产香蕉视频一区|国产老熟女AAAA|云霸高清91视频|久久久www视频|在线熟女网站无码视频|国产精品 国产|韩日精品中文字幕

人工智能可以診斷疾病、寫詩，甚至駕駛汽車——但它仍然無法說出一個簡單的詞：“不”。這種盲點可能會在現(xiàn)實世界的應(yīng)用中造成嚴重后果，比如圍繞醫(yī)療保健構(gòu)建的人工智能。

根據(jù)一項新學(xué)習(xí)由麻省理工學(xué)院博士生 Kumail Alhamoud 領(lǐng)導(dǎo)，與OpenAI和牛津大學(xué)的研究表明，不理解“不”和“不是”可能會產(chǎn)生嚴重后果，尤其是在醫(yī)療環(huán)境中。

否定（例如“無骨折”或“未擴大”）是一項至關(guān)重要的語言功能，尤其是在醫(yī)療保健等高風(fēng)險環(huán)境中，誤解否定詞可能會造成嚴重傷害。研究表明，當(dāng)前的人工智能模型（例如 ChatGPT、Gemini 和 Llama）通常無法正確處理否定語句，而是傾向于默認采用積極的聯(lián)想。

核心問題不僅僅是缺乏數(shù)據(jù)，而在于人工智能的訓(xùn)練方式。大多數(shù)大型語言模型是為了識別模式，而非邏輯推理而構(gòu)建的。這意味著它們可能會將“不好”解讀為某種程度上的積極，因為它們將“好”與積極聯(lián)系起來。專家認為，除非模型被教會通過邏輯推理，而不是僅僅模仿語言，否則它們將繼續(xù)犯下輕微但危險的錯誤。

零知識基礎(chǔ)設(shè)施公司 Lagrange Labs 的首席研究工程師 Franklin Delehelle 表示：“人工智能非常擅長生成與訓(xùn)練中看到的類似的反應(yīng)。但它在提出真正新穎或超出訓(xùn)練數(shù)據(jù)的東西方面卻非常糟糕?！?i>解密。“因此，如果訓(xùn)練數(shù)據(jù)缺乏說‘不’或表達負面情緒的有力例子，模型可能很難產(chǎn)生這種反應(yīng)?！?/p>

在研究中，研究人員發(fā)現(xiàn)，用于解釋圖像和文本的視覺語言模型對肯定的陳述表現(xiàn)出更強烈的偏見，經(jīng)常無法區(qū)分正面和負面的標(biāo)題。

研究人員表示：“通過合成否定數(shù)據(jù)，我們?yōu)榻⒏煽康哪Ｐ吞峁┝艘粭l充滿希望的道路。雖然我們的合成數(shù)據(jù)方法提高了對否定的理解，但挑戰(zhàn)依然存在，尤其是在細粒度的否定差異方面?！?/p>

盡管推理許多人工智能系統(tǒng)仍然難以進行類似人類的推理，特別是在處理開放式問題或需要更深入理解的情況時，或者“常識”

所有法學(xué)碩士（LLM）——也就是我們現(xiàn)在通常所說的人工智能——都會在一定程度上受到其初始提示的影響。當(dāng)你與 ChatGPT 或類似系統(tǒng)交互時，系統(tǒng)不僅僅是在利用你的輸入。此外，還有一個由公司預(yù)設(shè)的內(nèi)部或“內(nèi)部”提示——你，作為用戶，無法控制它。Delehelle 告訴解密。

Delehelle 強調(diào)了人工智能的核心限制之一：它依賴于訓(xùn)練數(shù)據(jù)中發(fā)現(xiàn)的模式，這種限制可能會影響（有時還會扭曲）人工智能的反應(yīng)方式。

斯坦福大學(xué)深度學(xué)習(xí)兼職教授、技能智能公司 Workera 創(chuàng)始人 Kian Katanforoosh 表示，否定的挑戰(zhàn)源于語言模型運作方式的一個根本缺陷。

“否定看似復(fù)雜?！弧汀皇恰@樣的詞會改變句子的意思，但大多數(shù)語言模型并不是通過邏輯推理——它們只是根據(jù)模式來預(yù)測可能的聲音，”Katanforoosh 告訴解密“這使得他們在涉及否定時容易忽略重點。”

Katanforoosh 也與 Delehelle 的觀點一致指出，AI 模型如何訓(xùn)練才是核心問題。

“這些模型被訓(xùn)練來聯(lián)想，而不是推理。所以當(dāng)你說‘不好’時，它們?nèi)匀粫选谩@個詞與積極情緒強烈地聯(lián)系起來，”他解釋道?！芭c人類不同，它們并不總是會推翻這些聯(lián)想?！?/p>

卡坦福魯什警告說，無法準(zhǔn)確解釋否定不僅僅是一個技術(shù)缺陷——它可能會在現(xiàn)實世界中產(chǎn)生嚴重的后果。

“理解否定是理解的基礎(chǔ)，”他說?！叭绻Ｐ筒荒芸煽康卣莆账陀锌赡芊赶录毼⒌P(guān)鍵的錯誤——尤其是在法律、醫(yī)療的， 或者 人力資源應(yīng)用”

盡管擴大訓(xùn)練數(shù)據(jù)似乎是一個簡單的解決辦法，但他認為解決方案并不在這兒。

“解決這個問題的關(guān)鍵不在于更多的數(shù)據(jù)，而在于更好的推理。我們需要能夠處理邏輯而不僅僅是語言的模型，”他說，“這就是目前的前沿：將統(tǒng)計學(xué)習(xí)與結(jié)構(gòu)化思維連接起來?！?/p>

詹姆斯·魯賓編輯