AI「幻覺」可望減少？OpenAI提出新方法

近日，OpenAI開發的ChatGPT聊天機器人顯示出了一些令人耳目一新的新能力，但也表現出了一些不良的現象，也就是所謂的「亂噏」。這種現象可能會對基於聊天的人工智慧應用產生負面影響，OpenAI現在認為他們已經找到了一種新的方法來減少這種「幻覺」的現象。

OpenAI的研究人員發現，ChatGPT可能會產生由於其詞彙及其對應的表示之間的不對稱性而導致的「幻覺」。他們指出，這是由於ChatGPT採用了一種稱為「標準機器學習」的技術，它會在詞彙和其對應的表示之間建立一個映射關係，而這個映射關係會使ChatGPT產生一些不對稱的結果。

為了解決這個問題，OpenAI開發了一種新方法，稱為「詞彙延展」，它把詞彙作為輸入，然後把模型的表示反向映射到詞彙空間，以此解決產生「亂噏」現象的問題。OpenAI研究人員表示，他們的新方法比以前的技術更有效，並且對於AI應用的發展具有重要意義。

OpenAI新發表的ChatGPT技術突出表現出了一些令人耳目一新的新能力，但也表現出一些不良的現象，也就是所謂的「亂噏」。為了解決這個問題，OpenAI開發了一種新的方法，稱為「詞彙延展」，它能夠把模型的表示反向映射到詞彙空間，以此解決產生「亂噏」現象的問題。這個新方法比以前的技術更有效，對於AI應用的發展具有重要意義。

近日，OpenAI發表了他們開發的ChatGPT聊天機器人，它表現出了一些驚人的新能力，但也表現出了一些不良的現象，稱為「亂噏」。為了解決這個問題，OpenAI研究人員提出了一種新的方法，稱為「詞彙延展」，它能夠有效地抑制ChatGPT對詞彙及其對應的表示之間的不對稱性，減少「亂噏」現象的產生。OpenAI研究人員表示，他們的新方法對於AI應用的發展具有重要意義，有望為相關領域帶來更多發展機會。


本文章由Open AI人工智能編寫，僅屬學術用途。
可參考相關同類新聞