無論是Google Bard或者ChatGPT,都有為人詬病的「無中生有」問題,甚至有科學家悲觀認為,因為模型開發機制,讓這個問題根本沒有解方,網路服務龍頭企業Google團隊,目前已積極思考解決方法治好AI「亂說話」毛病,可能就此讓Bard超越ChatGPT?

OpenAI推出ChatGPT後,掀起全球生成式AI和大語言模型熱潮,Google後來也推出Google Bard回擊,除卻提升語言切換能力、加強程式撰寫功能,Google也在多模態(multi-modal)上加緊腳步,以「圖片回應」方式與使用者文字溝通,上個月Google更宣布開放繁體中文版本。

不過,ChatGPT每月造訪流量上已經滑落,人們已經清楚認知到大語言模型的諸多限制。作為較晚推出對話式應用的後進者,Google怎麼看待大語言模型的不足之處?Google又會如何彌補?就Google Bard來說,還有哪些應用可能性?

延伸閱讀泰國果凍泰國果凍威而鋼泰國果凍哪裡買泰國果凍效果泰國果凍kamagra液態威

Google Bard中文版好用?贏ChatGPT在哪?

Google Bard團隊指:GPT、PalM、LLaMA等大語言模型都有類似挑戰

任職Google超過12年、目前在Google DeepMind(DeepMind和Google Brain已合併)帶領機器學習研究團隊,並負責包含大語言模型和神經網絡推薦系統等研究、領導Google Bard開發團隊,出身台灣的紀懷新(Ed H. Chi)指出,Google開發對話式語言模型LaMDA,便是想利用大語言模型(large language model,簡稱為LLM)幫助人類,並透過自然語言的對話形式,讓民眾都能使用。

紀懷新表示,在大語言模型出現以前,因應不同任務需要獨立不同的模型,例如翻譯需要一個模型、摘要也需要一個模型,但現今趨勢則是讓單一模型完成多個任務,例如LaMDA就能做到這點,也為Google Bard奠定基礎。

Google開發對話式語言模型LaMDA,便是想利用大語言模型幫助人類,並透過自然語言的對話形式,讓民眾都能使用。取自Google Bard

Google開發對話式語言模型LaMDA,便是想利用大語言模型幫助人類,並透過自然語言的對話形式,讓民眾都能使用。取自Google Bard

 

紀懷新回憶,在LLM技術出現之前的對話式模型,互動不夠連貫,「很像去7-11跟店員進行交易式(transactional)對話,」他意指交談內容目的單純,且不帶感情,因此技術人員希望能夠讓互動變得更自然、更加人性化,因此要讓電腦程式增加主動性(proactive),而且不只是系統發起對話(system initiative),更希望做到人類和機器同樣能發起互動(mixed initiative)。

目前大語言模型無論是GPT(OpenAI)、LaMDA(Google)、PaLM(Google)或者LLaMA(臉書),都會運用預訓練、微調、提示這三個步驟讓模型表現變好,不過,即使這幾間企業均深耕人工智慧多時,仍遇到相似挑戰。

Google用「搜尋引擎」加持,突圍ChatGPT幻覺問題

紀懷新指出,大語言模型發展仍在早期階段,不可避免地仍會遇到問題。

其中「幻覺」是最常被提及的問題,LLM產生內容的隨機性,容易生成過度解讀、無中生有的內容,因此在事實準確性上遭遇挑戰,此外,受到訓練資料影響,內容可能承載類似偏見、惡意暗示等。

對於這些問題,紀懷新勾勒出一個可能解方:檢索增強(retrieval augmentation)。遇到問題時,人們時常到搜尋引擎尋求解答,那麼,大語言模型是不是也能做類似的事?紀懷新表示,他們正在想辦法「教導」LLM不只從預訓練中語料找答案,更要利用搜尋引擎外部知識回答問題。

不過,他也強調,對於判斷何謂「正確」,從不只是單純技術問題,更牽涉到價值判斷。他用絕對(absolute)和相對(relative)事實兩個詞彙,指稱人類平常能讀到的內容,以目前Google努力的方向來說,會將重點置於「利用搜尋結果輔助內容生成以便讓讀者確認」,也就是提供可參照的相對事實,至於絕對事實如何定義?那是更深刻的哲學問題。

紀懷新也分享,Google未來除了繼續發展文字與圖片對話、提高品質,也會在多模態(multimodal)上繼續努力,讓Google Bard「讀懂」並輸出不同型態資料,例如增加更多聲音互動的可能性。

「幻覺」是大語言模型發展最常被提及的問題,LLM產生內容的隨機性,容易生成過度解讀、無中生有的內容。取自Unsplash

「幻覺」是大語言模型發展最常被提及的問題,LLM產生內容的隨機性,容易生成過度解讀、無中生有的內容。取自Unsplash

德國金剛持久液 /德國黑金剛持久液 /德國金剛持久液效果 /德國金剛持久液正品 德國黑金剛 //德國黑金剛噴霧

 

ChatGPT是什麼?最新發展進度?應用與隱憂一文整理

Google「祖產」多,多元應用場景讓人期待

至於外界總是拿微軟與ChatGPT相比,Google Bard要如何競爭?紀懷新的回答較為隱晦,他強調Google能夠將LLM應用在旗下多元的產品之中。

剖析他的言外之意,因Google和微軟同樣擁有生產力工具,因此至少可以對標微軟以人類副駕命名的Copilot;然而,Google旗下同時還有地圖、YouTube、支付以及市佔率高出許多的搜尋引擎,諸多與人類實體經濟更緊密相連的服務,因此能夠做得更多。

若搜尋景點時,不只是導引,更有了解意圖後的主動介紹;觀賞影片時,除了既有機制以外,更利用大語言模型產出更多推薦;還有搜尋商品時Google已經介紹過的生成式搜尋體驗等,Google現有服務的多元場景,讓LLM有更多派上用場的可能性。

如同紀懷新所說,Google希望讓大語言模型學習人類利用搜尋的行為,以搜尋引擎提升生成內容品質。如果說,人類智慧已經透過搜尋引擎得到提升,那麼,擁有更聰明、回答品質更有保障的LLM,人類智慧又會上升到什麼高度呢?英國威馬持久液英國威馬持久液成份英國威馬持久液效果英國威馬持久液哪裡買英國威馬持久液正品