來源丨元宇宙簡史

編寫丨元宇宙簡史編輯部

【元宇宙導(dǎo)讀】本文將從什么是LaMDA和PaLM模型、為什么要升級Bard、Bard 升級的進展和挑戰(zhàn)等幾個方面展開。

谷歌的對話人工智能（AI）技術(shù) Bard 是一款可以與用戶進行自然、流暢和有趣的對話的應(yīng)用程序，它可以回答各種問題，甚至可以編寫代碼。

Bard 正運行在一個輕量級和高效版本的 LaMDA 模型上，這是一個專注于提供對話的人工智能語言模型。

但是，谷歌首席執(zhí)行官 Sundar Pichai 近日在接受 Hard Fork 播客節(jié)目采訪時表示，Bard 將從基于輕量級 LaMDA 模型升級為更大規(guī)模的 PaLM 模型。

Pichai 表示，PaLM 模型規(guī)模更大，Bard 在處理常識推理和編程問題等任務(wù)時能力更強，升級版 Bard 將于下周會有新進展。

01、什么是LaMDA和PaLM模型？

LaMDA 是 Language Models for Dialog Applications 的縮寫，是谷歌去年推出的一種語言模型，專門用于對話應(yīng)用程序。

LaMDA 通過微調(diào)一系列專門用于對話的、基于 Transformer 的神經(jīng)語言模型構(gòu)建的，具有多達(dá) 1370 億個參數(shù)。LaMDA 可以利用外部知識源進行對話，并遵循負(fù)責(zé)任 AI（Responsible AI）實踐，避免做出沒有外部信息源支持的事實陳述。

PaLM 是 Pre-trained Language Model 的縮寫，是谷歌最新公布的一種語言模型，包含 5400 億個參數(shù)，數(shù)量幾乎是 LaMDA 的四倍。PaLM 是在公共對話數(shù)據(jù)和其他公共網(wǎng)頁文檔中收集并創(chuàng)建的一個具有 1.56T 單詞的數(shù)據(jù)集上預(yù)訓(xùn)練的。PaLM 可以完成不同任務(wù)，例如將一種語言翻譯成另一種語言，將長文檔總結(jié)為簡短的摘要等。

02、為什么要升級Bard？

Pichai 在采訪中表示，Bard 的目標(biāo)是提供一種自然、流暢和有趣的對話體驗，讓用戶感覺像是在與一個真實的人交談。他說，Bard 目前已經(jīng)可以做到這一點，但還有很多改進空間。他說：“我們想讓 Bard 能夠處理更復(fù)雜、更深入、更富有洞察力的問題和回答?！?/span>

Pichai 舉例說，Bard 目前可以回答一些基本的編程問題，例如如何打印“Hello World”，但如果用戶想要了解更高級的編程概念或技巧，Bard 就會遇到困難。他說：“我們想讓 Bard 能夠教你如何編程，而不僅僅是給你一些代碼片段?！?/span>

Pichai 還說，Bard 目前還缺乏常識推理能力，例如理解時間、空間、因果關(guān)系等概念。他說：“我們想讓 Bard 能夠像人類一樣思考，而不是像一個機器一樣只能處理字面意義上的信息?！?/span>

為了實現(xiàn)這些目標(biāo)，Pichai 說，Bard 需要一個更大規(guī)模、更強大的語言模型，即 PaLM。他說，PaLM 模型可以提供更多的知識、更好的理解和更高的創(chuàng)造力，讓 Bard 成為一個更智能、更有趣、更有用的對話伙伴。他說：“我們相信 PaLM 模型是對話 AI 的未來，它將為用戶帶來前所未有的體驗。”

03、Bard 升級的進展和挑戰(zhàn)

Pichai 透露，Bard 的升級工作已經(jīng)在進行中，馬上將會有新的進展。他說，谷歌的研究團隊已經(jīng)在測試 PaLM 模型在不同領(lǐng)域和場景下的表現(xiàn)，包括教育、娛樂、健康、旅游等。他說，目前的結(jié)果令人鼓舞，PaLM 模型顯示出了比 LaMDA 模型更高的質(zhì)量、安全性和根基性。

質(zhì)量是指模型是否產(chǎn)生在對話上下文中有意義、特定和有趣的響應(yīng)；安全性是指模型是否避免了任何可能對用戶造成傷害或加劇不公平偏見的輸出；根基性是指模型是否能夠根據(jù)可靠的外部信息源來支持其事實陳述。

Pichai 說，PaLM 模型在這些方面都優(yōu)于 LaMDA 模型，甚至接近人類水平。他說：“PaLM 模型可以與用戶進行自然、流暢和有趣的對話，同時保持事實正確、安全可靠和負(fù)責(zé)任?！?/span>

然而，Pichai 也承認(rèn)，Bard 的升級還面臨著一些挑戰(zhàn)和難題。他說，其中一個挑戰(zhàn)是如何確保 PaLM 模型的控制性和可解釋性。他說：“PaLM 模型是一個非常復(fù)雜和強大的系統(tǒng)，它可以生成各種各樣的輸出。我們需要確保我們能夠理解和預(yù)測它的行為，并及時糾正任何不良或不合適的輸出?！?/span>

另一個挑戰(zhàn)是如何平衡 PaLM 模型的通用性和專業(yè)性。Pichai 說：“PaLM 模型是一個開放域的語言模型，它可以處理各種主題和任務(wù)。但是，在某些領(lǐng)域或場景下，用戶可能需要更專業(yè)或更個性化的服務(wù)。我們需要找到一種方法，讓 PaLM 模型能夠根據(jù)用戶的需求和偏好進行自適應(yīng)調(diào)整?！?/span>

嚴(yán)正聲明：本文為元宇宙簡史原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載！內(nèi)容僅供參考交流，不構(gòu)成任何投資建議。任何讀者若據(jù)此進行投資決策，風(fēng)險自擔(dān)。