摘要：在國(guó)內(nèi)使用ChatGPT有些不便，是否可以基于OpenAI開放的API做一個(gè)給自己或者同事們使用的聊天機(jī)器人，甚至集成到更多的場(chǎng)景….

本文分享自華為云社區(qū)《使用 FunctionGraph 快速構(gòu)建自己的“ChatGPT”》，作者：ChatGPT 、果寶、歷川。

一、背景

ChatGPT是一個(gè)基于GPT-3模型的聊天機(jī)器人，可以與用戶進(jìn)行自然、流暢和有趣的對(duì)話。ChatGPT可以理解和使用多種語(yǔ)言，如英語(yǔ)、中文、日語(yǔ)、西班牙語(yǔ)、法語(yǔ)或德語(yǔ)；還可以根據(jù)用戶的興趣和需求，提供相關(guān)建議和創(chuàng)意內(nèi)容，如詩(shī)歌、故事、代碼、歌詞等。ChatGPT是一個(gè)強(qiáng)大而靈活的工具，可以用于娛樂、學(xué)習(xí)或工作。

但是在國(guó)內(nèi)使用ChatGPT有些不便，是否可以基于OpenAI開放的API做一個(gè)給自己或者同事們使用的聊天機(jī)器人，甚至集成到更多的場(chǎng)景…. 效果如下：

二、方案選型

說干就干，我們先從做一個(gè)自己的機(jī)器人開始，首先我們從OpenAI獲取用于鑒權(quán)的秘鑰。

然后寫一個(gè)請(qǐng)求OpenAI接口的代碼，并寫一個(gè)web服務(wù)接口開放出去，再搭配一個(gè)交互用的前端即可?？雌饋硎?小時(shí)的工作量，但是如何部署這個(gè)服務(wù)呢？ 購(gòu)買一個(gè)云服務(wù)器再安裝環(huán)境或者配置容器也太麻煩了，于是我問了ChatGPT：

可以看到， 使用FunctionGraph只需要聚焦完成請(qǐng)求OpenAI接口的功能函數(shù)，不需要購(gòu)買和配置資源，甚至不需要寫Web接口的代碼。 于是一個(gè)簡(jiǎn)單的方案如下：

其中，

• 對(duì)象存儲(chǔ)服務(wù)OBS：用于托管前端頁(yè)面

• FunctionGraph : 用于響應(yīng)前端請(qǐng)求，運(yùn)行代碼向OpenAI發(fā)送問題

• API網(wǎng)關(guān)： 對(duì)外開放調(diào)用函數(shù)的API

注：“函數(shù)” 是指客戶部署在FunctionGraph上的代碼，它可以是一個(gè)或多個(gè)文件組成的程序，甚至編譯好的二進(jìn)制文件。 如Python 腳本文件，Java的jar 包。

三、開發(fā)并部署聊天應(yīng)用

3.1 創(chuàng)建FunctionGraph函數(shù)處理用戶提問的請(qǐng)求

首先創(chuàng)建并開發(fā)FunctionGraph函數(shù)，打開華為云FunctionGraph 產(chǎn)品頁(yè)面，由于只有一個(gè)簡(jiǎn)單的問題查詢接口，這里我們選用事件函數(shù) 使用Python 3.9 運(yùn)行時(shí)。

注：事件函數(shù)，可以由某類事件觸發(fā)函數(shù)運(yùn)行，如用戶對(duì)該函數(shù)發(fā)送了HTTP請(qǐng)求，關(guān)聯(lián)到該函數(shù)的消息隊(duì)列里產(chǎn)生了新消息，都會(huì)自動(dòng)觸發(fā)函數(shù)運(yùn)行。

對(duì)于事件函數(shù)，通常程序入口方法（這里是 handler）會(huì)有兩個(gè)參數(shù)：

• event 參數(shù)：?包含觸發(fā)用戶函數(shù)的事件的相關(guān)信息。HTTP請(qǐng)求也是一種事件，event里會(huì)包含請(qǐng)求的body header 等；

• context 參數(shù):?調(diào)用平臺(tái)的相關(guān)能力，如獲取在函數(shù)配置里設(shè)置的加密環(huán)境變量等

上圖為本次調(diào)用的入口方法handler()，在函數(shù)中，我們：

1. 從event 里取得請(qǐng)求的參數(shù) prompt

2. 調(diào)用OpenAI 的接口Python SDK，向OpenAI 發(fā)送請(qǐng)求， （示例里我們使用text-davinci-003模型 [1]?https://platform.openai.com/docs/model-index-for-researchers#footnote-2）

3. handler 方法中我們使用了 context 獲取訪問OpenAI的key（上圖29行） ，獲取前需要在函數(shù)上配置對(duì)應(yīng)環(huán)境變量，如下圖所示：

注：示例中我們使用了OpenAI的sdk ，也可以將sdk放在函數(shù)代碼里一起上傳，或利用函數(shù)的依賴管理能力，通過添加依賴的方式實(shí)現(xiàn)：

在編輯好代碼后，只需要點(diǎn)擊部署按鈕即可完成部署。

3.2 創(chuàng)建APIG觸發(fā)器來開放接口

通常對(duì)于使用函數(shù)開發(fā)WEB 后端的場(chǎng)景，我們使用API 網(wǎng)關(guān)服務(wù)，來將函數(shù)開放出去供前端訪問。為函數(shù)在API網(wǎng)關(guān)上注冊(cè)API非常簡(jiǎn)單，只需要在函數(shù)頁(yè)面上創(chuàng)建APIG觸發(fā)器：

注意：這里將后端超時(shí)時(shí)間設(shè)定為一個(gè)較大的時(shí)間，如60s，因?yàn)镺penAi的接口響應(yīng)較慢。在北京4局點(diǎn)中，APIG服務(wù)有共享版，支持按需計(jì)費(fèi)，若有較大的流量可以考慮購(gòu)買APIG獨(dú)享實(shí)例。

APIG觸發(fā)器上的調(diào)用URL，可以直接用于向后端發(fā)送請(qǐng)求，該URL 為測(cè)試URL，每日僅可訪問1000次，可以點(diǎn)擊觸發(fā)器跳轉(zhuǎn)到APIG頁(yè)面綁定自己的域名。

3.3 托管前端頁(yè)面到OBS

• 我們準(zhǔn)備了一個(gè)簡(jiǎn)單的前端，只需改下前端頁(yè)面配置的后端地址即可。

• 創(chuàng)建一個(gè)OBS 桶，上傳前端文件

• 配置OBS 桶靜態(tài)文件托管，將桶訪問權(quán)限設(shè)置為公共讀，并在靜態(tài)網(wǎng)站托管選項(xiàng)里配置默認(rèn)首頁(yè)，將自己的域名指向訪問地址。

最后，通過訪問配置的域名訪問頁(yè)面，開始體驗(yàn)！

至此，我們其實(shí)已經(jīng)完成了整個(gè)簡(jiǎn)單聊天系統(tǒng)的搭建，案例中我們使用了一個(gè)簡(jiǎn)單的前端頁(yè)面，開發(fā)者也可以考慮集成到如VSCode插件，語(yǔ)音聊天機(jī)器人，微信公眾號(hào)等等。

更進(jìn)一步，若想使用Serverless技術(shù)，開發(fā)更為完整，適合生產(chǎn)環(huán)境的應(yīng)用，需要添加鑒權(quán)，數(shù)據(jù)庫(kù)連接等功能。

四、為后端服務(wù)增加接口鑒權(quán)

以上我們已經(jīng)基于FunctionGraph 函數(shù)創(chuàng)建了一個(gè)簡(jiǎn)易聊天系統(tǒng)的后端的服務(wù)，但是該接口沒有任何鑒權(quán)，如果開放接口，所有用戶都可以訪問。

如果需要用戶登錄后才可以使用，如何做？一個(gè)思路是在原有業(yè)務(wù)代碼里增加鑒權(quán)，這里我們也可以考慮使用APIG自定義鑒權(quán)即APIG組合FunctionGraph 鑒權(quán)的形式。 一個(gè)新的解決方案，如下。

4.1 創(chuàng)建并配置APIG自定義鑒權(quán)函數(shù)

使用APIG 自定義鑒權(quán)有以下優(yōu)勢(shì)：

1. 提升開發(fā)效率：鑒權(quán)與業(yè)務(wù)解耦，新增邏輯只需關(guān)注業(yè)務(wù)，無需引入鑒權(quán)；鑒權(quán)代碼集中而非分散在多個(gè)業(yè)務(wù)模塊，更新鑒權(quán)邏輯只需要更新鑒權(quán)模塊而非所有業(yè)務(wù)模塊；

2. 降低成本：對(duì)于使用大規(guī)格函數(shù)進(jìn)行后端服務(wù)的代碼，無效請(qǐng)求可以直接由較小規(guī)格的鑒權(quán)函數(shù)攔截，降低大中規(guī)格資源服務(wù)的運(yùn)行成本；

• 創(chuàng)建鑒權(quán)函數(shù)

和普通函數(shù)的創(chuàng)建流程一樣，只需要注意響應(yīng)的格式，一個(gè)使用JWT 鑒權(quán)的簡(jiǎn)單案例如下。

• 編輯接口，配置自定義鑒權(quán)

編輯對(duì)應(yīng)的API,選擇自定義鑒權(quán)，選擇到我們創(chuàng)建的函數(shù)：

一個(gè)鑒權(quán)拒絕的示例如下：

4.2 創(chuàng)建授權(quán)函數(shù)

基于以上自定義鑒權(quán)模式，開發(fā)者可以組合自己已有的鑒權(quán)邏輯放到自定義鑒權(quán)函數(shù)中。如果進(jìn)一步想基于FunctionGraph 創(chuàng)建一個(gè) “登錄” 或token授權(quán)函數(shù)，可以考慮以下方案。

我們首先需要?jiǎng)?chuàng)建一個(gè)函數(shù)，該函數(shù)用于接收用戶登錄請(qǐng)求，然后去數(shù)據(jù)庫(kù)請(qǐng)求，判斷用戶合法則返回鑒權(quán)token。

• 創(chuàng)建授權(quán)函數(shù)

創(chuàng)建一個(gè)普通的事件函數(shù)即可，一個(gè)簡(jiǎn)單的示例如下，隨后可以為其創(chuàng)建APIG 觸發(fā)器。

注意，如果需要函數(shù)訪問VPC里的資源，如本例中的RDS，需要在函數(shù)頁(yè)面配置RDS所在的VPC。

五、“ChatGPT”的升級(jí)和“運(yùn)維”

5.1 日志與監(jiān)控

使用函數(shù)，系統(tǒng)會(huì)自動(dòng)收集用戶打印在控制臺(tái)的日志，用戶無需處理日志落盤，收集或直接上報(bào)。對(duì)于每一條請(qǐng)求日志，F(xiàn)unctionGraph 還會(huì)顯示請(qǐng)求執(zhí)行耗時(shí)，使用內(nèi)存及請(qǐng)求狀態(tài)。

用戶可以基于關(guān)鍵詞，請(qǐng)求狀態(tài)進(jìn)行過濾和檢索。

同時(shí)，平臺(tái)自動(dòng)收集函數(shù)運(yùn)行指標(biāo)，如調(diào)用次數(shù)，運(yùn)行時(shí)間，錯(cuò)誤次數(shù)，被拒絕次數(shù)，并發(fā)數(shù)等。

5.2 版本迭代

在用戶更新函數(shù)代碼時(shí)，為保障“ChatGPT”業(yè)務(wù)穩(wěn)定運(yùn)行，可以配置APIG觸發(fā)器的后端服務(wù)指向函數(shù)別名：

擁抱Serverless，釋放生產(chǎn)力，函數(shù)工作流 FunctionGraph！