4月23日，有媒體爆料稱，百度文心一言啟動邀測一個多月時間里，已經(jīng)迭代了4次，推理性能提升近10倍，其中業(yè)內(nèi)首創(chuàng)支持動態(tài)插入的分布式推理引擎，推理性能提升了123%。

百度首席技術(shù)官、深度學習技術(shù)及應(yīng)用國家工程研究中心主任王海峰在最近一次采訪中談及文心一言近況，他表示：“文心一言的進步首先是基于百度人工智能四層架構(gòu)的全棧布局，從芯片、深度學習框架，到大模型，再到應(yīng)用，實現(xiàn)了層與層反饋，端到端優(yōu)化。尤其是飛槳和文心一言的聯(lián)合優(yōu)化，大幅提升模型訓練和推理速度。同時文心一言也建立起人類反饋、獎勵模型和策略優(yōu)化之間的飛輪機制，隨著真實用戶的反饋越來越多，模型效果越來越好，能力越來越強?！?/p>

有分析人士解讀認為，“大模型就仿佛汽車的發(fā)動機，光賬面上的動力強，參數(shù)大是沒有用的，要壓榨出發(fā)動機瞬時最大爆發(fā)力（QPS）以及最優(yōu)的性能表現(xiàn)。深度學習框架就像是生產(chǎn)發(fā)動機和變速箱的，可以讓發(fā)動機整體部件組合更精密、動力更強。自研產(chǎn)品彼此適配度更高，協(xié)同會更高效，這可能是效率提升的最根本原因?！?/p>

據(jù)了解，飛槳支撐了文心一言從開發(fā)訓練到推理部署的全流程。例如，在大模型訓練上，飛槳的端到端自適應(yīng)分布式訓練技術(shù)，通過自動感知硬件環(huán)境，多維混合并行策略，異步流水線執(zhí)行等，支撐了大模型高效訓練；在推理部署上，飛槳支持大模型高效推理，提供服務(wù)化部署能力，包括計算融合、軟硬協(xié)同的稀疏量化、模型壓縮等，提升推理效率，幫助節(jié)約算力資源。

IDC《中國深度學習框架和平臺市場份額，2022H2》報告顯示，百度穩(wěn)居中國深度學習平臺市場綜合份額第一，領(lǐng)先優(yōu)勢進一步擴大。中國深度學習開源框架市場形成三強格局，飛槳PaddlePaddle超過谷歌TensorFlow，框架市場前三份額超過80%。