智東西（公眾號：zhidxcom）

作者 | 三北

編輯 | 漠影

(資料圖片)

過去三個月，隨著 " 千模大戰(zhàn) " 在全國爆發(fā)，頭部玩家百度文心一言 " 大招 " 不斷。

昨日，百度智能云在成都舉辦的技術交流會上公布了最新成績單：過去近三個月，文心一言實現(xiàn)了推理性能提升 10 倍，高性能版推理性能提升 50 倍。這意味著，同等效果的大模型，企業(yè)獲取的成本大大降低。

同時，百度文心一言大模型在應用上 " 再攻一城 "：繼百度搜索、百度地圖、小度音箱等應用接入文心一言之后，昨日，基于文心大模型的 AI 輔助編程工具 Comate 啟動邀測，助開發(fā)者提高研發(fā)效率。

▲基于 Comate 輔助的 " 貪吃蛇 " 游戲編程

在市場和生態(tài)方面，百度智能云也公布了一組數(shù)據(jù)：截至當下，已有超 15 萬客戶申請接入文心一言，超 300 家企業(yè)成為文心一言生態(tài)伙伴，實現(xiàn)超 400 個具體場景落地。結合此前百度公布的 10 億元文心投資基金，這些數(shù)據(jù)展現(xiàn)出文心一言的強勁表現(xiàn)。

頭部客戶方面，包括百圖生科、長安汽車、地平線、知乎、軟通動力等在內的多家企業(yè)，都基于百度文心千帆大模型平臺取得了大模型落地進展。

AI 大模型的 " 百度速度 "，從一定程度上代表了國產大模型的發(fā)展速度。而在國產大模型加速賽跑的同時，國外的微軟、亞馬遜的 AI 競賽同樣愈演愈烈，為國產大模型施壓。

加速 AI 發(fā)展成為各地政策所向，如何縮短與 GPT-4 的差距，也一直是國內產業(yè)持續(xù)關注的問題。通過對話百度智能云 AI 平臺副總經理施恩，我們深入了解了百度文心一言過去三個月的迭代思路和心路歷程，同時也探討了 AI 大模型落地產業(yè)的真實挑戰(zhàn)和應對之道。

一、從代碼助手到千行百業(yè)，國產 AI 大模型加速 " 軟著陸 "

首先來看看大模型應用更新。在本次技術交流會上，AI 代碼助手 Comate 是一個文心大模型應用矩陣中的新物種。

作為一款程序員 " 神器 "，Comate 可幫程序員實現(xiàn)代碼的快速補齊、自然語言推薦代碼、自動查找代碼錯誤，從而提升研發(fā)效率。根據(jù)百度官方數(shù)據(jù)，在 Comate 輔助編寫的代碼中，近 50% 的建議代碼被開發(fā)者采納。

實際上，市面上已經有一些同類 AI 代碼助手上線，包括微軟旗下 GitHub 推出的 Copilot X、AWS 推出的 CodeWhisperer 等。那么 Comate 的實際體驗效果如何？

會上，施恩通過一個 " 貪吃蛇 " 小游戲的開發(fā)現(xiàn)場演示了 Comate。當開發(fā)者輸入 "canvas"，以及 " 彈性布局，水平居中，垂直居中 " 等中文備注，"Comate" 即自動識別語義，生成游戲畫布代碼。當他再輸入 "param color"、"left"、"food=" 等顏色、方向、食物的簡單詞匯，"Comate" 自動聯(lián)系上下文理解指令，補全代碼，并在多條推薦代碼之間切換，選擇合適代碼，系統(tǒng)就直接生成了可運行的 " 貪吃蛇 " 小游戲。

據(jù)悉，百度自 2021 年起就基于文心大模型研發(fā)代碼輔助工具，自 2022 年 9 月起就在內部全面測試。Comate 目前已經覆蓋了 30 余種編程語言，包括 C/C++、Python、Java、Go、PHP、JavaScript 等。Comate 支市面上主流 IDE，開發(fā)者可以通過插件等形式，在不同軟件中使用 Comate。同時，結合飛槳深度學習框架與文心大模型，Comate 可確保推理單次請求 300ms 左右，以極快的響應速度保障用戶使用體驗。

面對市面上已有大廠的編程輔助工具，百度的 AI 代碼助手有什么差異化價值？

施恩告訴智東西，市面上代碼助手工具的定位都是用于輔助代碼撰寫，提升效率，Comate 的一大差異化在于考慮了國內開發(fā)者的中文注釋習慣，具備中文注釋推薦代碼能力。同時，相比于市面上產品大多基于開源代碼訓練，百度 Comate 是結合其內部眾多業(yè)務開發(fā)代碼訓練而來，能做到業(yè)務實用性更強；此外，相比市面上產品需要基于公有云部署，Comate 則支持私有化部署，從而減少安全隱患。

根據(jù)百度智能云的規(guī)劃，在第一階段，Comate 的主要功能是以輔助代碼撰寫為主；在第二階段，Comate 將實現(xiàn)在特定領域、場景的自然語言代碼生成；第三階段，將實現(xiàn)全領域的自然語言開發(fā)。

縱觀過去三個月里文心一言落地的應用，已經形成了一個矩陣。除了 Comate，文心一言已落地百度搜索、新聞推薦、百度地圖、如流辦公平臺、小度智能音箱等百度自有業(yè)務，同時落地了百圖生科、長安汽車、地平線、知乎、軟通動力等企業(yè)場景。

盡管很多場景還在探索之中，實際效果尚待驗證，但大模型在行業(yè)的 " 軟著陸 " 目前來看進展順利。

二、推理性能提升 50 倍，文心一言主動 " 瘦身 " 賦能行業(yè)

除了肉眼可見的應用方面進展，按照百度智能云公布的情況，文心一言大模型本身的迭代也達四版，效果和性能方面顯著提升。

根據(jù)百度智能云官方數(shù)據(jù)，自 3 月 16 日文心一言開放測試以來，模型本身的推理性能已提升 10 倍。同時，在企業(yè)應用的高頻、核心場景中，文心一言的高性能模式 " 文心一言 -Turbo"，其推理服務性能已經提升了 50 倍。

文心一言 -Turbo 是什么意思？50 倍性能提升又意味著什么？

文心一言 -Turbo，簡單來說，可以理解為一個 " 瘦身 " 的文心一言大模型，能在保證實現(xiàn)文心一言相同效果的同時，降低模型參數(shù)規(guī)模，從而降低企業(yè)的使用大模型的算力成本。

而在 50 倍這一數(shù)字背后，施恩告訴智東西，隨著文心一言 -Turbo 帶來 50 倍性能提升，未來客戶將能感受到使用成本的降低。同時，模型的響應時長將被縮短，使得對時延要求高的場景體驗大大提升。此外，在資源擴展性方面，文心一言 -Turbo 使得私有云部署的客戶算力儲備和占用變少，取得明顯收益。

文心一言及文心一言 Turbo 有各自適用的場景，為不同企業(yè)提供了不同選擇。

一類是通用應用型企業(yè)，往往需要用大模型改善終端應用效果或孵化創(chuàng)新應用，比如 WPS、石墨等，核心關注的是大模型的效果保障。由于很多企業(yè)的應用是通用的，因此會選擇泛化性更強的文心一言，以解決更多問題。

一類是行業(yè)龍頭企業(yè)，希望構建行業(yè)大模型服務上下游企業(yè)。比如教育、金融、能源等方向的龍頭企業(yè)，手握行業(yè)數(shù)據(jù)和場景積累，需要在專業(yè)領域構建基于行業(yè)大模型的應用。文心一言 Turbo 更適用于終端的應用場景，結合企業(yè)自身數(shù)據(jù)能達到更好的場景化效果。

可以看到，經過近 3 個月迭代發(fā)展，百度文心一言的行業(yè)落地正在分出兩條清晰的路線：通用大模型和行業(yè)大模型并舉。

縱觀全球 AI 大模型發(fā)展格局，國內 AI 大模型與 OpenAI 旗下的 GPT-4 的差距難以在短時間內趕上。但 3 個月的落地讓施恩對這一問題有了新認識，他認為，企業(yè)更關注的是大模型如何與企業(yè)場景做結合解決實際問題，而不是大模型評測情況。

" 通用模型能力是一方面的，怎樣更好地跟行業(yè)數(shù)據(jù)、行業(yè)知識相結合，去解決問題是更重要實用的。" 施恩說，" 我們這兩個方面都會關注。通用模型的邏輯、推理等能力提升，有助于更好訓練行業(yè)大模型；同時也不完全依賴于通用模型的全面性，不影響我們在一些特定的行業(yè)去應用落地。"

三、文心千帆進化 10 周，大模型正顛覆云計算范式

根據(jù)科技部新一代人工智能發(fā)展研究中心發(fā)布的《中國人工智能大模型地圖研究報告》顯示，目前中國 10 億以上參數(shù)規(guī)模的大模型已達 79 個。但這可能僅僅是冰山之上的情況，一場 " 千模大戰(zhàn) " 在過去三個月里已經鋪開。

市場需求在過去三個月已發(fā)生微妙變化，也影響著智能云產業(yè)的發(fā)展走勢。

百度集團副總裁侯震宇在 5 月的閉門技術交流會上談道，在 3 月 16 日文心一言剛開放時，來咨詢的客戶大多是 CEO 級別的一把手，從戰(zhàn)略上認可大模型的重要性；兩個多月之后，團隊接觸到越來越多業(yè)務負責人，他們希望更快用大模型提高業(yè)務能力，從而在競爭中獲得優(yōu)勢。

與此同時，隨著 AI 大模型落地行業(yè)，一些實際挑戰(zhàn)也顯現(xiàn)出來。施恩告訴智東西，一是客戶使用上的困難，比如大模型需要較好的 Prompt（提示詞）做觸發(fā)，而一些客戶難以結合場景去編寫 Prompt，就使效果打折扣；二是通用大模型與專用場景的匹配不足，專業(yè)知識庫的缺乏阻礙大模型效果發(fā)揮；另外是與企業(yè)業(yè)務系統(tǒng)集成的挑戰(zhàn)，這需要與更具行業(yè)經驗的伙伴合作，等等。

AI 大模型發(fā)展勢在必行，產業(yè)如何解決這些挑戰(zhàn)？

對此，百度實際上在文心一言上線之后就給出了解法——標準化平臺賦能行業(yè)。

3 月 27 日，百度文心千帆一站式企業(yè)級大模型平臺開啟測試。這是一個包含了文心大模型及第三方模型，以及構建大模型能力所需要的全場景工具鏈。比如行業(yè)伙伴需要的 SFT 大模型效果調優(yōu)、Prompt 工程等，都可以從這個平臺上獲取。

而經過近 10 周的迭代，文心千帆平臺雖然還不能說取得成績，但已經在生態(tài)方面有一些進展。除了文心一言大模型本身已迭代 4 個版本，還包括 15 萬企業(yè)申請內測、推出五大行業(yè)樣板間、400 多場景測試取成效等，包括長安汽車、百圖生科等伙伴都已經公布了成果。如下圖所示，文心千帆平臺大目標是能夠覆蓋 AI 研發(fā)的全生命周期，包括數(shù)據(jù)管理、模型訓練、模型評估、預測部署和插件服務等多項能力，支持公有云服務和私有化部署多樣化部署方式，從而實現(xiàn)更易用、更全面、更安全、更高效、更開放、更集成。據(jù)悉，文心千帆的核心迭代思路可以歸結為兩個核心關鍵點：一是效果，推理能力如何，與業(yè)務結合能否解決問題，是企業(yè)第一關心的。二是性能，要持續(xù)降本，對百度智能云的要求就是要在技術架構上持續(xù)提升性能。為此，大模型落地需要由算力、框架、模型、應用構筑的四層架構相互配合提供支撐。百度智能云正通過 AI 大底座，從芯片層、操作系統(tǒng)層、框架層、應用層 4 層架構占據(jù)先發(fā)優(yōu)勢。

可以看到，隨著 AI 大模型展開落地，云計算行業(yè)的產業(yè)規(guī)則正在被 AI 改變。主流商業(yè)模式正從強調規(guī)模的 IaaS（基礎設施即服務），向強調多層技術棧協(xié)同的 MaaS（模型即服務）發(fā)展，為云計算產業(yè)帶來進化升級的新機遇。

結語：" 千模大戰(zhàn) "100 天，頭部企業(yè)服務版圖基本成形

隨著 AI 大模型加速產業(yè)落地，打頭陣的百度文心一言已實現(xiàn)多次進化迭代。

3 月 16 日，百度大語言模型產品文心一言邀請測試；3 月 27 日，百度智能云文心千帆大模型平臺面向首批企業(yè)客戶啟動內測，在智能辦公、旅行服務、電商直播、政務服務、金融服務五大領域打造行業(yè)樣板間。

4 月 25 日，百度智能云宣布六大智能產品系列將基于文心一言升級，未來將在安全評估完成后上線。4 月 26 日，百度智能云宣布文心一言大模型推理成本降到原來的 1/10。

5 月 9 日、5 月 23 日百度智能云在北京、深圳舉辦技術交流會，首次演示用 " 文心千帆 " 大模型平臺可視化微調大模型的全過程。5 月 31 日，百度將設立 10 億元人民幣的百度文心投資基金。

6 月 6 日，百度智能云推出文心一言高性能模式（文心一言 -Turbo）、開放代碼助手 Comate 邀測。

可以看到，百度文心一言企業(yè)服務版圖成形。追溯到其升級思路，則是主要沿著效果和性能兩條主干線，以助各行各業(yè)的企業(yè)更快地通過大模型，滿足業(yè)務的實際需求。

當我們提到 AI 大模型時，很自然地想到的是算力。而實際上，隨著大模型在產業(yè)場景中找到更多的結合點，能否解決客戶問題成為最關鍵的問題。因此，更智能的算力、靈活的框架平臺、豐富的大模型體系以及優(yōu)質的應用方案，都將成為企業(yè)決勝 " 千模大戰(zhàn) " 的關鍵。