大模型時(shí)代，騰訊用自己的方式，邁出了第一步。

6 月 19 日下午，騰訊云召開發(fā)布會(huì)。首次正式公布行業(yè)大模型研發(fā)進(jìn)展，并發(fā)布面向 B 端客戶的騰訊云 MaaS（Model-as-a-service，模型即服務(wù)）服務(wù)解決方案。

值得注意的是，騰訊云并沒有像此前的谷歌、微軟，或者國(guó)內(nèi)的百度、阿里等大廠一樣，公布一個(gè)基礎(chǔ)的通用大模型。騰訊云 MaaS 的技術(shù)底座是一系列的行業(yè)大模型，包括金融、政府、文旅、傳媒、教育等。基于這些基礎(chǔ)模型，騰訊云的客戶只要加入自己的場(chǎng)景數(shù)據(jù)，就可以生成契合自身業(yè)務(wù)需要的「專屬模型」。

(資料圖片僅供參考)

國(guó)內(nèi)通用大模型的研發(fā)進(jìn)程受算力緊張、起步較晚等因素制約，客觀來說與 OpenAI 等全球領(lǐng)先的團(tuán)隊(duì)相比還有一定差距。但大模型在國(guó)內(nèi)落地的需求卻已刻不容緩，為了解決落地問題，推出更有針對(duì)性的行業(yè)大模型，并利用數(shù)據(jù)精調(diào)來滿足業(yè)務(wù)需要，已經(jīng)成為國(guó)內(nèi)云服務(wù)商曲線解決當(dāng)下困境的一種選擇。

這背后的邏輯是：重要的是解決具體場(chǎng)景的需求，只要產(chǎn)品的效果夠好，用戶并不會(huì)關(guān)注技術(shù)底座到底是通用大模型還是行業(yè)大模型。

顯然，騰訊云做出了相當(dāng)務(wù)實(shí)的選擇。會(huì)上，高管們介紹了一系列騰訊云 MaaS 的應(yīng)用案例，其中既有針對(duì)騰訊企業(yè)端 SaaS 產(chǎn)品的智能化升級(jí)，也有與央視等外部合作伙伴一起探索的應(yīng)用案例。

01

騰訊云 MaaS：

行業(yè)大模型精選店

騰訊云 MaaS 全景圖

會(huì)上，騰訊首次公布騰訊云 MaaS 服務(wù)解決方案。

騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群 CEO 湯道生介紹，騰訊云 MaaS 是基于 TI 平臺(tái)打造的行業(yè)精選模型商店，覆蓋金融、文旅、政務(wù)、傳媒、教育等 10 大行業(yè)，提供超過 50 個(gè)解決方案。在這些能力模型的基礎(chǔ)上，客戶只需要加入自己獨(dú)有的場(chǎng)景數(shù)據(jù)，就可以快速生成自己的「專屬模型」。

比如，騰訊云已經(jīng)和國(guó)內(nèi)某頭部在線旅游公司，基于「文旅大模型」打造了機(jī)器人客服，后者可以自動(dòng)判斷用戶意圖，并調(diào)用相應(yīng)的 API，高質(zhì)量完成用戶咨詢及服務(wù)。

如果一個(gè)用戶問，「節(jié)假日有哪些比較經(jīng)濟(jì)的旅游景點(diǎn)推薦？」基于通用大模型的客服機(jī)器人，只能給出一些簡(jiǎn)單的景點(diǎn)介紹和路線規(guī)劃。但是當(dāng)使用大量有針對(duì)性的行業(yè)數(shù)據(jù)來做模型精調(diào)之后，客服機(jī)器人的回答就變得更加細(xì)致，能夠規(guī)劃出每天的交通、景點(diǎn)安排，給出經(jīng)濟(jì)實(shí)惠的定制化推薦方案。

除了提供基礎(chǔ)的行業(yè)模型，數(shù)據(jù)方面，騰訊云同時(shí)推出了基于騰訊云 TI 平臺(tái)的行業(yè)大模型精調(diào)解決方案。

精調(diào)行業(yè)大模型是為了幫助模型開發(fā)者與算法工程師，解決數(shù)據(jù)的處理問題，高效率、高品質(zhì)、低成本地創(chuàng)建和使用大模型。此外通過 TI 平臺(tái)以及模型的私有化部署、權(quán)限管控和數(shù)據(jù)加密等方式，騰訊云還希望幫助開發(fā)者和企業(yè)客戶解決數(shù)據(jù)安全和隱私方面的擔(dān)憂。

比如騰訊云與中央電視臺(tái)打造的「央視人工智能開放平臺(tái)」。開發(fā)過程中也面臨數(shù)據(jù)量龐大、形態(tài)復(fù)雜的問題，導(dǎo)致傳統(tǒng)的數(shù)據(jù)標(biāo)簽體系都無法達(dá)標(biāo)。

為此，雙方重新構(gòu)建了一套傳媒專屬的數(shù)據(jù)標(biāo)簽體系，同時(shí)也研發(fā)了創(chuàng)新的「標(biāo)簽權(quán)重引擎」，讓數(shù)據(jù)標(biāo)簽顆粒度更細(xì)，并按照核心度排序。在這樣的數(shù)據(jù)標(biāo)簽體系支撐下，視頻編輯用自然語言就能實(shí)現(xiàn)跨模態(tài)檢索。比如，輸入「居民消費(fèi)力」，系統(tǒng)可自動(dòng)提供商場(chǎng)、超市相關(guān)素材，再搭配智能剪輯，就能快速生成視頻。

最后是關(guān)于大模型持續(xù)運(yùn)轉(zhuǎn)的燃料——算力。在大模型的訓(xùn)練和使用過程中，需要大量異構(gòu)算力的支持，對(duì)網(wǎng)絡(luò)速度與穩(wěn)定性要求也很高，加上 GPU 服務(wù)器比一般服務(wù)器穩(wěn)定性更低一些，服務(wù)器的運(yùn)維、問題的排查更頻繁，整體運(yùn)維的難度與工作量會(huì)高很多。

對(duì)此，騰訊云打造了面向模型訓(xùn)練的新一代 HCC（High-Performance Computing Cluster）高性能計(jì)算集群，搭載最新次代 GPU，結(jié)合多層加速的高性能存儲(chǔ)系統(tǒng)，加上高帶寬、低延遲的網(wǎng)絡(luò)傳輸，整體性能比過去提升了 3 倍。湯道生表示，HCC 獲得了很多客戶的高度認(rèn)可，幾家 AI 獨(dú)角獸都與騰訊云展開了合作。

除了計(jì)算集群，騰訊云還公布了更適合 AI 運(yùn)算的「軟能力」——向量數(shù)據(jù)庫(kù)，它能更高效地處理圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù)，支持單索引 10 億級(jí)規(guī)模，比單機(jī)插件式檢索規(guī)模提升 10 倍，數(shù)據(jù)接入 AI 的效率，也比傳統(tǒng)方案提升 10 倍。

02

行業(yè)大模型加持，

騰訊三大 SaaS 產(chǎn)品升級(jí)

騰訊云的行業(yè)大模型解決方案發(fā)布較晚，但這段時(shí)間他們也沒有閑著。

會(huì)上，騰訊云介紹了一系列已經(jīng)落地到產(chǎn)品的大模型應(yīng)用案例，其中大部分都是對(duì)騰訊已有的 SaaS 產(chǎn)品進(jìn)行智能化升級(jí)，包括騰訊會(huì)議、騰訊企點(diǎn)智能客服、AI 代碼助手。

整體來看，騰訊智能化升級(jí)的核心是智能助手，不論是騰訊會(huì)議的智能助手，騰訊企點(diǎn)的智能客服，還是輔助生成代碼的 AI 助手，本質(zhì)上都是針對(duì)不同場(chǎng)景下的 AI 助手。

這種思路與微軟有相似之處。微軟在今年 5 月的 Build 大會(huì)上宣布，將把基于通用大模型打造的智能助手 Copilot 融入到自己的各個(gè) ToB、ToC 產(chǎn)品服務(wù)體系，包括 Windows、GitHub、Bing 搜索、Azure 云等。

騰訊會(huì)議

在過去的兩年里，騰訊會(huì)議一直試圖為用戶提供更好的會(huì)前、會(huì)中、會(huì)后服務(wù)，但騰訊云副總裁、騰訊會(huì)議負(fù)責(zé)人吳祖榕也坦然承認(rèn)「說實(shí)話收效甚微」。

比如，在會(huì)議開始前詢問對(duì)方能否聽清自己的聲音是一個(gè)常見的場(chǎng)景，但這一問題過去一直沒能被解決，直到此次騰訊會(huì)議推出的覆蓋會(huì)議全流程場(chǎng)景的 AI 小助手。在 AI 小助手的幫助下，用戶開麥后就能接收到自己的聲音狀況是否良好的提示，以此減少彼此詢問造成的時(shí)間損耗。

上述場(chǎng)景只是一個(gè)很細(xì)節(jié)的點(diǎn)，除此之外，騰訊會(huì)議 AI 小助手還能在會(huì)前、會(huì)中、會(huì)后分別提供給用戶全流程的服務(wù)。

眾所周知，對(duì)于一線員工而言，會(huì)前約各位參會(huì)人員的時(shí)間是一個(gè)非常「痛苦」的過程，涉及到很多人員的時(shí)間協(xié)調(diào)，但是通過 AI 小助手，就可以將非常「痛苦」地反復(fù)詢問和修改變成一個(gè)完全數(shù)字化的過程。

在會(huì)議過程中，即便你因?yàn)槟承┰蝈e(cuò)過了部分會(huì)議內(nèi)容，只需打開 AI 小助手輕輕一點(diǎn)，此前的會(huì)議內(nèi)容就能盡收眼底。與此同時(shí)，參會(huì)者還可以通過 AI 助手針對(duì)性地在會(huì)議中查看某位成員的發(fā)言并進(jìn)行互動(dòng)。

會(huì)議結(jié)束后，AI 助手對(duì)于會(huì)議的記錄提煉，也不只是簡(jiǎn)單的轉(zhuǎn)寫，而是會(huì)分段落、分層次地總結(jié)出整場(chǎng)會(huì)議的主要內(nèi)容。通過將會(huì)議時(shí)間線劃分為不同段落，AI 助手能夠更方便用戶依據(jù)「章節(jié)」「發(fā)言者」「話題」快速定位到相關(guān)內(nèi)容。此前，會(huì)后智能錄制已經(jīng)在 5 月份小批量開放給會(huì)員和企業(yè)客戶試用，在此次大會(huì)上，騰訊也表示將正式向所有付費(fèi)用戶開放智能錄制功能。

智能客服

在傳統(tǒng)的運(yùn)營(yíng)模式中，團(tuán)隊(duì)經(jīng)常面臨兩大困擾：一個(gè)是官網(wǎng)用戶的運(yùn)營(yíng)分析復(fù)雜瑣碎，另一個(gè)就是官網(wǎng)的客服成本居高不下。針對(duì)這兩點(diǎn)，騰訊企點(diǎn)嘗試用企點(diǎn)智能分析和企點(diǎn)智能客服提供更加高效和精準(zhǔn)的全流程管理服務(wù)。會(huì)上，騰訊企點(diǎn)以「騰訊云官網(wǎng)」為例，介紹了騰訊企點(diǎn)的全新產(chǎn)品，以及行業(yè)大模型將如何幫助運(yùn)營(yíng)團(tuán)隊(duì)解決實(shí)際問題。

首先，依托于騰訊云行業(yè)大模型以及騰訊在分析領(lǐng)域的積累，企點(diǎn)分析 AI 助手擁有五大核心能力，分別是：數(shù)據(jù)的理解，指標(biāo)的拆解，語言的查詢，AI 的推理，結(jié)論的提煉。

在五大能力的加持之下，銷售人員只要問一句「哪個(gè)產(chǎn)品賣的最好」，就可以實(shí)現(xiàn)準(zhǔn)確的商業(yè)分析，不需要花費(fèi)大量的時(shí)間，學(xué)習(xí)復(fù)雜的軟件、制作看板。運(yùn)營(yíng)人員還可以將 AI 助手生成的分析結(jié)果保存至官網(wǎng)購(gòu)買專業(yè)分析看板中，后續(xù)運(yùn)營(yíng)人員就能夠在該面板中監(jiān)控官網(wǎng)的核心購(gòu)買數(shù)據(jù)。更便捷的是，AI 分析助手還提供了「一鍵報(bào)告生成」功能，通過此功能運(yùn)營(yíng)人員可以立刻獲得官網(wǎng)購(gòu)買頁(yè)專題分析的周報(bào)信息。

其次，在客戶感知力更強(qiáng)的客服領(lǐng)域，傳統(tǒng)的客服機(jī)器人往往會(huì)在幫助企業(yè)降本增效的同時(shí)損失部分用戶體驗(yàn)，而新一代的騰訊企點(diǎn)智能客服，基于行業(yè)模型，結(jié)合客戶業(yè)務(wù)需求進(jìn)行訓(xùn)練與精調(diào)，可以提供更精準(zhǔn)、更詳細(xì)的回答，甚至調(diào)用業(yè)務(wù)系統(tǒng)來提供實(shí)時(shí)數(shù)據(jù)。對(duì)比上一代智能客服的機(jī)械回答，用戶體驗(yàn)有很大的提升。

代碼助手

騰訊云 AI 代碼助手是此次大會(huì)上推出的又一款基于騰訊云行業(yè)模型的新產(chǎn)品。據(jù)介紹，借助騰訊云新一代 AI 代碼助手，程序員可以在溝通、編碼、排錯(cuò)、評(píng)審、調(diào)優(yōu)等環(huán)節(jié)提升生產(chǎn)力。

AI 代碼助手在全環(huán)節(jié)的功能包括：

在溝通環(huán)節(jié)，可以通過上下文推理可以幫助程序開發(fā)者加快理解代碼邏輯；

在編碼環(huán)節(jié)，可以根據(jù)當(dāng)前代碼類型對(duì)代碼進(jìn)行補(bǔ)全，并反向生成注釋和單元測(cè)試；

在排錯(cuò)環(huán)節(jié)，可以定位錯(cuò)誤問題并生成修改建議；

在評(píng)審環(huán)節(jié)，針對(duì)開發(fā)者提交的變更列表，可以幫助開發(fā)者生成評(píng)審建議和提交信息；

在調(diào)優(yōu)環(huán)節(jié)，可以通過自然語言指令快速修改代碼，實(shí)現(xiàn)效果調(diào)優(yōu)。

騰訊 AI 代碼助手支持 C/C + +、 JavaScript、Go、Python 等多種變現(xiàn)語言和常用開放的框架，以及 VS Code 等主流 IDE。同時(shí)基于正負(fù)反饋，AI 代碼助手可以持續(xù)進(jìn)行訓(xùn)練調(diào)優(yōu)，實(shí)現(xiàn)工具的持續(xù)改進(jìn)。目前，騰訊 AI 代碼助手已經(jīng)在騰訊內(nèi)部團(tuán)隊(duì)展開試點(diǎn)，數(shù)據(jù)發(fā)現(xiàn)，AI 代碼助手對(duì)開發(fā)者提高效率有接近 50% 的提升。

其他第三方應(yīng)用案例

除了騰訊自身的 B 端產(chǎn)品，騰訊云還在會(huì)上公布了一些與第三方合作的案例。

1、文旅：智能客服大模型應(yīng)用

在文旅領(lǐng)域，一家線上旅游 OTA 公司。其傳統(tǒng)智能客服需要人工進(jìn)行對(duì)話配置，知識(shí)維護(hù)量大、耗時(shí)長(zhǎng)，且涉及訂單等復(fù)雜業(yè)務(wù)場(chǎng)景，在無配置的情況下，無法通過機(jī)器人閉環(huán)解決問題。精調(diào)后的客戶專屬模型，無需配置對(duì)話流程，即可實(shí)現(xiàn)端到端解決業(yè)務(wù)問題。提升任務(wù)完成率，降低整體成本。

2、金融：OCR 大模型及智能客服場(chǎng)景

在金融領(lǐng)域，騰訊與客戶探索了 OCR 大模型在銀行單據(jù)處理場(chǎng)景中的應(yīng)用。傳統(tǒng)的 OCR 深度學(xué)習(xí)模型不具備閱讀理解和推理能力、模型指標(biāo)上限低，不同場(chǎng)景下模型能力無法復(fù)制，定制成本高。騰訊云聯(lián)合一家頭部銀行，基于 OCR 大模型，上線了 4 類票據(jù)的自動(dòng)化識(shí)別流程，信息錄入準(zhǔn)確率提升 50%。

3、政務(wù)：政務(wù)咨詢場(chǎng)景

政務(wù)領(lǐng)域，騰訊云與福建大數(shù)據(jù)集團(tuán)合作，基于大語言模型能力打造了首個(gè)智慧政務(wù)平臺(tái)。其構(gòu)建的小閩助手是福建政務(wù)領(lǐng)域首個(gè)互動(dòng)式大模型應(yīng)用，可以為市民提供 7X24 智能咨詢服務(wù)，譬如辦事指南、政策咨詢、數(shù)據(jù)查詢等。

4、教育：教育行業(yè)大模型

上海大學(xué)結(jié)合自身場(chǎng)景數(shù)據(jù)，通過騰訊云 TI 平臺(tái)進(jìn)行精調(diào)，構(gòu)建了專屬的教育行業(yè)大模型，計(jì)劃覆蓋包括在校生、畢業(yè)生全生命周期，提供咨詢和問答內(nèi)容，首個(gè)場(chǎng)景聚焦招生專業(yè)咨詢和規(guī)章制度咨詢。其他使用場(chǎng)景還包括教學(xué)助手、大模型人才培養(yǎng)、招生助手、作業(yè)批改。

5、傳媒：媒資管理場(chǎng)景

央視多年積累了海量的音視頻、圖片、文稿等信息資源，但過去由于缺少智能的技術(shù)手段，人工編輯整理的投入成本大，但檢索效率低，難以滿足媒體采編存管播發(fā)全流程的時(shí)效性、高質(zhì)量需求。對(duì)此，基于行業(yè)大模型能力，騰訊云幫助央視加強(qiáng)智能標(biāo)簽的理解、泛化能力，同時(shí)提升媒資檢索能力，支持使用自然語言描述的方式精準(zhǔn)檢索視頻、圖片素材，跨越了模態(tài)屏障。

03

國(guó)內(nèi) MaaS 混戰(zhàn)開啟，

騰訊云要怎么做？

隨著騰訊云正式宣布入局大模型，國(guó)內(nèi)云服務(wù)市場(chǎng)排名靠前的幾家，包括阿里云、華為云、騰訊云、百度云等都已加入這場(chǎng)大模型混戰(zhàn)，國(guó)內(nèi) MaaS 的競(jìng)爭(zhēng)已經(jīng)拉開序幕。

在海外市場(chǎng)，大模型的到來在很短時(shí)間內(nèi)就對(duì)云服務(wù)市場(chǎng)的格局產(chǎn)生了沖擊，快速增長(zhǎng)的微軟云正在挑戰(zhàn)亞馬遜的霸主地位。而在國(guó)內(nèi)尚沒有明顯的大模型領(lǐng)先者，各家云廠商在入局后，需要找到自己在這場(chǎng)競(jìng)賽中的定位。

今天大模型落地痛點(diǎn)，簡(jiǎn)單用一句話總結(jié)，就是行業(yè)需要更好用的模型，能用更低的成本部署，得到更好的效果。而騰訊的優(yōu)勢(shì)主要是其過去積累的龐大的業(yè)務(wù)數(shù)據(jù)和算力基礎(chǔ)設(shè)施，今天騰訊云的解決方案，就是基于這些過去的積累，解決大模型應(yīng)用落地的痛點(diǎn)。

首先，騰訊旗下有多個(gè)不同的業(yè)務(wù)板塊，多年來在金融、傳媒、文旅、工業(yè)等不同領(lǐng)域積累了大量的數(shù)據(jù)和經(jīng)驗(yàn)。以此為養(yǎng)料，騰訊云才能構(gòu)建起一系列針對(duì)不同行業(yè)的行業(yè)大模型，同時(shí)針對(duì)一些特定的任務(wù)進(jìn)行優(yōu)化，比如對(duì)客服等場(chǎng)景中的「對(duì)話問答」、「相似問生成」等，從而確保使用時(shí)僅需少了數(shù)據(jù)就可以達(dá)到較好的精調(diào)效果。

此外，大模型訓(xùn)練的基礎(chǔ)是算力。騰訊云在大模型算力方面擁有領(lǐng)先優(yōu)勢(shì)。早在今年 4 月，騰訊云便發(fā)布了面向大模型訓(xùn)練的新一代 HCC 高性能計(jì)算集群，采用最新一代騰訊云星海自研服務(wù)器，結(jié)合多層加速的高性能存儲(chǔ)系統(tǒng)，具備 3.2Tbps 業(yè)界最高互聯(lián)帶寬，算力性能提升 3 倍。

騰訊還有自己的升級(jí)框架加速能力太極 Angel，可以提供更優(yōu)的訓(xùn)練和推理加速能力。在傳統(tǒng) CV、NLP 算法模型的基礎(chǔ)上，新增了對(duì)大模型的訓(xùn)練和推理加速能力，通過異步調(diào)度優(yōu)化、顯存優(yōu)化、計(jì)算優(yōu)化等方式，相比行業(yè)常用方案性能提升超過 30%。

針對(duì)成本高、落地難的問題，騰訊云 TI 平臺(tái)實(shí)現(xiàn)針對(duì)行業(yè)場(chǎng)景的低成本落地。在少量算力的基礎(chǔ)上，提升特定任務(wù)的效果，比如智能客服場(chǎng)景，訓(xùn)練性能可提升 10 倍，訓(xùn)練成本下降 90%。

除了針對(duì) B 端客戶的解決方案，騰訊云也在嘗試建立行業(yè)大模型的標(biāo)準(zhǔn)體系。騰訊云在會(huì)上公布，正在聯(lián)合中國(guó)信通院，共同構(gòu)建行業(yè)大模型的標(biāo)準(zhǔn)體系及能力架構(gòu)，包括 1 套 ILMOps 方法論、60 多項(xiàng)能力建設(shè)指標(biāo)。這個(gè)標(biāo)準(zhǔn)體系覆蓋多個(gè)行業(yè)，涵蓋模型行業(yè)能力、模型工程化性能、模型算力網(wǎng)絡(luò)、模型安全可靠等方面。