(相關資料圖)

手工勞動 / 獸姐

手工編輯 / 角叔

出品 / 獨角獸挖掘機

開年來，隨著 ChatGPT 的狂飆，引發(fā)了一輪全球的大模型熱，各方資金蜂擁而入。

ChatGPT 能夠成為火爆全球的頂流模型，除了自身強大的創(chuàng)新能力，也離不開強大算力的支持，這背后是耗資數(shù)億美元，用了英偉達數(shù)萬顆 A100 的微軟超級計算機。

一個有意思的現(xiàn)象是，打造出 ChatGPT 的明星公司 OpenAI 依然處于燒錢賺吆喝的巨虧狀態(tài)，提供核心算力芯片的英偉達卻是賺得缽滿盤滿，今年來股價已經(jīng)翻番，市值破萬億美元。

可以說，隨著大模型時代到來，給整個產(chǎn)業(yè)鏈都帶來了新的挑戰(zhàn)和機遇，甚至有人驚呼第四次科學技術革命到來了。

AI 大模型背后的海量數(shù)據(jù)，需要有強大的算力作為支持，這自然也推動了云計算的升級迭代。

某種程度上，大模型之爭說到底也是云服務能力之爭。在市場明顯過熱的情況下，行業(yè)也開始有一些更加理性的聲音傳出，不需要這么多大模型，真正能夠為產(chǎn)業(yè)所用才是正解。

如何解決算力成本高企后，大模型訓練本身帶來的高昂成本，讓很多企業(yè)想用而不敢用的問題？站在新的生產(chǎn)力時代的起點，從云入端，數(shù)字基建服務商應該怎么部署？

時代正在呼喚新一代數(shù)字基礎設施。尤其是大模型的爆發(fā)，對于算力基礎設施提出更高的要求，應盡可能地用更高效的異構基礎設施資源，來支持不同的算力需求。

01

大模型下的數(shù)字基礎設施

早在數(shù)年前，就有不少企業(yè)逐漸意識到數(shù)智化升級的重要意義，但隨著近年來數(shù)智轉型逐漸進入 " 深水區(qū) "，企業(yè)對此的需求也發(fā)生了一些明顯變化。

這些變化集中體現(xiàn)在三個方面。

從轉型意識來看，此前企業(yè)推動自身的數(shù)字化改造，幾乎都是從局部切入，更多是為了適應社會發(fā)展的被動數(shù)字化；而時至今日，這種觀點已發(fā)生了翻天覆地的變化，由點及面，越來越多企業(yè)開始主動求變，從全局出發(fā)，希望借助數(shù)字化來提升增長韌性。

從業(yè)務部署來看，在資源管理方面，多數(shù)企業(yè)原來只需單純管理 IaaS，現(xiàn)在則需要對全棧資源做統(tǒng)一管理；在安全防護方面，他們更希望在做推進數(shù)字化建設的同時，根據(jù)業(yè)務場景制定一體化安全體系，保障業(yè)務安全穩(wěn)定運營。

從 " 上云 " 模式來看，企業(yè) " 上云 " 整體呈現(xiàn) " 多態(tài)、多地、多芯、多棧 " 這四種形態(tài)，在云端 AI 進化到顯著的訓練推理、云桌面、圖形圖像設計等多元化場景階段時，云上異構成為最能發(fā)揮 AI 效率的計算方式，但這也給數(shù)字化建設提出了更為嚴峻的挑戰(zhàn)。

一方面要保證靈活性，在混合多云架構下，讓多種計算資源能夠進行良好的協(xié)作；另一方面，需要強調安全性，能夠廣泛支持各類芯片、云平臺及不同異構基建，提升中國企業(yè)的經(jīng)營韌性。

首先，是融合開放。從實際應用來看，一個數(shù)字基礎設施僅依靠單一架構，已很難支撐整個社會的運轉。市場需要更加融合、更加開放的基礎設施，這樣才能屏蔽很多客戶差異化的需求，把更多異構的硬件納入到設施管理中來，對不同行業(yè)、不同應用提供很好的兼容性。

數(shù)字基礎設施融合方法，要做到的就是三 " 多 " —— " 多云、多芯、多活 "，這個做到廣泛支持各類芯片架構，包括 GPU、CPU、NPU，包括兼容各類公有云和私有云平臺，這樣才能支持下一步的智能化和產(chǎn)業(yè)化的發(fā)展。

其次，是極致的技術降本。大模型和數(shù)字化對于基礎設施需求越來越大，技術密度、網(wǎng)絡帶寬和存儲需求，都呈幾何級增長，算力成本變成非常重要的因素，有能力把算力成本降得更低，這是作為一個好的基礎設施應該考慮的。

" 比如京東云新一代分布式存儲平臺云海，能夠做到千萬級的 IOPS，延遲達到百微秒以內，通過存算分離技術架構，節(jié)省成本超 30%。比如軟硬一體虛擬化引擎京剛，將算力虛擬化損耗降至零，作為數(shù)據(jù)中心級 DPU 引擎，將存儲 IOPS、網(wǎng)絡轉發(fā)性能均提升 50%。"

第三，是安全可靠。隨著智能化、信息化、數(shù)字化的推薦，信息安全也變得愈發(fā)重要。保證信息是安全、不被泄露，保證業(yè)務能夠高質量地、連續(xù)地發(fā)展，同樣值得重視。" 京東云在服務上可以做到 99.995%，在存儲上的可靠性可以做到 12 個 9，這都是全球頂尖的水平。"

02

統(tǒng)一邏輯的 " 一朵云 "

大模型的如火如荼，為產(chǎn)業(yè)發(fā)展帶來更多可能性，這也是互聯(lián)網(wǎng)大廠、科創(chuàng)公司爭搶布局的根本原因。

而另一個擺在面前的現(xiàn)實問題是計算硬件的性能提升門檻越來越高，AI 算力短缺問題極有可能是一個長期存在的問題。

對于大多數(shù)企業(yè)而言，想要更高效地解決算力瓶頸等問題，為自身數(shù)智化建設提供更充足、普惠且安全的 AI 算力，或許還有一條更為 " 經(jīng)濟 " 的途徑可走。

這里 " 更經(jīng)濟的途徑 "，對應的是數(shù)字基礎設施提供者的 "AI 普惠 " 相互對應，即基于穩(wěn)定的云計算基礎設施，將強大的 AI 算力和簡單上手的技術工具，輸送到企業(yè)特別是中小企業(yè)手中。

尤其是對中小企業(yè)來說，可以把這塊成本省下來，把服務交給京東這類能提供效率高且安全的云的大廠。

格局一打開，選擇就更多了。

從需求匹配的角度來看，在 " 萬物皆可上云 " 時代，混合多云確實是必要的，也逐漸成為主流趨勢之一。報告顯示，有高達 85% 的企業(yè)使用兩個或多云平臺，有 25% 的企業(yè)至少使用五個云平臺。

一云獨放不是春，多云混合春滿園。

從用戶端來說，采用 " 多云 " 架構，既可以避免與單一云廠商技術與業(yè)務綁定帶來的風險加劇，又可以構建更加靈活、性價比更高、有主導權的混合云結構，來解決存量、增量兩方面問題。

如何通過統(tǒng)一邏輯 " 一朵云 " 實現(xiàn)更敏捷、更開放、更高性價比和一致體驗的云架構，正是混合多云技術要解決的問題。

而京東云對此頗有心得。從創(chuàng)立之初起，京東云就支撐著京東大生態(tài)的運行，京東各條線業(yè)務從 " 上云 " 那一刻起，就生長出一個混合多云的環(huán)境，這也是一個天然的超大規(guī)模混合多云實踐場。

按照京東云事業(yè)部副總裁劉辰的介紹，京東的混合多云平臺是以應用為中心的云設計范式，與以資源為中心的傳統(tǒng)公有云、專有云平臺不同，混合多云平臺讓算力去找應用，讓算力去找數(shù)據(jù)，實現(xiàn)算力按需按時供給和數(shù)據(jù)流動。

簡言之，就是在落地層面實現(xiàn)多云、多芯、多活。這也是新一代數(shù)字基礎設施三大典型特征最重要的體現(xiàn)。

在多云方面，京東通過統(tǒng)一的云抽象層 " 云艦 "，打通分布在公有云、專有云、IDC 和邊緣節(jié)點的物理基礎設施，打通 Underlay 和 Overlay 網(wǎng)絡，數(shù)據(jù)和業(yè)務應用，并實現(xiàn)統(tǒng)一的運維運營和管理體系，從統(tǒng)管到統(tǒng)建。

在多芯方面，除了全面兼容 Intel，AMD，ARM 架構的 CPU，和全棧國產(chǎn)化軟硬件體系基礎上，通過京東集團生產(chǎn)級業(yè)務的國產(chǎn)化應用落地的打磨，京東云積累了從硬件到操作系統(tǒng)，基礎數(shù)據(jù)庫和中間件，以及應用運行時的全棧調優(yōu)經(jīng)驗，實現(xiàn)生產(chǎn)級國產(chǎn)化可用。

在多活方面，云艦與現(xiàn)在的一云多芯的云架構，以單元化技術，實現(xiàn)同一個應用跨芯片進行多活部署和調度，一部分流量運行在傳統(tǒng) x86 云平臺，另外一部分流量運行在國產(chǎn)化平臺，不斷優(yōu)化適配性能，穩(wěn)定性和兼容性，實現(xiàn)應用在國產(chǎn)化環(huán)境的真替真用。

成本是不容忽視的另一個重點，京東云給出的解決方案是 " 異構算力池化 "。

一方面支持本地的 GPU/NPU 虛擬化，容器化，讓 AI 應用無需修改代碼就可以調用遠端的 GPU、NPU 資源，實現(xiàn)數(shù)據(jù)中心級別的池化管理和彈性調度，并與現(xiàn)有云平臺打通，實現(xiàn) CPU，GPU 協(xié)同調度；另一方面，同時兼容多種 AI 訓練框架，并支持多種 AI 推理任務混合部署。

如此看來，京東云所打造的統(tǒng)一邏輯的 " 一朵云 "，不僅更適用于當下企業(yè)數(shù)智化轉型的需要，更重要的是，其這種通過精益調度為企業(yè)降本增效的功效，已成為新一代數(shù)字基礎設施的一類代表能力。

03

走向產(chǎn)業(yè)是必然

2023 年開年以來，以 BATJ 為代表的互聯(lián)網(wǎng)大廠，以商湯科技、科大訊飛等為代表的科技公司，以及各類初創(chuàng)企業(yè)，紛紛加入大模型領域。京東也宣告將在 7 月 13 日正式發(fā)布自己的大模型，以及京東大模型與產(chǎn)業(yè)場景結合的最新進展。

盡管公眾對于 AI 的關注已達到了一個新的高度，但從大市場的動作來看，大多數(shù)互聯(lián)網(wǎng)企業(yè)、科技企業(yè)等在錘煉大模型時，大多似乎都是直接對標 OpenAI 的 GPT-4，坦白講，鮮有顯著的差異化價值。

大模型想要 " 研以致用 "，走向產(chǎn)業(yè)已是一種必然。

但在產(chǎn)業(yè)應用的過程中，大模型企業(yè)可能要思考的是：一來，技術快速溢出，但算力基礎設施難以同步跟進，如何解決越來越大的算力供需的 " 剪刀差 "；二來，千行百業(yè)的落地條件和能力稟賦各有所不同，如何結合行業(yè)周期、行業(yè)痛點、個體特征等提供服務方案。

這就要求數(shù)字基礎設施服務商，必須擁有豐富的服務實體產(chǎn)業(yè)經(jīng)驗，可以及時洞察產(chǎn)業(yè)客戶的需求，并基于此進行技術和產(chǎn)品的更新迭代，讓每一個技術創(chuàng)新都能切實解決真實場景下各類用戶最在意的真問題。

這就是京東云不斷聚焦于 " 產(chǎn)業(yè) " 方向的關鍵所在。就實踐這一層，京東云已通過 " 服務練兵 "，驗證了產(chǎn)業(yè)大模型真正走向應用的可能與商業(yè)價值。

將京東云在生態(tài)內的極限考驗平移至大市場，在對外部企業(yè)提供數(shù)字服務支持時，京東云同樣顯得格外游刃有余。

這不得不提到京東云在 2022 年與央視春晚的紅包合作。在沒有額外增加一臺服務器的基礎上，京東云騰挪調度現(xiàn)有資源，包括遍布全國的 70 多座數(shù)據(jù)中心、近 300 萬個容器、超 1000 萬核算力資源，通過 16 次秒級精準調度資源，支持了那場超大流量洪峰的全球節(jié)目。

此外，國家電投、中化能源、蘇州農(nóng)商行等重量企業(yè)都進入了京東云的 " 朋友圈 "。這些客戶基礎資源龐大，管理復雜，遷移困難，業(yè)務龐雜，而京東云在他們原有云資源環(huán)境的基礎上，完成混合多云部署，為各業(yè)務部門之間跨系統(tǒng)、跨業(yè)務單元提供一體化協(xié)同管控。

截至目前，京東云已服務了超 95% 的大型央企、2048 家大型企業(yè)、914 家金融機構和超 207 萬家中小微企業(yè)。

"對京東來說，技術永遠只是手段，而不是目的，我們發(fā)展大模型，最終還是希望將產(chǎn)業(yè)實踐中凝聚出的數(shù)字化能力，開放出來服務社會，不斷提升產(chǎn)業(yè)效率。" 曹鵬如是說。

曾幾何時，人們認為做大模型像是一場短跑比賽，拼的是眼力和速度，只要看得準時機、提前入局、快速投入，就能狂飆突進甚至成功沖刺。

現(xiàn)實情況已讓各方愈發(fā)深刻地意識到，大模型走入千行百業(yè)，實際是一場跨欄比賽，要跨過：算力資源的性價、基礎模型的選擇、業(yè)務場景的結合、開發(fā)工具的完備、商業(yè)模式的摸索、生態(tài)資源的支持等。

只有這樣，才有可能更好地面對大模型時代的到來。（完）