最近一年，以 ChatGPT 為代表的生成式 AI 以迅雷不及掩耳之勢(shì)霸占了全球互聯(lián)網(wǎng)的熱度，伴隨著全民嘗鮮 AI 的熱潮，國內(nèi)外大廠也紛紛下場投身 AI 大模型的研發(fā)與應(yīng)用。一時(shí)之間，生成式 AI 風(fēng)頭無兩。

生成式 AI 革新移動(dòng)端使用場景

生成式 AI 讓我們窺見了近未來，并且已經(jīng)在大量行業(yè)場景得到了具體應(yīng)用。在移動(dòng)端，我們實(shí)際上已經(jīng)能夠見到很多與 AI 相關(guān)的應(yīng)用。例如在用戶拍照時(shí)，設(shè)備可以自動(dòng)識(shí)別物品，根據(jù)環(huán)境和場景自動(dòng)優(yōu)化畫面內(nèi)容，實(shí)現(xiàn)更好的成像效果 ;AI 能夠根據(jù)用戶的生活工作習(xí)慣規(guī)劃日程，與語音助手相結(jié)合能夠?qū)崿F(xiàn)私人助理一般的交互體驗(yàn) ;AI 還能夠幫助智能判斷設(shè)備的狀態(tài)、學(xué)習(xí)用戶的使用習(xí)慣，在自動(dòng)分配性能到需要高算力、高負(fù)載的應(yīng)用時(shí)，自動(dòng)優(yōu)化充電與電池調(diào)用，讓設(shè)備的使用更加智能。

生成式 AI 已然改變了我們對(duì)于傳統(tǒng)意義上 AI 應(yīng)用場景的理解。就拿目前已經(jīng)相當(dāng)成熟的問答式 AI 來說，在結(jié)合各家智能語音助手以及搜素引擎之后，用戶可以像與人對(duì)話一樣直接與設(shè)備進(jìn)行交互。不僅可以進(jìn)行常規(guī)的提問 " 今天天氣如何 "" 高通是一家什么公司 "，還能夠直接調(diào)用互聯(lián)網(wǎng)海量信息，對(duì)用戶的問題進(jìn)行針對(duì)性的回答。

(資料圖片僅供參考)

伴隨著如自然語言處理、機(jī)器學(xué)習(xí)等技術(shù)的發(fā)展，生成式 AI 技術(shù)更加全面和智能化，在端側(cè)具備廣闊的應(yīng)用前景，可以實(shí)現(xiàn)更加復(fù)雜和高級(jí)的內(nèi)容生成和創(chuàng)作。

在圖像生成領(lǐng)域，通過學(xué)習(xí)已有的圖像數(shù)據(jù)，AI 可以生成出與原始數(shù)據(jù)相似的新圖像。例如我們拍攝了一張照片，將身邊雜亂的場景裁切之后，使用生成式 AI 能夠基于已有的照片 " 補(bǔ)完 " 更大照片內(nèi)容，人物也能完美融入其中。此外，生成式 AI 技術(shù)還可以應(yīng)用于圖像的超分辨率、去噪和圖像修復(fù)等場景。

都說移動(dòng)端進(jìn)行文字創(chuàng)作不如別的大屏終端方便。有了生成式 AI，我們可以在移動(dòng)端生成與人類寫作相似的文本。自動(dòng)寫作、機(jī)器翻譯，生成式 AI 能極大提升移動(dòng)終端側(cè)的生產(chǎn)力。在音頻處理領(lǐng)域，AI 可以幫助用戶進(jìn)行通話降噪、優(yōu)化通話質(zhì)量和收音效果。無論是游戲語音還是音視頻通話都很有作用。而有了生成式 AI 的加持，用戶可以在移動(dòng)端生成出逼真的語音、音樂和音效，可以廣泛應(yīng)用于配音、通話、游戲等場景。

生成式 AI 技術(shù)還應(yīng)用于游戲開發(fā)領(lǐng)域，將極大地幫助游戲開發(fā)者。依靠 AI 自動(dòng)生成游戲場景、道具和角色等元素，免除了重新建模、渲染的繁復(fù)步驟。節(jié)省時(shí)間、提高效率，用戶也能早日體驗(yàn)到精彩的游戲內(nèi)容。

夯實(shí)基礎(chǔ) 第二代驍龍 8 打造移動(dòng)端 AI 核心

移動(dòng)場景下的 AI 大有作為。目前我們能見到的生成式 AI 往往都聚集在 PC 端，運(yùn)行 AI 大模型需要相當(dāng)高的算力，需要 CPU、GPU 等硬件進(jìn)行支持。在人工智能三要素中，無論是數(shù)據(jù)還是算法，都離不開算力的支撐，這也是行業(yè)的共識(shí)。

高通在移動(dòng)硬件領(lǐng)域有著夯實(shí)的技術(shù)基礎(chǔ)。第二代驍龍 8 也是驍龍 AI 發(fā)展歷程中的里程碑。這一平臺(tái)從設(shè)計(jì)之初就與 AI 緊密結(jié)合，采用了分布式的 AI 設(shè)計(jì)，其集成的高性能高通 AI 引擎涵蓋多個(gè)軟硬件組件，包括高通 Hexagon 處理器、Adreno GPU 和 Kryo CPU，可以通俗地認(rèn)為它并非只有一個(gè) AI 處理單元，而是將 AI 處理單元其分布在各個(gè)需要 AI 提供助力的單元中。從硬件層面來看，高通 AI 引擎實(shí)現(xiàn)了高達(dá) 4.35 倍的算力提升，和 60% 的能效提升，并且率先支持 INT4 AI 精度格式 ; 而高通傳感器中樞則帶來了先進(jìn)的 AI 處理能力，性能提升了 2 倍，同時(shí)內(nèi)存提升了 50%。

高通為 Hexagon 處理器加入專用的供電系統(tǒng)，進(jìn)一步提升芯片處理的能效比 ; 改進(jìn)內(nèi)存讀寫，降低能耗 ; 通過微切片的推理方式，將單個(gè)神經(jīng)網(wǎng)絡(luò)拆分成幾萬個(gè)微切片，然后將其分配到張量、標(biāo)量、向量加速器上，從而提高整個(gè)神經(jīng)網(wǎng)絡(luò)的推理速度。

在第二代驍龍 8 身上，我們能夠看到 AI 全面參與芯片運(yùn)行，幫助優(yōu)化用戶在使用設(shè)備的每一個(gè)場景、每一個(gè)細(xì)節(jié)。而對(duì) AI 的應(yīng)用遠(yuǎn)不止于此，驍龍 X70 5G 調(diào)制解調(diào)器及射頻系統(tǒng)是全球首個(gè)和唯一一個(gè)配備 5G AI 處理器的調(diào)制解調(diào)器及射頻系統(tǒng)，利用其強(qiáng)大的 AI 功能支持在終端上實(shí)現(xiàn)突破性的連接速度。并配合高通 FastConnect 7800，第二代驍龍 8 將開啟 Wi-Fi 7 時(shí)代，高頻多連接并發(fā)技術(shù)能實(shí)現(xiàn) Wi-Fi 7 峰值速度高達(dá) 5.8Gbps，和低于 2 毫秒的時(shí)延。同時(shí)也帶來先進(jìn)的雙藍(lán)牙技術(shù)，實(shí)現(xiàn)配對(duì)連接速度翻倍。在影像層面，AI 幫助第二代驍龍 8 實(shí)現(xiàn)了首個(gè)認(rèn)知 ISP，實(shí)時(shí)運(yùn)行 " 語義分割 "AI 照片編輯技術(shù)。運(yùn)用經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)識(shí)別多種不同物體，并整個(gè)過程都能在強(qiáng)大的 ISP 里完成。具備實(shí)時(shí)分層像素處理和實(shí)時(shí)語義分割濾鏡的認(rèn)知 ISP 和高通 AI 引擎勢(shì)必開啟下一代專業(yè)品質(zhì)影像體驗(yàn)。正如高通技術(shù)公司產(chǎn)品管理副總裁 Judd Heape 所言，" 實(shí)時(shí)語義分割技術(shù)具有開創(chuàng)性意義，這意味著攝像頭能夠真正實(shí)現(xiàn)對(duì)捕捉畫面的情景感知。"高通通過提升 AI 引擎并升級(jí) Snapdragon Smart 特性賦能第二代驍龍 8，讓這些設(shè)備能夠提供用戶在當(dāng)前所能切身體驗(yàn)到的可能是最優(yōu)秀的 AI 場景應(yīng)用。隨著今年 10 月的臨近，第三代驍龍 8 也即將與廣大消費(fèi)者見面。相信在新一代的旗艦平臺(tái)上，高通會(huì)進(jìn)一步提升 AI 算力，并針對(duì) AI 進(jìn)行持續(xù)優(yōu)化，進(jìn)一步提升用戶在移動(dòng)端的 AI 體驗(yàn)。

全棧 AI 優(yōu)化引領(lǐng)終端側(cè) AI 解決方案

今日，高通發(fā)布白皮書《混合 AI 是 AI 的未來》，為我們描繪了混合 AI 發(fā)展前景，高通是如何闡釋混合 AI 的？在高通的引領(lǐng)下，混合 AI 將走向何方？

高通認(rèn)為混合 AI 是 AI 未來必經(jīng)之路。所謂混合式 AI 也就是傳統(tǒng)基于云端的 AI 與端側(cè) AI 的結(jié)合，云端和終端共同處理 AI 計(jì)算，借助端側(cè)的即時(shí)感知、即時(shí)處理優(yōu)勢(shì)填補(bǔ)云端 AI 在延遲方面的短板，同時(shí)，云端的超高算力也能對(duì)端側(cè) AI 性能不足的情況進(jìn)行強(qiáng)有力的補(bǔ)充。

從高通的規(guī)劃來看，未來 AI 將在云端、邊緣云和終端側(cè)協(xié)同運(yùn)行，構(gòu)建混合 AI 架構(gòu)。正如第二代驍龍 8 中 AI 對(duì)于 5G 的加成，5G 同樣是連接云端算力和終端應(yīng)用的關(guān)鍵橋梁，也正是 5G 使整個(gè)混合 AI 系統(tǒng)中的計(jì)算和處理能力得以以最有效的方式分布，實(shí)現(xiàn)更強(qiáng)大、更便利、更高效、更優(yōu)化的 AI。

高通所推崇的混合 AI 解決方案是一個(gè)全棧優(yōu)化的整體解決方案。高通為應(yīng)用、神經(jīng)網(wǎng)絡(luò)模型、算法、軟件和硬件進(jìn)行了全棧 AI 研究和優(yōu)化。異構(gòu)計(jì)算方法利用硬件 ( 比如 CPU、GPU 和 AI 加速器 ) 和軟件 ( 比如高通 AI 軟件棧 ) 來加速終端側(cè) AI。從算法和模型開發(fā)到軟件和模型效率、從量化編譯到硬件加速，高通的全棧式 AI 優(yōu)化如同齒輪般精密嚙合，形成了如今我們看到的樣子。

隨著強(qiáng)大的生成式 AI 模型不斷縮小以及終端側(cè)處理能力的持續(xù)提升，混合 AI 的潛力將會(huì)進(jìn)一步增長。驍龍移動(dòng)平臺(tái)能夠支持超過 10 億參數(shù)的生成式 AI 模型，而在不久的將來，高通將很快在移動(dòng)端實(shí)現(xiàn)部署 100 億參數(shù)的大語言模型，這在此前的移動(dòng)端是難以想象的。

混合 AI 策略適用于幾乎所有生成式 AI 應(yīng)用和終端領(lǐng)域，包括手機(jī)、筆記本電腦、XR 頭顯、汽車和物聯(lián)網(wǎng)。這一策略對(duì)推動(dòng)生成式 AI 規(guī)模化擴(kuò)展，滿足全球企業(yè)與消費(fèi)者需求至關(guān)重要。

高通還以全球首個(gè)在安卓智能手機(jī)上運(yùn)行的 Stable Diffusion 用例展示了混合 AI 在未來的應(yīng)用。這是一種基于擴(kuò)散過程的隨機(jī)演化模型，可以被用于生成真實(shí)感的人臉、頭發(fā)、服裝、環(huán)境場景等。在高通的演示中，處于飛行模式下的手機(jī)通過全棧 AI 優(yōu)化，Stable Diffusion 實(shí)現(xiàn)了完全的終端側(cè)運(yùn)行，能夠在 15 秒內(nèi)完成 20 步推理，生成飽含細(xì)節(jié)的圖像。值得一提的是通過端側(cè) AI 計(jì)算，不僅節(jié)省了功耗，由于是端側(cè)運(yùn)算，用戶隱私保證留在端側(cè)而非云端，因此也能降低信息泄露的風(fēng)險(xiǎn)。

高通在 AI 方面的研究應(yīng)用起步非常早，甚至遠(yuǎn)早于我們較為熟悉的驍龍 855 上的 "AI 加速器 "。早在 2007 年高通就在驍龍平臺(tái)上推出了首個(gè) Hexagon 處理器，2015 年的驍龍 820 處理器則集成了首個(gè)專門面向移動(dòng)平臺(tái)的高通 AI 引擎，支持圖像、音頻和傳感器的運(yùn)算。深厚的技術(shù)積累、持續(xù)的創(chuàng)新優(yōu)化是高通對(duì)于混合 AI 未來大膽預(yù)測(cè)的基礎(chǔ)。

更便利的軟件棧讓開發(fā)者受益

除了為用戶提供更加智能便攜的 AI 使用場景，在推動(dòng) AI 用例的落地過程中，開發(fā)者是不可忽視的一環(huán)。在強(qiáng)大的 AI 算力都需要開發(fā)者將之很好地利用，形成用戶真正可以實(shí)際使用應(yīng)用或服務(wù)。

目前，高通為應(yīng)用、神經(jīng)網(wǎng)絡(luò)模型、算法、軟件和硬件進(jìn)行全棧 AI 研究和優(yōu)化。高通 AI 軟件棧旨在幫助開發(fā)者實(shí)現(xiàn)一次開發(fā)，即可跨高通所有硬件運(yùn)行 AI 負(fù)載。高通 AI 軟件棧全面支持主流 AI 框架，同時(shí)它還集成了推理軟件開發(fā)包 ( SDK ) ，包括面向 Android、Linux 和 Windows 的不同版本。高通開發(fā)者庫和服務(wù)支持最新編程語言、虛擬平臺(tái)和編譯器。在更底層，高通的系統(tǒng)軟件集成了基礎(chǔ)的實(shí)時(shí)操作系統(tǒng) ( RTOS ) 、系統(tǒng)接口和驅(qū)動(dòng)程序。我們還支持廣泛的操作系統(tǒng) ( 包括 Android、Windows、Linux 和 QNX ) ，以及用于部署和監(jiān)控的基礎(chǔ)設(shè)施。高通 AI 軟件棧還集成了 Qualcomm AI Studio，支持從模型設(shè)計(jì)到優(yōu)化、部署和分析的完整工作流。這一工具相當(dāng)于為開發(fā)者搭建了一個(gè)官方的 " 工具箱 "，在這個(gè)工具箱界面內(nèi)，開發(fā)者可以自由選擇需要的工具，極大地降低開發(fā)難度，有助于縮短開發(fā)時(shí)間、提高開發(fā)效率，同時(shí)還支持開者實(shí)時(shí)查看模型開發(fā)進(jìn)度。

在推進(jìn)混合 AI 發(fā)展的路上，高通具備其他方案提供商所不具備的規(guī)模優(yōu)勢(shì)。驍龍平臺(tái)作為提升頂級(jí) Android 體驗(yàn)的領(lǐng)先移動(dòng)平臺(tái)，目前已出貨 20 多億個(gè)具備 AI 能力的處理器。驍龍平臺(tái)在移動(dòng)平臺(tái) AI 基準(zhǔn)測(cè)試中也處于領(lǐng)先地位，在行業(yè)知名的 AI Benchmark 中占據(jù)前 20 位。2023 年第二季度，市場調(diào)研公司 TechInsights 預(yù)測(cè)，高通技術(shù)公司將以超過 40% 的市場份額保持 AI 智能手機(jī)處理器出貨量的領(lǐng)導(dǎo)地位，遠(yuǎn)遠(yuǎn)超過蘋果 ( 25% ) 和聯(lián)發(fā)科 ( 24% ) 等其他公司。

寫在最后

生成式 AI 蔚然成風(fēng)，而這股風(fēng)很快就將席卷端側(cè)。高通高瞻遠(yuǎn)矚地進(jìn)行了全棧式的 AI 布局，利用技術(shù)研發(fā)優(yōu)勢(shì)與終端規(guī)模優(yōu)勢(shì)提出了混合 AI 的設(shè)想，并且正在穩(wěn)步推動(dòng)混合 AI 的快速發(fā)展。

試想在不久的將來，我們能夠在手機(jī)、PC、汽車等多類型終端上感受到混合 AI 帶來的便利。這些設(shè)備能夠真正成為用戶輕松可用的人工智能工具，能夠處理更多具有專業(yè)性、針對(duì)性、重復(fù)性特征的任務(wù)，讓普通消費(fèi)者也能隨時(shí)隨地享受 AI 帶來的對(duì)于生活生產(chǎn)方式的革新，而不是我們現(xiàn)在吐槽的 " 人工智障 "。云端運(yùn)算與端側(cè)互補(bǔ)互助、相輔相成，在高通全棧 AI 優(yōu)化的加持下，從硬件到軟件，從架構(gòu)到算法，從底層設(shè)計(jì)到開發(fā)者、再到高通眾多合作伙伴，整條 AI 產(chǎn)業(yè)鏈上下一新，生成式 AI 將迎來規(guī)模化擴(kuò)展，為無數(shù)人的生活帶來積極影響。

相信在高通的引領(lǐng)下，混合 AI 未來可期。