深圳的科興科學(xué)園面前的那條路，地鐵修了好幾年，走動很不方便。

【資料圖】

這里是附近范圍里的一個集散地。園區(qū)下沉空間里的餐飲區(qū)域是包括騰訊在內(nèi)的，周圍很多科技公司的 " 食堂 "。

也包括從創(chuàng)業(yè)之初就把公司放在距離騰訊不遠(yuǎn)的追一科技。他們的辦公地在對面，與科興一街之隔。

很多追一科技的員工會去對面吃飯，但修了路，就不太方便了。

這很像這家公司最近幾年給人的感覺，它離熱鬧很近，但好像又不是很近。

不久前品玩寫過一篇對于追一科技的觀察文章，時間線終止在 2020 年。之后這家公司和整個 NLP 領(lǐng)域的沉寂一起消失在了外界的關(guān)注之中。

直到 ChatGPT 的出現(xiàn)重新把關(guān)于 AI 的一切活力喚起。但在生成式 AI 壓倒性的優(yōu)越性面前，NLP 這個概念本身甚至有被整個拋棄的危險。

如果 NLP 都不重要了，一家以 NLP 領(lǐng)域技術(shù)為根基的 AI 公司該如何變化？

在這個角度上，從上一次 AI 浪潮中存活下來的追一科技仍然是很多 " 不夠大又不夠新 " 的中國 AI 公司的合適樣本。

品玩在深圳與追一科技的 CEO 吳悅做了一次對話，我們想知道這家公司在 2020 年之后在做什么，這樣一位具備商業(yè)和技術(shù)視角的創(chuàng)始人是如何看待大模型產(chǎn)業(yè)的，以及在大模型的競爭中，這樣體量的 AI 公司究竟還有沒有獨(dú)特的地方。

吳悅不是一個耀眼的創(chuàng)業(yè)者了，也沒有選擇在這次新的 AI 浪潮中重新成為一個 KOL 一樣的人物。他的身份是一家 300 人的 AI 公司的經(jīng)營者。這意味著他必須專注和務(wù)實(shí)。

這幾年的沉默背后，追一完成了一個艱難的產(chǎn)品標(biāo)準(zhǔn)化的過程，這曾經(jīng)是一塊 2000 個 Bug 的硬骨頭，啃下來后，變成面向未來的機(jī)會。

他不愿陷在對 AGI 沒有答案的爭論里，但相信垂直大模型是堅實(shí)的機(jī)會，就像發(fā)現(xiàn)美洲大陸這件事遠(yuǎn)不只成就了一人而已。

一切尚未塵埃落定。

以下是品玩與吳悅的對話，部分內(nèi)容有些優(yōu)化和調(diào)整：

現(xiàn)在國內(nèi)初創(chuàng)公司 " 百模大戰(zhàn) " 的熱潮像 2016 年左右追一科技出現(xiàn)時的熱鬧一樣了。

現(xiàn)在不少創(chuàng)業(yè)公司做的主要還是對 ChatGPT 的解構(gòu)和復(fù)現(xiàn)。這是一個非常有挑戰(zhàn)的事，我們樂見其成。

首先復(fù)現(xiàn) ChatGPT 在現(xiàn)在是一個可以實(shí)現(xiàn)的事嗎？

首先相關(guān)的論文其實(shí)確實(shí)很多，并且開源社區(qū)中已經(jīng)有非常多的團(tuán)隊在做復(fù)現(xiàn)。并且 ChatGPT 這個產(chǎn)品已經(jīng)在那里了，它并不是一個不可體驗(yàn)的技術(shù)。綜合這些維度來看，我覺得相對來說去復(fù)現(xiàn)這個事情的信心和信息密度還是夠的。

另外就是，你要解決的問題明確了，這就變成一個更確定性的事。

也就是說現(xiàn)在尋找的是一個結(jié)果確定的東西。

對。美洲大陸在發(fā)現(xiàn)之前的投入是很大的，因?yàn)槟悴恢老蚰膫€方向?qū)ふ?。但一旦美洲大陸發(fā)現(xiàn)了之后，找到一條路去美洲大陸的航道其實(shí)容易多了。

這可以換一種更熟悉的說法——國內(nèi)大模型的機(jī)會在垂直領(lǐng)域或者應(yīng)用層面。但這有點(diǎn)像曾經(jīng)智能客服和翻譯可能是 NLP 領(lǐng)域最容易摘的桃子那種感覺。

我覺得這個事情，從創(chuàng)業(yè)公司角度是生存下去，雖然要有理想，但是生存是第一位的。但是并不代表著說我們沒有一家公司在做這些事。但最終還是要基于有多大能力做多大事。

這是指追一的能力，還是整個中國 AI 領(lǐng)域的公司抽象成一個集體的 " 能力 "？

我不太好說，但我感覺大家現(xiàn)在還是以實(shí)用主義，也就是做應(yīng)用的居多對吧？你說真的像 OpenAI 那樣燒幾十億美金，反正過去我覺得是很難，未來行不行？我覺得也不好說。

從最初頂著光環(huán)迎來高增長到后來的發(fā)展降速，直到 2020 年的那次裁員后從大眾視線里消失。追一科技仍然有特殊的地方，它是少有在此前的 AI 熱潮中活下來的公司之一；它也有現(xiàn)在看來更平庸的一面，在大模型面前，他不夠龐大，也不是直接從大模型入手的充滿活力的初創(chuàng)公司。這樣的公司有些 " 夾生 "，但這樣的公司也正好是當(dāng)下中國 AI 產(chǎn)業(yè)中的普遍樣本。

2020年之后的追一在做什么？

我們進(jìn)入到了服務(wù)傳統(tǒng)行業(yè)的一個產(chǎn)品化的階段。主要面向于金融和運(yùn)營商、政務(wù)這種大型企業(yè)客戶。2018、19 年屬于大客戶的打樣階段，然后到了 19 年之后開始傳統(tǒng)大型企業(yè)客戶的規(guī)?；瘮U(kuò)展，20 年就面臨到交付。

坦白來講這個難度已經(jīng)比我們預(yù)期的要難很多。

有多難？

因?yàn)槲覀兌ㄎ蛔约菏亲?AI 產(chǎn)品，這里面有兩個典型特征。第一是它底層是基于 AI 能力的，然后上層它其實(shí)是一個應(yīng)用層的產(chǎn)品。但應(yīng)用層產(chǎn)品的定義是要由客戶定義出來的，也就是要有足夠多的大型客戶來幫我們來定義這樣一個產(chǎn)品。

這些大客戶的本地化部署中暴露了很多關(guān)于軟件向下適配度和向上兼容度的問題。

這個其實(shí)挺夸張的，我們測算過軟件的產(chǎn)品部署到客戶現(xiàn)場之后，出現(xiàn)一個 bug 差不多就要 1 萬塊錢的成本來解決。我們累計做了 200 多個客戶，在那個階段已經(jīng)有將近大幾十家頭部客戶，累計的 bug 有幾千個。

很大一筆開銷，所以 2020 年之前這些問題還不顯現(xiàn)。

做腰部還好一點(diǎn)，但是做股份支行這種大客戶要求確實(shí)很高，我們的產(chǎn)品又是客服和營銷這樣銀行里的核心業(yè)務(wù)系統(tǒng)。

為什么頭部客戶要求更高？

同樣一個產(chǎn)品。可能腰部客戶沒有任何問題，但頭部客戶那里會暴露很多問題，因?yàn)樗褂玫暮芨哳l。

并且對整個軟件的軟件的質(zhì)量要求更高。它會有非常嚴(yán)格的安全漏洞掃描，并且——如果用銀行舉例——客戶的 IT 環(huán)境不一樣，操作系統(tǒng)不一樣，然后中間件也不一樣，數(shù)據(jù)庫也不一樣，這些都要適配。

頭部客戶對同一個軟件的使用深度會更深，也就會產(chǎn)生很多個性化的需求。如果說你整個軟件結(jié)構(gòu)架構(gòu)設(shè)計不合理，它的需求可能會關(guān)聯(lián)到這個軟件的核心系統(tǒng)，核心系統(tǒng)被牽扯就需要我們主線開發(fā)人員去參與進(jìn)來了。主線開發(fā)人員的資源其實(shí)是非常寶貴的。他被調(diào)用的話我們花費(fèi)的成本就很高。

什么樣的需求會牽扯到主線的設(shè)計？

比如出現(xiàn)了 AI 助手在回答時不精準(zhǔn)或者直接沒有回答的這種 bad case。

這意味著可能要改算法算子。問題直接就到了底層算法模型這一層，然后全公司的所有人都要卷進(jìn)來解決這一個 bug。

但如果只做腰部，對底層技術(shù)推進(jìn)的動力就沒那么大。我們定位是 AI 公司，需要找到大把手。

又要底層技術(shù)，又要產(chǎn)品。

對，兩頭都要特別難。

這逼迫團(tuán)隊要把產(chǎn)品分層做的更合理，定制化需求最好在應(yīng)用層解決而不影響主線。這是 PaaS 化之后才能實(shí)現(xiàn)的事，這個過程其實(shí)就是產(chǎn)品標(biāo)準(zhǔn)化的過程。

怎么理解產(chǎn)品的標(biāo)準(zhǔn)化，有沒有明確的衡量方式？

我覺得有幾個，第一個產(chǎn)品的 bug 收斂的非常明顯，這是一個標(biāo)準(zhǔn)；另外就是面對客戶各種各樣的需求，可以通過一個應(yīng)用開發(fā)團(tuán)隊去自閉環(huán)，不需要牽扯主線團(tuán)隊進(jìn)來，我覺得這是第二個；第三個就是和產(chǎn)品相關(guān)的，從咨詢到交付的配套可以標(biāo)準(zhǔn)化，可以可以按照管理流程的方式來驅(qū)動，而不是靠人來驅(qū)動。

在中國做軟件，特別是大客戶方向，是要做從咨詢?nèi)缓蟮疆a(chǎn)品，然后到實(shí)施三個環(huán)節(jié)的所有事的。理想狀況應(yīng)該是比如 IBM 做咨詢，然后 SAP 做產(chǎn)品，然后艾森哲去做實(shí)施。

是因?yàn)橹袊麄€軟件行業(yè)不夠成型導(dǎo)致的嗎？

對，整個生態(tài)仍然不是很完整。

吳悅在對話中補(bǔ)上了公司在 2020 年后的空缺。在一場產(chǎn)品標(biāo)準(zhǔn)化過程中沉淀下來的東西，又成為追一在大模型時代的競爭基礎(chǔ)。追一科技在前不久發(fā)布了自己的博文大模型。站在聚光燈和嗜血的資本之外，吳悅相信垂直大模型的機(jī)會在于這是大廠與創(chuàng)業(yè)公司之間的真空地帶。

談?wù)劥怪贝竽Ｐ桶?。如果把大模型技術(shù)延展成一條技術(shù)鏈，垂直大模型看上去是很末端的一環(huán)。追一可以幫銀行做，銀行也可以跟大廠直接合作，這就跳過了追一。這會不會意味著垂直大模型領(lǐng)域的 AI 公司其實(shí)很被動，缺少議價能力？

這是三個角度的問題。第一個是客戶會不會自研，但對于傳統(tǒng)企業(yè)的客戶來說，因?yàn)樗鳡I業(yè)務(wù)不完全在 IT 上，出于投入產(chǎn)出比的考慮它不會自己來做這個事。

然后就是，這是不是意味著有通用大模型的廠家就能解決好垂直大模型的問題，或者說垂直大模型這個領(lǐng)域是不是因?yàn)殚T檻不夠?qū)е赂偁幏浅＜ち摇?/p>

沒錯。垂直大模型的門檻到底在哪里？

垂直大模型這個事的門檻不低。一個是私域知識如何融入到大模型里；然后還要考慮領(lǐng)域知識在回答生成上的精準(zhǔn)度和可控性；并且這些垂直領(lǐng)域的知識最終都需要和軟件產(chǎn)品做好融合才行。

從這幾個角度來說，不是說是一個特別低門檻這個事。

最后這一點(diǎn)怎么理解？

軟件的成熟度是一個獨(dú)特的壁壘。這個就有點(diǎn)像比如說 Copilot 最終還是需要 GPT 去跟 Microsoft 365 結(jié)合起來做刻畫的，不能脫離 Microsoft 365 這個產(chǎn)品去做這個事情。

所以產(chǎn)品能力可能才是差異化的優(yōu)勢，比如 CoPilot 的優(yōu)勢其實(shí)是Microsoft 365，你們的優(yōu)勢其實(shí)是之前已經(jīng)成型的 AI 產(chǎn)品？

對。比如之前提到的牽扯到主線需要做分層設(shè)計的問題。在調(diào)整過程中可能會做一些支持規(guī)則系統(tǒng)的改變，比如簡單的配一個規(guī)則，或者把算子的參數(shù)釋放出來，可以調(diào)參數(shù)來調(diào)效果。這些就是一些知識沉淀或技術(shù)沉淀。

確實(shí)碰壁碰的多了，問題解決的多了，產(chǎn)品才慢慢知道怎么去設(shè)計，這不是拍腦袋想出來的。

大廠和創(chuàng)業(yè)公司都缺乏這個。

對。這種經(jīng)驗(yàn)是靠 bug 堆出來，靠客戶堆出來的。

大廠從頂層設(shè)計向下看，很順利，但碰到比如安全漏洞就很麻煩。一個漏洞可能涉及到你的算法模塊缺陷，然后你的后臺模塊有缺陷，軟件后臺也有缺陷，一動就有很多問題。

這是一些很泥濘的地方，大家看不到。

我覺得是。

還是一個精度的考量。比如說我們現(xiàn)在通過小模型模型能在對話中做到 90% 以上的準(zhǔn)確率——雖然可能他的對話體驗(yàn)可能沒想那么好——比如金融行業(yè)的頭部客戶，它對對話答案精度的要求是挺高的。

然后在大模型的能力進(jìn)入這個 AI 產(chǎn)品后，可能它的對話體驗(yàn)變得更好，但是這個 90% 的精度可能會下降。因?yàn)樯墒?AI 本身是個概率問題，有更多不可控的因素。在 B 端市場這是一個挺棘手的問題。

但數(shù)據(jù)仍然在那些你服務(wù)的公司里拿不出來，垂直大模型好像也沒有回答因?yàn)槿鄙贁?shù)據(jù)而影響軟件迭代的問題？

不同的客戶的數(shù)據(jù)差異度是 10% 到 20%，但之前在小模型技術(shù)的基礎(chǔ)上，因?yàn)檫@個 10% 到 20% 的差異，你就要去訓(xùn)練一個新的定制化模型——因?yàn)樾∧Ｐ偷睦斫饽芰Σ粔颉５乾F(xiàn)在大模型的優(yōu)越性在于，他的理解能力充分了，所以這 10% 左右的差異其實(shí)不需要再去訓(xùn)練一個新的模型。這其實(shí)是一個本質(zhì)上的變化。

但客戶要一個適合自己的 AI 產(chǎn)品，其實(shí)就是要那 %10-20% 跟它相關(guān)的差異化。如果我只是個 80% 契合的產(chǎn)品，但對所有銀行都可以用的話，那也就是對所有銀行來說它也都沒區(qū)別了？

這個差異化的數(shù)據(jù)變量其實(shí)只是在表達(dá)上有差異。這部分表達(dá)上的差異在大模型下可以被理解出來。

也就是說數(shù)據(jù)這個痛點(diǎn)其實(shí)現(xiàn)在比原來小很多了。

對，是的。

2015前后開始的那一波 AI 熱潮現(xiàn)在回過頭來看，會給現(xiàn)在追一科技在垂直大模型的競爭有些什么啟發(fā)或者遺產(chǎn)嗎。

我們已經(jīng)成立第七個年頭了。有了可靠的業(yè)務(wù)和客戶，也沉淀下來一個團(tuán)隊。我們現(xiàn)在更加專注企業(yè)本身的經(jīng)營，所以也會更加冷靜的來看待大模型這個事。