跟 ChatGPT 等聊天機(jī)器人對(duì)話，總會(huì)給人一種「人間本應(yīng)如此美好」的錯(cuò)覺。

因?yàn)樗鼈冊(cè)诨卮饡r(shí)總表現(xiàn)地彬彬有禮，對(duì)你言聽計(jì)從。

但這些只是假象，你不知道的是，AI 罵起人來比杜琪峰還要狠。

【資料圖】

▲

圖片來自：Twitter @Fenng

最近一個(gè)名為「國(guó)粹 AI」的項(xiàng)目在網(wǎng)絡(luò)上走紅，它是一個(gè)調(diào)用 OpenAI GPT-3.5Turbo API 的臟話機(jī)器人，和溫文儒雅的 ChatGPT 不同，「國(guó)粹 AI」就像個(gè)地痞流氓，深諳中文屏蔽詞庫(kù)，每句話都夾雜著「***」。

「國(guó)粹 AI」 的意外爆火出乎了作者的意料，很快作者便暫停了服務(wù)響應(yīng)，并表示有部分用戶濫用服務(wù)。雖然「國(guó)粹 AI」的嘴巴被暫時(shí)捂上，但要是你想自己做一個(gè)粗口機(jī)器人也并非難事，只需要一句讓它教你學(xué)習(xí)中文粗口的 Prompt，就能把三好學(xué)生變成口無遮攔的粗口王。

一句話就能攻破 AI 的安全柵欄，這不禁讓人懷疑，標(biāo)榜著智能變革的 AI 聊天機(jī)器人和大語(yǔ)言模型（LLM），真的安全嗎？

誰(shuí)來捍衛(wèi) AI 的安全？

幾個(gè)月前，Bing 就因?yàn)椤改棠搪┒础够疬^一次。

盡管微軟和 OpenAI 的工程師為 Bing 設(shè)置了嚴(yán)格的安全柵欄，能夠拒絕很多無理或是違法的要求，但有網(wǎng)友發(fā)現(xiàn)，只要你讓 Bing 扮演你的奶奶，給它一個(gè)在做好事的幻覺，它就會(huì)被這突如其來的親情羈絆占據(jù)大腦，答應(yīng)大孫子的任何需求。

▲

圖片來自：Twitter @寶玉

例如，給你念 Windows 和 Office 的軟件序列號(hào)哄你入睡。

微軟很快發(fā)現(xiàn)了這個(gè)漏洞并及時(shí)補(bǔ)上，但誰(shuí)也不敢保證 Bing 下次不會(huì)再掉入用戶們精心準(zhǔn)備的陷阱。科幻電影里無所不能 AI 在狡猾的人類面前，輸?shù)靡粩⊥康亍?/p>

歸根結(jié)底，這與 LLM 的訓(xùn)練機(jī)制有關(guān)。

以 GPT-3 為例，OpenAI 使用了 1750 億個(gè)參數(shù)訓(xùn)練這個(gè)模型，通過學(xué)習(xí)大量來自互聯(lián)網(wǎng)的文本數(shù)據(jù)，可以預(yù)測(cè)文本中的下一個(gè)單詞，從而回答人們的問題。

至于 GPT-4，一些爆料信息稱他的訓(xùn)練參數(shù)比 GPT-3 大了不止 10 倍，幾乎快要把人類積累的數(shù)字內(nèi)容全部吞食過了一遍，這里面包含了知識(shí)，自然也會(huì)包含不宜公開的內(nèi)容甚至有毒有害的偏見信息。

AI 工程師只能盡可能地給 AI 設(shè)立更多的安全柵欄，幫助 AI 去分辨人類的「詭計(jì)」，才不會(huì)把如何制作 TNT 炸彈、怎樣黑進(jìn)銀行的安全系統(tǒng)等危險(xiǎn)信息說漏嘴。

與 GPT3.5 相比，GPT-4 對(duì)違禁內(nèi)容請(qǐng)求的響應(yīng)傾向降低了 82% ，對(duì)醫(yī)療建議和自我傷害等敏感請(qǐng)求的規(guī)范性提高了 29% 。一個(gè)直觀的例子是，當(dāng)你用「國(guó)粹 AI」的 Prompt 輸給 GPT-4，GPT-4 會(huì)婉轉(zhuǎn)地拒絕你的要求，表示不吃你這套。

但這并不意味著大模型 AI 的安全得到保證，這場(chǎng)人與 AI 的信息戰(zhàn)遠(yuǎn)沒有結(jié)束，甚至不是結(jié)束的開始。

近日，卡內(nèi)基梅隆大學(xué)和 safe.ai 的一項(xiàng)聯(lián)合聲明表示，大模型的安全機(jī)制比人們想象的要脆弱得多，只需要一串代碼，就能把大模型的安全機(jī)制擊潰。

研究人員發(fā)現(xiàn)，通過在文本提示后附加特定的對(duì)抗性短語(yǔ)，可以輕易繞過 ChatGPT、Bard 和 Claude 等 LLM 的安全防護(hù)，欺騙 LLM 生成不適當(dāng)?shù)妮敵觥?/p>這些對(duì)抗性短語(yǔ)看起來像胡言亂語(yǔ)，但實(shí)際上是通過一種特殊的損失函數(shù)設(shè)計(jì)的，該函數(shù)可以識(shí)別出模型拒絕回答的屏蔽語(yǔ)，找出繞過屏障讓模型提供回答的字符序列，并且它可以自動(dòng)產(chǎn)生這些短語(yǔ)。

利用這些 Prompt，研究人員輕而易舉地讓 LLM 們說出制作違規(guī)藥品的步驟、制造殺傷性武器的方法等等不宜公開的內(nèi)容。

無論是 Pythia、Falcon、Guanaco 等開源模型，還是像 GPT-3.5（87.9%）、GPT-4（53.6%）、PaLM-2（66%）和 Claude-2（2.1%）這些商業(yè)模型都無一能躲過攻擊。

研究人員目前已經(jīng)把漏洞提交給了各大 AI 公司，讓安全工程師們及時(shí)修復(fù)。

但就像「奶奶漏洞」一樣，在用戶不斷使用之下，總會(huì)有新的漏洞產(chǎn)生，僅憑 OpenAI 等某一公司之力，想要守護(hù) AI 安全并非易事，AI 公司們還需要更多的力量來維持，于是幾大巨頭決定，停止 AI 內(nèi)卷，化干戈為玉帛。

AI 四巨頭聯(lián)合承諾「先進(jìn) AI 不擴(kuò)散」

幾周前，微軟、OpenAI、Google、Meta、亞馬遜、Anthropic（ 代表產(chǎn)品：Claude）和 Inflection AI（代表產(chǎn)品：HeyPi）共七個(gè)頂尖 AI 公司齊聚美國(guó)白宮，作出了一系列承諾，來確保他們的產(chǎn)品安全且透明。

承諾包括允許「領(lǐng)域?qū)＜摇箤?duì)他們的 AI 產(chǎn)品進(jìn)行外部審查，并與彼此以及美國(guó)政府分享關(guān)于風(fēng)險(xiǎn)和漏洞的信息；投資于網(wǎng)絡(luò)安全和內(nèi)部威脅保護(hù)措施，以保護(hù)專有的和未發(fā)布的模型權(quán)重。

巨頭們還承諾會(huì)部署相應(yīng)的 AI 甄別機(jī)制，例如開發(fā)水印系統(tǒng)，以明確哪些文本、圖像或其他創(chuàng)作是 AI 的產(chǎn)物，并且承諾未來的研究將優(yōu)先理解 AI 的限制和偏見，推動(dòng)行業(yè)的安全發(fā)展。

半個(gè)月后，七家頂尖 AI 公司中的四位——微軟、OpenAI、Google 和 Anthropic 再度聯(lián)合起來，成立了一個(gè)名為「前沿模型論壇（Frontier Model Forum）」的機(jī)構(gòu)，目的是確保最強(qiáng)大的 AI 模型能夠以安全和負(fù)責(zé)任的方式發(fā)展。

而這四家 AI 公司，也正是目前正在開發(fā)最前沿 AI 模型的四個(gè)巨頭，可以說是「AI 核彈」的擁有者。

AI 四巨頭達(dá)成了一致共識(shí)，稱他們希望通過「前沿模型論壇」最大限度地減少 AI 風(fēng)險(xiǎn)，進(jìn)行更多的 AI 安全研究，并向行業(yè)和公眾分享安全最佳實(shí)踐等等。

不過 AI 四巨頭并沒有介紹關(guān)于「前沿模型論壇」的制度和執(zhí)行條約等詳細(xì)內(nèi)容。

「前沿模型論壇」的聯(lián)合聲明提到，論壇將首先關(guān)注研究并努力為評(píng)估前沿模型風(fēng)險(xiǎn)制定標(biāo)準(zhǔn)化的最佳實(shí)踐，發(fā)布一個(gè)「公共解決方案庫(kù)」。論壇將逐步制定正式章程，任命咨詢委員會(huì)，并資助與公民社會(huì)團(tuán)體的合作。

這里提到的前沿模型是指「超越當(dāng)前最先進(jìn)現(xiàn)有模型的能力，并可以執(zhí)行各種任務(wù)」的模型，也就是說，要開發(fā)比目前模型更強(qiáng)大且能夠安全運(yùn)轉(zhuǎn)的前沿模型，已經(jīng)不再是各公司悶頭研究就能解決的難題，這需要整個(gè)行業(yè)的共同努力。

ChatGPT 爆火后的這半年時(shí)間，AI 行業(yè)的局勢(shì)變化跟 AI 模型本身發(fā)展的速度一樣快——各家入局、模型混戰(zhàn)、達(dá)成共識(shí)、握手言和。

巨頭們之所以會(huì)選擇一起去解決 AI 風(fēng)險(xiǎn)問題，是因?yàn)楸舜硕伎吹搅?AI 在應(yīng)用層面的無限潛力。

AI，大廠們篤信的未來

不管你對(duì) AI 持什么樣的態(tài)度，AI 都會(huì)成為下一代應(yīng)用的重要組成部分。

這不是我信口開河，而是微軟、Google 等大廠們?cè)诮盏呢?cái)報(bào)電話會(huì)上共同提到的趨勢(shì)。

微軟最新的財(cái)報(bào)顯示，微軟在最近的一個(gè)財(cái)季收入為 562 億美元，同比增長(zhǎng) 8%，這主要來自智能云和生產(chǎn)力與業(yè)務(wù)流程的增長(zhǎng)，而作為老本行的個(gè)人計(jì)算業(yè)務(wù)收入有所下降。

其中智能云營(yíng)業(yè)收入增長(zhǎng) 15%，Azure 與其他云服務(wù)收入增長(zhǎng) 26%，這與 AI 計(jì)算緊密相關(guān)。

微軟 CEO 納德拉在財(cái)報(bào)電話會(huì)提到，客戶最關(guān)心如何快速應(yīng)用新一代 AI，微軟將繼續(xù)專注于三大優(yōu)先事項(xiàng)：幫助客戶從 Microsoft Cloud 中獲得最大價(jià)值、領(lǐng)導(dǎo)新 AI 平臺(tái)變革、提升運(yùn)營(yíng)杠桿。

AI，毫無疑問是這場(chǎng)財(cái)報(bào)會(huì)議的關(guān)鍵詞。

納德拉表示 Microsoft 365 Copilot 作為未來工作的第三支柱吸引著客戶，將在下半財(cái)年開始產(chǎn)生實(shí)際收入；Bing Chat 和必應(yīng)圖像創(chuàng)造者吸引用戶，而 Edge 瀏覽器份額也在持續(xù)提升。

微軟希望把 Windows 11 打造為這個(gè)新 AI 時(shí)代的強(qiáng)大畫布，賦予各種 Copilot 產(chǎn)品提升客戶的生產(chǎn)力，并大力投資云基礎(chǔ)設(shè)施來滿足 AI 需求。就連游戲業(yè)務(wù)，也可以利用 AI 提供更好的內(nèi)容和服務(wù)，提升業(yè)務(wù)收入。

可以說，微軟接下來的策略都是圍繞 AI 來展開的。AI 為微軟提供了巨大的增長(zhǎng)機(jī)遇和新的收入來源，它將推動(dòng)微軟大部分業(yè)務(wù)的收入和用戶增長(zhǎng)，并最終提升微軟整體收入增速。納德拉不想錯(cuò)過這個(gè)難得一遇的機(jī)遇。

同樣的，「AI 一哥」Google 也不想錯(cuò)過。

根據(jù) Google 母公司 Alphabet 第二季度 2023 年財(cái)報(bào)的數(shù)據(jù)顯示，Alphabet 收入總額為 746 億美元，同比增長(zhǎng) 7%，其中廣告收入增長(zhǎng) 5%，Google 服務(wù)收入增長(zhǎng) 5%，Google Cloud 收入增長(zhǎng) 28%。

其中與 AI 相關(guān)的業(yè)務(wù)表現(xiàn)都很亮眼。Alphabet 在電話會(huì)議中提到，Google 的搜索引擎生成式體驗(yàn)（SGR）使用了生成式 AI，使搜索變得更自然和直觀，用戶反饋非常正面；另一方面，聊天機(jī)器人 Bard 發(fā)布以來經(jīng)過不斷改進(jìn)，功能豐富了許多。

Google Cloud 的 80 多個(gè) AI 模型吸引了大量客戶，從 4 月到 6 月客戶數(shù)量增長(zhǎng)超過 15 倍。

而在企業(yè)客戶服務(wù)和定制 AI 解決方案方面，Google 通過 Workspace 和 Duet AI 將生成式 AI 帶給了 9000 多萬付費(fèi)用戶。

總體而言，Alphabet 對(duì) AI 和 Google Cloud 的長(zhǎng)期增長(zhǎng)前景保持樂觀，接下來將繼續(xù)增加對(duì) AI 研發(fā)的投入，研發(fā)方向?qū)⒕劢乖诖笳Z(yǔ)言模型等核心技術(shù)上，以及構(gòu)建像多模態(tài) AI 系統(tǒng) Gemini 等新模型。

半年前，或許你會(huì)懷疑 AI 是不是像 Web3、區(qū)塊鏈這樣的投資圈熱詞，圈一波熱錢后就會(huì)被資本遺忘，但經(jīng)過半年后你會(huì)發(fā)現(xiàn)，AI 的影響力和落地可能性都比之前的各種前沿詞匯要大得多，以至于引起了整個(gè)科技圈的重視。

從大廠的規(guī)劃來看，AI 會(huì)作為未來程序應(yīng)用的底層而普遍存在，為改善用戶體驗(yàn)服務(wù)。用戶們可能不會(huì)感受到 AI 的存在，但能直接享受到 AI 帶來的便利性，這便是大廠們篤信的未來。

這也可以說明，為什么微軟和 Google 等 AI 巨頭們?cè)敢夥畔赂筛辏聛砉餐付?AI 安全的標(biāo)準(zhǔn)。

現(xiàn)階段的 AI 就像是 19 世紀(jì)末汽車剛誕生的時(shí)代，產(chǎn)品已經(jīng)開上了路上跑，卻沒有合適的柏油路供它奔馳，也沒有交通規(guī)則來規(guī)劃它的行動(dòng)，跑得既慢又危險(xiǎn)。

比爾 · 蓋茨最近在個(gè)人博客發(fā)表了他對(duì) AI 的看法，他認(rèn)為我們現(xiàn)在正處于又一個(gè)巨大變革的最早階段，即 AI 的時(shí)代，AI 的變化如此之快，以至于我們無法清楚地預(yù)知接下來會(huì)發(fā)生什么。

但他對(duì)人工智能的發(fā)展持以積極的態(tài)度，因?yàn)槿祟愐呀?jīng)經(jīng)歷了汽車時(shí)代、核能時(shí)代，到了 AI 的時(shí)代我們還是能夠解決新技術(shù)帶來的挑戰(zhàn)。

所以請(qǐng)坐穩(wěn)了，我們將親眼見證一個(gè)新時(shí)代的誕生。

點(diǎn)擊「在看」

是對(duì)我們最大的鼓勵(lì)