本文來(lái)自微信公眾號(hào)：豹變（ID：baobiannews），作者：宋子豪，編輯：劉楊，原文標(biāo)題：《79 元買(mǎi) 30 張「臉」，誰(shuí)在甩賣(mài) AI 換臉工具？》，題圖來(lái)自：視覺(jué)中國(guó)

自從 5 月底 "AI 詐騙正在全國(guó)爆發(fā) " 登上熱搜后，利用 AI 換臉技術(shù)的詐騙事件頻繁發(fā)生。

近日，中國(guó)銀河證券發(fā)布公告稱(chēng)：利用 "AI 合成技術(shù) " 的詐騙手段或?qū)⒅鸩铰又磷C券行業(yè)。公告顯示，某知名經(jīng)濟(jì)學(xué)家稱(chēng)，自己被人利用 "AI 換臉 " 等技術(shù)，通過(guò)視頻、語(yǔ)音等方式聯(lián)系投資者，騙取投資者信任，開(kāi)展薦股活動(dòng)。

(資料圖片僅供參考)

此前已經(jīng)有哈爾濱、福州等多地網(wǎng)警通報(bào)有關(guān) AI 換臉的詐騙事件，有人 10 分鐘被騙了 430 萬(wàn)。

而 "AI 換臉 " 詐騙猖獗的當(dāng)下，社交平臺(tái)上也涌現(xiàn)了一批推銷(xiāo) "AI 換臉教程 " 的賬號(hào)。

這些賬號(hào)發(fā)布的視頻，主要內(nèi)容都是人物手一揮就換了一張臉。視頻還會(huì)同時(shí)搭配洗腦的音樂(lè)，簡(jiǎn)單的動(dòng)作，以及 "AI 換臉教程、直播實(shí)時(shí)換臉、視頻實(shí)時(shí)換臉、自定義換臉 " 等相關(guān)文字。

如果有用戶(hù)在視頻下面回復(fù)，他們就會(huì)在評(píng)論區(qū)引導(dǎo)，讓用戶(hù)加聯(lián)系方式詳談。

這些賬號(hào)背后的上傳者，自稱(chēng)是自媒體時(shí)代的成功學(xué)導(dǎo)師，不斷追逐熱點(diǎn)，付費(fèi)傳授各種流量密碼。

只不過(guò)，這一次的 "AI 換臉 " 尚處于監(jiān)管灰色地帶，參與其中的用戶(hù)可能稍不留神，就從 " 知識(shí)付費(fèi) " 變成 " 今日說(shuō)法 "。

AI 詐騙之后，" 換臉 " 教程席卷平臺(tái)

5 月底，有不少網(wǎng)友發(fā)現(xiàn)，當(dāng)紅女星 " 楊冪 "" 迪麗熱巴 " 親自在某女裝品牌直播間帶貨。她們互動(dòng)熱情，介紹專(zhuān)業(yè)，短時(shí)間引來(lái)大量網(wǎng)友圍觀。

但仔細(xì)看，主播的臉又不太像明星本人，如果主播扭頭的幅度太大，居然會(huì)瞬間 " 顯出原形 "，變出另一張臉來(lái)。更有人在不同直播間同時(shí)看到多個(gè) " 楊冪 "" 熱巴 "。一時(shí)間，" 明星主播 " 分身有術(shù)，處處有 " 楊冪 "，個(gè)個(gè)是 " 熱巴 "。

經(jīng)過(guò)媒體曝光，人們才發(fā)現(xiàn)，原來(lái)部分直播間在未標(biāo)識(shí)情況下，用 AI 換臉技術(shù)，讓主播套上一張明星臉，誤導(dǎo)消費(fèi)者。

想起差點(diǎn)因?yàn)樘摷俚拿餍切?yīng)沖動(dòng)消費(fèi)，人們對(duì) AI 換臉的魔力越發(fā)心有余悸。

視頻換臉技術(shù)出現(xiàn)已久，早在 2019 年，一款名為 "ZAO" 的換臉 App 就曾紅極一時(shí)，用戶(hù)只要上傳一張自己的正面照，就可以在電影角色的臉上套上自己的五官，與明星同臺(tái)飆戲。

到了 2021 年年初，換臉應(yīng)用程序 Avatarify 一度登上了 App Store 中國(guó)區(qū)應(yīng)用免費(fèi)榜榜首，但不到一個(gè)星期，該應(yīng)用就被中國(guó)區(qū) App store 下架。

這些軟件的技術(shù)往往來(lái)自于 DeepFake 開(kāi)源技術(shù)，依托大數(shù)據(jù)和人工智能深度學(xué)習(xí)機(jī)制，對(duì)既有視頻或圖片中的人物面部圖像進(jìn)行替換。

雖然當(dāng)時(shí)的換臉技術(shù)還不夠逼真，但已經(jīng)能讓一些短視頻創(chuàng)作者吸引流量。

在 2021 年 3 月，TikTok 上的某個(gè)視頻賬號(hào)就通過(guò)換臉技術(shù)，制作了換臉湯姆克魯斯練習(xí)高爾夫、表演魔術(shù)、講笑話(huà)等視頻，發(fā)布沒(méi)多久就收獲了 20 多萬(wàn)粉絲。

當(dāng)時(shí)，這種技術(shù)門(mén)檻較高。視頻制作者宣稱(chēng)使用了開(kāi)源的 DeepFaceLab 算法以及其他的視頻編輯工具，通過(guò)將傳統(tǒng)的視覺(jué)特效與 DeepFake 技術(shù)相結(jié)合，前后花了整整兩個(gè)月的時(shí)間制作。此外，硬件上還需要使用一對(duì) NVIDIA RTX 8000 GPU 訓(xùn)練 AI 模型，才能達(dá)到以假亂真的效果。

隨著近兩年來(lái)技術(shù)大爆發(fā)，不僅出現(xiàn)了幾乎可以傻瓜式操作換臉的相關(guān)軟件，逼真程度也一再上升，目前已經(jīng)可以做到實(shí)時(shí)換臉，從而應(yīng)用到上面提到的直播領(lǐng)域。

但是從娛樂(lè)領(lǐng)域到商業(yè)領(lǐng)域，AI 換臉還處于灰色地帶。

在此前的報(bào)道中，有法律人士認(rèn)為，使用 AI 換臉技術(shù)時(shí)，應(yīng)有顯著標(biāo)識(shí)，以免公眾混淆。而未經(jīng)明星同意使用其肖像直播帶貨，可能涉嫌多項(xiàng)侵權(quán)。

2023 年 3 月，某短視頻平臺(tái)上的特效師通過(guò)把電視劇中男主角的臉換成自己的臉，合成與女明星親吻的影像，并借此宣傳售賣(mài) " 特效換臉教程 "，也引發(fā)了很大爭(zhēng)議，并且該賬號(hào) " 特效合成師洪亮（收徒）" 被平臺(tái)封號(hào) 15 天。

目前短視頻平臺(tái)對(duì)于這類(lèi)行為提出了規(guī)范。比如 2023 年 5 月 9 日，抖音發(fā)布 " 關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議 "，其中提到創(chuàng)作者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，同時(shí)虛擬人需在平臺(tái)進(jìn)行注冊(cè)，虛擬人技術(shù)使用者需實(shí)名認(rèn)證。

而在政策監(jiān)管上，今年 1 月生效的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也指出，提供智能對(duì)話(huà)、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。并要求任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

面對(duì)平臺(tái)和監(jiān)管部門(mén)的圍追堵截，換臉明星以吸引流量的路子走不通。部分博主發(fā)現(xiàn)以身犯法不行，轉(zhuǎn)身賣(mài)起了所謂的 AI 換臉課程。

79 元就能 " 換 "30 張臉

此前，央視財(cái)經(jīng)曝光 " 主播 AI 換臉明星進(jìn)行直播 " 時(shí)提到，在網(wǎng)上購(gòu)買(mǎi)一套 AI 實(shí)施換臉的模型需 3.5 萬(wàn)元。

只過(guò)了一個(gè)多月的時(shí)間，AI 換臉的價(jià)格正在迅速平民化。如今，只需要 79 元，一個(gè) AI 換臉套餐就能幫你換 30 張臉。

《豹變》在社交平臺(tái)上搜到了有關(guān) "AI 換臉教程，直播實(shí)時(shí)換臉，視頻通話(huà)換臉 " 的相關(guān)視頻，視頻下方的商品鏈接中售賣(mài)相應(yīng)的課程——不僅提供 "AI 換臉直播間搭建 " 工具包＋教程，同時(shí) " 包教包會(huì)換臉直播，79 元可以解鎖 30 張面孔 "。

店鋪顯示，該課程已售 13 份。《豹變》詢(xún)問(wèn)后并沒(méi)有得到回復(fù)，截至發(fā)稿，相關(guān)產(chǎn)品已經(jīng)下架。

類(lèi)似售賣(mài) AI 變臉課程的賬號(hào)往往非常謹(jǐn)慎，多數(shù)賬號(hào)在視頻中并不直接宣傳賣(mài)課，而是以 " 帶你玩 AI 換臉 " 等字眼，吸引用戶(hù)主動(dòng)詢(xún)問(wèn)。

此外，賣(mài)家還會(huì)通過(guò)大批沒(méi)有其他內(nèi)容的僵尸號(hào)，批量轉(zhuǎn)發(fā)同樣的視頻，然后在賬號(hào)簡(jiǎn)介或私信中交換聯(lián)系方式。

《豹變》從一位賣(mài)家客服那里了解到，不同的套餐價(jià)格不一樣，包括 588 元的入門(mén)版本、888 元的基礎(chǔ)版本、1388 元的進(jìn)階版本，以及 2888 元的專(zhuān)業(yè)版本。

客服表示，如果用于直播帶貨，建議購(gòu)買(mǎi) 2888 元的專(zhuān)業(yè)版本：" 我們這個(gè)活動(dòng)很劃算了，永久免費(fèi)使用，包更新，后續(xù)這個(gè)價(jià)格會(huì)變?yōu)槟昕ā?

有相關(guān)行業(yè)從業(yè)者表示，類(lèi)似的 AI 換臉技術(shù)主要來(lái)自于國(guó)外開(kāi)源項(xiàng)目：" 最近 AI 技術(shù)大爆炸，很多技術(shù)都是開(kāi)源的，而且更新非常快。國(guó)產(chǎn)自研技術(shù)也有，但都是有投資的公司做的，而且效果不理想。"

類(lèi)似的開(kāi)源項(xiàng)目，官方網(wǎng)站上就有使用教程。一些人搬運(yùn)到國(guó)內(nèi)之后，開(kāi)始打包賣(mài)課程和教程，成本幾乎為零。

比如，B 站、抖音等視頻網(wǎng)站上的很多 AI 換臉視頻都是通過(guò) DeepFaceLab 生成的。DeepFaceLab 安裝簡(jiǎn)單，更新快，功能強(qiáng)，模型多，參數(shù)豐富，對(duì)設(shè)備配置要求低。

其他熱門(mén)的軟件，比如 Fake App、OpenFaceSwap 等，都能在互聯(lián)網(wǎng)上找到相關(guān)資源。

對(duì)此，《豹變》向售賣(mài)課程的客服核實(shí)售賣(mài)的軟件是否屬于開(kāi)源項(xiàng)目，希望對(duì)比使用界面，客服卻宣稱(chēng)，自家產(chǎn)品屬于內(nèi)部軟件，不方便公開(kāi)。

而其他從事 AI 技術(shù)科普的博主告訴《豹變》，這就是靠信息差割韭菜。

AI 換臉的用武之地在哪？

比起其他 AI 技術(shù)誕生之后備受各方矚目，AI 換臉技術(shù)似乎只得到違法分子的青眼。" 換臉 " 的作用總讓人想到灰色產(chǎn)業(yè)，在實(shí)時(shí)換臉技術(shù)成熟之后，沒(méi)想到最先降低的似乎是違法成本。

實(shí)際上，此前 AI 換臉技術(shù)常運(yùn)用于影視劇領(lǐng)域，一些曾因劣跡藝人被迫雪藏的影視劇，也是憑借 AI 換臉技術(shù)重見(jiàn)天日。而當(dāng)實(shí)時(shí)換臉成為可能后，AI 換臉技術(shù)也有可能在直播領(lǐng)域找到用武之地。

通過(guò) AI 換臉，品牌方可以讓不同直播間里的主播共享同一張臉，一方面可以強(qiáng)化品牌 IP 與主播的連接，另一方面也可以減少主播流失帶來(lái)的損失，擺脫對(duì)大主播的依賴(lài)。

此前大熱的數(shù)字人直播技術(shù)，目前還面臨著技術(shù)不夠成熟、對(duì)算力的要求過(guò)高、互動(dòng)能力不足等尷尬情況。相對(duì)來(lái)說(shuō)，AI 換臉技術(shù)更為經(jīng)濟(jì)實(shí)用。

而且，AI 換臉技術(shù)已經(jīng)在部分特殊場(chǎng)景有所應(yīng)用。比如，對(duì)于國(guó)內(nèi)中小跨境電商商家來(lái)說(shuō)，外籍主播和模特的人力成本略高，導(dǎo)致運(yùn)營(yíng)壓力過(guò)大。所以，有 TikTok 商家通過(guò) AI 換臉將英語(yǔ)口語(yǔ)能力不錯(cuò)的國(guó)內(nèi)主播、模特?fù)Q臉變成外籍主播、模特，以減少人力成本。

目前已經(jīng)有電商公司、科技公司在著手研究 AI 換臉技術(shù)。電商直播行業(yè)龍頭遙望科技曾于 5 月 15 日發(fā)布公告稱(chēng)，與小冰公司簽訂關(guān)于《直播電商人工智能技術(shù) / 產(chǎn)品戰(zhàn)略合作》的協(xié)議，雙方就 AI 技術(shù)、產(chǎn)品的研發(fā)、推廣等事項(xiàng)在直播、短視頻、電商等領(lǐng)域展開(kāi)全面合作。其中包括 AI 換臉技術(shù)的研發(fā)。

騰訊旗下優(yōu)圖實(shí)驗(yàn)室、天天 P 圖聯(lián)合打造的 AI 變臉玩法等，也在嘗試能夠完成人臉替換、人臉再現(xiàn)、人臉合成甚至全身合成、虛擬環(huán)境合成等功能。

相對(duì)應(yīng)的，針對(duì) AI 換臉的檢測(cè)技術(shù)也在發(fā)展。企查查顯示，2022 年 10 月 4 日，百度申請(qǐng)的 " 人臉鑒偽方法、裝置及計(jì)算機(jī)程序產(chǎn)品 " 專(zhuān)利公布。該專(zhuān)利涉及人工智能技術(shù)領(lǐng)域，具體涉及深度學(xué)習(xí)技術(shù)，可用于人臉鑒偽場(chǎng)景，提高了人臉圖像鑒偽結(jié)果的準(zhǔn)確度。

對(duì)于 AI 換臉技術(shù)在灰色產(chǎn)業(yè)的濫用，在監(jiān)管和鑒別技術(shù)逐漸完善的情況下，類(lèi)似情況應(yīng)該會(huì)得到控制。目前來(lái)看，需要更多的相關(guān)科普、反詐知識(shí)來(lái)謹(jǐn)防 AI 換臉詐騙。

本文來(lái)自微信公眾號(hào)：豹變（ID：baobiannews），作者：宋子豪，編輯：劉楊