【TechWeb】5月23日消息，和你視頻聊天借錢的，可能不是真的親戚朋友，而是用朋友“臉”的騙子。

近日，平安包頭官方微信號(hào)公布一項(xiàng)新型詐騙案件：

(資料圖片僅供參考)

5月8日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，警銀聯(lián)動(dòng)成功緊急止付涉嫌電信詐騙資金330多萬(wàn)元。

4月20日11時(shí)40分左右，福州市某科技公司法人代表郭先生的好友突然通過(guò)微信視頻聯(lián)系到他，兩人經(jīng)過(guò)短暫聊天后，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬(wàn)元保證金，且需要公對(duì)公賬戶過(guò)賬，所以想要借用郭先生公司的賬戶走一下賬。好友向郭先生要了銀行卡號(hào)，聲稱已經(jīng)把錢打到郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過(guò)微信發(fā)給了郭先生。基于視頻聊天信任的前提下，郭先生沒(méi)有核實(shí)錢是否到賬，于11時(shí)49分先后分兩筆把430萬(wàn)元給對(duì)方打了過(guò)去。錢款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒(méi)想到的是，好友回過(guò)來(lái)的消息竟然是一個(gè)問(wèn)號(hào)。

郭先生撥打好友電話，對(duì)方說(shuō)沒(méi)有這回事，他這才意識(shí)到竟然遇上了“高端”騙局，對(duì)方通過(guò)智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。

“從頭到尾都沒(méi)有和我提借錢的事情，就說(shuō)會(huì)先把錢給我打過(guò)來(lái)，再讓我給他朋友賬戶轉(zhuǎn)過(guò)去，而且當(dāng)時(shí)是給我打了視頻的，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備”，郭先生說(shuō)。

4月20日12時(shí)21分，包頭市電信網(wǎng)絡(luò)犯罪偵查局接到福建省福州市公安局刑偵支隊(duì)的外協(xié)請(qǐng)求，稱福建省一知名民營(yíng)企業(yè)負(fù)責(zé)人被騙走430萬(wàn)元，而涉案的銀行卡為包頭市蒙商銀行對(duì)公賬戶，希望包頭警方能夠幫忙進(jìn)行緊急止付。

包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局立即啟動(dòng)“包頭市警銀聯(lián)動(dòng)綠色查詢機(jī)制”，當(dāng)班民警以最快速度完成核查、報(bào)審程序，第一時(shí)間將涉案卡的信息通報(bào)至蒙商銀行相關(guān)部門。在銀行的全力協(xié)助下，僅用時(shí)10分鐘，就將該詐騙賬戶內(nèi)的336.84萬(wàn)元被騙資金成功攔截。同時(shí)，向福州市公安局警方提供了剩余款項(xiàng)93.16萬(wàn)元資金流出信息，為深入突破該案剩余資金查找提供了突破方向。目前，福建警方與包頭警方對(duì)此資金正在全力追繳當(dāng)中。

*警方提示*：針對(duì)花樣翻新的智能AI詐騙，公眾要提高防范意識(shí)，不輕易提供人臉、指紋等個(gè)人生物信息給他人，不過(guò)度公開或分享動(dòng)圖、視頻等；網(wǎng)絡(luò)轉(zhuǎn)賬前要通過(guò)電話等多種溝通渠道核驗(yàn)對(duì)方身份，一旦發(fā)現(xiàn)風(fēng)險(xiǎn)，及時(shí)報(bào)警求助。如果有人自稱“熟人”、“領(lǐng)導(dǎo)”通過(guò)社交軟件、短信以各種理由誘導(dǎo)你匯款，務(wù)必通過(guò)電話、見(jiàn)面等途徑核實(shí)確認(rèn)，不要未經(jīng)核實(shí)隨意轉(zhuǎn)賬匯款，不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息。

事實(shí)上AI換臉換聲技術(shù)早已不是“新聞”，隨著AI技術(shù)的快速迭代進(jìn)化，“換臉換聲”的精準(zhǔn)、仿真程度越來(lái)越高，甚至足以以假亂真！此前，就有用戶采用AI 繪畫工具 Midjourney繪制的“中國(guó)情侶”圖片在社交媒體上被廣泛轉(zhuǎn)發(fā)，其逼真的視覺(jué)效果令不少網(wǎng)友感嘆：“已經(jīng)不遜于人類畫師了。”

國(guó)內(nèi)安全廠商發(fā)出提醒，當(dāng)前已經(jīng)出現(xiàn)攻擊者利用AI大模型快速構(gòu)建攻擊工具。在發(fā)展人工智能的同時(shí)，打好安全基礎(chǔ)尤其重要。

4月11日，國(guó)家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（下稱《辦法》），并向社會(huì)公開征求意見(jiàn)。其中，在與技術(shù)濫用問(wèn)題相關(guān)的虛假信息管理和他人權(quán)益問(wèn)題上，《辦法》規(guī)定“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私，侵犯知識(shí)產(chǎn)權(quán)。禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。”