微軟總裁布拉德·史密斯周四表示，他對人工智能的最大擔憂是深度造假（Deep Fakes ），看起來很逼真但內容是虛假的。

隨著OpenAI的 ChatGPT 的出現，深度造假成為普遍存在的問題。在華盛頓的一次演講中，史密斯呼吁采取措施確保人們知道照片或視頻何時是真實的，何時是真實的。由 AI 生成，可能用于不良目的。

【資料圖】

史密斯強調，“我們需要采取措施防止合法內容被篡改，以及意圖通過使用人工智能進行欺騙的行為。”

國內消息，繼此前“10分鐘被AI換臉騙走430萬元”事件引發關注之后，5月22日，又一起AI換臉詐騙發生。這次金額達到132萬，且整個詐騙過程時間更短，只有9秒鐘。

據澎湃新聞報道，5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉一筆賬。但9秒之后，對方以“在開會”為由，迅速掛斷了電話，還稱“微信和電話不能說，加一下QQ”。“因為打了視頻電話，又是熟人，我就沒多想，就轉賬了”。

事發時，何先生放松了警惕。發現被騙之后，何先生迅速報警，專案民警第一時間凍結相關賬戶，連夜趕赴北京市抓獲3名涉詐嫌疑人，追回何先生被騙的132萬元。

此前，據高臺公安，近日，包頭警方發布一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。

4月20日中午，郭先生的好友突然通過微信視頻聯系他，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。

基于對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了好友朋友的銀行卡上。郭先生撥打好友電話，才知道被騙。騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。值得注意的是，騙子并沒有使用一個仿真的好友微信添加郭先生為好友，而是直接用好友微信發起視頻聊天，這也是郭先生被騙的原因之一。騙子極有可能通過技術手段盜用了郭先生好友的微信。幸運的是，接到報警后，福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉移，目前正在全力追繳中。

在應用商店搜“AI換臉”，隨即發現市面上已有一批軟件的換臉技術，幾乎可以以假亂真。某短視頻平臺還推出一款“AI隨拍”玩法，用戶可以將自己的臉帶入明星身上，即可發布視頻。

專家提示，“AI假臉”的紋理特征存在破綻。另外，“AI假臉”有可能不符合正常人的生理特征。