財(cái)聯(lián)社 5 月 17 日訊（記者 徐賜豪）由 OpenAI 引發(fā)的 AI 熱潮正在持續(xù)，但 AIGC 相關(guān)應(yīng)用在提升生產(chǎn)效率的同時(shí)，也被不法分子用于生成虛假內(nèi)容，擾亂社會(huì)正常運(yùn)行。

國信證券研報(bào)指出，國內(nèi) AI 應(yīng)用逐步擴(kuò)大，AI 相關(guān)應(yīng)用也會(huì)逐步起量。針對(duì) AI 濫用風(fēng)險(xiǎn)，數(shù)據(jù)安全、密碼、AI 監(jiān)管均是重要的技術(shù)發(fā)展方向。

日前，美亞柏科發(fā)布了新產(chǎn)品，可以對(duì) AI 生成的視頻、圖像、文本進(jìn)行檢測(cè)識(shí)別。實(shí)際上，我國相關(guān)部門一直在探索對(duì) AIGC 產(chǎn)品和應(yīng)用的法律監(jiān)管。相關(guān)專家也建議，只有建立健全相關(guān)法律制度，才能從根本上推動(dòng)我國 AIGC 產(chǎn)業(yè)健康可持續(xù)發(fā)展。

(資料圖片)

美亞柏科發(fā)布 AI 監(jiān)管產(chǎn)品

5 月 15 日，美亞柏科發(fā)布了一則投資者關(guān)系活動(dòng)記錄表。

記錄表顯示，在 AI 監(jiān)管產(chǎn)品方面，公司已經(jīng)發(fā)布了 AI-3300" 慧眼 " 視頻圖像鑒真工作站，可以對(duì)深度合成偽造的視頻圖像、AIGC 生成視頻圖像進(jìn)行監(jiān)測(cè)鑒定。公司推出的 AIGC 檢測(cè)平臺(tái)支持 AIGC 生成文本的檢測(cè)識(shí)別。

同時(shí)美亞柏科表示，后續(xù)公司將持續(xù)圍繞包括反生成式 AI 在內(nèi)的 AI 安全及監(jiān)管領(lǐng)域進(jìn)行研究，并根據(jù)業(yè)務(wù)需要適時(shí)布局相關(guān)產(chǎn)品。

元宇宙 NEWS 記者致電美亞柏科方面，該公司接線人士表示，從商業(yè)模式來看，目前公司的 AI 安全產(chǎn)品主要服務(wù)的還是像公安、網(wǎng)信等監(jiān)管部門，針對(duì)網(wǎng)絡(luò)上利用生成式技術(shù)進(jìn)行不良信息的傳播行為識(shí)別和鑒定；此外可以針對(duì)提供生成式服務(wù)的生產(chǎn)商提供安全性以及合規(guī)性的評(píng)測(cè)服務(wù)。

上述接線人士坦言，目前國內(nèi)大模型廠商還處在發(fā)布以及市場適用的階段，從 B 端這個(gè)角度來看，目前業(yè)務(wù)領(lǐng)域的合作還在探討中。

" 隨著深度偽造技術(shù)和 AIGC 技術(shù)的日漸成熟，偽造相關(guān)視頻、音頻、圖像等技術(shù)門檻大幅降低，AI 技術(shù)濫用風(fēng)險(xiǎn)進(jìn)一步擴(kuò)大，監(jiān)管迫切需要加強(qiáng)。" 天使投資人、資深人工智能專家郭濤向元宇宙 NEWS 記者表示，AI 監(jiān)管工具在監(jiān)測(cè)識(shí)別利用深度偽造技術(shù)和 AIGC 技術(shù)制作的圖片、視頻、視頻等方面有比較好的效果，可以減少技術(shù)濫用風(fēng)險(xiǎn)。

戴爾科技中國研發(fā)集團(tuán)高級(jí)主管科學(xué)家李三平博士向元宇宙 NEWS 記者表示，從技術(shù)角度講，目前 AI 生成圖片、視頻已經(jīng)有一些嘗試，例如谷歌將標(biāo)記由其工具創(chuàng)建的每一個(gè) AI 生成圖像。

" 技術(shù)上便于識(shí)別，使用上不影響用戶。但是文字類的內(nèi)容還在探索中。" 李三平說道。

AI 監(jiān)管一直在路上

國信證券認(rèn)為，隨著國內(nèi)百度、360、阿里、華為、騰訊等互聯(lián)網(wǎng)公司發(fā)布或者計(jì)劃發(fā)布大模型，AI 相關(guān)應(yīng)用也會(huì)逐步起量。針對(duì) AI 濫用風(fēng)險(xiǎn)，數(shù)據(jù)安全、密碼、AI 監(jiān)管均是重要的技術(shù)發(fā)展方向。

實(shí)際上我國一直以來十分重視 AI 的監(jiān)管。

2023 年 1 月 10 日，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）正式施行。《規(guī)定》明確，提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

4 月 11 日，網(wǎng)信辦發(fā)布關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見稿）》（簡稱 "《辦法》"），首次聚焦生成式 AI，進(jìn)一步明確法律邊界和責(zé)任主體。《辦法》提出利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等的組織和個(gè)人，應(yīng)當(dāng)承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任。提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)。

"AI 產(chǎn)業(yè)監(jiān)管方面存在相關(guān)法律法規(guī)與標(biāo)準(zhǔn)體系不健全、缺乏多部門協(xié)同的自上而下的監(jiān)管體系、監(jiān)管技術(shù)手段落后等突出問題。" 郭濤指出，政府有關(guān)部門需要盡快建立健全 AIGC 研發(fā)與應(yīng)用相關(guān)法律法規(guī)和標(biāo)準(zhǔn)體系，建立或完善倫理審查制度和監(jiān)管體系，加強(qiáng)對(duì)科技企業(yè)、應(yīng)用場景、使用者的監(jiān)管，搭建多方參與協(xié)同治理平臺(tái)，推動(dòng) AIGC 產(chǎn)業(yè)健康可持續(xù)發(fā)展。