國(guó)家反詐中心App上線新功能
“AI內(nèi)容鑒定”治理惡意AI
“AI內(nèi)容鑒定”功能上線（紅框）。
網(wǎng)購(gòu)時(shí)遇到商品問(wèn)題，隨手拍張照片申請(qǐng)售后，本是消費(fèi)者維權(quán)的常規(guī)操作?？山?，不少電商商家反映，有買(mǎi)家使用AI偽造出來(lái)的“問(wèn)題圖”申請(qǐng)僅退款，不用退貨還能白拿商品，這讓商家叫苦不迭。
對(duì)此，部分網(wǎng)友推薦使用國(guó)家反詐中心App近期上線的“AI內(nèi)容鑒定”功能，用戶可通過(guò)上傳圖片、視頻、音頻或文本來(lái)檢測(cè)AI生成痕跡，主要用于識(shí)別詐騙場(chǎng)景中的偽造內(nèi)容。
也有部分網(wǎng)友提出疑問(wèn)，用AI治理惡意AI能有效果嗎？是否能利用“AI內(nèi)容鑒定”功能進(jìn)行維權(quán)？
買(mǎi)家以AI偽造枯黃果苗圖片
惡意申請(qǐng)“僅退款”
河北辛集市的張先生是一名無(wú)花果樹(shù)種植戶，上個(gè)月他把店開(kāi)到了某直播電商平臺(tái)，售賣(mài)無(wú)花果苗。然而僅賣(mài)出12單，他就收到了一份“僅退款”申請(qǐng)，對(duì)方的理由是收到的無(wú)花果苗已干枯死亡，隨申請(qǐng)附上的，是一張葉片全黃、毫無(wú)生機(jī)的果苗圖片。
干枯死亡的無(wú)花果苗由AI生成。
張先生滿心疑惑，自己明明是帶盆發(fā)貨，兩天時(shí)間果苗怎么會(huì)完全枯死？“直播選的苗，他選了一棵特別健壯的。我是帶盆發(fā)貨的，發(fā)貨之前也會(huì)保證土壤濕潤(rùn)。發(fā)貨到客戶收到就兩天時(shí)間，苗不可能干到顏色枯黃。缺水枯黃至少要5天到7天?！?/p>
憑借多年種植經(jīng)驗(yàn)，張先生找出了圖片中的破綻。張先生斷定，這就是AI造假。他隨即駁回了申請(qǐng)，并聯(lián)系買(mǎi)家退貨退款，但買(mǎi)家直接申請(qǐng)了平臺(tái)介入。盡管張先生據(jù)理力爭(zhēng)，平臺(tái)還是依據(jù)顧客發(fā)來(lái)的這張圖片，幾分鐘內(nèi)就批準(zhǔn)了“僅退款”申請(qǐng)。最終，這筆45元的訂單讓張先生直接啟動(dòng)退店流程，不再在該平臺(tái)賣(mài)苗。
AI偽造的售后圖片。
記者調(diào)查發(fā)現(xiàn)，張先生的遭遇并非個(gè)例。在社交平臺(tái)上，不少商家現(xiàn)身說(shuō)法，講述自己見(jiàn)過(guò)的AI偽造售后圖片。五只衣架在同一位置整齊斷裂、塑料手機(jī)殼斷裂邊緣出現(xiàn)毛刺、手串破碎后呈空心殼狀……記者梳理多位商家曬出的疑似AI造假圖發(fā)現(xiàn)，這些圖片雖然乍看逼真，但細(xì)看卻漏洞百出，存在邏輯硬傷。
國(guó)家反詐中心App新功能
記者體驗(yàn)AI鑒真效果
在AI生成圖像泛濫的當(dāng)下，如何精準(zhǔn)鑒別真?zhèn)我殉蔀槔@不開(kāi)的現(xiàn)實(shí)問(wèn)題。
近期，國(guó)家反詐中心App正式上線“AI內(nèi)容鑒定”功能，引發(fā)網(wǎng)友關(guān)注。該功能支持圖像、視頻等內(nèi)容的AI識(shí)別檢測(cè)，與此同時(shí)，各互聯(lián)網(wǎng)平臺(tái)也在積極布局“AI鑒真工具”。
記者在網(wǎng)絡(luò)上隨機(jī)選取了十張商家宣稱的疑似AI生成“售后圖”，上傳國(guó)家反詐中心App及多個(gè)AI鑒真工具，結(jié)果無(wú)一例外，均被系統(tǒng)判定為“圖像含AI生成痕跡”。與之相對(duì)比，記者上傳一張自己隨手拍攝的照片，系統(tǒng)則提示“未檢測(cè)到合成痕跡”。
某網(wǎng)絡(luò)平臺(tái)安全內(nèi)容視覺(jué)算法負(fù)責(zé)人蘭鈞介紹，檢測(cè)方法由兩部分組成，一部分是小模型來(lái)學(xué)習(xí)AIGC模型生成內(nèi)容的模式，基于大量的內(nèi)容學(xué)習(xí)和訓(xùn)練，然后進(jìn)行判斷。另外會(huì)用大模型來(lái)關(guān)注內(nèi)容本身，看它內(nèi)容上有沒(méi)有物理上的瑕疵，比如文字有沒(méi)有亂碼；此外也會(huì)看它邏輯語(yǔ)義上是否會(huì)出現(xiàn)不符合邏輯的問(wèn)題。最終小模型和大模型結(jié)合，一起來(lái)進(jìn)行判斷。
北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心主任謝永江表示，現(xiàn)在從技術(shù)上已經(jīng)有相應(yīng)的AI內(nèi)容鑒定工具了，平臺(tái)有義務(wù)引進(jìn)這種技術(shù)手段來(lái)維護(hù)平臺(tái)上的交易秩序，維護(hù)商家和消費(fèi)者的合法權(quán)益。
“去偽”還需“存真”
核心在于“以AI治AI”
“首先，要從元數(shù)據(jù)入手?！背啥紳撛谌斯ぶ悄芸萍加邢薰镜臉I(yè)務(wù)之一是審核并篩查AI內(nèi)容，負(fù)責(zé)人廖磊說(shuō)，由真實(shí)相機(jī)拍攝的照片，會(huì)包含拍攝設(shè)備、參數(shù)、時(shí)間等信息，同時(shí)，各類圖形處理、影像剪輯平臺(tái)在制作內(nèi)容時(shí)，也會(huì)留存一些標(biāo)識(shí)信息?！巴ㄟ^(guò)AI識(shí)圖等工具，對(duì)比這些信息，可以初步篩選出可疑圖像。”
當(dāng)然，僅僅依靠元數(shù)據(jù)遠(yuǎn)遠(yuǎn)不夠，還需要通過(guò)物理世界、像素?cái)鄬拥燃?xì)節(jié)來(lái)判斷。
多位受訪者提到，想要更好識(shí)別AI虛假信息，通過(guò)技術(shù)“去偽”還存在一定局限性，要避免合成信息與真實(shí)信息混淆，除依靠企業(yè)技術(shù)研發(fā)外，還需多措并舉做好“存真”工作。
其中，“內(nèi)容標(biāo)識(shí)”是一個(gè)常見(jiàn)做法。四川省人工智能行業(yè)協(xié)會(huì)秘書(shū)長(zhǎng)陳章注意到，去年9月，國(guó)家網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式實(shí)施，要求所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”?！皩?duì)每一條信息都進(jìn)行技術(shù)鑒定，會(huì)帶來(lái)極高的社會(huì)成本，通過(guò)強(qiáng)制‘標(biāo)識(shí)’，從源頭確保信息的真實(shí)性，有利于減少因AI生成內(nèi)容引發(fā)的侵權(quán)、詐騙等問(wèn)題?！?/p>
業(yè)內(nèi)人士表示，應(yīng)對(duì)AI造假，核心在于“以AI治AI”。目前較為成熟的鑒真工具幾乎能不誤傷真實(shí)內(nèi)容，又能較為精準(zhǔn)識(shí)別AI造假內(nèi)容。
AI偽造圖片騙取退款的行為，本質(zhì)是民事欺詐，若不及時(shí)遏制，將威脅電子商務(wù)的正常秩序與健康發(fā)展。AI鑒真工具能大幅降低商家的辨別成本，既能震懾不法分子，也能作為商家與平臺(tái)交涉、維護(hù)自身權(quán)益的有力證據(jù)。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)