近日，AI換臉技術(shù)因幾例詐騙案的告破引發(fā)大眾關(guān)注。一位包頭老板被AI換臉詐騙430萬(wàn)元后，安徽警方又公布了另一起AI換臉導(dǎo)致的詐騙案，涉案金額同樣高達(dá)百萬(wàn)元。

伴隨著AI大模型的發(fā)展，深度合成技術(shù)應(yīng)用范圍越來(lái)越廣，門檻也越來(lái)越低，催生了美顏換臉、影視制作、虛擬主播等應(yīng)用服務(wù)。

【資料圖】

技術(shù)突破還使得換臉后的人物表情、動(dòng)作細(xì)節(jié)更為逼真，存在被不法分子惡意利用，制作違法和不良信息，詆毀貶損他人名譽(yù)，仿冒他人身份實(shí)施詐騙等現(xiàn)象。

付費(fèi)軟件可支持直播換臉

商家宣稱“混合多個(gè)人臉”可降低侵權(quán)風(fēng)險(xiǎn)

紅星新聞?dòng)浾咦⒁獾?，自今年起，市面上涌現(xiàn)出許多以“AI換臉”為宣傳標(biāo)簽的軟件和網(wǎng)站。由于涉及人臉信息泄露等網(wǎng)絡(luò)安全問(wèn)題，該類技術(shù)的運(yùn)用一直是網(wǎng)絡(luò)安全監(jiān)管的重點(diǎn)對(duì)象，許多換臉軟件因而通過(guò)短視頻平臺(tái)、社交賬號(hào)等私密渠道進(jìn)行資源共享。

5月底，紅星新聞?dòng)浾邔?shí)測(cè)發(fā)現(xiàn)，以“AI換臉”為關(guān)鍵詞在電商平臺(tái)搜索，顯示“沒(méi)有找到相關(guān)寶貝”，但通過(guò)類似關(guān)鍵詞搜索，依舊可以搜索到相關(guān)的換臉技術(shù)服務(wù)。一名商家向紅星新聞?dòng)浾呓榻B，目前店鋪只支持換大部分國(guó)外明星的臉，不含國(guó)內(nèi)明星的臉部模型。

另一位商家則介紹，可以提供國(guó)內(nèi)明星換臉?lè)?wù)，軟件價(jià)格2000元一套，可送一個(gè)模型，“模型可以定制，另外加500元一個(gè)?！睋?jù)該商家銷售人員說(shuō)，他們的模型要比網(wǎng)上免費(fèi)分享的“swapface、表情照相機(jī)”效果更好，且操作上簡(jiǎn)單易學(xué)，幾分鐘便可以學(xué)會(huì)。

此外，該名商家提供了多組套餐供選擇：包括單圖換臉、實(shí)時(shí)換臉、全自動(dòng)換臉等，價(jià)格多集中在2000元至3000元每套。對(duì)于紅星新聞?dòng)浾咛岢龅那謾?quán)顧慮，該商家表示可以進(jìn)行多個(gè)人臉混合的方式，即將使用者本人的臉和明星的臉進(jìn)行混合，從而降低侵權(quán)風(fēng)險(xiǎn)。

在某銷售網(wǎng)站上，一名軟件開(kāi)發(fā)者向紅星新聞?dòng)浾哒故玖巳绾螌⒅堑难劬妥彀推唇尤诤系揭黄穑扇绿摂M數(shù)字人的過(guò)程。據(jù)介紹，該款軟件提供了從初級(jí)（LV1）到超級(jí)（LV4）再到全套（LV5）的不同版本。以初級(jí)套餐來(lái)說(shuō)，付費(fèi)499元可提供軟件界面、視頻指導(dǎo)、入門級(jí)模型、基礎(chǔ)指導(dǎo)等，付費(fèi)2888元，則可得到全套（LV5）等級(jí)的視頻換臉模型。價(jià)格不同，套餐中包含的人臉模型數(shù)目也不同。

上述軟件開(kāi)發(fā)者介紹，軟件不僅可以實(shí)現(xiàn)視頻換臉，還支持直播換臉?！叭绻阌锌粗械哪?，可以找到某個(gè)人的正面、側(cè)面等各種角度視頻拿來(lái)訓(xùn)練?！痹撥浖_(kāi)發(fā)者同樣表示，“如果你想要明星臉，又怕侵權(quán)，不想那么像，就可以找?guī)讉€(gè)人的臉?lè)旁谝黄鹩?xùn)練，就可以看上去又像又不像，達(dá)到明星臉的效果?！?/p>

賣家展示的局部五官更換

多款A(yù)I換臉APP快速火爆又下架

有開(kāi)發(fā)者稱目前人臉已通過(guò)原作者授權(quán)

由于涉及到個(gè)人最重要的生物特征信息——人臉，存在濫用之嫌的AI換臉技術(shù)從誕生起就面臨著許多爭(zhēng)議。近年來(lái)多款A(yù)I換臉APP在快速爆火后又悄然下架。

2019年起，AI換臉技術(shù)就風(fēng)靡全球，2019年換臉技術(shù)DeepFake一出現(xiàn)便引發(fā)巨大的倫理和法律爭(zhēng)議。同年，國(guó)內(nèi)一款名為“ZAO”的換臉社交軟件爆火，用戶只需要在平臺(tái)上提交一張自己的正臉照片，便可以替換特定視頻段落中的人物，生成包含自己的影視片段。爆火幾天以后，該軟件就被質(zhì)疑“霸王條款”過(guò)度獲取用戶授權(quán)，使用戶拱手相讓自己的肖像權(quán)，同時(shí)明星被侵權(quán)的責(zé)任也可能由用戶承擔(dān)。幾天后該軟件被工業(yè)和信息化部網(wǎng)絡(luò)安全管理局約談后下架。此后出現(xiàn)的如“螞蟻呀嘿”換臉軟件等也重復(fù)了類似的命運(yùn)。

近日，紅星新聞?dòng)浾咴趹?yīng)用軟件平臺(tái)以“換臉”為關(guān)鍵詞進(jìn)行搜索，發(fā)現(xiàn)平臺(tái)中已新出現(xiàn)多款具有AI換臉功能的軟件。以“秀臉FacePlay”為例，其《隱私政策》條款提到：“我們既不會(huì)存儲(chǔ)也不會(huì)與任何第三方共享/處理您的個(gè)人面部信息?！边M(jìn)入應(yīng)用后，該軟件再次提示不會(huì)保存?zhèn)€人的任何照片，分析完即刪除。紅星新聞?dòng)浾咭悦餍堑拿诌M(jìn)行搜索，幾乎沒(méi)有出現(xiàn)明星相關(guān)的視頻影像。其用于換臉的視頻影像樣本幾乎都是素人用戶。紅星新聞?dòng)浾咦稍兞嗽撥浖目头浔硎臼褂迷撥浖谱鞯囊曨l可以進(jìn)行娛樂(lè)分享，不支持商用?！澳壳拔覀冘浖?nèi)上架的視頻模板均由原作者授權(quán)或者用戶自行授權(quán)投稿，您可以放心使用。”

在短視頻平臺(tái)也有許多相關(guān)換臉特效，包括影視片段、明星發(fā)布會(huì)視頻、網(wǎng)紅視頻等，紅星新聞?dòng)浾唿c(diǎn)開(kāi)后沒(méi)有簽署用戶協(xié)議的提示。在某短視頻平臺(tái)的AI隨拍中，提供了許多明星的視頻供用戶進(jìn)行換臉。紅星新聞?dòng)浾哌x擇了一段視頻并提交照片后，程序提示“15元每周可提供無(wú)廣告快速制作，看廣告則可以免費(fèi)制作”?？催^(guò)廣告以后，生成的視頻左下角出現(xiàn)一行字進(jìn)行了顯著標(biāo)識(shí)，稱“該視頻由AI技術(shù)合成”，右下角提示“該內(nèi)容僅供娛樂(lè)”。就是否會(huì)造成人臉數(shù)據(jù)泄露、人臉詐騙等問(wèn)題，紅星新聞?dòng)浾咴儐?wèn)了該平臺(tái)客服，對(duì)方表示已在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，建議用戶偶爾娛樂(lè)，本身被起訴的幾率不高，維權(quán)方“維權(quán)成本比較高”。

在直播領(lǐng)域，許多網(wǎng)友也發(fā)現(xiàn)多位帶貨直播博主都長(zhǎng)了一張“明星臉”，神似明星楊冪、迪麗熱巴、angelababy、佟麗婭等。而在直播過(guò)程中，沒(méi)有出現(xiàn)顯著的標(biāo)識(shí)表明主播的臉可能使用了AI合成技術(shù)。另外，有些直播也沒(méi)有對(duì)明星名字的明顯標(biāo)識(shí)。甚至有網(wǎng)友吐槽，他在直播間提醒商家可能涉嫌侵權(quán)后被商家踢出拉黑。

在直播領(lǐng)域，許多網(wǎng)友也發(fā)現(xiàn)多位帶貨直播的博主都長(zhǎng)了一張“明星臉”，神似明星楊冪、迪麗熱巴、angelababy、佟麗婭等

針對(duì)這一法律問(wèn)題，多位律師受訪時(shí)認(rèn)為，如果對(duì)該明星的形象有抹黑，則涉及侵犯名譽(yù)權(quán)。如果是利用AI換臉技術(shù)制作明星的色情視頻，則可能涉嫌刑事犯罪。由于讓公眾誤以為是明星帶貨，還可能涉及欺詐或虛假宣傳。另外，被侵權(quán)的明星可以要求商家賠償換臉“明星”帶貨所得的利潤(rùn)。

專家：靠AI識(shí)破AI仍不現(xiàn)實(shí)

有效的標(biāo)識(shí)監(jiān)管體系能提前厘清邊界

當(dāng)人們已經(jīng)很難用肉眼識(shí)別出AI合成痕跡，進(jìn)而可能被AI詐騙時(shí)，有網(wǎng)友想到一個(gè)辦法：是否可以用AI技術(shù)打敗AI技術(shù)。

據(jù)了解，國(guó)內(nèi)已有許多科學(xué)家在深耕此領(lǐng)域。中科院計(jì)算所一團(tuán)隊(duì)近年來(lái)搭建了國(guó)內(nèi)首個(gè)AI識(shí)謠平臺(tái)——睿鑒識(shí)謠，通過(guò)“睿鑒AI”小程序，利用大數(shù)據(jù)和AI平臺(tái)向公眾開(kāi)放了“新聞可信度分析”“圖像視頻偽造檢測(cè)”等服務(wù)，檢測(cè)圖片視頻內(nèi)容真?zhèn)?。紅星新聞?dòng)浾呱蟼髁藥讖埵状芜M(jìn)行AI換臉的圖片，被成功證偽。后上傳了一段由AI合成的新聞視頻，該程序則稱AI合成視頻為真?？梢?jiàn)，目前通過(guò)技術(shù)識(shí)別內(nèi)容真?zhèn)芜€存在一定的局限。

目前，AI換臉技術(shù)用于違法犯罪的行為主要集中于換臉淫穢視頻盈利、實(shí)時(shí)換臉詐騙以及換臉直播領(lǐng)域，主要涉及聲音合成、AI換臉、轉(zhuǎn)發(fā)微信語(yǔ)音、AI程序篩選受害人等。浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)任奎2022年4月接受新華社采訪時(shí)表示，隨著合成技術(shù)應(yīng)用門檻的進(jìn)一步降低，合成內(nèi)容已模糊真實(shí)與偽造的邊界。許多專家擔(dān)心，科技界針對(duì)深度合成技術(shù)的識(shí)別能力，跑不過(guò)“偽造”技術(shù)的升級(jí)。

清華大學(xué)教授、博士生導(dǎo)師沈陽(yáng)也介紹，現(xiàn)在國(guó)外有一些AI安全技術(shù)雛形，可以自動(dòng)檢測(cè)某個(gè)圖片或視頻是否為AI合成，但當(dāng)前技術(shù)還不是太成熟?！凹夹g(shù)難點(diǎn)在于，AI生成的數(shù)據(jù)量太大，檢測(cè)的算力跟不上，且很多AI內(nèi)容都經(jīng)歷了多次合成，當(dāng)前技術(shù)難以找到合成特征?！?/p>

創(chuàng)新工場(chǎng)AI子公司CTO張發(fā)恩指出，用AI識(shí)破AI是個(gè)偽命題。有一種人工智能模型訓(xùn)練方式叫生成辨別對(duì)抗訓(xùn)練，在這種訓(xùn)練方式下，有兩個(gè)AI模型，一個(gè)是“造假”模型，一個(gè)是辨別模型。同時(shí)訓(xùn)練這兩個(gè)模型，當(dāng)“造假”模型產(chǎn)出的內(nèi)容越來(lái)越逼真，辨別模型就無(wú)法辨別真假。基于這種邏輯，我們無(wú)法依靠AI來(lái)揭穿AI。

北京嘉維律師事務(wù)所律師、IT法律專家趙占領(lǐng)表示，根據(jù)2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定；提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。4月11日，國(guó)家網(wǎng)信辦起草了《生成式人工智能服務(wù)管理辦法》，提到AI內(nèi)容必須遵循法律法規(guī)等。“從目前來(lái)說(shuō)，如果能夠有效落實(shí)標(biāo)識(shí)的要求，形成有效的監(jiān)管體系，可以在很大程度上提前厘清‘AI換臉’所帶來(lái)的模糊邊界?！?/p>