（原標(biāo)題：“AI換臉”詐騙430萬(wàn)，如何用“法”打敗“魔法”？）

1.“AI換臉10分鐘狂騙430萬(wàn)”新聞中直接利用AI換臉騙取錢(qián)款的行為人構(gòu)成詐騙罪，若AI換臉技術(shù)的提供方與行為人共謀，則AI換臉技術(shù)提供方（自然人）構(gòu)成詐騙罪的共同正犯。若雙方無(wú)共謀，則AI換臉技術(shù)提供方則有可能構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪。

2.“AI換臉10分鐘狂騙430萬(wàn)”新聞中提及的技術(shù)即AI深度合成技術(shù)，是廣義的AIGC（人工智能生成內(nèi)容）技術(shù)群的組成部分，目前在我國(guó)，深度合成技術(shù)直接受到《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的規(guī)制。今年4月，國(guó)家互聯(lián)網(wǎng)信息辦公室管理《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》亦公開(kāi)征求意見(jiàn)，該意見(jiàn)稿定稿發(fā)布后，深度合成技術(shù)將受到進(jìn)一步規(guī)制。

3.除刑事犯罪外，未經(jīng)允許運(yùn)用AI換臉等深度合成技術(shù)還可能構(gòu)成侵犯肖像權(quán)、侵犯名譽(yù)權(quán)等民事侵權(quán)糾紛，目前司法實(shí)務(wù)中已經(jīng)存在AI換臉技術(shù)構(gòu)成民事侵權(quán)的判決例。

4.涉及深度合成等技術(shù)的AIGC創(chuàng)業(yè)公司需要遵守信息發(fā)布審核、個(gè)人信息保護(hù)等20個(gè)合規(guī)義務(wù)，以確保自身業(yè)務(wù)合規(guī)，具體合規(guī)內(nèi)容可見(jiàn)文末。

一、AI換臉新騙局，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)文提醒

就在幾天前，內(nèi)蒙古包頭等地出現(xiàn)AI換臉新騙局，被害人好友突然通過(guò)微信視頻聯(lián)系被害人，并稱(chēng)自己在外地競(jìng)標(biāo)，需要430萬(wàn)保證金，且需要對(duì)公賬戶(hù)過(guò)賬，需要借被害人的公司走賬。被害人基于對(duì)好友的信任，加之已經(jīng)視頻聊天確認(rèn)了其身份，便分兩筆將430萬(wàn)轉(zhuǎn)到了好友的銀行卡上。事后被害人撥打好友電話才知道被騙。在該案中，騙子通過(guò)AI換臉技術(shù)將自己在微信視頻中偽裝成被害人好友的樣子，再利用聲音合成技術(shù)合成被害人好友的聲音，進(jìn)而對(duì)被害人實(shí)施詐騙。

針對(duì)日漸猖獗的AI換臉詐騙事件，多地發(fā)文提醒公眾注意防騙風(fēng)險(xiǎn)。5月23日，四川綿陽(yáng)市反電信網(wǎng)絡(luò)詐騙中心發(fā)出預(yù)警，提醒公眾注意相應(yīng)的詐騙風(fēng)險(xiǎn)。就在昨天，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)向公眾發(fā)出預(yù)警，今年以來(lái)，伴隨著深度合成技術(shù)的開(kāi)放開(kāi)元，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”、“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗等的違法行為屢見(jiàn)不鮮。

目前世界范圍內(nèi)有據(jù)可查的第一起利用深度合成技術(shù)的詐騙案件發(fā)生在2019年。

深度合成詐騙第一案

2019年3月，一家國(guó)際能源公司首席執(zhí)行官接到了一個(gè)未知來(lái)電，很快，他就認(rèn)出了電話那頭的人——德國(guó)母公司的CEO，也是他的頂頭上司。在這通電話中，母公司CEO表示當(dāng)前公司出現(xiàn)運(yùn)營(yíng)危機(jī)，急需世界各地分公司緊急提供220000歐元或243000美元的資金支援，隨后這位母公司CEO提供了一個(gè)匈牙利的銀行賬戶(hù)，并宣稱(chēng)該筆資金需要直接支付給某匈牙利供應(yīng)商，母公司將在資金周轉(zhuǎn)過(guò)來(lái)后為分公司報(bào)銷(xiāo)這筆支出。雖然該指示聽(tīng)起來(lái)不是既不合規(guī)又不靠譜，又涉及如此大的一筆資金流轉(zhuǎn)，但被害人考慮再三還是選擇了執(zhí)行命令，原因很簡(jiǎn)單：電話里的聲音確實(shí)是自己的頂頭上司無(wú)誤，甚至連那標(biāo)志性的輕微德國(guó)口音和語(yǔ)氣習(xí)慣都與自己老板平時(shí)說(shuō)話時(shí)毫無(wú)區(qū)別。至此，雖然受害人還有所懷疑，但依然向“老板”電話中提供的匈牙利賬戶(hù)完成了轉(zhuǎn)賬。在這起案件中，被轉(zhuǎn)出的資金從匈牙利流向墨西哥，然后再被分散到其他地方，截至2023年5月，涉案資金仍未追回。

正因上述案件在全球范圍內(nèi)層出不窮，傳統(tǒng)的技術(shù)中立觀點(diǎn)在法學(xué)界已經(jīng)鮮有支持，各國(guó)對(duì)于深度合成技術(shù)亦逐步加強(qiáng)監(jiān)管?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》是我國(guó)專(zhuān)門(mén)規(guī)制深度合成技術(shù)的規(guī)范性文件。除此之外，《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等亦涉及到對(duì)深度合成技術(shù)的規(guī)管。當(dāng)然，《刑法》作為最后的保護(hù)手段，亦有諸多罪名可規(guī)制利用AI深度合成技術(shù)犯罪的行為。

二、AI換臉技術(shù)服務(wù)提供者有構(gòu)成幫信罪的刑事風(fēng)險(xiǎn)

不可否認(rèn)目前深度合成技術(shù)是“朝陽(yáng)產(chǎn)業(yè)”，隨著技術(shù)迭代深度合成技術(shù)成本急劇降低，相關(guān)企業(yè)甚至可以達(dá)到通過(guò)“走量”賺取暴利，根據(jù)調(diào)查，目前制作一套“露臉且說(shuō)話”視頻的成本低至數(shù)十元，且只需要提供正面照片就能生成視頻，生成的視頻不僅眼睛、嘴巴、頭會(huì)動(dòng)，如果提供文字和聲音內(nèi)容，甚至口型都能對(duì)得上，而這一切只需要幾小時(shí)就可完工。有商家稱(chēng)利用照片生成一段1分鐘時(shí)長(zhǎng)的視頻僅需要30元，質(zhì)量要求不高的幾元就可以做到。

值得注意的是，這類(lèi)行為具有巨大的刑事風(fēng)險(xiǎn)，《中華人民共和國(guó)刑法》第二百八十七條之二規(guī)定了幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪。幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪即明知他人利用信息網(wǎng)絡(luò)實(shí)施犯罪，為其提供互聯(lián)網(wǎng)接入、服務(wù)器托管、網(wǎng)絡(luò)存儲(chǔ)、通訊傳輸?shù)燃夹g(shù)支持，或者提供廣告推廣、支付結(jié)算等幫助，情節(jié)嚴(yán)重的行為。此處的“明知”在實(shí)務(wù)中往往通過(guò)客觀證據(jù)即可認(rèn)定，而不依賴(lài)于行為人的主觀說(shuō)辭，同時(shí)，為客戶(hù)提供AI換臉技術(shù)，亦可以被解釋為“為其提供……等技術(shù)手段”。換言之，在AI換臉技術(shù)引發(fā)的電信詐騙案件如此猖獗的情況下，客戶(hù)無(wú)正當(dāng)理由，且沒(méi)有顯著證據(jù)證明其獲得了照片人的認(rèn)可而要求AI換臉技術(shù)提供者利用照片生成視頻，而相關(guān)技術(shù)提供者制作了視頻，又被客戶(hù)用以行騙時(shí)，AI換臉技術(shù)提供者極易陷入幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪的刑事風(fēng)險(xiǎn)之中。

三、未經(jīng)允許的AI換臉技術(shù)亦有可能構(gòu)成嚴(yán)重的民事侵權(quán)

除上述構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪之刑事風(fēng)險(xiǎn)外，未經(jīng)允許的AI換臉技術(shù)亦有可能構(gòu)成嚴(yán)重的民事侵權(quán)行為，實(shí)際上這種判決例已經(jīng)出現(xiàn)。如在（2022）滬0116民初13856號(hào)肖像權(quán)糾紛判決中，被告上海某科技有限公司在其運(yùn)營(yíng)的“AI換臉”軟件中使用了古風(fēng)漢服模特廖某所拍攝的古風(fēng)造型視頻模板。本案中，原告廖某對(duì)肖像享有肖像權(quán)，并且被告雖然將原告視頻中的人物形象的臉部進(jìn)行替換，但仍能通過(guò)其他未修改的相應(yīng)場(chǎng)景和細(xì)節(jié)識(shí)別出對(duì)應(yīng)主體為原告廖某。原告據(jù)此主張被告構(gòu)成肖像權(quán)侵權(quán)。AI換臉技術(shù)作為一種典型的與肖像有關(guān)的技術(shù)，其破壞了肖像和主體的同一性，一方面肖像主體有權(quán)拒絕其身體形象被冠以他人面目，另一方面肖像主體也有權(quán)拒絕將其面部形象嫁接至他人身體之上。結(jié)合一般肖像權(quán)侵權(quán)的構(gòu)成要件，以AI換臉技術(shù)侵害肖像權(quán)的構(gòu)成要件為：1.自然人對(duì)特定肖像享有肖像權(quán)；2.行為人無(wú)論是否具有盈利目的，未經(jīng)他人同意利用信息技術(shù)手段對(duì)權(quán)利人的肖像進(jìn)行篡改、偽造和自動(dòng)生成，產(chǎn)生難以甄別的效果。

除肖像權(quán)侵權(quán)外，利用AI換臉技術(shù)制作惡意丑化他人的視頻、圖片并在互聯(lián)網(wǎng)上廣泛傳播的，則有可能構(gòu)成名譽(yù)權(quán)侵權(quán)。如在實(shí)際生活當(dāng)中存在大量利用換臉視頻調(diào)侃明星、網(wǎng)紅的情形，例如制作換臉惡搞視調(diào)侃某明星唱、跳、打籃球的技巧問(wèn)題，就有可能構(gòu)成名譽(yù)權(quán)侵權(quán)。

寫(xiě)在最后

深度合成技術(shù)作為人工智能領(lǐng)域最有生命力的運(yùn)用，其必將會(huì)在今后迸發(fā)出極大的生產(chǎn)力，也正因如此，該領(lǐng)域的合規(guī)問(wèn)題必須受到重視，這是深度合成技術(shù)健康發(fā)展的前提，在當(dāng)今法學(xué)界，純粹的技術(shù)中立學(xué)說(shuō)已經(jīng)鮮有人主張，技術(shù)本身具有自己的價(jià)值傾向性已經(jīng)深入人心，基于深度合成技術(shù)的各種風(fēng)險(xiǎn)，颯姐團(tuán)隊(duì)總結(jié)了相關(guān)從業(yè)者的合規(guī)邊界以及20個(gè)合規(guī)義務(wù)，以此助力深度合成產(chǎn)業(yè)健康發(fā)展并供從業(yè)者參考：

生成內(nèi)容的合規(guī)邊界

1.不得從事涉政涉黃；

2.不得合成虛假新聞，非持牌不得傳播非國(guó)家規(guī)定范圍內(nèi)的單位發(fā)布的新聞；

3.不得違背公序良俗（例如第三者如何搶奪原配家產(chǎn)）；

4.不得生成違法和不良信息，這方面可以健全相應(yīng)“特征庫(kù)”，篩選健康信息；

5.不得惡意貶損他人名譽(yù)和企業(yè)商譽(yù)（法律后果是會(huì)被起訴名譽(yù)權(quán)侵權(quán)）；

6.對(duì)于不可控的創(chuàng)作內(nèi)容，及時(shí)刪除降低社會(huì)危害。

具體的合規(guī)義務(wù)

1.健全用戶(hù)注冊(cè)制度；

2.算法機(jī)制機(jī)理審核；

3.科學(xué)倫理審查；

4.信息發(fā)布審核；

5.數(shù)據(jù)安全管理制度；

6.個(gè)人信息保護(hù)制度；

7.反電信詐騙制度；

8.應(yīng)急處置管理制度；

9.在App或網(wǎng)站，公開(kāi)管理規(guī)則、平臺(tái)公約，完善服務(wù)協(xié)議，以顯著方式提示各方承擔(dān)信息安全義務(wù);

10.健全用于識(shí)別違法和不良信息的特征庫(kù)，留存日志；

11.發(fā)現(xiàn)違法和不良信息，有向主管機(jī)關(guān)報(bào)告的義務(wù)；

12.發(fā)現(xiàn)違法和不良信息，對(duì)使用者依法依約，采取處置措施；

13.全辟謠機(jī)制；

14.設(shè)置便捷申訴和舉報(bào)入口，及時(shí)反饋結(jié)果；

15.加強(qiáng)訓(xùn)練數(shù)據(jù)管理；

16.定期審核、評(píng)估、驗(yàn)證生成合成類(lèi)算法機(jī)制機(jī)理；

17.依法自行或委托專(zhuān)業(yè)機(jī)構(gòu)開(kāi)展安全評(píng)估；

18.對(duì)生成內(nèi)容，采取技術(shù)措施添加不影響用戶(hù)使用的標(biāo)識(shí)；

19.不得刪除、篡改、隱匿深度合成標(biāo)識(shí)；

20.按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案、變更、注銷(xiāo)備案手續(xù)。

本文系未央網(wǎng)專(zhuān)欄作者:肖颯 發(fā)表，內(nèi)容屬作者個(gè)人觀點(diǎn)，不代表網(wǎng)站觀點(diǎn)，未經(jīng)許可嚴(yán)禁轉(zhuǎn)載，違者必究！

免責(zé)聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點(diǎn)和立場(chǎng)。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識(shí)產(chǎn)權(quán)的作品，請(qǐng)與我們?nèi)〉寐?lián)系，我們會(huì)及時(shí)修改或刪除。

Tags：[db:TAG標(biāo)簽](1531002)

轉(zhuǎn)載請(qǐng)標(biāo)注：信息網(wǎng)——“AI換臉”詐騙430萬(wàn)，如何用“法”打敗“魔法”？