（原標題：AI換臉：“一秒魂穿”的法律代價有多大？）

• 目前，利用“AI換臉”等深度合成技術(shù)偽造他人肖像，形成高度逼真且難以識別的影像并用于詐騙等不法活動的案例已經(jīng)出現(xiàn)，傳統(tǒng)意義上的肖像權(quán)侵權(quán)行為和電信詐騙已經(jīng)產(chǎn)生新的“行為模式”。
• 未經(jīng)允許運用AI換臉等深度合成技術(shù)易產(chǎn)生侵犯肖像權(quán)、侵犯名譽權(quán)等民事侵權(quán)風險。目前司法實務(wù)中已經(jīng)存在AI換臉技術(shù)構(gòu)成民事侵權(quán)的判決例。
• 未經(jīng)允許運用AI換臉等深度合成技術(shù)除有構(gòu)成民事侵權(quán)風險外，亦有可能構(gòu)成刑事犯罪，除了可能構(gòu)成詐騙罪外，AI換臉技術(shù)的刑事風險還涉及到制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪或傳播淫穢物品罪、侮辱罪，誹謗罪，編造、故意傳播虛假信息罪等傳統(tǒng)的妨害社會管理秩序類犯罪，以及非法侵入計算機信息系統(tǒng)罪，非法獲取計算機信息系統(tǒng)數(shù)據(jù)，非法控制計算機信息系統(tǒng)罪，提供侵入、非法控制計算機信息系統(tǒng)程序、工具罪等計算機、數(shù)據(jù)類犯罪。

近日，在某社交平臺有著百萬粉絲的網(wǎng)紅博主“C某某某”發(fā)文稱有人盜了她的“臉”，該博主在其博文中寫明，“AI盜臉”事件的背后已經(jīng)形成了一條完整的產(chǎn)業(yè)鏈，不法分子利用AI換臉技術(shù)將明星甚至是普通人的臉制作成色情圖片或視頻并予以傳播，某著名反電詐網(wǎng)站近日亦公布了利用“AI換臉”技術(shù)制作視頻用以詐騙的案例，實際上，早在2015年“AI換臉”技術(shù)就已經(jīng)大顯身手，2015年上映的《速度與激情7》利用了“換臉術(shù)”，將已故男主保羅的面部表情移植到替身上。但當時由于“AI換臉”需要耗費大量的人工和后期特效成本，因此并未引起社會各界的擔憂。隨著人工智能的發(fā)展，近年來“AI換臉”的技術(shù)門檻逐漸降低，普通公眾在沒有深厚技術(shù)的支持下也能玩起“換臉”，由此引發(fā)的爭議及法律風險屢見不鮮。今天颯姐團隊就來與大家聊一聊AI換臉技術(shù)帶來的法律風險。

AI換臉與民事侵權(quán)

1. 侵犯肖像權(quán)

肖像作為一個人最核心的基本人格權(quán)利，其基本內(nèi)容包括制作專有權(quán)、使用專有權(quán)和利益維護權(quán)，具有絕對的排他性，任何人未經(jīng)本人同意，不得擅自使用他人肖像。根據(jù)《民法典》第1019條的規(guī)定，任何組織或者個人不得以丑化、無損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。其中“不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”即主要是指利用人工智能合成技術(shù)深度偽造他人肖像，形成高度逼真且難以甄別的影像等。

AI換臉技術(shù)作為一種典型的與肖像有關(guān)的技術(shù)，其破壞了肖像和主體的同一性，一方面肖像主體有權(quán)拒絕其身體形象被冠以他人面目，另一方面肖像主體也有權(quán)拒絕將其面部形象嫁接至他人身體之上。結(jié)合一般肖像權(quán)侵權(quán)的構(gòu)成要件，以AI換臉技術(shù)侵害肖像權(quán)的構(gòu)成要件為：1.自然人對特定肖像享有肖像權(quán)；2.行為人無論是否具有盈利目的，未經(jīng)他人同意利用信息技術(shù)手段對權(quán)利人的肖像進行篡改、偽造和自動生成，產(chǎn)生難以甄別的效果。

在（2022）滬0116民初13856號肖像權(quán)糾紛中，被告上海某科技有限公司在其運營的“AI換臉”軟件中使用了古風漢服模特廖某所拍攝的古風造型視頻模板。本案中，原告廖某對肖像享有肖像權(quán)，并且被告雖然將原告視頻中的人物形象的臉部進行替換，但仍能通過其他未修改的相應(yīng)場景和細節(jié)識別出對應(yīng)主體為原告廖某。

因此在認定AI換臉技術(shù)是否侵犯某人肖像權(quán)時，能否被識別應(yīng)當作為認定該形象是否為特定主體肖像的核心標準；其次對于已公開的視頻，社會一般人能否通過原視頻中未被修改的相應(yīng)場景和細節(jié)識別出肖像主體也可作為識別肖像的標準。

2. 侵犯名譽權(quán)

《民法典》第1024條規(guī)定，任何組織或者個人不得以侮辱、誹謗等方式侵害他人的名譽權(quán)。若通過AI換臉技術(shù)制作惡意丑化他人的視頻、圖片，并在互聯(lián)網(wǎng)廣泛傳播的，則有可能侵犯他人的名譽權(quán)。除此之外，在實際生活當中還存在大量利用換臉視頻調(diào)侃明星的情形，例如制作換臉惡搞視頻調(diào)侃明星演技差、球技差，從社會一般人的角度來看，明星本身需要比普通承受更多的社會評價，因此此種情況是否侵犯明星的名譽權(quán)則還需要具體情況具體判斷。

AI換臉與刑事犯罪

AI換臉的刑事風險主要源于兩個方面：一是利用AI換臉技術(shù)制作的視頻內(nèi)容具有違法性，二是AI換臉的使用手段具有違法性。

1. AI換臉視頻的內(nèi)容違法

使用者利用AI換臉技術(shù)制作出的視頻內(nèi)容被刑法所禁止，此時刑法的評價對象是利用AI技術(shù)創(chuàng)造出的虛假視頻，該行為違法性的核心也來源于此，而AI換臉作為一種過程性的手段被包容評價在內(nèi)。以前文所述的網(wǎng)紅博主“C某某”“盜臉”事件為例，利用AI換臉技術(shù)將明星、博主甚至是普通人的臉制作成色情圖片或視頻，由此牟取非法利益的情形下，利用AI換臉技術(shù)產(chǎn)出的視頻即屬于淫穢物品，制作、復(fù)制、販賣、傳播淫穢視頻的行為也直接觸犯了《刑法》第363條的規(guī)定。

該類別下，除了可能涉及到制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪或傳播淫穢物品罪之外，還可能涉及侮辱罪，誹謗罪，編造、故意傳播虛假信息罪等犯罪。

2. AI換臉視頻的使用手段違法

使用者利用AI換臉技術(shù)制所作出的視頻內(nèi)容并不違法，但將其運用到違法的領(lǐng)域內(nèi)，即AI換臉技術(shù)成為了一種新型的犯罪手段，由此導(dǎo)致AI換臉技術(shù)的行為具有嚴重刑事違法性，需要對其進行規(guī)制。從本質(zhì)上來說，該種情形下是否使用了AI換臉技術(shù)并不影響刑法對該行為的評價，關(guān)鍵在于該技術(shù)所實現(xiàn)的抽象效果是否滿足刑法規(guī)定的該罪名的構(gòu)成要件。例如我國近年來涌現(xiàn)出一批以“AI換臉”技術(shù)為手段，通過裝親戚等套近乎的方法來實施財產(chǎn)詐騙犯罪，不法分子利用AI換臉技術(shù)偽造出他人人臉動態(tài)視頻，由于該種視頻制作得十分逼真甚至于人工審核都很難辨認出真假，因此極容易讓受害人產(chǎn)生信服的心理，從而基于錯誤的認知向不法分子交付錢財，造成了大量被害人的財產(chǎn)損失，嚴重威脅個人安全和社會穩(wěn)定。此時，不法分子制作的換臉視頻內(nèi)容一般并不違法，究其根本是AI換臉技術(shù)成為了一種詐騙的手段，侵害了他人的財產(chǎn)權(quán)。

該類別下，除了可能涉及詐騙罪，還可能涉及的罪名包括敲詐勒索罪，非法侵入計算機信息系統(tǒng)罪，非法獲取計算機信息系統(tǒng)數(shù)據(jù)，非法控制計算機信息系統(tǒng)罪，提供侵入、非法控制計算機信息系統(tǒng)程序、工具罪等。

個人信息泄露的風險

在當前的大數(shù)據(jù)時代，隱私問題應(yīng)當被公眾更加關(guān)注和防范。目前，在我們的生活中，很多公司打著“安全和用戶需求的考慮”，擴大了電子監(jiān)控設(shè)備的適用范圍，如滴滴公司在車內(nèi)安裝跟蹤設(shè)備和監(jiān)控涉嫌頭，各大寫字樓、地鐵口安裝了人臉識別設(shè)備。被采集到的大量人臉數(shù)據(jù)信息被儲存在公司的服務(wù)器當中，存在隨時被他人侵入、破解的可能性，人臉識別的安全性也直接成為了影響成千上萬的個人隱私及財物安全的隱患。其次是各大應(yīng)用商店中仍可以搜索到大量的換臉app，各類產(chǎn)品中包含的人臉識別步驟使得用戶在不知不覺中就泄露了自己的人臉信息。而部分軟件在與用戶訂立“隱私條款”時，使用了“包括但不限于”對用戶人臉信息的無限制使用。在大數(shù)據(jù)時代下，利用收集數(shù)據(jù)的便利性和廣泛性，企業(yè)可以憑借一張簡單的照片就關(guān)聯(lián)出用戶的其他信息，進而對用戶信息進行買賣謀取非法利益，給用戶帶來了巨大的信息泄露的風險。

寫在最后

深度合成技術(shù)不斷演進，AI換臉所帶來的的各種法律風險是互聯(lián)網(wǎng)技術(shù)發(fā)展過程中無法避免的問題，也是不可遏制的洪流。在互聯(lián)網(wǎng)治理方面，國家有關(guān)機構(gòu)也出臺了相應(yīng)的法律規(guī)定，如《網(wǎng)絡(luò)音頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《生成式人工智能管理辦法（征求意見稿）》等，目前存在的各種AI換臉場景也并未超出法律法規(guī)及制度規(guī)范的約束范圍。

無可否認，每一次技術(shù)的進步都會引起法律規(guī)范領(lǐng)域的大變革，上世紀初電力的廣泛應(yīng)用催生了刑法學(xué)界對于盜竊電力是否構(gòu)成盜竊罪及電力是否可以被歸于有體物的大討論。上世紀末隨著計算機、互聯(lián)網(wǎng)技術(shù)的普及，計算機犯罪又催生了刑法的大變革。如今的“AI換臉”等人工智能技術(shù)的興盛與前兩次技術(shù)變革并無本質(zhì)不同，在世界范圍內(nèi)，我國在AIGC、深度合成技術(shù)領(lǐng)域的立法已經(jīng)走在世界前列，未來兩年一定是相關(guān)法律規(guī)范的井噴期，颯姐團隊提醒廣大技術(shù)從業(yè)者注意相關(guān)規(guī)范，在合規(guī)的框架下利用AI賦能商業(yè)模式，最終形成1+1＞2的效果。

本文系未央網(wǎng)專欄作者:肖颯 發(fā)表，內(nèi)容屬作者個人觀點，不代表網(wǎng)站觀點，未經(jīng)許可嚴禁轉(zhuǎn)載，違者必究！

免責聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點和立場。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識產(chǎn)權(quán)的作品，請與我們?nèi)〉寐?lián)系，我們會及時修改或刪除。

Tags：[db:TAG標簽](1530882)

轉(zhuǎn)載請標注：信息網(wǎng)——AI換臉：“一秒魂穿”的法律代價有多大？