（原標(biāo)題：“暫行辦法”正式問(wèn)世，護(hù)航生成式AI安全發(fā)展）

近日，國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局等七個(gè)部門(mén)正式公布了《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱“《暫行辦法》”），該辦法將于2023年8月15日施行。此消息一出，代表著我國(guó)生成式人工智能領(lǐng)域的監(jiān)管和規(guī)范框架的形成，對(duì)于該行業(yè)的發(fā)展有著重要的指導(dǎo)和監(jiān)督作用，能夠更好地促進(jìn)生成式人工智能技術(shù)的革新和應(yīng)用。

事實(shí)上，《暫行辦法》在今年4月11日便以征求意見(jiàn)稿的身份登臺(tái)亮相，颯姐團(tuán)隊(duì)也對(duì)此作出了簡(jiǎn)要評(píng)析（見(jiàn)公眾號(hào)文章《新規(guī)解讀！生成式人工智能管理辦法（征求意見(jiàn)稿）》）。但當(dāng)時(shí)畢竟僅處于征求意見(jiàn)狀態(tài)，并非最后的成文，因而對(duì)于《暫行辦法》的正式稿仍有加以說(shuō)明和強(qiáng)調(diào)的必要。颯姐團(tuán)隊(duì)今日文章便對(duì)《暫行辦法》進(jìn)行解讀分析，以供讀者朋友們了解其中重點(diǎn)。我們也將把《暫行辦法》原文附隨在文后供各位讀者老友參考，各位點(diǎn)擊文后“閱讀原文”即可獲取。

01《暫行辦法》與《征求意見(jiàn)稿》的區(qū)別

本次網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》相較于《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《征求意見(jiàn)稿》）雖在整體體例上基本保持一致，但條文內(nèi)容上作了較大的調(diào)整。颯姐團(tuán)隊(duì)將針對(duì)幾個(gè)較為重要的改動(dòng)點(diǎn)進(jìn)行分析。

（一）規(guī)制對(duì)象

本次《暫行辦法》相較于《征求意見(jiàn)稿》首先在規(guī)制對(duì)象上作了調(diào)整，規(guī)制目標(biāo)更明確、針對(duì)性更強(qiáng)。根據(jù)《暫行辦法》第二條，本法僅適用于利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供服務(wù)者，而不再適用于研究、應(yīng)用人工智能技術(shù)、未向境內(nèi)公眾提供人工智能服務(wù)者。這體現(xiàn)了國(guó)家對(duì)于生成式人工智能在研究與應(yīng)用方面的支持與鼓勵(lì)，而不以服務(wù)提供者的要求限制其發(fā)展。

（二）行業(yè)發(fā)展

關(guān)于生成式人工智能的應(yīng)用場(chǎng)景問(wèn)題一直引人爭(zhēng)議。本次《暫行辦法》強(qiáng)調(diào)了人工智能技術(shù)的“應(yīng)用”，即有目的性地發(fā)展人工智能，要將研究成果轉(zhuǎn)化為生產(chǎn)成果，鼓勵(lì)其與實(shí)際應(yīng)用場(chǎng)景相結(jié)合，與各行業(yè)、各領(lǐng)域的需求相結(jié)合，提高人工智能投入的轉(zhuǎn)化輸出比。

本次《暫行辦法》一方面提出了鼓勵(lì)行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等應(yīng)開(kāi)展協(xié)作，在共建的基礎(chǔ)上發(fā)展人工智能；另一方面提出了“公共數(shù)據(jù)”與“人工智能基礎(chǔ)設(shè)施”的結(jié)合，在數(shù)據(jù)分類分級(jí)的前提下，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。這體現(xiàn)了國(guó)家對(duì)于生成式人工智能發(fā)展持看好的態(tài)度。企業(yè)之間的數(shù)據(jù)壁壘以及龐大公共數(shù)據(jù)的閑置，是生成式人工智能發(fā)展路程中的兩個(gè)關(guān)鍵問(wèn)題。以上規(guī)定若能得到落實(shí)，有望大幅擴(kuò)展人工智能訓(xùn)練的數(shù)據(jù)庫(kù)，極大促進(jìn)我國(guó)人工智能的建設(shè)與發(fā)展。

（三）平臺(tái)責(zé)任

本次《暫行辦法》新增的第九條明確了生成式人工智能服務(wù)提供者的主體地位，即網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者。一方面，根據(jù)本條，其須承擔(dān)相關(guān)的責(zé)任，并履行網(wǎng)絡(luò)信息安全義務(wù)；另一方面，對(duì)其主體身份的強(qiáng)調(diào)也將其明確納入了網(wǎng)絡(luò)平臺(tái)責(zé)任的規(guī)制范圍內(nèi)，而無(wú)灰色地帶可躲。

此外，本條也強(qiáng)調(diào)了其個(gè)人信息處理者責(zé)任，并要求其應(yīng)當(dāng)與注冊(cè)其服務(wù)的使用者簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù)，以避免發(fā)生糾紛時(shí)責(zé)任不明。

（四）未成年人保護(hù)

本次《暫行辦法》增加了人工智能服務(wù)提供者的義務(wù)，要求其指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和使用生成式人工智能技術(shù)，并將采取有效措施防止沉迷的對(duì)象由“用戶”改成了“未成年用戶”，一方面更具有針對(duì)性，響應(yīng)了我國(guó)強(qiáng)調(diào)保護(hù)未成年人的號(hào)召；另一方面也給予了服務(wù)提供者更大的自由，對(duì)于“成年用戶”則無(wú)須以強(qiáng)監(jiān)管手段防止其過(guò)度依賴或者沉迷。

（五）處置措施

本次《暫行辦法》明確了平臺(tái)責(zé)任，并規(guī)定了相應(yīng)的處置措施。一方面，提供者發(fā)現(xiàn)平臺(tái)存在違法內(nèi)容的，除原來(lái)規(guī)定外，還應(yīng)當(dāng)向有關(guān)主管部門(mén)報(bào)告；另一方面，提供者發(fā)現(xiàn)使用者利用人工智能服務(wù)從事違法活動(dòng)的，除原來(lái)規(guī)定外，還應(yīng)當(dāng)保存有關(guān)記錄，并向有關(guān)主管部門(mén)報(bào)告。以上規(guī)定的補(bǔ)充將報(bào)告納入監(jiān)管體系中，完善了監(jiān)管鏈條，有利于打擊違法活動(dòng)，同時(shí)也與其他網(wǎng)絡(luò)監(jiān)管相關(guān)法律法規(guī)保持了體系一致性。

02提供者的服務(wù)規(guī)范

《暫行辦法》第三章明確了向境內(nèi)提供服務(wù)的生成式人工智能服務(wù)提供者的服務(wù)規(guī)范。以下歸類重點(diǎn)的服務(wù)規(guī)范：

（一）網(wǎng)絡(luò)信息安全義務(wù)（第九條和第十一條）

提供者應(yīng)履行的“網(wǎng)絡(luò)信息安全義務(wù)”需與《民法典》、《個(gè)人信息保護(hù)法》、《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》和《電信和互聯(lián)網(wǎng)用戶個(gè)人信息保護(hù)規(guī)定》中明確的權(quán)利、義務(wù)及法律責(zé)任結(jié)合解讀。具體而言：

首先，《辦法》將使用者的輸入信息、使用記錄納入信息保護(hù)的范圍之中。信息處理的“目的明確”和“最小化處理原則”自然也適用于此，即：（1）有明確且合理的目的、方式、范圍，（2）限于實(shí)現(xiàn)處理目的的最小范圍，不得過(guò)度收集個(gè)人信息。

其次，敏感個(gè)人信息的處理適用更嚴(yán)格的保護(hù)措施。我國(guó)法律對(duì)敏感信息的定義較為寬泛，即關(guān)于導(dǎo)致侵犯人格尊嚴(yán)或者危害人身、財(cái)產(chǎn)安全的個(gè)人信息，包括生物識(shí)別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等，以及不滿十四周歲未成年人的個(gè)人信息，因而提供者應(yīng)及時(shí)識(shí)別敏感個(gè)人信息的范疇并予以重視。

另外，海外業(yè)已有服務(wù)提供者和使用者通過(guò)簽訂服務(wù)協(xié)議確定權(quán)利義務(wù)的先例，包括信息處理、知識(shí)產(chǎn)權(quán)歸屬等。然而，結(jié)合語(yǔ)境，此條應(yīng)著重在服務(wù)協(xié)議中明晰信息處理的權(quán)責(zé)，即確保使用者業(yè)已充分知情并同意提供者的信息處理行為。

如前所述，如果提供者未能履行該義務(wù)，其將面臨《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等法律、行政法規(guī)下的相關(guān)處罰。

（二）標(biāo)識(shí)人工智能生成內(nèi)容（第十二條）

隨著生成式人工智能技術(shù)日臻成熟，AIGC的應(yīng)用不斷擴(kuò)大。然而，利用AIGC傳遞假新聞、詐騙的風(fēng)險(xiǎn)仍不可小覷。標(biāo)識(shí)人工生成、深度合成的內(nèi)容以避免誤用、濫用及不法行為可以說(shuō)是成本最低、從根本杜絕的方法。對(duì)此《暫行辦法》明確規(guī)定應(yīng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》進(jìn)行標(biāo)識(shí)，這就要求提供者采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，并依照法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定保存日志信息，同時(shí)對(duì)可能導(dǎo)致公眾混淆或者誤認(rèn)的服務(wù)，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

（三）未成年人防沉迷（第十條）

與《征求意見(jiàn)稿》中圈定“成年人用戶”不同的是，《暫行辦法》僅要求防范未成年人防沉迷。這與《未成年人保護(hù)法》、《預(yù)防未成年人犯罪法》及《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（第十八條）中預(yù)防未成年人沉迷網(wǎng)絡(luò)的要求一致，也放寬了對(duì)服務(wù)提供者的限制。

（四）反饋機(jī)制（第十三、十四、十五條）

設(shè)定反饋機(jī)制不僅保護(hù)了用戶的權(quán)益，更一定程度地明晰了提供者的法律責(zé)任。具體而言，如果提供者未能提供投訴、反饋機(jī)制，提供者應(yīng)負(fù)有責(zé)任；如果提供者提供該機(jī)制卻不作為，提供者仍負(fù)有責(zé)任；如果提供者提供該機(jī)制，卻因算力限制不能及時(shí)回應(yīng)相關(guān)反饋，提供者的責(zé)任應(yīng)不同于“不作為”，在一定程度上予以減輕或免除。

03生成式人工智能行業(yè)的角色定位

在生成式人工智能行業(yè)中存在著提供者、使用者、監(jiān)管者以及中間機(jī)構(gòu)四個(gè)角色。

提供者無(wú)疑處于監(jiān)管的核心地位，其中尤其需要注意的是提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的提供者。對(duì)于此類提供者，根據(jù)《暫行辦法》第十七條的規(guī)定，需要按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。如在此過(guò)程中提供者存在弄虛作假或是不按照規(guī)定履行程序的行為，則可能面臨警告、通報(bào)批評(píng)、罰款的行政處罰，嚴(yán)重者甚至可能被責(zé)令關(guān)閉網(wǎng)站、吊銷相關(guān)業(yè)務(wù)許可證或吊銷營(yíng)業(yè)執(zhí)照。

此外，對(duì)于提供者而言，最應(yīng)當(dāng)警惕的是個(gè)人信息、數(shù)據(jù)安全及網(wǎng)絡(luò)安全方面的法律風(fēng)險(xiǎn)，三者均要求提供者履行相關(guān)的安全保護(hù)義務(wù)，對(duì)個(gè)人信息、數(shù)據(jù)及網(wǎng)絡(luò)予以一定保障，同時(shí)在提供服務(wù)的過(guò)程中確保個(gè)人信息和數(shù)據(jù)的來(lái)源合法、處理合法，并對(duì)于跨境數(shù)據(jù)予以重視，在提供者涉及跨境服務(wù)的情況下要求其遵守相關(guān)法律法規(guī)，否則根據(jù)《暫行辦法》第二十、二十一條的規(guī)定，主管機(jī)構(gòu)能夠?qū)ζ溥M(jìn)行行政處罰，嚴(yán)重者甚至構(gòu)成犯罪。

在此基礎(chǔ)上，使用者承擔(dān)了一定的監(jiān)督責(zé)任。《暫行辦法》第十八條明確了使用者的投訴、舉報(bào)的權(quán)利，一旦發(fā)現(xiàn)生成式人工智能服務(wù)不符合相關(guān)規(guī)定，便能夠向有關(guān)主管部門(mén)進(jìn)行投訴、舉報(bào)。

至于監(jiān)管者和中間機(jī)構(gòu)，其主要負(fù)責(zé)發(fā)揮監(jiān)管和諸如安全評(píng)估等職能，本質(zhì)上屬于協(xié)助者的角色，其定位在于幫助行業(yè)健康成長(zhǎng)。但也正因?yàn)槠涠ㄎ?，在履行職?zé)過(guò)程中必然會(huì)知悉一定的國(guó)家秘密、商業(yè)秘密、個(gè)人隱私和個(gè)人信息，故而根據(jù)《暫行辦法》第十九條的規(guī)定，其相關(guān)機(jī)構(gòu)和人員因而擁有一定的保密義務(wù)，不得泄露或者非法向他人提供。

04寫(xiě)在最后

近年來(lái)，我國(guó)人工智能領(lǐng)域立法密集，已經(jīng)基本形成了相應(yīng)的監(jiān)管體系，但立法只是監(jiān)管的第一步，行業(yè)要想健康穩(wěn)定發(fā)展離不開(kāi)執(zhí)法者和諸多參與者的合力，只有各大參與者各司其職，依法而行，我國(guó)人工智能技術(shù)的應(yīng)用才能在合法合規(guī)的基礎(chǔ)上快速發(fā)展，走向繁榮。

本文系未央網(wǎng)專欄作者:肖颯 發(fā)表，內(nèi)容屬作者個(gè)人觀點(diǎn)，不代表網(wǎng)站觀點(diǎn)，未經(jīng)許可嚴(yán)禁轉(zhuǎn)載，違者必究！

免責(zé)聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點(diǎn)和立場(chǎng)。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識(shí)產(chǎn)權(quán)的作品，請(qǐng)與我們?nèi)〉寐?lián)系，我們會(huì)及時(shí)修改或刪除。

Tags：[db:TAG標(biāo)簽](1531586)

轉(zhuǎn)載請(qǐng)標(biāo)注：信息網(wǎng)——“暫行辦法”正式問(wèn)世，護(hù)航生成式AI安全發(fā)展