（原標(biāo)題：AIGC創(chuàng)業(yè)，有哪些法律禁忌？）

自chatGPT火遍全球之后，各國又掀起了一波AI領(lǐng)域的創(chuàng)業(yè)潮。馬斯克在采訪中也強(qiáng)調(diào)人工智能的發(fā)展可能會給人類帶來空前災(zāi)難。結(jié)合歐盟人工智能法律提案和我國諸多法規(guī)，颯姐團(tuán)隊給諸位創(chuàng)業(yè)者一些法律提示。希望大家的創(chuàng)新應(yīng)用能夠開花結(jié)果。

一、歐盟在哪些領(lǐng)域明令“禁止的人工智能實踐”

2021年4月歐洲議會和理事會制定關(guān)于人工智能的統(tǒng)一規(guī)則（《人工智能法》）的提案，對于全球AI領(lǐng)域的監(jiān)管規(guī)制給出了“樣板間”。總結(jié)下來就是，AI研發(fā)不能涉及對人身心摧殘的領(lǐng)域，不能歧視弱勢群體，要尊重每個人的權(quán)利，對于3年以上有期徒刑的嫌疑人可以實時遠(yuǎn)程生物識別。具體如下：

（1）不得在市場上投放、使用個人無法認(rèn)識的方式來進(jìn)行“潛意識教化”的技術(shù)，以這種方式嚴(yán)重扭曲人的行為并致使其身心受到傷害。

（2）不得利用特定人群的年齡、身體、精神殘疾等，以導(dǎo)致其身心傷害的方式，實質(zhì)性扭曲與該人群有關(guān)的行為。

公共機(jī)構(gòu)或其代理人在市場，不得投放在一定時期內(nèi)對自然人的信譽進(jìn)行評估或分類的AI系統(tǒng)，且其社交評分可能會導(dǎo)致如下一項或兩項:（1）在與原始數(shù)據(jù)生成或收集場景無關(guān)的社會場景，對自然人或群體有害或不公平待遇；（2）對某些人或群體的社會行為有嚴(yán)重傷害或不公平待遇。

出于執(zhí)法目的在公共場所使用“實時”遠(yuǎn)程生物特征識別系統(tǒng)，排除下列行為之一，且有必要：（1）針對性尋找特定刑事受害人，例如失蹤兒童；（2）預(yù)防對人的生命或身體有傷害的行為，或恐怖襲擊；（3）偵測、定位、識別、起訴特定罪名的犯罪嫌疑人，且該嫌疑人的刑期為3年以上。

二、中國法律法規(guī)對人工智能的規(guī)制

經(jīng)過梳理，我們對于內(nèi)地AI法律規(guī)制的大致地圖是：《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等。但并沒有對于AI領(lǐng)域的專門法律進(jìn)行規(guī)制，隨著文心一言（百度推出）和其他競品的出現(xiàn)，颯姐認(rèn)為，對于AIGC領(lǐng)域的規(guī)制可能會增多，但法律規(guī)制宜粗不宜細(xì)，倘若給從業(yè)人員和企業(yè)太多枷鎖，就很難創(chuàng)造出偉大的產(chǎn)品。

從目前情況看，AI領(lǐng)域創(chuàng)業(yè)行為的監(jiān)管部門主要有：國家網(wǎng)信部門；國務(wù)院電信部門；公安部門；數(shù)據(jù)局。

具體的監(jiān)管手段有：（1）安全評估，對于具有輿情屬性或者社會動員能力的，參照《具有輿情屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》評估。（2）履行備案，按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》進(jìn)行備案；（3）開展監(jiān)督檢查，監(jiān)管部門均有權(quán)力進(jìn)行監(jiān)管，具體事前、事中、事后根據(jù)各自分工進(jìn)行。

秉承原則“向上向善”，颯姐凝練為：

具體邊界

1. 不得從事涉政涉黃；
2. 不得合成虛假新聞，非持牌不得傳播非國家規(guī)定范圍內(nèi)的單位發(fā)布的新聞；
3. 不得違背公序良俗（例如第三者如何搶奪原配家產(chǎn)）
4. 不得生成違法和不良信息，這方面可以健全相應(yīng)“特征庫”，篩選健康信息；
5. 不得惡意貶損他人名譽和企業(yè)商譽（法律后果是會被起訴名譽權(quán)侵權(quán)）；
6. 對于不可控的創(chuàng)作內(nèi)容，采取及時刪除降低社會危害。

颯姐認(rèn)為不宜在禁止性條件中增加“其他行為”，因為這個“其他”會給創(chuàng)業(yè)者嚴(yán)重的不安全感，成文法就是要白紙黑字，清清爽爽，加上“其他行為也可處罰”一下子就把苦心經(jīng)營的營商環(huán)境給戳破了，還有誰敢豁出命來搞創(chuàng)新、搞創(chuàng)業(yè)？！法律要給創(chuàng)業(yè)者一個軟性保障，2023年3月23日國家互聯(lián)網(wǎng)信息辦公室發(fā)布《網(wǎng)信部門行政執(zhí)法程序規(guī)定》對于行政機(jī)關(guān)的行政處罰等行為進(jìn)行法律規(guī)制，明確“一事不再理”，明確程序和回避制度，減少網(wǎng)信部門濫用權(quán)力的可能性，直接而明確的回應(yīng)了科技行業(yè)的呼聲和需求，這種制度供給是各方都?xì)g迎的。我們期待更多規(guī)制行政行為的法律法規(guī)，盡快出現(xiàn)，確保市場主體的明確預(yù)期。

三、AIGC創(chuàng)業(yè)公司的20個合規(guī)義務(wù)

根據(jù)2023年1月10日生效的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，截止目前，在中國內(nèi)地進(jìn)行類chatGPT業(yè)務(wù)需要遵守的合規(guī)義務(wù)有：

具體合規(guī)義務(wù)

1. 健全用戶注冊制度；
2. 算法機(jī)制機(jī)理審核；
3. 科學(xué)倫理審查；
4. 信息發(fā)布審核；
5. 數(shù)據(jù)安全管理制度；
6. 個人信息保護(hù)制度；
7. 反電信詐騙制度；
8. 應(yīng)急處置管理制度；
9. 在App或網(wǎng)站，公開管理規(guī)則、平臺公約，完善服務(wù)協(xié)議，以顯著方式提示各方承擔(dān)信息安全義務(wù);
10. 健全勇于識別違法和不良信息的特征庫，留存日志；
11. 發(fā)現(xiàn)違法和不良信息，有向主管機(jī)關(guān)報告的義務(wù)；
12. 發(fā)現(xiàn)違法和不良信息，對使用者依法依約，采取處置措施；
13. 全辟謠機(jī)制；
14. 設(shè)置便捷申訴和舉報入口，及時反饋結(jié)果；
15. 加強(qiáng)訓(xùn)練數(shù)據(jù)管理；
16. 定期審核、評估、驗證生成合成類算法機(jī)制機(jī)理；
17. 依法自行或委托專業(yè)機(jī)構(gòu)開展安全評估；
18. 對生成內(nèi)容，采取技術(shù)措施添加不影響用戶使用的標(biāo)識；
19. 不得刪除、篡改、隱匿深度合成標(biāo)識；
20. 按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案、變更、注銷備案手續(xù)。

同時，遵守新聞出版、文化和旅游、廣播電視主管部門的規(guī)定。

三、政策風(fēng)向和科技倫理

應(yīng)該說AI領(lǐng)域的科技創(chuàng)新，是各方樂見其成的，因此，從政策層面講，對AI行業(yè)是利好的，尤其是對標(biāo)Chat GPT和歐美推出的各類技術(shù)應(yīng)用。颯姐比較擔(dān)心的是個別地方辦案機(jī)關(guān)，還是有罰沒和罰款沖動，對于創(chuàng)業(yè)者的一些利用數(shù)據(jù)的行為進(jìn)行“嚴(yán)格解釋”，從而導(dǎo)致數(shù)據(jù)犯罪案件的攀升。

對于大廠而言，也許不會親自下場去打撈數(shù)據(jù)，但不可否認(rèn)大廠具有集團(tuán)優(yōu)勢，其產(chǎn)業(yè)集團(tuán)內(nèi)不同板塊的數(shù)據(jù)集中到某個特殊目的公司進(jìn)行深入加工，喂養(yǎng)AI，然而，數(shù)據(jù)在集團(tuán)內(nèi)部跨法人主體的轉(zhuǎn)移，也有較大的法律爭議，甚至在某些案件中，直接給予了負(fù)面評價。如果集團(tuán)內(nèi)部每個公司的數(shù)據(jù)只能用于自己的客戶維護(hù)，那么，其優(yōu)勢就喪失殆盡。而如果購買外部公司數(shù)據(jù)，則有可能“放任”外部公司數(shù)據(jù)的“灰色”，上個月有幾家南方的數(shù)據(jù)公司找颯姐謀求上市前的合規(guī)，我們也想幫忙，但現(xiàn)行法的規(guī)定不能置若罔聞，有些企業(yè)雖然很賺錢，但確實在犯罪邊緣游走，對于爬蟲技術(shù)的應(yīng)用已經(jīng)超越了法律邊界。大廠用了這些灰色的數(shù)據(jù)，自身可能會背上教唆犯的十字架。如果不用這些數(shù)據(jù)，也許自身的成長就會慢些。

在選擇GDPR模式還是人身權(quán)與財產(chǎn)權(quán)分離模式時，我國法律也在移植哪種法律技術(shù)更符合國情上有過考量。現(xiàn)實是法律規(guī)定很完備，但市場和技術(shù)沒有如預(yù)期一樣迅猛增長。各國企央企的數(shù)據(jù)還是牢牢攥在自己手中，寧可爛了，也不流動和分享。數(shù)據(jù)局的出現(xiàn)，也許就是為了打破“信息孤島”，讓數(shù)據(jù)真正流動起來，發(fā)揮生產(chǎn)要素的作用，提振實體經(jīng)濟(jì)。

在科技倫理方面，颯姐堅信：科技不應(yīng)作惡，AI創(chuàng)業(yè)要尊重自然法的基本原則，不能戕害弱者，不能加深歧視，不可有意幫助犯罪，不宜提供自殺自殘的方法，鼓勵健康的生活方式，引導(dǎo)人們遠(yuǎn)離毒品和暴力。法律，其實應(yīng)該是從人們心里長出來的，每個人心里都有一桿公平秤。

寫在最后

閑暇時，颯姐和團(tuán)隊伙伴也會在茶館和咖啡館聽一聽旁邊的陌生人在談?wù)撌裁?，讓人覺得欣喜的是：人們不再悲觀，而是現(xiàn)實地開始尋找新創(chuàng)業(yè)契機(jī)。我們中國人是韌性十足的，在AIGC方面也會有自己的展業(yè)思路。堅持長期主義，未來是美好的，無論如何。

本文系未央網(wǎng)專欄作者:肖颯 發(fā)表，內(nèi)容屬作者個人觀點，不代表網(wǎng)站觀點，未經(jīng)許可嚴(yán)禁轉(zhuǎn)載，違者必究！

免責(zé)聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點和立場。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識產(chǎn)權(quán)的作品，請與我們?nèi)〉寐?lián)系，我們會及時修改或刪除。

Tags：[db:TAG標(biāo)簽](1452007)

轉(zhuǎn)載請標(biāo)注：信息網(wǎng)——AIGC創(chuàng)業(yè)，有哪些法律禁忌？