·相比4月發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，新出臺(tái)的《生成式人工智能服務(wù)管理暫行辦法》在多處放寬了監(jiān)管要求，并增加了鼓勵(lì)人工智能技術(shù)發(fā)展的措施。

·《辦法》提出，總體實(shí)行包容審慎和分類分級(jí)監(jiān)管，堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，并明確生成式AI實(shí)施算法的“備案制”，這與此前預(yù)期的審核許可制不同。

7月13日，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、國(guó)家廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行。這是中國(guó)首次對(duì)生成式AI研發(fā)及服務(wù)作出明確規(guī)定。

國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，出臺(tái)《辦法》，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。

今年4月，《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《征求意見(jiàn)稿》）發(fā)布，3個(gè)多月后，《辦法》正式公布。對(duì)比這兩份文件，存在一些差別。

最新出臺(tái)的《辦法》共24條，內(nèi)容主要體現(xiàn)在幾個(gè)方面。

第一，明確了適用范圍。《辦法》規(guī)定，利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)，適用本辦法。而在《征求意見(jiàn)稿》第二條中，只要是向境內(nèi)用戶提供服務(wù)，不論是“研發(fā)”生成式AI還是“利用”生成式AI，都屬于監(jiān)管范圍?！墩髑笠庖?jiàn)稿》還將生成“代碼”也歸入監(jiān)管范圍，《辦法》則在列舉生成式內(nèi)容時(shí)沒(méi)有提到“代碼”。從這一部分看，《辦法》相比《征求意見(jiàn)稿》縮小了監(jiān)管范圍。

值得注意的是，《辦法》規(guī)定，國(guó)家對(duì)利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng)作等活動(dòng)另有規(guī)定的，從其規(guī)定。這意味著，這幾個(gè)行業(yè)的監(jiān)管將存在例外。

而行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定。

第二，提出了管理的原則。《辦法》提出國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。而在《征求意見(jiàn)稿》中，沒(méi)有提到“發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合”。

第三，對(duì)促進(jìn)技術(shù)發(fā)展提出多項(xiàng)規(guī)定。國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人指出，一是明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系。二是支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作。三是鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開(kāi)展國(guó)際交流與合作，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定。四是提出推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。

其中，“促進(jìn)算力資源協(xié)同共享”、“公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)”、“推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放”，“擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源”，相比《征求意見(jiàn)稿》都是新增內(nèi)容，凸顯出推動(dòng)技術(shù)發(fā)展的鼓勵(lì)態(tài)度。

第四，對(duì)生成式人工智能服務(wù)治理提出多項(xiàng)規(guī)定。這包括：使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性；《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)的其他有關(guān)規(guī)定和有關(guān)主管部門(mén)的相關(guān)監(jiān)管要求。

《辦法》提出，在生成式人工智能技術(shù)研發(fā)過(guò)程中進(jìn)行數(shù)據(jù)標(biāo)注的，提供者應(yīng)當(dāng)制定符合本辦法要求的清晰、具體、可操作的標(biāo)注規(guī)則；開(kāi)展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性；對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，提升尊法守法意識(shí)，監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開(kāi)展標(biāo)注工作。

在總則部分，《辦法》提到，“提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性?！毕啾取墩髑笠庖?jiàn)稿》，“透明”和“可靠”都是新提法。另外，《征求意見(jiàn)稿》要求AI生成的內(nèi)容不得包含“虛假信息”，《辦法》則限定為“虛假有害信息”，相當(dāng)于放寬了對(duì)生成內(nèi)容的要求。《征求意見(jiàn)稿》還要求提供生成式人工智能服務(wù)方單方面“采取措施以防止生成虛假信息”，這一條沒(méi)有出現(xiàn)在《辦法》中。

第五，制定了服務(wù)規(guī)范。這部分的重點(diǎn)內(nèi)容包括，提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。提供者應(yīng)當(dāng)與注冊(cè)其服務(wù)的生成式人工智能服務(wù)使用者（以下稱使用者）簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù)。值得注意的是，《征求意見(jiàn)稿》要求“用戶提供真實(shí)身份信息”，這一點(diǎn)在《辦法》被刪除。

此外，提供者應(yīng)當(dāng)明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù)。

同時(shí)，提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請(qǐng)求。

提供者還應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。

《辦法》規(guī)定，提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門(mén)報(bào)告。提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門(mén)報(bào)告。而《征求意見(jiàn)稿》要求服務(wù)提供者在發(fā)現(xiàn)生成違法內(nèi)容時(shí)停止生成并對(duì)模型重新優(yōu)化訓(xùn)練，相比之下，《辦法》中新增了“向有關(guān)主管部門(mén)報(bào)告”。

第六，明確了監(jiān)督和法律責(zé)任。《辦法》明確提出，國(guó)家網(wǎng)信辦、發(fā)改委、教育部、科技部、工業(yè)和信息化部、公安部、國(guó)家廣電總局等部門(mén)，依據(jù)各自職責(zé)依法加強(qiáng)對(duì)生成式人工智能服務(wù)的管理。國(guó)家有關(guān)主管部門(mén)針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引。而在《征求意見(jiàn)稿》中，僅多次提到“網(wǎng)信部門(mén)和國(guó)家有關(guān)部門(mén)”，這意味著，具體有哪些“有關(guān)部門(mén)”參與監(jiān)管在《辦法》中得到了明確。

《辦法》第十七條規(guī)定，提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。值得注意的是，《辦法》明確生成式AI實(shí)施算法的“備案制”，這與此前預(yù)期的審核許可制不同，有媒體近日?qǐng)?bào)道稱，會(huì)對(duì)所有大模型實(shí)施發(fā)證發(fā)牌照，這一說(shuō)法并未出現(xiàn)在《辦法》中。

《辦法》還提到，參與生成式人工智能服務(wù)安全評(píng)估和監(jiān)督檢查的相關(guān)機(jī)構(gòu)和人員對(duì)在履行職責(zé)中知悉的國(guó)家秘密、商業(yè)秘密、個(gè)人隱私和個(gè)人信息應(yīng)當(dāng)依法予以保密，不得泄露或者非法向他人提供。

對(duì)來(lái)源于中國(guó)境外向境內(nèi)提供生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的，國(guó)家網(wǎng)信部門(mén)應(yīng)當(dāng)通知有關(guān)機(jī)構(gòu)采取技術(shù)措施和其他必要措施予以處置。

在法律依據(jù)上，提供者違反《辦法》規(guī)定的，由有關(guān)主管部門(mén)依照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》等法律、行政法規(guī)的規(guī)定予以處罰；法律、行政法規(guī)沒(méi)有規(guī)定的，由有關(guān)主管部門(mén)依據(jù)職責(zé)予以警告、通報(bào)批評(píng)，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停提供相關(guān)服務(wù)。構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

值得注意的是，《征求意見(jiàn)稿》第二十條中對(duì)違法情節(jié)嚴(yán)重或拒不改正者處以1萬(wàn)到10萬(wàn)元罰款的內(nèi)容在《辦法》中被刪除。

《辦法》出臺(tái)之時(shí)，正值國(guó)內(nèi)“群?！庇楷F(xiàn)。以ChatGPT為代表的生成式人工智能，除了在海外引發(fā)微軟、谷歌和Meta等科技巨頭的激烈競(jìng)爭(zhēng)，也在國(guó)內(nèi)激起了“大廠”間的“AI軍備競(jìng)賽”，催生了多家初創(chuàng)企業(yè)的誕生。中國(guó)科學(xué)技術(shù)信息研究所所長(zhǎng)趙志耘今年5月發(fā)布《中國(guó)人工智能大模型地圖研究報(bào)告》稱，據(jù)不完全統(tǒng)計(jì)，中國(guó)10億級(jí)參數(shù)規(guī)模以上大模型已發(fā)布了79個(gè)。在剛剛結(jié)束的2023世界人工智能大會(huì)上，有30余個(gè)大模型對(duì)外亮相。

生成式人工智能的監(jiān)管已經(jīng)成為全球高度關(guān)注的議題。歐盟正在推進(jìn)其《人工智能法案》的最后立法進(jìn)程。美國(guó)白宮和議會(huì)正在加緊與AI頭部企業(yè)磋商，預(yù)計(jì)在今年夏天推出一系列措施。英國(guó)競(jìng)爭(zhēng)監(jiān)管機(jī)構(gòu)今年5月也表示，將開(kāi)始審查人工智能對(duì)消費(fèi)者、企業(yè)和經(jīng)濟(jì)的影響，以及是否需要新的監(jiān)管措施。日本預(yù)計(jì)將在2023年底之前出臺(tái)監(jiān)管措施。聯(lián)合國(guó)秘書(shū)長(zhǎng)安東尼奧·古特雷斯則在6月表態(tài)，支持建立像國(guó)際原子能機(jī)構(gòu)這樣的人工智能監(jiān)管機(jī)構(gòu)的提議。

7月13日，中國(guó)外交部發(fā)言人汪文斌主持例行記者會(huì)。有記者提問(wèn)，特斯拉CEO馬斯克表示，中國(guó)有意成立人工智能監(jiān)管的國(guó)際合作框架。中方能否證實(shí)并介紹情況？汪文斌回答稱：“我不了解你所說(shuō)的情況，中方重視人工智能發(fā)展與治理，主張堅(jiān)持以人為本、智能向善的原則，規(guī)范人工智能發(fā)展，始終以高度負(fù)責(zé)任的態(tài)度參與全球合作。”中方愿與國(guó)際社會(huì)就人工智能安全治理加強(qiáng)溝通交流，推動(dòng)達(dá)成普遍參與的國(guó)際機(jī)制，形成具有廣泛共識(shí)的治理框架和標(biāo)準(zhǔn)規(guī)范。

附：生成式人工智能服務(wù)管理暫行辦法（全文）

第一章  總則

第一條  為了促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》等法律、行政法規(guī)，制定本辦法。

第二條  利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)（以下稱生成式人工智能服務(wù)），適用本辦法。

國(guó)家對(duì)利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng)作等活動(dòng)另有規(guī)定的，從其規(guī)定。

行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定。

第三條  國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。

第四條  提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，遵守以下規(guī)定：

（一）堅(jiān)持社會(huì)主義核心價(jià)值觀，不得生成煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，危害國(guó)家安全和利益、損害國(guó)家形象，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；

（二）在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過(guò)程中，采取有效措施防止產(chǎn)生民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)、健康等歧視；

（三）尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為；

（四）尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益；

（五）基于服務(wù)類型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

第二章  技術(shù)發(fā)展與治理

第五條  鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系。

支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作。

第六條  鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開(kāi)展國(guó)際交流與合作，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定。

推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。

第七條  生成式人工智能服務(wù)提供者（以下稱提供者）應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，遵守以下規(guī)定：

（一）使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；

（二）涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；

（三）涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；

（四）采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性；

（五）《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)的其他有關(guān)規(guī)定和有關(guān)主管部門(mén)的相關(guān)監(jiān)管要求。

第八條  在生成式人工智能技術(shù)研發(fā)過(guò)程中進(jìn)行數(shù)據(jù)標(biāo)注的，提供者應(yīng)當(dāng)制定符合本辦法要求的清晰、具體、可操作的標(biāo)注規(guī)則；開(kāi)展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性；對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，提升尊法守法意識(shí)，監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開(kāi)展標(biāo)注工作。

第三章  服務(wù)規(guī)范

第九條  提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。

提供者應(yīng)當(dāng)與注冊(cè)其服務(wù)的生成式人工智能服務(wù)使用者（以下稱使用者）簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù)。

第十條  提供者應(yīng)當(dāng)明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù)。

第十一條  提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

提供者應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請(qǐng)求。

第十二條  提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。

第十三條  提供者應(yīng)當(dāng)在其服務(wù)過(guò)程中，提供安全、穩(wěn)定、持續(xù)的服務(wù)，保障用戶正常使用。

第十四條  提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門(mén)報(bào)告。

提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示、限制功能、暫停或者終止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門(mén)報(bào)告。

第十五條  提供者應(yīng)當(dāng)建立健全投訴、舉報(bào)機(jī)制，設(shè)置便捷的投訴、舉報(bào)入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理公眾投訴舉報(bào)并反饋處理結(jié)果。

第四章  監(jiān)督檢查和法律責(zé)任

第十六條  網(wǎng)信、發(fā)展改革、教育、科技、工業(yè)和信息化、公安、廣播電視、新聞出版等部門(mén)，依據(jù)各自職責(zé)依法加強(qiáng)對(duì)生成式人工智能服務(wù)的管理。

國(guó)家有關(guān)主管部門(mén)針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引。

第十七條  提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

第十八條  使用者發(fā)現(xiàn)生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的，有權(quán)向有關(guān)主管部門(mén)投訴、舉報(bào)。

第十九條  有關(guān)主管部門(mén)依據(jù)職責(zé)對(duì)生成式人工智能服務(wù)開(kāi)展監(jiān)督檢查，提供者應(yīng)當(dāng)依法予以配合，按要求對(duì)訓(xùn)練數(shù)據(jù)來(lái)源、規(guī)模、類型、標(biāo)注規(guī)則、算法機(jī)制機(jī)理等予以說(shuō)明，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。

參與生成式人工智能服務(wù)安全評(píng)估和監(jiān)督檢查的相關(guān)機(jī)構(gòu)和人員對(duì)在履行職責(zé)中知悉的國(guó)家秘密、商業(yè)秘密、個(gè)人隱私和個(gè)人信息應(yīng)當(dāng)依法予以保密，不得泄露或者非法向他人提供。

第二十條  對(duì)來(lái)源于中華人民共和國(guó)境外向境內(nèi)提供生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的，國(guó)家網(wǎng)信部門(mén)應(yīng)當(dāng)通知有關(guān)機(jī)構(gòu)采取技術(shù)措施和其他必要措施予以處置。

第二十一條  提供者違反本辦法規(guī)定的，由有關(guān)主管部門(mén)依照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》等法律、行政法規(guī)的規(guī)定予以處罰；法律、行政法規(guī)沒(méi)有規(guī)定的，由有關(guān)主管部門(mén)依據(jù)職責(zé)予以警告、通報(bào)批評(píng)，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停提供相關(guān)服務(wù)。

構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

第五章  附則

第二十二條  本辦法下列用語(yǔ)的含義是：

（一）生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。

（二）生成式人工智能服務(wù)提供者，是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過(guò)提供可編程接口等方式提供生成式人工智能服務(wù)）的組織、個(gè)人。

（三）生成式人工智能服務(wù)使用者，是指使用生成式人工智能服務(wù)生成內(nèi)容的組織、個(gè)人。

第二十三條  法律、行政法規(guī)規(guī)定提供生成式人工智能服務(wù)應(yīng)當(dāng)取得相關(guān)行政許可的，提供者應(yīng)當(dāng)依法取得許可。

外商投資生成式人工智能服務(wù)，應(yīng)當(dāng)符合外商投資相關(guān)法律、行政法規(guī)的規(guī)定。

第二十四條  本辦法自2023年8月15日起施行。