國(guó)家網(wǎng)際網(wǎng)路信息辦公室
令
第12號(hào)
《網(wǎng)際網(wǎng)路信息服務(wù)深度合成管理規(guī)定》已經(jīng)2022年11月3日國(guó)家網(wǎng)際網(wǎng)路信息辦公室2022年第21次室務(wù)會(huì)議審議通過(guò)，並經(jīng)工業(yè)和信息化部、公安部同意，現(xiàn)予公布，自2023年1月10日起施行。國(guó)家網(wǎng)際網(wǎng)路信息辦公室主任 莊榮文網(wǎng)際網(wǎng)路信息服務(wù)深度合成管理規(guī)定
第一條 為了加強(qiáng)網(wǎng)際網(wǎng)路信息服務(wù)深度合成管理，弘揚社會(huì)主義核心價(jià)值觀(guān)，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《網(wǎng)際網(wǎng)路信息服務(wù)管理辦法》等法律、行政法規(guī)，制定本規(guī)定。 第二條 在中華人民共和國(guó)境內(nèi)應(yīng)用深度合成技術(shù)提供網(wǎng)際網(wǎng)路信息服務(wù)（以下簡(jiǎn)稱(chēng)深度合成服務(wù)），適用本規(guī)定。法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定。 第三條 國(guó)家網(wǎng)信部門(mén)負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國(guó)深度合成服務(wù)的治理和相關(guān)監(jiān)督管理工作。國(guó)務(wù)院電信主管部門(mén)、公安部門(mén)依據(jù)各自職責(zé)負(fù)責(zé)深度合成服務(wù)的監(jiān)督管理工作。 地方網(wǎng)信部門(mén)負(fù)責(zé)統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)的深度合成服務(wù)的治理和相關(guān)監(jiān)督管理工作。地方電信主管部門(mén)、公安部門(mén)依據(jù)各自職責(zé)負(fù)責(zé)本行政區(qū)域內(nèi)的深度合成服務(wù)的監(jiān)督管理工作。 第四條 提供深度合成服務(wù)，應(yīng)當(dāng)遵守法律法規(guī)，尊重社會(huì)公德和倫理道德，堅(jiān)持正確政治方向、輿論導(dǎo)向、價(jià)值取向，促進(jìn)深度合成服務(wù)向上向善。 第五條 鼓勵相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度，督促指導(dǎo)深度合成服務(wù)提供者和技術(shù)支持者制定完善業(yè)務(wù)規(guī)範、依法開(kāi)展業(yè)務(wù)和接受社會(huì)監(jiān)督。 第六條 任何組織和個(gè)人不得利用深度合成服務(wù)製作、複製、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)。 深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)製作、複製、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基於深度合成服務(wù)製作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載網(wǎng)際網(wǎng)路新聞信息稿源單位發(fā)布的新聞信息。 第七條 深度合成服務(wù)提供者應(yīng)當(dāng)落實(shí)信息安全主體責(zé)任，建立健全用戶(hù)註冊(cè)、算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度，具有安全可控的技術(shù)保障措施。 第八條 深度合成服務(wù)提供者應(yīng)當(dāng)制定和公開(kāi)管理規(guī)則、平臺(tái)公約，完善服務(wù)協(xié)議，依法依約履行管理責(zé)任，以顯著方式提示深度合成服務(wù)技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)。 第九條 深度合成服務(wù)提供者應(yīng)當(dāng)基於行動(dòng)電話(huà)號(hào)碼、身份證件號(hào)碼、統(tǒng)一社會(huì)信用代碼或者國(guó)家網(wǎng)絡(luò)身份認(rèn)證公共服務(wù)等方式，依法對(duì)深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證，不得向未進(jìn)行真實(shí)身份信息認(rèn)證的深度合成服務(wù)使用者提供信息發(fā)布服務(wù)。 第十條 深度合成服務(wù)提供者應(yīng)當(dāng)加強(qiáng)深度合成內(nèi)容管理，採取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸(shū)入數(shù)據(jù)和合成結(jié)果進(jìn)行審核。 深度合成服務(wù)提供者應(yīng)當(dāng)建立健全用於識別違法和不良信息的特徵庫(kù)，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序，記錄並留存相關(guān)網(wǎng)絡(luò)日誌。 深度合成服務(wù)提供者發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)依法採取處置措施，保存有關(guān)記錄，及時(shí)向網(wǎng)信部門(mén)和有關(guān)主管部門(mén)報(bào)告；對(duì)相關(guān)深度合成服務(wù)使用者依法依約採取警示、限制功能、暫停服務(wù)、關(guān)閉帳號(hào)等處置措施。 第十一條 深度合成服務(wù)提供者應(yīng)當(dāng)建立健全闢謠機(jī)制，發(fā)現(xiàn)利用深度合成服務(wù)製作、複製、發(fā)布、傳播虛假信息的，應(yīng)當(dāng)及時(shí)採取闢謠措施，保存有關(guān)記錄，並向網(wǎng)信部門(mén)和有關(guān)主管部門(mén)報(bào)告。 第十二條 深度合成服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷的用戶(hù)申訴和公眾投訴、舉報(bào)入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理和反饋處理結(jié)果。 第十三條 網(wǎng)際網(wǎng)路應(yīng)用商店等應(yīng)用程式分發(fā)平臺(tái)應(yīng)當(dāng)落實(shí)上架審核、日常管理、應(yīng)急處置等安全管理責(zé)任，核驗(yàn)深度合成類(lèi)應(yīng)用程式的安全評(píng)估、備案等情況；對(duì)違反國(guó)家有關(guān)規(guī)定的，應(yīng)當(dāng)及時(shí)採取不予上架、警示、暫停服務(wù)或者下架等處置措施。第三章 數(shù)據(jù)和技術(shù)管理規(guī)範 第十四條 深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，採取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定。 深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，並取得其單獨(dú)同意。 第十五條 深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)技術(shù)管理，定期審核、評(píng)估、驗(yàn)證生成合成類(lèi)算法機(jī)制機(jī)理。 深度合成服務(wù)提供者和技術(shù)支持者提供具有以下功能的模型、模板等工具的，應(yīng)當(dāng)依法自行或者委託專(zhuān)業(yè)機(jī)構(gòu)開(kāi)展安全評(píng)估： （二）生成或者編輯可能涉及國(guó)家安全、國(guó)家形象、國(guó)家利益和社會(huì)公共利益的特殊物體、場(chǎng)景等非生物識別信息的。 第十六條 深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)採取技術(shù)措施添加不影響用戶(hù)使用的標(biāo)識，並依照法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定保存日誌信息。 第十七條 深度合成服務(wù)提供者提供以下深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，向公眾提示深度合成情況： （一）智能對(duì)話(huà)、智能寫(xiě)作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)； （二）合成人聲、仿聲等語音生成或者顯著改變個(gè)人身份特徵的編輯服務(wù)； （三）人臉生成、人臉替換(huàn)、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特徵的編輯服務(wù)； （四）沉浸式擬真場(chǎng)景等生成或者編輯服務(wù)； （五）其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。 深度合成服務(wù)提供者提供前款規(guī)定之外的深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識功能，並提示深度合成服務(wù)使用者可以進(jìn)行顯著標(biāo)識。 第十八條 任何組織和個(gè)人不得採用技術(shù)手段刪除、篡改、隱匿本規(guī)定第十六條和第十七條規(guī)定的深度合成標(biāo)識。 第十九條 具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照《網(wǎng)際網(wǎng)路信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、註銷(xiāo)備案手續(xù)。 深度合成服務(wù)技術(shù)支持者應(yīng)當(dāng)參照前款規(guī)定履行備案和變更、註銷(xiāo)備案手續(xù)。 完成備案的深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)在其對(duì)外提供服務(wù)的網(wǎng)站、應(yīng)用程式等的顯著位置標(biāo)明其備案編號(hào)並提供公示信息連結(jié)。 第二十條 深度合成服務(wù)提供者開(kāi)發(fā)上線(xiàn)具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估。 第二十一條 網(wǎng)信部門(mén)和電信主管部門(mén)、公安部門(mén)依據(jù)職責(zé)對(duì)深度合成服務(wù)開(kāi)展監(jiān)督檢查。深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)依法予以配合，並提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。 網(wǎng)信部門(mén)和有關(guān)主管部門(mén)發(fā)現(xiàn)深度合成服務(wù)存在較大信息安全風(fēng)險(xiǎn)的，可以按照職責(zé)依法要求深度合成服務(wù)提供者和技術(shù)支持者採取暫停信息更新、用戶(hù)帳號(hào)註冊(cè)或者其他相關(guān)服務(wù)等措施。深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)按照要求採取措施，進(jìn)行整改，消除隱患。 第二十二條 深度合成服務(wù)提供者和技術(shù)支持者違反本規(guī)定的，依照有關(guān)法律、行政法規(guī)的規(guī)定處罰；造成嚴(yán)重後果的，依法從重處罰。 構(gòu)成違反治安管理行為的，由公安機(jī)關(guān)依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。 深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬實(shí)境等生成合成類(lèi)算法製作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)，包括但不限於： （一）篇章生成、文本風(fēng)格轉(zhuǎn)換(huàn)、問(wèn)答對(duì)話(huà)等生成或者編輯文本內(nèi)容的技術(shù)； （二）文本轉(zhuǎn)語音、語音轉(zhuǎn)換(huàn)、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù)； （三）音樂生成、場(chǎng)景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù)； （四）人臉生成、人臉替換(huàn)、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特徵的技術(shù)； （五）圖像生成、圖像增強(qiáng)、圖像修復等生成或者編輯圖像、視頻內(nèi)容中非生物特徵的技術(shù)； （六）三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景的技術(shù)。 深度合成服務(wù)提供者，是指提供深度合成服務(wù)的組織、個(gè)人。 深度合成服務(wù)技術(shù)支持者，是指為深度合成服務(wù)提供技術(shù)支持的組織、個(gè)人。 深度合成服務(wù)使用者，是指使用深度合成服務(wù)製作、複製、發(fā)布、傳播信息的組織、個(gè)人。 訓(xùn)練數(shù)據(jù)，是指被用於訓(xùn)練機(jī)器學(xué)習(xí)模型的標(biāo)註或者基準(zhǔn)數(shù)據(jù)集。 沉浸式擬真場(chǎng)景，是指應(yīng)用深度合成技術(shù)生成或者編輯的、可供參與者體驗(yàn)或者互動(dòng)的、具有高度真實(shí)感的虛擬場(chǎng)景。 第二十四條 深度合成服務(wù)提供者和技術(shù)支持者從事網(wǎng)絡(luò)出版服務(wù)、網(wǎng)絡(luò)文化活動(dòng)和網(wǎng)絡(luò)視聽節(jié)目服務(wù)的，應(yīng)當(dāng)同時(shí)符合新聞出版、文化和旅遊、廣(guǎng)播電視主管部門(mén)的規(guī)定。 第二十五條 本規(guī)定自2023年1月10日起施行。
來(lái)源：「網(wǎng)信中國(guó)」微信公眾號(hào)
