近年來，深度合成作為一種人工智能內(nèi)容合成技術(shù)，風(fēng)頭正勁。技術(shù)的發(fā)展與風(fēng)險相伴而生，當(dāng)深度合成技術(shù)在美顏、繪畫、主播、元宇宙等領(lǐng)域為大眾帶來多樣化的交互體驗時，其技術(shù)濫用也引發(fā)了侵權(quán)、詐騙等一系列問題。2022年11月25日，國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）。其中提出，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意。《規(guī)定》自2023年1月10日起施行。

對于深度合成技術(shù)的監(jiān)管，此前在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)中均有提及，而《規(guī)定》則對深度合成內(nèi)容更有針對性地進行規(guī)制，標(biāo)志著監(jiān)管部門針對互聯(lián)網(wǎng)信息內(nèi)容監(jiān)管版圖進一步細化。

那么，究竟什么是深度合成技術(shù)？《規(guī)定》給出了答案：深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。具體包括篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術(shù)；文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù)；音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù)；人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；圖像生成、圖像增強、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術(shù)等。

深度合成技術(shù)是人工智能發(fā)展到一定階段的產(chǎn)物，其衍生出包括圖像合成、視頻合成、聲音合成和文本生成等多種技術(shù)，廣泛應(yīng)用于新聞傳媒、影視制作、娛樂、教育和電子商務(wù)等領(lǐng)域。不過，由于操作便捷，成本低廉，深度合成服務(wù)容易被不法人員利用，用于制作、復(fù)制、傳播違法信息，甚至仿用他人身份實施詐騙。如今常見或大熱的語音轉(zhuǎn)換、圖像修復(fù)、三維重建、虛擬人、AI換臉、AI繪畫等技術(shù)類型都被涵蓋其中，而這些深度合成技術(shù)的濫用風(fēng)險是看得見的。

為防止深度合成技術(shù)被用于犯罪活動，《規(guī)定》對深度合成服務(wù)提供者、技術(shù)支持者等各方責(zé)任義務(wù)進行了系統(tǒng)性制度設(shè)計，包括算法機制機理審核、信息內(nèi)容管理、安全評估、從業(yè)人員教育培訓(xùn)等。

《規(guī)定》明確，任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動。

同時，《規(guī)定》要求，深度合成服務(wù)提供者建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個人信息保護、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度；制定和公開管理規(guī)則、平臺公約，完善服務(wù)協(xié)議，落實真實身份信息認證制度；采取技術(shù)或者人工方式對輸入數(shù)據(jù)和合成結(jié)果進行審核，建立健全用于識別違法和不良信息的特征庫；建立健全辟謠機制等。

在《算法規(guī)定》明確“不得生成合成虛假新聞信息”的基礎(chǔ)上，《規(guī)定》也對相關(guān)主體，在新聞輿論領(lǐng)域的深度合成技術(shù)運用進行了規(guī)范。

按照《規(guī)定》，深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。此外，具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照《算法規(guī)定》履行備案和變更、注銷備案手續(xù)；深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估。

中國信息通信研究院副院長王志勤認為，《規(guī)定》有效銜接了相關(guān)法律法規(guī)。在網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等上位法框架下，《規(guī)定》有效承接了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)章、規(guī)范性文件中關(guān)于網(wǎng)絡(luò)信息內(nèi)容管理、新技術(shù)新應(yīng)用安全評估、顯著標(biāo)識、備案管理等制度規(guī)定，對深度合成服務(wù)管理機制、主體責(zé)任等作出了銜接性制度安排。

除深度合成服務(wù)提供者以外，《規(guī)定》也將深度合成服務(wù)技術(shù)支持者納入監(jiān)管，明確他們的數(shù)據(jù)和技術(shù)管理規(guī)范。

《規(guī)定》明確，深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強訓(xùn)練數(shù)據(jù)管理。采取必要措施保障訓(xùn)練數(shù)據(jù)安全之余，提供人臉、人聲等生物識別信息顯著編輯功能的，應(yīng)當(dāng)提示使用者依法告知被編輯的個人，并取得其單獨同意。

深度合成服務(wù)提供者和技術(shù)支持者還應(yīng)當(dāng)加強技術(shù)管理，定期審核、評估、驗證生成合成類算法機制機理。其中，對具有生成或者編輯人臉、人聲等生物識別信息，可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的模型、模板等工具，應(yīng)當(dāng)依法自行或者委托專業(yè)機構(gòu)開展安全評估。

此外，《算法規(guī)定》要求，發(fā)現(xiàn)未作顯著標(biāo)識的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識后，方可繼續(xù)傳輸?！兑?guī)定》在此基礎(chǔ)上進一步細化，通過顯著標(biāo)識和隱式標(biāo)識兩種方式對深度合成信息進行規(guī)范。

按照《規(guī)定》，深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識。提供智能對話、智能寫作、合成人聲、仿聲、人臉生成、人臉替換、人臉操控、姿態(tài)操控、沉浸式擬真場景等具有生成或者顯著改變信息內(nèi)容功能的服務(wù)，可能導(dǎo)致公眾混淆或者誤認的，深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標(biāo)識，向公眾提示深度合成情況。

“《規(guī)定》是目前我國針對深度合成服務(wù)出臺的第一部專門性部門規(guī)章，作出了一系列明確合規(guī)指引，對加強互聯(lián)網(wǎng)信息服務(wù)深度合成管理、促進互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進網(wǎng)絡(luò)空間治理意義重大，影響深遠。”中國科學(xué)院信息工程研究所所長孟丹表示。

“深度合成服務(wù)從相繼被納入到相關(guān)規(guī)定中監(jiān)管，到出臺專門的規(guī)章進行規(guī)制，顯示出我國一方面引導(dǎo)深度合成技術(shù)良性發(fā)展，另一方面堅決打擊利用深度合成服務(wù)制作傳播違法不良信息、危害信息內(nèi)容安全、社會公共利益和國家安全的行為?！痹谥袊ù髮W(xué)副校長時建中看來，深度合成技術(shù)展現(xiàn)了其強大的能量和可能性，加速應(yīng)用已經(jīng)成為現(xiàn)實趨勢。在合規(guī)前提下，深度合成技術(shù)創(chuàng)新發(fā)展，不斷開拓應(yīng)用場景，將形成對人工智能產(chǎn)業(yè)整體的帶動效應(yīng)，促進技術(shù)向上向善。

本網(wǎng)站及其公眾號為公益性網(wǎng)絡(luò)平臺，所發(fā)圖文僅供傳播信息、介紹知識、說明問題之用；相關(guān)版權(quán)歸原作者所有，轉(zhuǎn)載請務(wù)必注明出處和作者。

稿件一經(jīng)選用，即視為作者同意本網(wǎng)免費將其使用于本網(wǎng)或與本網(wǎng)有合作關(guān)系的非贏利性各類出版物、互聯(lián)網(wǎng)與手機端媒體及專業(yè)學(xué)術(shù)文庫等。

由稿件引起的著作權(quán)問題及其法律責(zé)任由作者自行承擔(dān)。

了解更多動態(tài)，請掃描二維碼，關(guān)注我們的微信公眾號：