國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部三部門聯(lián)合印發(fā)了《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》），旨在加強對深度合成技術（Deep Synthesis Technology）的規(guī)范管理，促進互聯(lián)網(wǎng)信息服務健康有序發(fā)展，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。這是我國在人工智能治理領域出臺的又一重要法規(guī)，標志著對以生成式人工智能為代表的深度合成技術及應用進入精細化、法治化監(jiān)管的新階段。
一、明確界定與監(jiān)管范圍，聚焦前沿技術應用
《規(guī)定》首先對“深度合成技術”進行了明確界定，指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡信息的技術。具體包括但不限于：
- 生成或者編輯文本內(nèi)容，如智能寫作、對話生成；
- 生成或者編輯語音、音樂、音頻，如語音克隆、歌曲生成；
- 生成或者編輯圖像、視頻內(nèi)容，如人臉替換、人物生成、場景生成、視頻增強/修復；
- 生成沉浸式擬真場景，如數(shù)字人、虛擬空間構建；
- 其他具有生成或者顯著改變信息內(nèi)容功能的合成技術。
監(jiān)管對象涵蓋深度合成服務的提供者、技術支持者以及使用者，特別是強調(diào)了對具有輿論屬性或者社會動員能力的深度合成服務提供者的重點監(jiān)管要求。
二、確立基本管理原則，壓實主體責任
《規(guī)定》確立了堅持社會主義核心價值觀、維護國家安全和社會公共利益、促進技術正向應用、防范風險等基本原則。核心是壓實深度合成服務提供者和技術支持者的主體責任，要求其：
- 建立健全管理制度：包括算法機制機理審核、科技倫理審查、信息內(nèi)容管理、數(shù)據(jù)安全與個人信息保護、反電信網(wǎng)絡詐騙等制度。
- 落實真實身份認證：對深度合成服務使用者進行真實身份信息認證，不得向未進行真實身份認證的用戶提供服務。
- 加強技術管理：采取技術措施保證深度合成過程可追溯，并定期審核、評估、驗證生成合成類算法機制機理。
- 明確標識義務：對使用深度合成技術生成或者編輯的信息內(nèi)容，必須進行顯著標識（如加水印、添加標識符等），避免公眾混淆和誤認。
三、突出內(nèi)容安全與標識要求，保障知情權
針對深度合成內(nèi)容可能引發(fā)的虛假信息傳播、侵權詐騙等問題，《規(guī)定》設置了專門條款：
- 任何組織和個人不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事危害國家安全和利益、損害他人合法權益等活動。
- 深度合成服務提供者應對輸入數(shù)據(jù)和合成結(jié)果進行審核，并記錄相關日志信息不少于六個月。
- 對于可能引發(fā)公眾混淆或者誤認的深度合成信息內(nèi)容（如仿冒他人身份、仿冒新聞播報等），必須在合理位置、區(qū)域進行顯著標識，提示系“合成”或“虛擬”內(nèi)容。
- 提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有交互功能服務的，應當明確提示用戶正在與AI交互。
四、加強數(shù)據(jù)與個人信息保護，規(guī)范訓練數(shù)據(jù)使用
《規(guī)定》要求深度合成服務提供者和技術支持者加強訓練數(shù)據(jù)管理：
- 提供人臉、人聲等生物識別信息編輯功能的，應當取得被編輯個人的單獨同意。
- 建立完善的數(shù)據(jù)管理制度，依法依規(guī)收集、使用、處理個人信息，并采取必要措施保障數(shù)據(jù)安全。
- 用于訓練算法的數(shù)據(jù)若包含個人信息，應遵守個人信息保護相關法律法規(guī)。
五、健全監(jiān)管與法律責任體系
《規(guī)定》明確了網(wǎng)信、電信、公安等部門的監(jiān)督管理職責，要求建立健全監(jiān)督檢查、技術檢測等機制。對于違反《規(guī)定》的行為，相關責任主體將依據(jù)《網(wǎng)絡安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》等法律法規(guī)進行處罰；構成犯罪的，依法追究刑事責任。
六、意義與展望
此次《規(guī)定》的出臺，是對快速發(fā)展的深度合成技術及其廣泛應用（如虛擬主播、AI繪畫、智能寫作、換臉應用等）帶來的安全風險和社會挑戰(zhàn)的積極應對。它既為技術創(chuàng)新和應用劃定了安全底線和倫理紅線，也為產(chǎn)業(yè)的健康發(fā)展提供了明確的規(guī)則指引，有助于構建可信、安全、負責任的深度合成技術生態(tài)。隨著技術迭代和應用深化，相關監(jiān)管措施和標準也將持續(xù)完善，以期在防范風險與激勵創(chuàng)新之間取得平衡，推動人工智能技術更好地造福社會。
