一、中國大陸今年3月間由「國家互聯網信息辦公室」等四部門聯合發布「人工智能生成合成內容標識辦法」（簡稱「標識辦法」），並配套發布強制性國家標準「網絡安全技術－人工智能生成合成內容標識方法」暨其實踐指引「網絡安全標準實踐指南」，正式於2025年9月1日起施行，以加強監管因AI技術快速發展帶來諸多假消息、著作權糾紛及網絡安全風險。歐盟AI法案雖有類似制度，惟預計2026年8月2日起始全面適用，因此目前中國內部及世界都密切關注標識辦法落地施行對AI治理合規性的影響。
二、標識辦法主要內容
(一) 雙重標識機制（標識辦法第三條）
1. 顯式標識：
在「生成合成內容」或者「使用者界面(交互場景界面)」中，根據應用特點以文字、聲音、圖形等方式呈現可讓用戶明顯感知到的標識。標識方法需參照配套的強制國家標準暨實踐指南。例如：
- 在與智慧機器人對談生成文字時，應在對談文本的起始、末尾或中間適當位置添加字形及顏色清晰可辨的文字或通用符號(角標)提示，或在使用者界面、文字周邊添加顯著提示標識。
- 生成圖片時，在圖片的適當位置添加顯著提示標識（文字高度不低於畫面最短編長度的5%）。
- 在音頻中於起始、末尾或中間適當位置添加語音或音頻節奏提示。
- 虛擬場景起始畫面及持續服務過程中適當位置添加顯著提示標識。
- 倘若前述生成合成內容有下載、複製、匯出文件等功能時，該文件亦應包含顯式標識。
2. 隱式標識：
主要是指以技術措施將文件來源（服務提供者名稱）、內容屬性、用途及著作權等訊息，嵌入AI生成合成內容文件的「元數據(meta data)」中，屬於不易被用戶明顯感知到的標識。
(二) 規範對象及相關義務
1. AI內容生成合成「服務或者技術提供者」：
(1) 包括利用應用程式介面等AI技術向公眾提供生成文本、圖片、音頻、視頻、虛擬場景等不同生成或合成內容的組織或個人，例如DeepSeek平台。
(2) 內容生成階段的雙重標識義務：
- 生成合成服務提供者須對可能誤導或混淆公眾的AI生成內容附加顯式標識（標識辦法第四條）。
- 以及在生成合成內容的文件元數據中添加隱式標示的義務，以利識別和追蹤；並亦鼓勵在生成合成內容中添加數字浮水印等形式的隱式標識（標識辦法第五條）。
2. 網絡信息「內容傳播服務提供者」：
(1) 建立生成或創作內容核驗及分級標示機制
如微信等社群媒體平台屬之。標識辦法要求平台核實AI生成或創作內容的標識相關資料，核驗文件數據是否含隱式標識，並強化AI生成內容標識機制，以確保內容的可追溯性（標識辦法第六條）:
- 確認為AI生成時：平台核驗到隱式標識時，應添加顯式標識，告知用戶內容為AI生成。
- 可能為AI生成時：平台未核驗到隱式標識，但用戶聲明為AI生成合成，平台應加提示標籤提醒大眾該內容「可能」為AI生成。
- 疑似為AI生成時：平台既未檢測到隱式標識，亦無用戶聲明；但有明確顯式標識或其他檢測證據顯示內容由AI生成，平台應標示為「疑似」AI生成內容。
(2) 嵌入內容元數據要求
針對以上三類內容，平台必須在對應內容中嵌入元數據，添加生成合成內容屬性（確定／可能／疑似）、平台名稱或內容編號等，以確保生成合成內容的透明度和可追溯性。
(3) 加強用戶協議，並支持用戶履行標識義務（標識辦法第七至十條）
- 在內容傳播過程中確保標識的完整性，不得惡意刪除、篡改、偽造或隱匿生成或創作內容的標識。
- 用戶協議中須明確標識規定，並允許用戶申請不顯示明示標識的內容，但服務方須留存相關操作記錄不少於6個月。
(三) 違反標識辦法的責任
1. 標識辦法並未臚列違反時的具體處罰措施，但2023年8月15日起正式施行的「生成式人工智慧服務管理暫行辦法」已規範初步監管措施：
(1) 倘若發現違法內容，服務提供者應當及時採取停止生成、停止輸出、消除等處置措施，採取模型優化訓練等措施進行整改(管理暫行辦法第9、14條)。
(2) 違反標識辦法的「生成合成服務提供者」或「內容傳播服務提供者」，可由行政監管機構(如國家網信辦、工信部、公安部等)參與查處，予以「警告、通報批評、責令限期改正、責令暫停提供相關服務」(管理暫行辦法第21條)。
2. 依據網信辦以往在「清朗」等系列的執法實踐，違規者可能面臨加強監管、暫停服務或關閉帳號等行政責任。倘若涉及散布假資訊的行為，可另適用更廣泛的網路安全法規，導致行政處罰或刑事責任。
三、標識辦法的影響及延伸議題
(一) 目前中國主要社群媒體平台，如微信、抖音、微博均已配合開始實施標識要求。同時各界也密切關注實施過程中服務提供者採用「技術辨識」可能帶來的挑戰及可能對用戶創作自由帶來的影響。
(二) 「AI生成標識爭議」的司法審查標準
2025年7月，北京互聯網法院發布首例網路服務平台與用戶因「AI生成標識爭議」之判決:
1. 該案原告在被訴平台發布一則內容：「打工並不能讓你真的賺到多少錢，但可以開啟你的新視角…如果你對學車感興趣的話並且以後打算開車的話，可以在你最清閒的一個假期完成它…工作之後就沒有太多完整的時間考駕照了」被訴平台算法系統判定該內容為「包含AI生成內容但未標識」，隨即隱藏該內容，並對原告帳戶禁言1天。原告申訴未果，遂對平台起訴，主張其內容並非AI生成，平台的處理構成違約，要求法院判令撤銷隱藏內容、刪除後台違規記錄。
2. 被告平台辯稱，根據平台服務協議和「互聯網信息服務深度合成管理規定」，其有權審查並處理未標識AI生成之內容。其使用經合理開發優化的演算法識別本件，並經人工複核認定爭議內容缺乏「明顯人類情感特徵」。
3. 法院認可被告平台有權依據服務協議，使用演算法工具對用戶內容是否為AI生成合成進行審查和處理。若用戶違規，平台可限制用戶流通內容或添加標識。但服務平台審查結果須有合理依據，在用戶主張內容非AI生成，但因文字即時創作，無法提供草稿或來源文件等證據之情形，平台應對其算法決策依據和結果提供合理舉證或解釋。本案被告提交的算法備案資訊僅是關於識別有安全風險的回答，與AI生成內容識別無關，至於人工複核標準亦是主觀判斷和個人經驗，缺乏科學依據、說服力和可信度。法院因此認定被告平台的處理缺乏事實依據，構成違約。
4. 此案引起廣泛討論，聚焦在如何兼顧演算法客觀透明度、用戶權益與AI監管之平衡。雖是在「標識辦法」施行前的判決，仍被認為可援引作未來服務平台偵測用戶內容爭議的司法審查標準。隨著標識辦法的實施，如繁星密布於網路的生成內容無法期待完全憑人力檢測，以「AI辨識AI」將成趨勢，而技術難免疏漏，類似糾紛應更顯著，服務平台業者宜持續優化AI檢測技術、建置更透明的申訴機制及具科學依據的人工審核標準。
◎ 相關報導
中國大陸將施行全球首部針對「生成式AI」的法規範
歐盟人工智能法案對「生成式AI」的規範
中國大陸近期對AI的行政管理規範－聚焦於監管「深偽技術」