一、中國大陸涉及人工智能(下簡稱AI)監管的「國家互聯網信息辦公室」等七個中央政府監管部門，聯合於2023年7月10日發布「生成式人工智慧服務管理暫行辦法」(下簡稱「管理辦法」)，將於2023年8月15日施行，雖僅有精簡的24條規範，已是中國大陸乃至全球首部針對「生成式AI」的立法，介紹其主要規範架構及特色供參。
二、「管理辦法」主要規範架構
(一) 生成式AI技術之定義
是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術(管理辦法第22條(一)項)。
(二) 主要規範對象及適用範圍
1. 服務提供者
(1) 在中國大陸境內對其「公眾」提供生成式AI技術者(管理辦法第2條)：
a. 境內研發、教育自用者不受本辦法管制：
行業組織、企業、教育和科研機構、公共文化機關等有關專業機構等研發、應用生成式AI，倘若並非對境內公眾提供服務者，不適用本辦法規範。
b. 從事新聞出版、影視製作、文藝創作者，可另由各該監管部門自主管制。
(2) 於中國境外向境內用戶提供服務者(管理辦法第20條)：
不區分是否為研發自用或者對公眾提供服務，倘若有不符合中國法規範者(例如：違反「數據出境安全評估辦法」)，將被納入監管範圍。可能採取的監管方式為：警告、屏蔽鏈接措施使中國用戶無法接觸利用境外設備等技術監管措施。
(3) 服務提供包括「利用應用程式介面(提供可編程接口)」者(管理辦法第22條第(一)項)。
(4) 依前述規範解釋，在中國境內提供生成式AI服務予「境外」之情形，除了另應符合「數據出境安全評估辦法」等合規性要求外，不受本辦法規範。
2. 使用者
包括組織或個人(管理辦法第22條第(三)項)。
(三) 主要義務
1. 強化數據「訓練階段」的管理
(1) 服務提供者應確保數據和基礎模型的合法來源，保護智慧財產權及個人信息(管理辦法第7條)。
(2) 數據標註義務：
生成式AI在初期訓練階段仍需由人工輔助標註處理，為避免演算法產生的偏見或者標註人員在數據標註過程中投射個人意識影響AI算法邏輯，本辦法增設：「在生成式AI技術研發過程中進行資料標註的，提供者應當制定清晰、具體、可操作的標註規則；進行品質評估，抽樣核驗標註內容的準確性；對標註人員進行必要培訓及監督」(管理辦法第8條)。
2. 對於「生成內容」負審核義務
(1) 由於生成式AI的運作是提供海量數據集給機器，透過演算法習得抽象的一般規律，服務提供者實質上無法控制生成的結果。本辦法因此刪除原「徵求意見稿」第4條第(四)項規範「利用生成式人工智能生成的內容應當真實準確，採取措施防止生成虛假信息」的強制性義務，修改為「基於服務類型特點，採取有效措施，提升生成式人工智能服務的透明度，提供生成內容的準確性和可靠性」、「採取有效措施提供訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性」(管理辦法第7條第(四)項)。
(2) 服務提供者應履行網絡信息安全義務、與使用者簽訂服務協議明確雙方權利義務(管理辦法第9、14條)：
或許考慮對個資應加強保護，因此刪除原「徵求意見稿」要求對用戶身分進行「實名認證」管理之制度；倘若發現違法內容，服務提供者應當及時採取停止生成、停止輸出、消除等處置措施，採取模型優化訓練等措施進行整改，並向有關主管部門報告。
3. 對於「個資之保護」義務(管理辦法第11條)
服務提供者對於使用者的輸入信息和使用紀錄，僅限於「個人信息保護法」規定相關之必要範圍內始可收集、留存或者提供第三方。並應及時受理及提供個資查閱、更正、補充或刪除等措施。
4. 對於涉及個資、生物識別資訊的圖片、視頻等生成內容，負有「標示義務」 (管理辦法第12條)
本辦法與《互聯網信息服務深度合成管理規定》相勾稽(深度合成管理規定第14、17及18條參照)，對於涉及深度合成技術提供的智能對話、合成人聲、人臉等生成服務，為避免公眾混淆誤認並構成侵權等影響，服務提供者對於生成的內容負有向公眾標示義務。並對受影響的個資訊息持有者、或者被編輯生物識別資訊的個人履行告知及獲其同意之義務。
5. 違反相關規範的處罰
刪除原「徵求意見稿」第20條設定之「罰款、停業」之處罰規範，對於違法者由主管機關予以「警告、通報批評、責令限期改正、責令暫停提供相關服務」，大幅減輕違法者之法律責任(管理辦法第21條)。
(四) 審查單位
1. 官方監管機構(管理辦法第16至19條)
(1) 官方各部門，將針對生成式AI的技術特點及其有關行業和領域的服務應用，各別制定相應的分類分級監管規則。
(2) 「具有輿論屬性或者社會動員能力」的生成式AI服務提供者，應當按照有關規定開展安全評估，並按照《互聯網信息服務算法推薦管理規定》履行演算法備案和變更、註冊備案手續。
2. 投訴舉報機制(管理辦法第14、15及18條)
(1) 「徵求意見稿」原規範：「使用者於運行中發現不符法規範要求的生成內容，可以向服務提供者進行舉報，服務提供者除採取內容過濾措施外，應在3個月內通過模型優化訓練等方式預防再次生成不符要求的內容」被評論為不合理而刪除。另於本辦法14條第(二)項新增「提供者發現使用者利用生成式AI從事違法活動的，應採取警示、限制功能、暫停或者終止服務等處置，保存有關紀錄，並向部門主管報告」措施。
(2) 此外，服務提供者應建立投訴、舉報入口，及時處理投訴並反饋處理結果。使用者發現服務提供者有不符合法規範者，亦有權向主管部門投訴、舉報。
三、規範特色
(一) 與今年4月間公告的草案「徵求意見稿」相較，正式施行的辦法放寬了原有規範，有鼓勵生成式AI發展的意味
正式施行的管理辦法明定：為教育目的、自用研發等除外規範事項；刪除服務提供者應確保生成內容真實性的強制義務，更改為強化對數據訓練階段的管理責任；刪除對違規者之罰款、停業罰則。在在顯示中國大陸現階段對於生成式AI的發展整體呈現「包容審慎」的態度，並未直接給予強力的監管措施，反而給予靈活的觀察空間，展現鼓勵彈性發展的立法方向。
(二) 未來將針對生成式AI應用的產業類別、風險高低等進行「分類分級監管」：
「分類分級」監管的用語應用於整部管理辦法架構(管理辦法第3、6及16條參照)，顯示生成式AI可應用的層面遍及各產業，難以逐一全部列管，管理辦法第16條亦預告各部門主管機關(網信、發展改革、教育、科技、工業和信息化、公安、廣播電視、新聞出版等)將各自依其職責針對生成式AI的技術特點及其有關行業和領域的服務應用制定相應的「分類分級監管」規則。立法架構趨近於歐盟議會於2023年6月14日通過的「人工智能法案(Artificial Intelligence Act)」草案－根據風險等級「分層規範」的方向，也與英、美等發展中的規範方向相同。因此對於生成式AI根據風險高低、產業類別等分類分級加以監管，應是未來趨勢。
◎ 相關報導
中國大陸近期與生成式AI相關行政管理規範－聚焦於監管「深偽技術」