一、美國加州於今年九月陸續通過將自2026年1月1日起生效的「議會2013號生成式AI:訓練數據透明法案(AB-2013 Generative artificial intelligence: training data transparency，下簡稱AB 2013法案)」及「參議院942號加州AI透明法案(SB 942 California AI Transparency Act，下簡稱SB942法案)」，提高生成式AI開發商或系統/服務供應者的透明度義務，業界認為新法案廣泛涵蓋涉及生成式AI的各科技公司，是美國近期最具影響力的法案，介紹如後供參。
二、AB 2013法案
(一) 本法案適用對象：
1. 本法案將適用於提供任何可供加州使用的生成式AI系統「開發人員」，包括：設計、編碼、生產或在功能上實質修改供公眾使用的AI系統/服務的任何人或企業(§3110(b)(d))。因此，將AI產品與基礎模型整合應用或者技術提供者均應留意新法案的影響。
2. 適用的「生成式AI系統」包括各種衍生的「合成內容」。因此，範圍及於任何可使用的生成式AI系統，無論是否付費使用(§3110(c)(e))。
(二) 本法案規範義務
AB 2013法案的重點是規範用於訓練和測試生成式AI相關「數據集」的透明度。要求其開發者應在網站公布包括但不限於以下所列項目的高程度摘要(§3111)：
1. 數據集的來源或所有者。
2. 描述數據集如何進一步實現AI系統/服務之預期目的。
3. 數據集所包含的資料點數量，包括一般範圍及動態數據集的估計數字。
4. 「資料點類型」的描述：
(a) 應用於包含標籤的資訊時，是指所使用的標籤類型。
(b) 應用於無標籤的資訊時，是指一般特徵。
5. 數據集是否受著作權、商標或專利保護，或屬於公共領域。
6. 數據集是否由開發者購買或獲取得授權。
7. 數據集是否包含個資的聲明。
8. 數據集是否包含《加州消費者隱私法》中定義的「個人資訊」或「消費者匯總資訊」。
9. 開發者是否、以及如何清理或修改數據集，以及前述作業與AI系統/服務相關的預期目的。
10. 蒐集數據集的時間段，以及是否仍在續行蒐集的通知。
11. 生成式AI系統/服務的開發過程中是否使用、或目前仍持續使用AI合成資料。
12. 以上規定的例外：(1)為確保安全性或完整性而設計的AI系統(例如：檢測網路安全事件、抵制惡意詐欺等非法行為)；(2)僅供在國家領空運行之飛機操作；(3)為國安、軍事或國防目的僅供聯邦機構使用的系統(§3111(b))。
(三) 目前本法案尚未明確規範如何執行，立法評論認為，本法案可根據加州的《反不正當競爭法》授權州檢察體系執行，並賦予私人因違反行為而受身體或財產侵害之訴訟權基礎。
(四) 本法案的影響
總體而言，本法案與歐盟在今年三月通過的「人工智能法案」就通用AI開發商和技術提供者應負「透明度」義務及應保留「訓練數據集摘要」之技術文件以備查核的立法方向一致；而本法案又進一步針對「訓練數據集」應公開揭露的透明度程度提出具體的遵循方向；有業界人士認為本法案的實施在短期內可能加劇一些固有的爭議，例如未經授權的個資和著作權作品的利用。將受本法案規範的企業宜備妥訓練數據集以往獲得授權利用的證明，並規劃未來訓練數據集之取得都具有可追溯確認資訊來源及其權利歸屬的機制，以降低法律風險。
三、SB 942法案
(一) 規範對象
與AB2013法案廣泛地規範利用數據集的開發人員有別，本法案為因應利用「深偽技術」產生或操縱虛假或錯誤的音訊、視頻而影響加州企業或居民而制定，目的是為使公眾知悉在網路上看到的影片、照片和內容是否真實，以及區辨合成和真實的部分。因此，規範的「創建、編碼或其他生成式AI系統開發者」須符合以下適用門檻(§22757.7(b)(c)、§22757.5)：
1. 該系統可在加州被存取利用，且每月具有「1百萬以上的使用者」，但不以加州使用者為限；
2. 僅限於生成「圖像、視頻或音訊」的系統(因此，生成語言等聊天機器人即不在規範項目)；
3. 僅適用於在電玩遊戲、電視、串流媒體、電影或互動體驗中「非使用者生成」的內容。
(二) 本法案規範義務
1. AI檢測工具(§22757.2 (a))
受規範的生成式AI提供者須免費向用戶公開提供具有以下功能的「AI檢測工具」，並有義務收集和納入對該工具功效的回饋意見：
(1) 讓用戶可確認圖像、視訊或音訊內容是否是由生成式AI所創建或更改。
(2) 向用戶提供AI生成內容的來源元數據或其他嵌入資料（但不包括該元數據中的任何個資）。
(3) 允許用戶透過上傳內容或點選連結的方式進行檢測。
(4) 支援透過應用程式即可接觸利用該工具，而無須再連接到提供者的網站。
(5) 僅在本法案規範之必要範圍內保留提交給該檢測工具的各種使用者或者內容元數據個資。
2. 浮水印選項-明確標示AI生成內容(§22757.3 (a))
(1) 必須提供可讓用戶揭露相關圖像、視訊和音訊內容是由AI生成的浮水印選項(亦有稱明確標示選項)。
(2) 該浮水印須以清晰、顯著和可理解的方式標示：內容是由AI生成，且在技術可行範圍內該浮水印是永久性的或者「極其難以刪除」。
3. 潛在揭露(§22757.3(b))
(1) 所創建的圖像、視訊和音訊內容必須包含「潛在揭露」項目，亦即非肉眼可見、而可利用「AI檢測工具」檢測到的以下項目：
- 該生成式AI提供者的名稱。
- 創建或更改內容的AI系統的名稱和版本號。
- 創建或更改內容的時間和日期。
- 唯一識別碼。
(2) 「潛在揭露」項目同樣必須在技術上合理可行的範圍內是永久性的或極其難以刪除的。
4. 規範下游之義務(§22757.3(c))
(1) 倘若本法案規範的生成式AI提供者將其系統授權第三方，則須透過合約要求第三方被授權人同樣負有使系統維持上述「潛在揭露」能力之義務。
(2) 在知悉第三方被授權人違反前述義務時，須在發現違規行為後96小時內撤銷授權，使被授權人停止利用該系統。目前業界解讀系統供應者的前述義務，認為僅止於「發現」下游違規的義務，並不包含調查違規行為的積極義務。
(三) 違反SB 942法案之後果(§22757.4)
1. 本法案並未賦予個人對違反者提起訴訟之請求權，而是由州政府對每次違規之行為處5千美元之罰款，且每一天都被視為單獨的違規行為。至於同一天內如果有不同的圖片或影音分別違反本法規範，是作為單次或者累計計算罰款，將有待觀察進一步的司法案例。
2. 如果系統提供者因未能適時撤銷第三方被授權人違反「潛在揭露」義務之行為，該系統提供者不僅自身將對違規行為負責，且可受到州檢察官對之提起的禁制令民事訴訟，並賠償合理的律師費及支出。
(四) 本法案的影響
本法案已有具體的處罰規範，達到規範門檻的生成式AI開發者，應在2026年1月1日法案生效施行前，依法建置法定使用者操作介面、以及後台操作(包含技術以及下游合約的建置)，以備應對新規。
◎ 相關報導
歐盟議會通過「人工智能法案」
美國加州「揭露機器人法案」自2019年7月1日起生效