一、ChatGPT效應持續發酵全球，不僅使各產業重新檢視既有的營運模式、推動歐盟等地的立法，美國聯邦貿易委員會(Federal Trade Commission，簡稱：FTC)亦於上週主動對ChatGPT的開發商OpenAI展開調查。此次為美國官方迄今為止對於AI開發商最有力的監管行動。倘若調查結果認為涉有違反聯邦法令，根據以往曾對美國高科技公司發動類似調查之處理前例，該企業可能被處以鉅額的罰鍰迄至改善為止。
二、根據FTC調查文件，此次主要調查目的是為確認：OpenAI訓練模型的過程是否符合聯邦對於隱私、個資之保護及不實廣告的相關規範、有無以不公平的方式造成消費者損失。調查之方式為要求OpenAI提出以下資訊：
- 自2020年6月1日起迄今與開發大型語言模型相關的公司背景資料，含關係企業、財務狀況等資訊。
- 詳細臚列每一代大型語言模型的主要功能及特徵、訓練及開發模型之相關資訊。
- 對於ChatGPT所造成的隱私及個資外洩(例如：2020年3月24日OpenAI自行公開承認因程式錯誤導致部分用戶可看見其他用戶聊天的歷史訊息以及相關付費訊息)，以及駭客攻擊網路生成服務(Prompt injection)涉及的資安風險如何加以緩和。
- 如何評估ChatGPT可使用的外掛程式(Plugins)，及所有第三方可藉以串接ChatGPT的應用程式介面(API)可能造成的風險，及已採取的具體降低風險措施。
- 如何評估及確保「生成」資料的正確性，不致生成語言模型「幻覺」、誤導性或者貶損個人名譽等內容，及已採取何等風險控管措施。
- 對於個資之蒐集、利用及保存是否依法辦理。
- 主要技術開發者的背景資料、前十大主要客戶授權或者購買方式及其主要使用目的、主要行銷推廣管道。
三、雖然FTC很少主動對美國企業進行與消費者權益保護相關的調查行動，但啟動此次調查程序之前FTC已多次透過官網、演講等不同媒介公告業界留意利用AI可能導致的歧視、不公正風險及對應降低風險措施，並籲請企業避免利用AI對消費者提供不真實的訊息，亦警告FTC將對不遵守相關聯邦相關法令的業者採取處罰措施。因此一般認為此次對於關注度最高的OpenAI進行調查，並非意外之舉。儘管OpenAI隨後在其Twitter上發文對上述調查過程表示配合，並強調「其技術安全並有利於消費者、且有信心遵守法律。」，但一旦發現涉有違法，依各國法律原則上仍會處罰涉及違法之行為人。建議有意導入ChatGPT等生成式AI作為應用架構的企業，宜採取謹慎態度，留意在導入生成式AI便利企業運作或者提供商品服務之前，進行盡職調查程序，而不只是在契約中要求底層模型提供者為免責聲明，以適度降低合規風險。
◎相關報導
美國FTC－AI內部控管及對外行銷指南