一、今年三月，ChatGPT的開發商OpenAI公開承認：ChatGPT的確曾因程式錯誤，不慎將部分客戶個資外洩。其後四月間，韓商三星電子發現：有員工為了識別良率和機械缺陷，或者優化編碼，將機密電腦軟體編碼上傳ChatGPT；基於保護企業機密資訊，該公司向新聞記者證實：在自行開發出更安全的生成式AI機制前，三星將暫時限制員工利用ChatGPT等外資開發的生成式AI，以避免資安風險。三星不是唯一擔心生成式AI的資安漏洞可能危害機密的企業，如美國摩根大通等大型企業，雖肯定大型語言模型多樣性的生成內容可提高工作效率，也同時禁止員工使用ChatGPT，另採取企業內部自行開發生成式AI等穩健方式維護營業秘密。
二、因應生成式AI可能產生的資安及營業秘密風險，台灣智慧局表示，企業可採取以下四面向措施預防生成式AI外洩營業秘密：
(一) 建立員工內部使用規範：
例如：生技業的實驗數據、科技業的機器擺放位置等，在該領域屬於機密資訊，企業應使員工清楚知悉哪些資訊屬於機密資訊，不能利用生成式AI，以避免成為AI技術開發者訓練資料的一部分。
(二) 區別機密等級，分類分級管理：
常見的狀況是員工在研發雛型計畫構想階段，運用生成式AI查詢參考資料，但在此種過程中可能也因為提供初步研發數據或計畫到生成式AI之中而致洩漏營業秘密。因此，企業可考慮依產業或者業務部門類型將營業秘密分類、分級，並進而區分可利用生成式AI的程度。營業秘密區分方式多種，可大致依產業類型不同而分成「技術型營業秘密」（在此領域研發技術、製造配方為核心資訊），以及「商業型營業秘密」（在此領域，客戶名單、行銷策略、市場布局等為核心資訊）。科技產業與核心資訊相關的「研發部門」人員可能完全禁止使用生成式AI，以防止實驗室數據外流，而「業務部門」人員則可考慮開放部分使用。
(三) 員工教育訓練：
企業應教育員工，使其認知生成式AI使用風險，以及早預防機密資訊外洩。
(四) 企業稽核機制：
審查專案內容、各部門使用生成式AI的比例、了解哪些內容是由生成式AI產出，以達到預警和風險控管效果。
◎ 相關報導
台灣行政機關近期對AI的利用及管理措施
美國FTC對OpenAI啟動調查程序