最新消息

台灣行政機關近期對AI的利用及管理措施

一、國科會提出「行政院及所屬機關(構)使用生成式AI參考指引」草案:

(一) 為因應ChatGPT等生成式AI可提升工作效率、降低成本之同時,亦有造成侵權、失真、倫理、國安、資安風險等疑義之雙面效應,國科會於2023年7月18日就行政院及所屬機關是否可利用生成式AI執行業務或者提供服務、及內部如何管理,提出「行政院及所屬機關(構)使用生成式AI參考指引草案」(下簡稱「指引」),作為各機關使用生成式AI的共同原則。要點如後:

1. 生成式AI只能作為執行業務或者提供服務的輔助工具(指引第二點及第五點):

(1) 生成式AI產出之資訊,仍需業務承辦人就其風險進行評估及最終判斷,不得取代業務承辦人。

(2) 各機關不可完全信任生成式AI產出之資訊,亦不得以未經確認之產出內容直接作成行政行為或作為公務決策之唯一依據。

2. 「機密文書」應由業務承辦人親自撰寫,禁止使用生成式AI。所稱機密文書,指行政院「文書處理手冊」所定之國家機密文書及一般公務機密文書(指引第三點)。

3. 業務承辧人不得提供「機密資訊」予生成式AI,亦不得向生成式AI詢問可能涉及「機密資訊」之問題,或者蒐集或處理「個資」。前述「機密資訊」包含公務應保密、個人及未經機關(構)同意公開之資料(指引第四點)。

4. 使用生成式AI作為執行業務或提供服務輔助工具時,應適當揭露(指引第六點)。

5. 使用生成式AI應遵守資通安全、個人資料保護、著作權與相關資訊使用規定,並注意其侵害智慧財產權與人格權之可能性(指引第七點)。

6. 行政院各機關可因業務需求參照本指引自訂AI使用規範。公營事業機構或其他機關單位,亦可參考準用本指引(指引第七點至第十點)。

(二) 國科會在公眾政策網路參與平台回應公眾對本指引之詢問:

1. 本指引屬於行政指導性質。雖並非法律,不具強制性亦無明定罰則,惟對行政院及所屬機關仍具政策宣示效應及示範作用。

2. 本指引第二到第五點所稱「資訊」,參照政府資訊公開法對於政府資訊之定義 ,已包含文字、影、音、圖、訊號、軟體等類型。

3. 國科會正建置「可信任人工智慧對話引擎」(TAIDE),以期提供可讓政府或業者繼續發展其專屬內部應用系統或加值服務的生成式AI基礎模型。未來行政院及所屬機關若導入TAIDE,亦適用本指引相關規範。

二、金管會提出「金融業運用AI之6項核心原則」:

(一) 由於國際金融業早有運用AI之實例,國際組織和主要國家對金融業應用AI已初步架構一些原則,如公平性、透明性和問責制。至於台灣金融業,根據金管會於2023年5月份調查共175家金融機構資料,其中已有約47%採行AI技術,主要應用在客群經營(如智能客服、機器人理財);風險管理及法遵(如洗錢防制、可疑交易分析、開戶案件審查):流程精進(如影像辨識及自動化);數據分析(如客戶屬性、消費行為及市場趨勢)等方面。雖暫未有金融機構使用生成式AI,但已有將近半數機構在評估之中。

(二) 以往為因應新興科技(如深偽技術、自動化投顧服務)對金融之衝擊,金管會已針對銀行業、證券期貨業、保險業制定相關規範以控管風險及保障投資人權益。為因應AI在金融服務領域的應用日益增加,及生成式AI快速發展影響層面廣泛,金管會再於2023年8月15日公告「金融業運用AI之核心原則與相關推動政策」草案,參酌以往規範以及國科會前述指引,提出六項核心原則,以完整現有規範:

1. 建立治理及問責機制:

(1) 建立內、外部AI風險治理架構。

(2) 定期評估其測試相關風險管理機制。

(3) 確保人員對AI有足夠的知識及能力,以作出適當的決策及監督。如運用生成式AI,僅以之為協助工具,不宜作為判斷的唯一依據。

2. 提供公平的金融服務,符合以人為本和人類可控原則。

3. 保護隱私及客戶權益(例如可選擇退出AI服務的人工替代方案)。

4. 確保系統穩健性與安全性,對第三方業者進行適當的風險管理和監督。

5. 落實透明性與可解釋性,使用生成式AI作為辦理業務或提供金融服務輔助工具時,應適當揭露。

6. 促進永續發展,維護員工工作權益。

(三) 金管會代表在記者會表示,將會於今年底前根據前述原則公布AI指引,後續將由金融業公會根據AI指引訂定相關自律規範。

三、管理趨勢

台灣立法機關尚未有針對生成式AI等立法特別管制的跡象。各行政主管機關目前站在科技中立的立場,根據各產業領域應用AI技術可能衍生的風險,援引現有法令提出政策指導原則,並強調「市場自律」,與美國目前對於AI發展的監管方式雷同。傾向根據市場發展走向依業務性質「分類監管」,並將逐一明確管制與促進AI創新的界線。

回列表