金管會今發布「金融業運用 AI 指引」!用最快速度看懂 1 總則及 6 大章節
張詠晴
2024-06-20 17:50

(示意圖/圖片由AI生成)

繼去年 10 月下旬公布了「金融業運用人工智慧(AI)之核心原則與相關推動政策」,擬定了適合台灣金融業的 6 項核心原則及 8 項配套政策之後,台灣金管會為因應 AI 在金融服務領域的快速發展、風險問題及監理挑戰,於今日發布「金融業運用人工智慧(AI)指引」,希望作為金融機構導入、使用及管理 AI 的參考。

*詳細報導請見:金管會正式公告金融業運用 AI 之核心原則!6大修正重點帶你一次看清

金融業運用 AI 指引共分為1總則及6大章節,帶你用最快速度看懂相關細節:

1 總則

「金融業運用 AI 指引」開宗明義先闡述了AI系統相關的基本定義、生命周期、風險評估考量因素,以及以風險為基礎落實核心原則的方式,並說明了第三方業者的監督管理措施。

  1. AI系統定義:指透過大量資料學習,利用機器學習等算法進行模擬人類學習和反應的系統。生成式AI則是能生成模擬人類智慧創造內容的系統。
  2. AI系統生命周期:包括系統規劃及設計、資料蒐集及輸入、模型建立及驗證、系統佈署及監控四個階段。
  3. 風險評估考量因素:包括是否直接提供客戶服務、使用個人資料的程度、AI自主決策程度、系統的複雜性、影響不同利害關係人的程度及廣度、救濟選項的完整程度。
  4. 以風險為基礎落實核心原則:根據風險評估結果,決定採用的風險控管措施及程度。
  5. 第三方業者之監督管理:包括1. 評估第三方業者的知識、專業及經驗;2. 簽訂書面契約;3. 確保資料保護;4. 釐清責任分配;5. 留存執行受託辦理事項之書面或數位作業紀錄;6. 符合各業別相關委外規範等。

6 大章節

第一章 建立治理及問責機制

  • 針對其使用的AI系統,金融機構應承擔內部和外部的責任。內部責任包括指定高階主管負責AI監督管理,建立內部治理架構;外部責任則涉及對消費者和社會的責任,包括保護消費者的隱私和資訊安全。
  • 金融機構除須確保人員對 AI 有足夠之知識及能力外,應建立全面且有效的AI風險管理機制,並整合至現行風險管理及內部控制流程中,並定期進行評估及測試。

第二章 重視公平性及以人為本的價值觀

  • 金融機構在使用AI系統的過程中,應儘可能避免演算法偏見所造成的不公平現象。
  • AI系統應符合以人為本和人類可控的原則,尊重法治和民主價值觀。
  • 生成式AI產出的資訊,仍需由金融機構人員進行風險管理,以確保資訊的客觀性和專業性。

第三章 保護隱私及客戶權益

  • 金融機構應充分尊重和保護消費者的隱私,妥善管理及運用客戶資料。
  • 在使用AI系統提供金融服務時,應尊重客戶選擇的權利,並提醒是否有替代方案。
  • 資料治理應貫穿AI系統的生命週期,確保資料蒐集的合法性和準確性。

第四章 確保系統穩健性與安全性

  • 金融機構在運用AI系統時,必須確保其系統的穩健性和安全性,以避免對消費者或金融體系造成損害。
  • 若使用第三方業者開發或營運AI系統,應對第三方業者進行適當的風險管理和監督。

第五章 落實透明性與可解釋性

  • 金融機構在運用AI系統時,應確保其運作的透明性和可解釋性。
  • 使用AI系統與消費者直接互動時,應適當揭露相關資訊,以提升消費者的信任和理解。

第六章 促進永續發展

  • 金融機構在運用AI系統時,應確保其發展策略和執行方式與永續發展原則相結合,包括減少經濟、社會等不平等現象,保護自然環境,促進包容性成長和社會福祉。
  • 在AI系統的運用過程中,應對一般員工提供適當的教育和培訓,促進其適應AI帶來的變革,並盡可能維護其工作權益。