調(diào)查顯示，目前 85% 的金融機(jī)構(gòu)未能對(duì)人工智能（AI）相關(guān)風(fēng)險(xiǎn)實(shí)施充分管控。AI 技術(shù)雖為提升內(nèi)控與外部審計(jì)效率帶來了突破性機(jī)遇，但同時(shí)也是一把雙刃劍，存在被用作犯罪工具的風(fēng)險(xiǎn)。對(duì)此，韓國(guó)金融監(jiān)督院決定全新制定 AI 相關(guān)指導(dǎo)方針與管理細(xì)則，推動(dòng)金融機(jī)構(gòu)更為穩(wěn)健、負(fù)責(zé)任地引入和運(yùn)用 AI 技術(shù)。此舉被解讀為填補(bǔ) AI 技術(shù)應(yīng)用激增背景下監(jiān)管空白的實(shí)質(zhì)性舉措。

韓國(guó)金融監(jiān)督院于 15 日宣布，將制定金融領(lǐng)域 《人工智能風(fēng)險(xiǎn)管理框架》，把保障金融機(jī)構(gòu)穩(wěn)健運(yùn)用 AI 的 “治理原則” 予以細(xì)化明確。

當(dāng)前，AI 風(fēng)險(xiǎn)不僅可能對(duì)產(chǎn)業(yè)、社會(huì)整體及金融消費(fèi)者造成重大影響，AI 技術(shù)故障損害金融穩(wěn)定的擔(dān)憂也日益加劇，然而金融機(jī)構(gòu)在 AI 治理與風(fēng)險(xiǎn)管理方面的工作仍存在明顯不足。

金融監(jiān)督院去年 4 月對(duì) 118 家金融機(jī)構(gòu)開展全面調(diào)查，結(jié)果顯示，僅有 5 家銀行（占比 25%）、4 家保險(xiǎn)公司（占比 7.5%）、1 家證券公司（占比 2.7%）設(shè)立了 AI 相關(guān)決策機(jī)構(gòu)。約 85% 的金融機(jī)構(gòu)尚未制定 AI 倫理準(zhǔn)則、風(fēng)險(xiǎn)管理標(biāo)準(zhǔn)等相關(guān)規(guī)范。

為此，金融監(jiān)督院以 “創(chuàng)新與責(zé)任并重” 為原則，出臺(tái)了指導(dǎo)性的自愿遵循細(xì)則，助力金融行業(yè)穩(wěn)健應(yīng)用 AI 技術(shù)。金融機(jī)構(gòu)需構(gòu)建相應(yīng)治理體系，包括設(shè)立負(fù)責(zé) AI 風(fēng)險(xiǎn)管理等事務(wù)的決策機(jī)構(gòu)與專職部門。

決策機(jī)構(gòu)的主席需定期向首席執(zhí)行官匯報(bào)，確保能夠清晰掌握與 AI 相關(guān)的業(yè)務(wù)規(guī)劃、發(fā)展戰(zhàn)略及潛在風(fēng)險(xiǎn)等情況。同時(shí)，金融機(jī)構(gòu)還需制定 AI 風(fēng)險(xiǎn)管理規(guī)定、細(xì)則等內(nèi)部制度，并編制具體的業(yè)務(wù)操作手冊(cè)。

除此之外，金融機(jī)構(gòu)需履行遵守金融及 AI 相關(guān)法律法規(guī)的義務(wù)，明確員工對(duì) AI 相關(guān)最終決策承擔(dān)的責(zé)任；借助標(biāo)準(zhǔn)化手冊(cè)對(duì) AI 從引入到應(yīng)用的全流程進(jìn)行管理，厘清各部門的職責(zé)邊界。

為實(shí)現(xiàn)對(duì)風(fēng)險(xiǎn)的系統(tǒng)化管控，金融機(jī)構(gòu)需構(gòu)建基于 “風(fēng)險(xiǎn)導(dǎo)向法”的綜合評(píng)估體系。該體系需以金融 AI 七大原則中的量化指標(biāo)為基礎(chǔ)進(jìn)行設(shè)計(jì)，并將原則落實(shí)所需的核心要素納入評(píng)估項(xiàng)目，從而完成對(duì)各類 AI 服務(wù)的風(fēng)險(xiǎn)分級(jí)。

值得注意的是，依據(jù)《AI 基本法》，對(duì)于信貸審批等可能影響個(gè)人義務(wù)與權(quán)利的高影響 AI 應(yīng)用，無論其風(fēng)險(xiǎn)評(píng)級(jí)如何，均需劃歸為高風(fēng)險(xiǎn)服務(wù)類別。

金融機(jī)構(gòu)需根據(jù)風(fēng)險(xiǎn)等級(jí)實(shí)施差異化管控措施，針對(duì)超高風(fēng)險(xiǎn) AI 應(yīng)用，需履行風(fēng)險(xiǎn)控制流程，例如重新審核其上線可行性。金融監(jiān)督院計(jì)劃通過舉辦說明會(huì)、座談會(huì)等形式充分征集各方意見，于今年季度敲定并正式實(shí)施《人工智能風(fēng)險(xiǎn)管理框架》最終版本。

金融監(jiān)督院表示：“我們將通過推廣實(shí)踐案例、開展機(jī)構(gòu)落實(shí)情況檢查等方式，全力推動(dòng) 《人工智能風(fēng)險(xiǎn)管理框架》 所要求的治理機(jī)制、風(fēng)險(xiǎn)管理及風(fēng)險(xiǎn)控制流程，切實(shí)融入金融機(jī)構(gòu)的內(nèi)部控制體系?！?/span>