安全動態(tài)

人工智能治理:從理論到實踐——NIST AI風(fēng)險管理框架解析

來源:聚銘網(wǎng)絡(luò)    發(fā)布時間:2024-06-03    瀏覽次數(shù):
 

當(dāng)前,人工智能治理面臨的挑戰(zhàn)是如何梳理浩繁的文獻(xiàn),找出針對特定組織量身定制的人工智能治理實施方案。本文基于NIST于2023年發(fā)布的AI風(fēng)險管理框架,旨在在加強人工智能治理方面做出嘗試,以便對讀者,尤其是GRC(治理、風(fēng)險與合規(guī))領(lǐng)域的專業(yè)人士提供實用參考。

評估AI風(fēng)險

AI系統(tǒng)設(shè)計有不同程度的自主運行能力。與之相關(guān)的最主要風(fēng)險有哪些?

AI的十五個最大的風(fēng)險如下:

缺乏透明度

偏見和歧視

隱私問題

倫理困境

安全風(fēng)險

權(quán)力集中

對AI的依賴性

取代就業(yè)

經(jīng)濟不平等

法律和監(jiān)管挑戰(zhàn)

AI軍備競賽

人際關(guān)系的喪失

虛假信息和操縱

意想不到的后果

存在性風(fēng)險值得注意的是,AI可能會因其使用的組織性質(zhì)而產(chǎn)生獨特風(fēng)險,超出普遍存在的風(fēng)險范疇。

AI可信度

NIST規(guī)定了可信AI應(yīng)具備以下特征:

合法有效且可靠

安全無害

安全且具有韌性

可追責(zé)且透明

可解釋且可理解

隱私增強

公平對待且妥善管理有害偏見根據(jù)NIST的說法,“高度安全但不公平的系統(tǒng),準(zhǔn)確但不透明且不可解釋的系統(tǒng),以及不準(zhǔn)確但安全、隱私增強和透明的系統(tǒng)都是不可取的。風(fēng)險管理的綜合方法要求在可信度特征之間取得平衡?!逼渲械年P(guān)鍵詞是“權(quán)衡取舍”。

AI風(fēng)險管理框架核心

NIST規(guī)定的RMF框架包括四個功能,如下所示:

治理

映射

測量

管理

治理作為跨領(lǐng)域功能,旨在貫穿并指導(dǎo)其他三個功能。執(zhí)行AI RMF核心功能時,應(yīng)考慮到多學(xué)科視角,可能還需要聽取組織外部的意見。

以下是AI治理的關(guān)鍵建議步驟:

01、在風(fēng)險度量中應(yīng)考慮可信AI的七個特征。

02、每個特征應(yīng)根據(jù)環(huán)境背景進(jìn)行定量或定性評估,最好是定量評估并以百分比表示?;陲L(fēng)險管理成本效益分析,或者監(jiān)管/行業(yè)要求尋求平衡。

03、應(yīng)從多學(xué)科利益相關(guān)者視角,包括內(nèi)外部利益相關(guān)者,考慮AI系統(tǒng)的可信特征,特別是那些造成重大的社會經(jīng)濟后果的AI系統(tǒng)。

04、每項風(fēng)險管理框架核心職能的類別和子類別應(yīng)作為指導(dǎo)方針,并在行使每項職能時加以應(yīng)用。

05、重要的是,這些指導(dǎo)方針應(yīng)基于環(huán)境背景考慮,而不是一個嚴(yán)格的檢查清單。

06、審計人員應(yīng)將AI審計視為“管理審計”或“社會審計”,并運用相應(yīng)的原則,而非財務(wù)審計或內(nèi)部審計原則。這一點適用于所需審計的AI組件。

AI原則實際應(yīng)用的案例研究

下文簡要介紹了微軟如何利用人工智能倫理委員會管理其AI開發(fā)的案例研究。2018年3月,微軟宣布成立一個由AI和研究小組的總裁和執(zhí)行副總裁領(lǐng)導(dǎo)的人工智能與工程研究倫理委員會(AETHER)。截止2019年初,AETHER擴展為AI、倫理和工程與研究成果的委員會。AETHER分為七個工作組:

1、敏感用途

 用于評估自動化決策對人們生活的影響

2、偏見和公平性

 用于評估對少數(shù)群體和弱勢人群的影響

3、可靠性和安全性

 以確保AI系統(tǒng)對抗攻擊具有魯棒性

4、人類注意力和認(rèn)知

 監(jiān)控算法注意力竊聽和說服能力

5、可理解性和解釋性

 為機器學(xué)習(xí)和深度學(xué)習(xí)模型提供透明度

6、人類與AI的交互與協(xié)作

 提高人類在AI系統(tǒng)的參與度

7、工程最佳實踐

 為AI系統(tǒng)開發(fā)生命周期的每個階段提供最佳實踐
微軟成立AETHER的決定向其員工、用戶、客戶和合作伙伴發(fā)出非常明確的信號,即微軟打算將其技術(shù)標(biāo)準(zhǔn)提高到一個更高的水平。

行業(yè)特定指南可以加強AI治理

AI為人類帶來了許多好處和優(yōu)勢,但仍然需要對相關(guān)風(fēng)險進(jìn)行全面管理。因此,遵循全面的框架將避免組織做出臨時性的決定,并確保各利益相關(guān)者之間建立更好的信譽和信任。

隨著AI的不斷發(fā)展,監(jiān)管機構(gòu)正在制定各種開放框架以適應(yīng)不同的環(huán)境和行業(yè)。像ISACA這樣的專業(yè)機構(gòu)可以利用其專業(yè)知識和知識庫,通過制定行業(yè)特定指南補充這些框架。

 
 

上一篇:網(wǎng)安標(biāo)委印發(fā)《網(wǎng)絡(luò)安全技術(shù) 關(guān)鍵信息基礎(chǔ)設(shè)施邊界確定方法(征求意見稿)》

下一篇:2024年6月3日聚銘安全速遞