五張圖詳解企業如何建立可信任的 AI | AI 成熟度調研

丹棱君有話說：企業在轉型過程中如何戰勝AI在倫理方面的挑戰？今天帶來的微軟和安永聯合著作的「AI 成熟度調研」系列文章將探討：如何建立對 AI 的信任、負責任的 AI；建立可信任的 AI 有哪些重要步驟和治理模式。

「文化變革在很大程度上是由領導者推進的，它需要能夠產生能量、激勵員工的方法論，也需要一種能夠培育、獎勵這種文化的治理模式，以解決人工智慧在運營和倫理方面帶來的轉型挑戰。在一個 AI 就緒的組織中，信任是至關重要的。」

——施博德（Brad Smith）

微軟總裁兼首席法務官

人工智慧正被應用到越來越廣泛的業務場景中，以實現在以往由人執行的活動和任務上的自動化。對於 AI 系統的設計人員、架構師和開發人員而言，充分意識到 AI 相幹法規和社會影響變得越來越重要。此外，他們還應該採用符合道德規范的設計以及參考 AI 治理方面的最佳實踐。

建立對人工智慧的信任

AI 的負面影響包括運營壓力、訴訟、負面新聞、客戶流失、盈利能力降低和監管審查等，其中個人數據濫用問題更可能導致企業公信力危機。

安永開發的 AI 框架可以幫助企業了解可能會影響系統、產品、品牌和聲譽的潛在風險。框架的核心著重在AI相幹系統。企業必須了解、治理、調整和保護 AI 系統內部和相連的所有組件才能達到對 AI 完全信任。

要建立對 AI 的信任既需要技術也需要企業文化的支持。AI 要想被用戶接受，AI 首先需要能夠被理解，也就是說其決策框架是可以解釋和驗證的。AI 還需要達到預期的性能，並且得到可靠的產出結果。

建立負責任的人工智慧

前微軟全球執行副總裁，微軟人工智慧及微軟研究事業部負責人沈向洋博士與微軟公司總裁，首席法務官施博德（Brad Smith）在《計算未來 人工智慧及其社會角色》一書中強調負責任的人工智慧所需的六個原則[1]：「公平，可靠，隱私與保障，包容，透明，負責。」

建立可信任人工智慧的重要步驟

安永認為可信任的人工智慧是基於以下三個重要步驟：

目的性設計：有目的地設計和構建系統，維護機器人、智能和自主功能之間的平衡，關註因果關係、限制條件、準備情況和相應風險

敏捷治理：從社會、法規、聲譽和道德領域出發，識別並跟蹤新出現的問題，為流程治理提供指導。在過程中保障流程管理系統的完整性、系統使用、架構和嵌入式組件、數據尋源和管理、模型訓練和監控

密切監控：持續微調、整合和監控系統，以確保性能的可靠性，發現和糾正偏差並提高透明度和包容性

「教育 AI 就像養育孩子一樣，你不僅需要教 AI 怎樣做一件事，還要教它社會規范和價值觀。開發人員在 AI 設計和開發之初就應該考慮到道德和信任風險。」

——凱茜·科比（Cathy Cobey）

安永全球人工智慧信任主管合夥人

建立可信任的AI的治理模式

盡管越來越多企業意識到 AI 必須符合道德規范並具備可信賴性，但要確保 AI 的透明、公正、安全、準確和可審核性可能會超出開發人員的能力。企業需要建立可信任的 AI 生態系統。

微軟已經設立了開發和研究人工智慧與道德標準(AETHER)委員會。該委員會囊括了來自微軟公司開發、研究、咨詢和法律部門的高管，專註於積極制定內部政策，以及如何應對所出現的具體問題。AETHER 委員會審查和界定最佳實踐，提供指導原則，指導微軟人工智慧產品和解決方案的開發和部署，並幫助解決微軟人工智慧研究、產品和客戶溝通中產生的倫理和社會影響問題。

微軟協同安永提供幫助

由微軟 Azure 支持的安永可信賴人工智慧平臺（EY Trusted AI Platform）為用戶提供了一種集成的方法來評估，監視和量化 AI 的影響和可信賴性。

人工智慧在各個行業的應用和未來發展趨勢受到熱議，敬請關註下一期 AI 成熟度調研系列文章，來自微軟和安永的行業專家將對熱點問題答疑解惑。

[1]《計算未來 人工智慧及其社會角色》

參考文獻：《如何教導人工智慧信任價值》， 安永