文｜邱惠君 郭利

自2018 年以來，新加坡一直致力于有關人工智能倫理和治理的持續(xù)探索，先后發(fā)布人工智能治理框架、組織實施和自評估指南以及人工智能治理案例匯編等，近期又推出了全球首個人工智能治理測試框架和工具包，系統(tǒng)、深入地指導各類組織機構開展人工智能安全風險治理，以負責任的方式開發(fā)部署人工智能

隨著人工智能技術的不斷深入應用，人工智能治理已受到全球高度關注。2022 年5月，新加坡推出全球首個人工智能治理測試框架和工具包，以通過標準化測試來驗證人工智能系統(tǒng)，這一舉措使得新加坡在人工智能治理實踐領域又一次走在全球前列。還值得一提的是，新加坡是我國申請加入的《數(shù)字經(jīng)濟伙伴關系協(xié)定》（DEPA）的三大發(fā)起國之一，而探索負責任使用人工智能監(jiān)管框架是協(xié)定涉及的一項重要內容。因此，新加坡在人工智能治理領域的理念和實踐值得我們關注和借鑒。

實踐探索進展：從發(fā)布原則指南到推出評測工具平臺

新加坡認為，建立可信生態(tài)是發(fā)展數(shù)字經(jīng)濟的關鍵。自2018 年以來，一直致力于有關人工智能倫理和治理的持續(xù)探索，先后發(fā)布人工智能治理框架、組織實施和自評估指南以及人工智能治理案例匯編等，近期又推出了名為“A.I.Verify”的全球首個人工智能治理測試框架和工具包，系統(tǒng)、深入地指導各類組織機構開展人工智能安全風險治理，以負責任的方式開發(fā)部署人工智能。

新加坡在人工智能治理實踐中采用了“原則+指南+工具”的一整套方案，其大致進展為：

新加坡從頂層明確了人工智能治理兩大原則，即“人工智能決策過程可解釋、透明、公平”和“人工智能解決方案應以人為中心”。新加坡認為，機構使用人工智能時應努力確保其盡可能地實現(xiàn)這一原則所要達到的目標，這有助于建立公眾對人工智能的信任和信心。同時，在設計、開發(fā)和部署人工智能時應考慮以人為中心。

2019 年1 月，在世界經(jīng)濟論壇會議上發(fā)布《人工智能治理模型框架》（第一版），為私營部門組織機構提供詳細且易于實施的指導，落實人工智能關鍵倫理和治理問題，其目的是促進公眾對技術的理解和信任。《人工智能治理框架》由新加坡信息通信媒體局和個人數(shù)據(jù)保護委員會聯(lián)合推出。

2020 年1 月，發(fā)布改進后的《人工智能治理模型框架》（第二版），相比第一版，實現(xiàn)更好的相關性和可用性，推進治理原則不斷落地。同時，作為治理框架的配套指南，發(fā)布《組織實施和自我評估指南》，幫助各類組織機構評估其人工智能治理實踐與模型框架的一致性，還提供了有用的行業(yè)實踐示例。該評估指南是與世界經(jīng)濟論壇第四次工業(yè)革命中心合作的成果，有60 多個機構參與了相關工作。同期還發(fā)布了《人工智能治理案例匯編》，匯集不同行業(yè)、規(guī)模的組織如何根據(jù)治理框架來有效地實施負責任的人工智能治理。

2022 年5 月，推出名為“A.I.Verify”的人工智能治理測試框架和工具包（最低產(chǎn)品版MVP）。新加坡認為這是世界上首個以客觀和可驗證方式展示負責任人工智能的測試框架和工具包，將負責任和值得信賴的人工智能概念落地，可幫助企業(yè)提高其人工智能產(chǎn)品和服務透明度。人工智能開發(fā)者和擁有者可以通過一套定量和定性相結合的標準化評測方式，來驗證其人工智能系統(tǒng)是否符合聲稱的性能。目前，該測試框架和工具包還處于試點階段，包括亞馬遜、谷歌、微軟、新加坡電信、渣打銀行在內的來自不同領域、不同規(guī)模的10 家企業(yè)已經(jīng)開展了試用并提供了反饋，相關意見將用于更新版本。新加坡還計劃將其提升為國際范圍內使用的測試框架和工具包，并為國際標準的制定作出貢獻。

治理框架的核心思想：明確兩大頂層原則和四個關鍵維度

新加坡人工智能治理框架是由信息通信媒體局和個人數(shù)據(jù)保護委聯(lián)合發(fā)布的一個通用性框架，先后已發(fā)布兩個版本，各行業(yè)和組織機構可結合自身情況作出靈活調整，其目的是應對人工智能開發(fā)應用帶來的風險問題，從而更好地建立用戶的信任。治理框架的核心內容和思想主要體現(xiàn)為：先從頂層確立兩大原則，然后從四個關鍵維度提出規(guī)范性要求和評估清單，指導組織機構自愿開展自我評估和改進，更好地促進負責任人工智能的實施。

明確兩大頂層原則，促進對人工智能的理解和信任

新加坡在人工智能治理框架中，首先從頂層明確了兩大原則，即“人工智能決策過程可解釋、透明、公平”和“人工智能解決方案應以人為中心”。

一是各類機構應確保人工智能決策過程的可解釋、透明和公平。新加坡認為，雖然不可能達到完美的可解釋性、透明度和公平性，但機構使用人工智能時應努力確保其盡可能地實現(xiàn)這一原則所要達到的目標，這有助于建立公眾對人工智能的信任和信心。

二是人工智能的解決方案應該以人為中心。由于人工智能被用來增強人類的能力、保護人類福祉和安全等利益，因此，在設計、開發(fā)和部署人工智能時應考慮以人為中心。

著力四個關鍵維度，提出具體規(guī)范性要求

新加坡人工智能治理框架將人工智能倫理原則轉化為組織自愿采取的實際措施，在基于兩大原則的基礎上，重點從內部治理結構措施、人類參與決策程度、開發(fā)部署運營管理、與利益相關者溝通四大維度，提出了規(guī)范性的具體操作要求。

在內部治理結構措施方面，治理框架要求明確相關角色職責、風險監(jiān)控和管理的標準操作程序，以及開展員工培訓等。具體要求有：調整現(xiàn)有（或建立）內部治理結構和措施，將算法決策相關的價值、風險和責任納入機構治理體系中，明確以符合倫理方式部署使用人工智能的角色和責任，建立一套涉及人工智能的風險管理、監(jiān)測報告等內部控制制度，確保機構對開發(fā)部署人工智能進行有力的風險管控。

在人類參與決策程度方面，治理框架要求確定人類干預的適當程度，將傷害風險降到最低。具體要求有：機構要設定其使用人工智能風險偏好的方法，即確定可接受的風險和確定人類參與人工智能增強決策的監(jiān)督程度，在部署人工智能解決方案之前，機構應該決定其使用人工智能擬達到的商業(yè)目標，然后以其價值觀為指導對使用人工智能的風險進行權衡。

在開發(fā)部署運營管理方面，治理框架要求實現(xiàn)數(shù)據(jù)和模型偏差最小化，開展基于風險的測量方法，對如何建立良好的數(shù)據(jù)管理實踐和對算法幾個特定的把握方面提出要求等。具體要求有：機構需要做好在開發(fā)、選擇和維護人工智能模型時的問題考慮，數(shù)據(jù)和算法/模型間的緊密交互關系是各個階段需要考慮的重點。數(shù)據(jù)層面，組織機構應該制定完備的數(shù)據(jù)問責制，包括了解數(shù)據(jù)來龍去脈，保證數(shù)據(jù)質量，盡量減少固有偏差，用不同的數(shù)據(jù)集進行訓練、測試和驗證，定期審查并升級數(shù)據(jù)集；算法/模型層面，組織機構應該采用基于風險的雙重評估方法，評估能夠產(chǎn)生人工智能系統(tǒng)特性的人工智能算法和模型。首先確定對公眾影響最大的特性，其次確定哪些措施將最有效地與利益相關者建立信任，如可解釋性、魯棒性和常規(guī)調優(yōu)等特性可以不同程度地作為組織人工智能部署的一部分，而再現(xiàn)性、可追溯性和可審核性則與特定場景相關。

在與利益相關者溝通方面，治理框架要求讓用戶了解人工智能策略，盡可能允許用戶提供反饋，讓溝通變得容易理解。具體要求有：組織機構應提供關于其產(chǎn)品和/或服務中是否使用人工智能的相關信息，以及人工智能在決策過程中扮演的作用和程度等；不同的利益相關者有不同的信息需求，組織要確定受眾的目的和溝通環(huán)境，以及組織應考慮是否向個人提供選擇退出的機制，在制定選擇退出機制時要考慮的因素等。

新加坡推出的“A.I.Verify”全球首個人工智能治理測試框架和工具包，從評測角度提出了一個具有很強落地指導性的人工智能治理解決方案?！癆.I.Verify”通過“過程檢查+技術測試”的標準化方式，從透明度、可解釋性、可再現(xiàn)性、安全性、魯棒性、公平性、問責制、人類監(jiān)督等方面驗證人工智能系統(tǒng)是否符合聲稱的性能。

治理實踐的主要特點：系統(tǒng)、持續(xù)、務實地推進治理原則落地

總體來說，新加坡在人工智能治理實踐中采用了“原則+指南+工具”的方式，最大特點就是系統(tǒng)、持續(xù)、務實地推進治理原則的落實，引導各類組織機構開展負責任人工智能治理。其以下三大具體做法值得借鑒學習。

列出詳細問題清單，指導各方自我評估和改進

新加坡在出臺《人工智能治理模型框架》后，又發(fā)布《組織實施和自我評估指南》。該指南以模型框架中描述的四個關鍵領域為基礎，詳細列出了包含5 個維度共計60 多個問題的評估清單，具有很強的指導性和可操作性。5 個維度分別是：部署人工智能的目標、內部治理結構和措施、確定人類參與人工智能增強決策的程度、開發(fā)部署運營管理、利益相關者互動和溝通策略。新加坡希望通過這套指南幫助組織機構以系統(tǒng)的方式評估其人工智能治理過程，識別潛在差距并加以改進，以確保企業(yè)的AI 方案符合人工智能治理模型框架。

新加坡認為，建立可信生 態(tài)是發(fā)展數(shù)字經(jīng)濟的關鍵。

發(fā)布實踐優(yōu)秀案例，開展示范引導和對標學習

為了幫助各類機構更好地理解人工智能治理框架，新加坡在出臺的治理框架文件中，用專欄等方式列出了一些企業(yè)在某些方面的實踐做法。例如在內部治理結構方面，列舉了幾家公司較為詳細的架構設置和職責分工。另外，還發(fā)布了兩卷人工智能治理案例匯編，較為詳細地展示了不同機構如何實施與治理框架相一致的人工智能治理實踐，供其他機構參考借鑒，以達到示范引領的作用。

推出測試框架和工具，促進“過程檢查+技術測試”落地

新加坡推出的“A.I.Verify”人工智能治理測試框架和工具包，從評測角度提出了一個具有很強落地指導性的人工智能治理解決方案?！癆.I.Verify”通過“過程檢查+技術測試”的標準化方式，從透明度、可解釋性、可再現(xiàn)性、安全性、魯棒性、公平性、問責制、人類監(jiān)督等方面驗證人工智能系統(tǒng)是否符合聲稱的性能。該工具包將為開發(fā)者、管理者和商業(yè)伙伴生成報告，在一定程度上為人工智能企業(yè)提供客觀和可驗證方式的展示，證明其是否履行了治理責任，從而提高企業(yè)和其利益相關者的透明度，有助于建立用戶信任。

新加坡認為，在全球人工智能倫理和治理中，其治理方法在促進技術創(chuàng)新同時，又達到保護消費者利益的目的，可以作為全球重要參考。新加坡出臺非強制性的治理框架、發(fā)布有實操性的評估指南，以及建立治理評測框架和工具包等做法確實可供借鑒學習。

啟示與建議：兼顧創(chuàng)新與安全，構建安全可信的人工智能生態(tài)

從新加坡出臺的一系列人工智能治理政策指導文件和工具可以看出，新加坡政府對推動人工智能可信向善發(fā)展的行動力。新加坡認為，在全球人工智能倫理和治理中，其治理方法在促進技術創(chuàng)新同時，又達到保護消費者利益的目的，可以作為全球重要參考。新加坡出臺非強制性的治理框架、發(fā)布有實操性的評估指南，以及建立治理評測框架和工具包等做法確實可供借鑒學習。結合當前我國人工智能治理實際，提出以下兩點建議。

明確各方主體責任，從“管理+技術”兩方面構建安全可信的人工智能生態(tài)

新加坡在人工智能治理實踐中充分運用“管理+技術”模式，將人工智能治理原則加以落地。在管理方面，新加坡人工智能治理框架的一個重點是要求建立內部治理架構和責任體系，幫助組織機構將人工智能倫理治理原則納入到熟悉的或已存在的治理架構中，從過程上保證履行治理框架提出的各項要求，從而更好地建立用戶信任。我國可結合當前科技倫理治理和網(wǎng)絡安全工作責任制建設等，設計建立人工智能安全風險治理責任制度。無論是融合傳統(tǒng)的風險管理體系，還是建立新的風險管理體系，在建立人工智能安全風險治理責任制方面，需要從兩個層面明確責任，一方面明確人工智能系統(tǒng)開發(fā)設計單位、部署使用單位、數(shù)據(jù)提供方等主體的安全責任；另一方面明確各類組織機構內部相關人員的角色和責任，把相關治理原則落實到實際工作中。

加大先行先試力度，為形成兼顧創(chuàng)新與安全的人工智能治理體系奠定基礎

業(yè)內專家認為，當前人工智能治理面臨的最大挑戰(zhàn)是沒有一套比較成熟的體系來規(guī)制其潛在的風險。從國際趨勢來看，一些國家和地區(qū)正在抓緊人工智能治理的研究和探索，例如，歐盟推出人工智能立法草案；美國預計于2023 年初推出人工智能風險管理框架。新加坡不僅將人工智能治理從原則層面邁向實操層面，而且開始探索為人工智能治理提供工具化、平臺化服務。我國在戰(zhàn)略上也高度重視這一挑戰(zhàn)，如在規(guī)范互聯(lián)網(wǎng)信息服務算法推薦、深度合成管理，以及網(wǎng)聯(lián)汽車數(shù)據(jù)管理、金融應用等專門領域已經(jīng)開展了積極探索，但從人工智能加快與各領域融合應用的需求來看，政策指導的覆蓋面和落地性還不夠，亟待加強體系化設計和考慮。建議可積極鼓勵我國人工智能試驗區(qū)或先導區(qū)，以及相關行業(yè)領域，結合自身條件，大膽推進這方面的先行先試，探索在促進技術創(chuàng)新和規(guī)制潛在風險之間找到平衡點，推出類似人工智能融合應用安全風險管理指南的政策性文件，在試點基礎上總結經(jīng)驗，從而為建立全國性規(guī)制體系提供實踐參考。