□文/張紹衣

（首都經(jīng)濟貿(mào)易大學 北京）

［提要］算法時代的來臨引發(fā)一系列危機，算法價值目標的缺失、算法歧視等問題使得公眾對算法技術產(chǎn)生擔憂與不信任，深刻影響著信息時代的發(fā)展進程。算法問責制度作為一種規(guī)制途徑，可以從事后問責的角度解決算法引發(fā)的問題。通過分析比較現(xiàn)有的各國建立算法問責制度現(xiàn)狀，應對算法帶來的風險并進行有效規(guī)制。為此建議：建立算法信任，以算法透明實現(xiàn)算法問責，形成完備的算法價值目標體系，注意算法解釋的限度，明晰算法主體注意義務的邊界，從不同階段認定算法主觀過錯，從而完善算法治理路徑。

算法是計算機用于執(zhí)行計算或解決問題的指令?？梢詫⑺惴闯捎嬎銠C運行的內(nèi)在的、系統(tǒng)的過程。許多重要的決策現(xiàn)在都由算法代替人類作出。例如，各個網(wǎng)絡平臺給予用戶的個性化推薦，自動化決策和審批，算法輔助司法量刑等。算法成為政府、企業(yè)等的內(nèi)在技術支持。算法將會應用于越來越多的行業(yè)與領域，如醫(yī)療衛(wèi)生、交通運輸、基礎設施、人臉識別等。

算法決策可能輸出不公平、不正確的結(jié)果，在算法未受到法律規(guī)制的情況下，自動駕駛汽車、區(qū)塊鏈衍生應用、數(shù)據(jù)整合、大數(shù)據(jù)殺熟等方面都會對個人及社會產(chǎn)生風險，如涉及安全風險、侵犯隱私權、影響交易公平等。因此，在法律層面，這些算法需要具備可問責性，通過問責機制監(jiān)管算法技術。

算法社會是人的理智與科技共同發(fā)展的結(jié)果，但是單一的、理智的科技成果并不能描繪理想的社會秩序，人的理智與心靈、道德都應該得到體現(xiàn)。因此，算法時代應該有與之相匹配的法律制度作用于其中，特別是算法問責制度的完善可以從事后規(guī)制的角度使科技與道德統(tǒng)一起來。然而，目前的算法問責制度并不完備，需要進行分級分層梳理和創(chuàng)新。

本文以算法規(guī)制方法之一的算法問責制為切入點，運用比較法分析算法問責制度的構建并進行反思和展望，試圖以算法問責制更好的預防和解決算法適用危機。

一、算法問責的必要性

本文探討的算法問責制度有助于解決算法引發(fā)的一系列問題。對于算法適用危機、算法價值目標缺失等問題，需明確責任歸屬，有必要形成系統(tǒng)完備的問責體系。

（一）算法適用危機。眾多平臺應用算法給人們以生活上的便利，效率的提升以及決策的理性化都體現(xiàn)出算法的優(yōu)越性，而由于算法產(chǎn)生的算法黑箱、算法合謀、算法歧視等適用危機，該技術離真正的算法理性還有一段距離，需要在法律規(guī)制層面予以解決和完善。

算法作惡可以大致歸結(jié)為以下方面：算法由于價值目標的缺失而引發(fā)的危機、數(shù)據(jù)的偏見導致的算法偏見、公眾對算法的信任危機。算法的運用可能影響的法益包括國家安全、社會秩序；個人層面的人身權、財產(chǎn)權等。

以算法歧視現(xiàn)象為例。算法的屬性和自然人的屬性相關，人的價值目標寫入算法，就會導致算法輸出的結(jié)果具有歧視和偏見。運用算法決策的過程中，針對個體的決策，由于一次的算法歧視，會引發(fā)未來屢次的算法歧視，進而影響現(xiàn)實中個人主體性的喪失。個體的數(shù)字身份的鎖定造成數(shù)字化的類別和階層，算法決策過程的反復性使得個體未來遭受屢次歧視和不利影響。

（二）算法價值目標的缺失。算法的價值目標在于實現(xiàn)技術的安全與道德。算法風險的形成很大程度的原因在于價值目標的缺失。價值目標會影響算法運行的整個系統(tǒng)，例如深度偽造、濫用人臉識別、虛假新聞扭曲言論、大數(shù)據(jù)殺熟等問題。例如，在算法設計階段，價值目標的缺失會影響數(shù)據(jù)的偏差，從而導致算法偏見，引發(fā)信任危機。相應的偏見結(jié)果會產(chǎn)生新的倫理問題，如價格歧視。

算法表面上是一種形式理性的工具，形式理性的工具不必然應用于正確的目的，不一定與價值觀和道德相符合。因此，作為工具的算法應該追求形式理性與實質(zhì)理性的統(tǒng)一，算法的價值目標應該是安全基礎上的更道德和更美好的生活。明晰算法價值目標，以避免算法結(jié)果與道德的偏離，使算法應用服務于正確的目標。

二、算法問責制度的構建

算法所引發(fā)的一系列問題有兩種層面的解決途徑，一是給予和關注個體的權利，個體包括算法的制造者、算法本身、平臺、使用者等，權利包括算法解釋權、數(shù)據(jù)權、隱私權等權利；二是通過法律責任的追究，從事后層面規(guī)制算法責任。

本文認為，為了解決算法引發(fā)的危機，賦予個體權利是一種從本質(zhì)上預防算法危機發(fā)生的事前規(guī)制，起到了基礎性的作用，然而權利的賦予也有不足之處，例如算法解釋權就會引起知識產(chǎn)權、商業(yè)秘密和解釋本身的困難性等問題，而數(shù)據(jù)權、隱私權的保障也無法在算法技術框架下得到真正的保障。當機器運作的算法侵犯利益，導致經(jīng)濟損失時，算法的制造者、所有者、編程者都應當承擔法律責任。因此，本文通過算法問責這一途徑完善個體賦權的構想，從而解決算法引發(fā)的社會危機。

美國《算法問責法（草案）》、歐盟《通用數(shù)據(jù)保護條例》、中國《個人信息保護法（草案）》中的平臺問責制度中都有算法問責制度的相關規(guī)定。

本文參考以上現(xiàn)有問責制度的構建，進行分析和反思。

（一）美國算法問責制度。美國的算法問責制度包含一系列的算法問責法案，從算法影響評估制度到外部監(jiān)督治理模式，從專業(yè)技術工作組到算法的可問責原則，都具有創(chuàng)新意義和相應的實施挑戰(zhàn)。

影響評估與外部監(jiān)督。美國參議院2019年提出了《算法問責法（草案）》，該法中的算法指是通過機器學習、數(shù)據(jù)處理、人工智能計算出的決定，或有人工輔助的決定。該法對算法進行影響性評估。美國的算法影響評估制度考慮到算法設計目標、運行結(jié)果及其風險、消費者的修改權等，從目標和結(jié)果分步評估算法影響，有助于實施系統(tǒng)性問責機制。

2017年在紐約通過的《算法問責法》，是對于公用事業(yè)領域的算法進行規(guī)制，初步建立了外部治理的算法問責體系。該法規(guī)定了算法自動化決策和輔助決策的兩種情形；對適用主體也作出了限定，是公用事業(yè)中運用算法的行政機構和慈善組織；規(guī)定了法律實施的主體為自動化決策工作組。該法的算法自動化決策工作組由專業(yè)技術人員組成，也包含受到算法決策影響的代表人士。同時規(guī)定了工作組的職責，如何運用技術手段對算法標準進行評估、救濟，以及公眾知情權等內(nèi)容。

2019年在華盛頓提出算法問責法案，目的在于對算法進行監(jiān)管。公共事業(yè)在運用算法決策前需相應的數(shù)據(jù)報告和系統(tǒng)報告，并需要向公眾征求意見。2019年國會提出的算法問責法案同樣有系統(tǒng)評估的規(guī)定，目的在于評估算法是否存在歧視，是否侵犯了消費者隱私。

美國的三部算法問責法案創(chuàng)新之處在于，通過具有專業(yè)技術的工作組幫助行政監(jiān)督與算法評估，可以有效審查和預防可能的算法偏見后果。該問責制度賦予了算法主體相應的解釋權，界定其證明算法合理性的義務。此外，美國的算法問責法還強調(diào)正當程序和公共利益，在算法決策的全過程進行公眾監(jiān)督和系統(tǒng)問責。

美國這種外部監(jiān)督的問責機制有其固有缺陷。在技術實施層面、商業(yè)秘密的保護、治理效果和公眾信任都需要完善。同時，其主要制度缺陷還在于執(zhí)法權不明確，以至于降低了審查的有效性，外部監(jiān)督效果不理想。

可問責原則與算法解釋。美國計算機協(xié)會在2017年提出算法治理七項原則，其中的知情原則和算法解釋的原理一致，它表示算法的偏見和潛在危害應該被披露。其中的可問責原則包含了算法解釋與算法不可解釋的性質(zhì)，使用算法的機構應對算法決策結(jié)果負責，即使無法解釋算法結(jié)果的產(chǎn)生。算法運用使法律責任發(fā)生變革，需引入無過錯責任原則或保險計劃進行制度創(chuàng)新。

（二）歐盟算法問責制度。歐盟的算法問責制度對自動化決策的相對人賦予權利，對數(shù)據(jù)控制者設置義務，規(guī)定了算法解釋權。

歐盟《數(shù)據(jù)保護指令》第15條規(guī)定，當自動化決策對個體產(chǎn)生重大影響時，該條賦予個體可以不受其決策影響的權利，同時賦予個體了解決策生成邏輯的權利。歐盟《通用數(shù)據(jù)保護條例》第15條（1）（h）、第22條、第25條對《數(shù)據(jù)保護指令》作出補充和修改，增加了算法主體的信息披露義務和程序設計的合規(guī)義務。該條例關注到算法開發(fā)的整個過程，以保護利益相關者的權益。

算法責任的追究涉及企業(yè)商業(yè)秘密、公眾的數(shù)據(jù)權利等問題，算法控制者和運用者在算法問責制度框架下被要求有解釋的義務。歐盟《通用數(shù)據(jù)保護條例》第13條到第15條明確規(guī)定了算法解釋權。該算法解釋權得到廣泛認可，是算法問責過程中不可或缺的步驟。

《通用數(shù)據(jù)保護條例》第25條針對數(shù)據(jù)控制者設置了相關的間接義務。而許多算法決策和算法的體系結(jié)構不是由數(shù)據(jù)控制者或處理者作出的。因此，這種保護數(shù)據(jù)隱私的法律結(jié)構的約束力較低，該條實施存在困難。

（三）中國平臺問責制度。中國算法問責治理模式主要是平臺問責制度。平臺產(chǎn)生大量相關數(shù)據(jù)和交易，運用算法促進生產(chǎn)交易更高效和自動化。平臺的基礎服務在推動創(chuàng)新的同時也需要網(wǎng)絡治理和監(jiān)管。

中國算法治理創(chuàng)新了透明原則和知情權，為平臺賦予義務，界定責任，并且賦予和保障個體的權利。在這一模式下，用戶享有知情權、選擇權、退出權，同時限定場景，明確平臺義務責任，以保障用戶基本的對于算法應用的控制權利。算法決策和運行的具體過程則避免用戶介入。在中國《個人信息保護法（草案）》第25條確定了自動化決策的透明原則。

該條文隱含著對技術中立的否定，要求決策結(jié)果公平合理。同時，該條確立了算法解釋和用戶的知情權，當個人認為自身權益受到算法決策的重大影響時，有權獲得解釋說明。這也賦予平臺進行算法解釋、告知信息的義務。

該條通過對平臺的要求保護用戶利益，賦予用戶知情權，創(chuàng)新了技術治理思路。強調(diào)在平臺運行中算法的核心地位，監(jiān)管平臺對算法的運用，是對傳統(tǒng)規(guī)則體系的創(chuàng)新。

該法第65條對個人信息處理活動進行了規(guī)定，平臺對個人信息數(shù)據(jù)的處理活動侵犯個人權益的，使用過錯責任的原則。

相比較而言，平臺算法的歸責原則也可以適用過錯責任原則，但是需要對平臺算法的功能步驟和過錯的程度進行分類，區(qū)別適用法律責任。例如，風險較高的算法應用，需著重考慮監(jiān)管和影響評估，完善問責體系，或可適用嚴格責任或者無過錯責任。

同時，在中國《信息安全技術個人信息安全規(guī)范》第7條第10～11款中，規(guī)定了對數(shù)據(jù)控制者作出“合理解釋”。這是算法問責過程中的解釋權的具體規(guī)定，是算法透明原則的體現(xiàn)。

三、算法問責制度的反思

算法規(guī)制的目標是實現(xiàn)算法作為智能科技應用的中立性，避免多數(shù)人同意的少數(shù)人集權。本文以下對現(xiàn)有算法問責制度，從構建算法信任，以算法透明原則和算法解釋幫助實現(xiàn)算法問責的維度進行分析和反思。

（一）算法信任的構建。由于算法危機的涌現(xiàn)，不難發(fā)現(xiàn)算法不是完全理性的，法律規(guī)制就是獲取算法理性與公眾對算法的信任的其中一種解決途徑。

通過法律規(guī)制算法，首先在價值層面上是科技與道德的權衡與聯(lián)系，使科技的運用更能符合道德要求；其次規(guī)制算法的目標應該是使生活更安全，提高公眾對算法技術的信任度，本文探討的算法問責制和算法透明原則正是實現(xiàn)算法理性和算法信任的法律規(guī)制。

算法信任來源于技術本身的穩(wěn)定性和相應制度規(guī)制，因此增強技術的可靠性和采取適當措施可增加信任。算法透明原則和算法解釋權的構建是增強技術信任的方式之一。

（二）算法解釋及其限度。算法透明原則直接體現(xiàn)為算法解釋權的具體運用。算法解釋是基于用戶知情權對算法設計者施加的法律義務其中包括標示義務、備案參數(shù)、公開參數(shù)等。在《個人信息保護法（草案）》中，透明度作為一項原則要求被確定下來。算法透明在事前監(jiān)管中有著重要地位。

通過算法作出的決策對相對人會有一定程度的影響，當算法決策造成負面影響的時候，有必要同正當法律程序一樣賦予相對人救濟的權利。而如何救濟和問責就需要通過算法解釋和算法透明原則來具體實現(xiàn)，算法解釋可以理清算法決策背后出現(xiàn)的問題和決策失誤，除了方便進行系統(tǒng)問責的實施之外，還能推進算法決策過程的改進，避免類似的決策失誤屢次發(fā)生。

在問責與監(jiān)管過程中，要避免算法控制者以技術中立的觀點逃避法律責任，避免類似例如谷歌搜索非裔美國人結(jié)果偏見事件的發(fā)生。相應的算法解釋與備案就有利于監(jiān)管與問責。

理論上算法制定者可以對系統(tǒng)是否正確運行予以驗證，存在面向算法制定者或設計者的解釋說明的方法。在法律問責過程的監(jiān)管方面，面向社會公眾和監(jiān)管者，有必要創(chuàng)新出一種解釋說明的方法。這種方法可以是直接的解釋說明，也可以專門用于向監(jiān)管者解釋說明的新的算法系統(tǒng)。通過新系統(tǒng)的設定，使算法程序具備法律的可規(guī)制屬性。

算法解釋可以分為結(jié)果解釋與邏輯解釋，是一種合理的描述，存在解釋限度與不可解釋問題。同時，由于算法價值目標影響決策結(jié)果，透明原則應當在算法設計、運行、結(jié)果等環(huán)節(jié)均有所體現(xiàn)。

注意算法解釋的限度。算法解釋作為算法問責制度的實現(xiàn)途徑，具有制度實施的優(yōu)越性，同時也有不可解釋的內(nèi)外阻礙，例如算法程序本身的復雜與不可解釋性、算法解釋涉及的商業(yè)利益知識產(chǎn)權相關法益的干擾。因此，在實施算法解釋時應注意一定的限度，可以運用零知識證明的原理減少信息暴露。有必要對算法的復雜程度和可解釋性程度進行分類，如可解釋性較低、具有危險性的算法類型就需要不同的制度措施進行監(jiān)管和問責。

（三）算法問責制度展望。算法時代引發(fā)的風險使得傳統(tǒng)法律關系發(fā)生基礎性變化，責任認定體系需要進行分層和創(chuàng)新，認識法律責任和算法責任的本質(zhì)。通過算法問責制度的完善，平衡算法需求和風險等級。隨著算法技術的成熟發(fā)展和問責體系的建構，使得算法由極端化向人性化轉(zhuǎn)變。

形成完備的價值目標體系。算法問責制度的構建需要形成統(tǒng)一的全面的價值目標體系。由于算法應用的廣泛性與復雜性和在社會層面與個人層面的關聯(lián)性，整體統(tǒng)一而聯(lián)系的價值目標體系，才能實現(xiàn)規(guī)制目標的統(tǒng)一與完善。例如，從信息科技發(fā)展的角度而言，過度的問責數(shù)據(jù)權利與數(shù)據(jù)價值也有可能對算法應用的發(fā)展造成限制。

明晰注意義務的邊界。在算法技術背后存在注意義務模糊不清的問題，事后歸責的機理和責任設置都不明確。完善問責體系，應該明確相應的算法主體是否盡到對應的注意義務，運用算法備案和算法解釋，明晰注意義務的邊界。

從不同階段認定算法主觀過錯。算法問責需要明確的有層次的問責體系，從算法主觀過錯方面來說，在算法設計、部署、運行、結(jié)果輸出各個階段都要考慮相應主觀過錯的內(nèi)容。在算法設計階段考慮算法目標和價值觀的導向，使算法在設計階段就具備可問責性。在運行階段考慮對算法運行的控制力。對于結(jié)果輸出需要考慮到設計之初對不良結(jié)果的預見和反應能力。

四、結(jié)語

當面臨算法適用危機以及算法價值目標缺失等問題時，算法問責制度的建立就具有必要性。美國一系列算法問責法案推行算法影響性評估制度和外部監(jiān)督制度，建立了可借鑒的可問責原則和算法解釋框架。歐盟對算法解釋作出規(guī)定。中國平臺問責制度創(chuàng)新了算法透明原則和知情權。通過對算法問責制度的反思，本文認為需要建立算法信任，以算法透明實現(xiàn)算法問責。同時，建議形成完備的算法價值目標體系，注意算法解釋的限度，明晰算法主體注意義務的邊界，從不同階段認定算法主觀過錯。