魏 瓊,徐俊暉

(華東政法大學法律學院，上海 200042)

人工智能(1)人工智能(Artificial Intelligence)，簡稱AI，是對人的思維的信息過程的模擬。據(jù)人工智能是否具有自我思考能力并能否付諸于行動所作的類型劃分，可以把人工智能分為弱人工智能、強人工智能和超人工智能。其中，弱人工智能(Artificial Narrow Intelligence，簡稱 ANI)不真正擁有智能，也不會有自我意識，如 Alpha Go圍棋程序；強人工智能(Artificial General Intelligence，簡稱AGI)，是類似人類級別的人工智能，指在各方面都能和人類比肩的人工智能；超人工智能(Artificial Superintelligence，簡稱 ASI)則不僅具備人類的某些能力，而且還擁有自我意識和情感等，被認為具有超越人類的能力，即在所有領域及所有認知功能都超越人類，迄今，這種人工智能尚未到來，故在此暫不做探討。，究其本質(zhì)而言，是一套由算法和數(shù)據(jù)結(jié)構(gòu)組成的程序。目前人工智能技術(shù)正處于弱人工智能與強人工智能并用的階段，它作為一種技術(shù)賦能在我國行政處罰執(zhí)法過程中得到了廣泛而深入的應用。諸如智能監(jiān)控、人臉識別、智能輔助辦案等網(wǎng)絡化、數(shù)字化及智能化技術(shù)，在行政處罰執(zhí)法中的運用已經(jīng)相當普及。行政處罰權(quán)與這些新興技術(shù)之間實現(xiàn)了全新的結(jié)合，行政機關(guān)的行政管理能力和法律執(zhí)行力因此得到了強化，大大加快了我國智慧處罰的進程，為此，對應用于行政處罰執(zhí)法中的人工智能進行法律規(guī)制，也被提上立法議程。

日前，公布的《中華人民共和國行政處罰法(修訂草案二次審議稿)》(以下簡稱《行政處罰法(修訂草案二次審議稿)》)正處于征求意見階段。其中第39條(2)2020年10月21日公布的《中華人民共和國行政處罰法(修訂草案二次審議稿)》第39條：行政機關(guān)依照法律、行政法規(guī)規(guī)定利用電子技術(shù)監(jiān)控設備收集、固定違法事實的，應當經(jīng)過法制和技術(shù)審核，確保電子技術(shù)監(jiān)控設備設置合理、標準合格、標志明顯，設置地點應當向社會公布。電子技術(shù)監(jiān)控設備記錄違法事實應當真實、清晰、完整、準確。行政機關(guān)應當對記錄內(nèi)容進行審核，未經(jīng)審核的，不得作為證據(jù)。行政機關(guān)應當及時通知當事人違法事實,并采取適當措施,方便當事人查詢、陳述和申辯。系屬新增條款，對行政機關(guān)利用電子技術(shù)監(jiān)控設備作出了明確規(guī)定。電子技術(shù)監(jiān)控設備在行政處罰執(zhí)法中的主要用途，系作為證據(jù)獲取的工具之一，用于對相對人違法事實的收集與固定，它尚屬于弱人工智能技術(shù)的一種運用。這一修訂條款表明了電子技術(shù)監(jiān)控設備的合法、合理應用對我國行政處罰執(zhí)法活動的意義十分重大。但我們認為，此一條款還不足以解決人工智能在行政處罰執(zhí)法中的法律適用問題，對于人工智能在行政處罰中的應用宜予以更為明確、全面的規(guī)范，以引領行政處罰執(zhí)法的智能化，充分服務于我國法治政府與數(shù)字政府建設的大局。

鑒于此，本文基于人工智能與行政處罰的可交互性，擬全面考察人工智能在行政處罰執(zhí)法活動中的應用及意義，提出對應用于行政處罰中的人工智能進行法律規(guī)制的若干設想，以確保其按照正確而科學的方向發(fā)展，助推依法行政與人工智能的雙向融合，實現(xiàn)行政法治的現(xiàn)代化。

一、人工智能與行政處罰的可交互性

(一)人工智能在行政處罰中應用的可行性

隨著計算機、互聯(lián)網(wǎng)等技術(shù)的不斷革新，數(shù)據(jù)、算法和算力業(yè)已成為新興的發(fā)展動力和技術(shù)支撐，迅速地滲透到公權(quán)力運行的各個領域，其中就包括行政管理領域。在行政處罰案件中人工智能從海量的信息收集與分析、圖像的感知，到內(nèi)容的深度學習與決策等，無疑是對行政處罰這一執(zhí)法過程的模擬，是處罰智能化的最直觀表現(xiàn)。而將人工智能應用到行政處罰中的可行性主要體現(xiàn)在以下三點：

首先，就行政處罰的行政行為屬性而言，作為最常見也是與民眾利益切實相關(guān)的行政管理活動，將人工智能應用到行政處罰中符合信息化時代建設法治政府的要求，是實現(xiàn)行政管理智能化的重要舉措。在行政處罰中應用人工智能將推動國家治理從智慧治理走向智能治理，提升國家治理的精準化、精細化和現(xiàn)代化，極大地提高社會治理的能力和水平，有效維護社會穩(wěn)定。

其次，就行政處罰的合法性要求而言，人工智能與行政處罰有著很好的契合度，行政處罰最基本的要求是程序的規(guī)范性，而通過人工智能的應用，在對行政相對人進行處罰時，可由人工智能系統(tǒng)來完成，諸如立案、調(diào)查、決定及送達等法定程序，極大減少了由人進行程序而產(chǎn)生的一些不規(guī)范現(xiàn)象。不僅如此，人工智能對于行政處罰案件的大數(shù)據(jù)統(tǒng)計分析，也對行政處罰機關(guān)開展這類行政執(zhí)法有重要的指導意義和參考價值，人工智能的應用將會促進《行政處罰法》的有效實施，確保行政處罰更加規(guī)范、更加高效，最終實現(xiàn)處罰智能化。

再次，就行政處罰的合理性要求而言，應用人工智能是基于行政處罰執(zhí)法的現(xiàn)實需要。相比其他行政活動，行政處罰的案件數(shù)量較大，重復率高，耗費人工的行政處罰過程勢必導致大量行政管理資源的浪費。加之，行政處罰大多屬于裁量性活動，其裁量往往面臨著對當事人違反行政法律規(guī)范的行為是否處罰和如何處罰這兩大判斷與選擇難題。在對當事人涉嫌違法行為的定性、定量等處罰裁量判斷和對涉嫌違法行為的處罰種類、處罰幅度的裁量選擇上，傳統(tǒng)的處罰執(zhí)法有時很難做出適當?shù)木駬?，甚至由此也可能會造成處罰嚴重不公，將人工智能應用于依法行使行政處罰裁量權(quán)過程，就有可能修補行政處罰執(zhí)法的這些不足。

可以說，人工智能的自身優(yōu)勢和實用價值促使它能夠被廣泛地應用于行政處罰執(zhí)法之中，并日漸成為一種執(zhí)法趨勢。

(二)人工智能與行政處罰執(zhí)法實踐的可交互場景

從歷史發(fā)展看，我國的人工智能發(fā)軔于改革開放之初，歷經(jīng)四十多年，人工智能在各個領域獲得了突破性發(fā)展，積累了寶貴經(jīng)驗。近年，政府及其職能部門一直在積極探索自動化行政，將人工智能應用到行政處罰執(zhí)法實踐中，以提高社會治理能力。

早期的弱人工智能在行政執(zhí)法中已相當普及，它表現(xiàn)為“自動化”辦公抑或是成為電子政務的有機組成部分，這一人工智能解放了作為主體的人的腦力資源。處于這一階段的人工智能可以自動收集獲取某種數(shù)據(jù)，形成一定的結(jié)構(gòu)化，固化為“視聽資料”“電子數(shù)據(jù)”等行政證據(jù)。例如，智慧警務應用電子眼進行證據(jù)搜集，環(huán)保部門通過對污染源的工況監(jiān)測、監(jiān)控分析、視頻監(jiān)控、傳感器實時在線監(jiān)測等實現(xiàn)智慧監(jiān)管，為后續(xù)有可能做出的行政處罰決定搜集視頻證據(jù)。

在當下，人工智能機器借助于“補強人的決策”這一特征，不斷增強客體自主感應主體需求的能力(3)李亞凝.無人機分類與法律規(guī)制[J].中國應用法學,2019，(6)：25.，即利用人工智能技術(shù)能夠?qū)σ曨l數(shù)據(jù)進行結(jié)構(gòu)化處理，密切聯(lián)系行政處罰機關(guān)的執(zhí)法需求，采用先進的深度學習、高性能運算及大數(shù)據(jù)技術(shù)，打造一套集視頻結(jié)構(gòu)化分析、數(shù)據(jù)存儲、數(shù)據(jù)應用于一體的數(shù)據(jù)支撐系統(tǒng)解決對行政相對人的特征識別和快速檢索，同時還能實現(xiàn)預警、布控、研判等多種應用，提高行政處罰辦案效率。人工智能在視頻內(nèi)容的特征提取、內(nèi)容理解等方面有著天然優(yōu)勢，從技術(shù)層面來說，人工智能可以賦能監(jiān)控的各個環(huán)節(jié)：前端攝像機內(nèi)置深度學習算法，可識別人、車、物等屬性信息，實時分析視頻內(nèi)容，并傳遞到后端AI中心數(shù)據(jù)庫進行存儲，數(shù)據(jù)中心利用強大的計算能力及智能分析能力，對目標進行實時分析，多維碰撞，得出有用有效的線索信息。

比如，在治安管理領域，指紋識別、人臉識別、視網(wǎng)膜識別、虹膜識別、掌紋識別等技術(shù)在社區(qū)警務可用于辨別尋找行政相對人。又如，在環(huán)境管理領域，通過機器視覺等在環(huán)保部門用于大氣、水、土壤等的生態(tài)環(huán)境監(jiān)測，對超標現(xiàn)象進行預警。在其他的行政管理領域，人工智能技術(shù)也正在深度介入各種執(zhí)法活動之中。譬如，海關(guān)將人工智能應用于機檢查驗方式，模擬人在審核圖像過程中的智力活動，實現(xiàn)智慧機檢，捕捉涉嫌違法的證據(jù)；證券交易委員會通過人工智能快速識別可能涉及內(nèi)幕交易的違法活動等，不一而足。這些“自動化”舉措，無疑促進了人工智能和行政處罰執(zhí)法的進一步融合，并在具體運用之中積累了豐富的經(jīng)驗，為進一步開展智慧政務，實現(xiàn)行政管理的精簡高效打下了夯實基礎。

如前所述，弱人工智能被運用于各種行政處罰領域，主要是作為輔助工具，用于信息、數(shù)據(jù)的收集與處理，并促使行政處罰過程電子化、數(shù)據(jù)化。在行政處罰決定作出的階段，弱人工智能適合于一些具有重復性、技術(shù)性不高的處罰事項上。如違法事實確鑿并有法定依據(jù)，適用簡易程序的處罰決定。這類運用多見于交通執(zhí)法領域，通過開發(fā)機動車違停抓拍處罰提示系統(tǒng)，實現(xiàn)了自動取證及預警功能、多渠道提醒信息即時發(fā)布功能、根據(jù)違法程度采取不同的柔性執(zhí)法處理功能，從而提高了社會治理的精準化水平。此外，我國首個環(huán)境行政處罰智能辦案系統(tǒng)于2019年12月通過專家論證。該系統(tǒng)就運用了弱人工智能，內(nèi)置了生態(tài)環(huán)境執(zhí)法常用的400多個環(huán)境違法案由和2萬多個環(huán)境違法行為數(shù)據(jù)，將立案、調(diào)查取證、告知、合法性審查、決定、執(zhí)行、結(jié)案等執(zhí)法程序設置成軟件操作程序，實現(xiàn)“操作信息化、過程痕跡化”的全過程記錄和合法性審查全覆蓋。

而強人工智能則因其類似于人類，擁有自主心智、獨立意識、機器情感，通過自我調(diào)整能對流程進行重新設計、重組，通過高級算法、自然語言處理、機器學習等，實現(xiàn)人機互動。隨著我國行政法治科技化程度的日益提升，行政處罰機關(guān)借助強人工智能系統(tǒng)自主地作出行政處罰決定，甚至在事前或者事中就啟動人工智能系統(tǒng)向行政相對人發(fā)出行政指導，告知行政相對人應如何遵守法律，規(guī)范自己的行為；告知行政相對人是否存在輕微違法現(xiàn)象，對其進行勸誠與引導。甚至借助于“人機對話”，釋明法律法規(guī)等相關(guān)規(guī)則，進行所謂行政約談，以實現(xiàn)預警與防范相結(jié)合。

顯見，人工智能在行政處罰中的應用場景及愿景日趨明晰與精細，彰顯出人工智能與行政處罰執(zhí)法活動之間的交互現(xiàn)實與融合的巨大潛力。

二、人工智能在行政處罰中的應用及意義

如何規(guī)范行政處罰一直是我國深入推進依法行政，加快建設法治政府的重要課題之一。處罰權(quán)限不明晰、處罰證據(jù)不確鑿、處罰依據(jù)不明確、處罰程序不規(guī)范及執(zhí)法人員不遵守程序等，都是當前我國行政處罰實踐中亟待解決的問題。而人工智能時代的到來，為行政處罰法的有效實施提供了“潤滑劑”，以智慧處罰的全新模式助推行政處罰法治現(xiàn)代化的程度，使得規(guī)范行政處罰有了新思路、新方式。人工智能在行政處罰中的具體應用，表現(xiàn)在以下五個方面：

(一)人工智能在行政處罰裁量基準規(guī)定中的應用及意義

在我國，有關(guān)行政處罰的規(guī)范性文件不計其數(shù)，特別是現(xiàn)行《行政處罰法》允許下位法可在上位法設定的處罰行為、種類、幅度內(nèi)作出具體規(guī)定，擁有行政處罰規(guī)定權(quán)的有權(quán)機關(guān)(通常情況下是各地政府及其職能部門)所制定的行政處罰裁量基準也千差萬別，難以統(tǒng)一。例如，對違反垃圾分類行為的當事人進行處罰等這類新事項的裁量基準，因地區(qū)不同而形成的處罰規(guī)則差異甚大。因此，在細化行政處罰裁量基準之際，這些有權(quán)機關(guān)有必要導入人工智能，以提高行政處罰裁量基準的精準程度。

在設定行政處罰裁量基準時，人工智能的應用可實現(xiàn)信息檢索和聽取公眾意見的智能化。如通過相關(guān)法規(guī)檢索、類案分析，整合違法行為的性質(zhì)、情節(jié)、社會危害程度和悔過態(tài)度，實現(xiàn)情節(jié)的類型化和量化、處罰分格化，確保這一處罰裁量基準制定的科學性，并為不同機關(guān)行政處罰裁量基準制定提供一個可借鑒的模板。同時，人工智能系統(tǒng)也可以通過對行政處罰裁量基準進行公開，收集、篩選、歸并、總結(jié)公眾意見，甚至可以實時互動、及時反饋這些意見，這能強化相關(guān)部門及公眾等對該行政處罰裁量基準的監(jiān)管和評估，進而提升行政處罰裁量基準規(guī)定的民主性和公眾的參與度。誠如，規(guī)則如何制定需要考量其中的“數(shù)值”，即通過人工智能可更好地發(fā)現(xiàn)其中變量。變量分析越細致，規(guī)則制定越科學(4)[日]松尾豐,鹽野誠.大智能時代：智能科技如何改變?nèi)祟惖慕?jīng)濟、社會與生活[M].陸貝旎譯.北京:機械工業(yè)出版社,2016：59.。比如，四川省成都市成華區(qū)積極推行行政處罰電子化平臺建設，建立網(wǎng)上自由裁量標準數(shù)據(jù)庫，細化標準7160條。通過人工智能將處罰環(huán)節(jié)流程化、裁量標準電子化，該區(qū)相關(guān)部門執(zhí)法人員輸入違法行為的主要裁量參數(shù)，系統(tǒng)自動抽取相關(guān)法律法規(guī)及自由裁量標準，可為是否處罰以及處罰的種類和幅度提供相關(guān)查詢。

因此，人工智能在細化行政處罰裁量基準過程中的應用，有助于這一行政處罰裁量基準規(guī)定更加合法、合理，也為處罰案件的承辦機關(guān)及其行政執(zhí)法人員提供了更具操作性的裁量參考。

(二)人工智能在行政處罰立案中的應用及意義

行政處罰的案源一般來自國家行政機關(guān)依職權(quán)在日常監(jiān)管、巡查中的發(fā)現(xiàn)，或來自群眾舉報，受害人投訴等(5)《市場監(jiān)督管理行政處罰程序暫行規(guī)定》(2019年4月1日起施行)第17條：市場監(jiān)督管理部門對依據(jù)監(jiān)督檢查職權(quán)或者通過投訴、舉報、其他部門移送、上級交辦等途徑發(fā)現(xiàn)的違法行為線索，應當自發(fā)現(xiàn)線索或者收到材料之日起十五個工作日內(nèi)予以核查，由市場監(jiān)督管理部門負責人決定是否立案；特殊情況下，經(jīng)市場監(jiān)督管理部門負責人批準，可以延長十五個工作日。法律、法規(guī)、規(guī)章另有規(guī)定的除外。。人工智能首先被應用于信息、數(shù)據(jù)的收集與處理，捕獲行政處罰案件線索，啟動行政處罰的立案程序。具體表現(xiàn)為行政處罰機關(guān)在行使職權(quán)過程中，通過人工智能流程化地接受和收集信息，由此形成信息系統(tǒng)并由人工智能在紛繁復雜的信息中分析解讀相對人的違法行為、評估違法情節(jié)，進而觸發(fā)響應或與其他數(shù)字系統(tǒng)(立案系統(tǒng))進行通信，以此替代傳統(tǒng)的通過行政治安巡邏等采集信息的過程。如江西省鷹潭市市場監(jiān)管局利用智慧管理平臺對后廚作業(yè)區(qū)域進行實時的監(jiān)控并智能化地分析后廚作業(yè)人員的行為規(guī)范，該系統(tǒng)將對未戴帽子、口罩進入操作區(qū)的不規(guī)范行為進行抓拍并在平臺上預警，其后臺指揮中心可第一時間發(fā)現(xiàn)并指派相關(guān)人員現(xiàn)場檢查，搜尋立案的各種線索。

通過人工智能的引入，對已有的違法情形和行政處罰案例數(shù)據(jù)進行多維度分析，并對行政處罰爭議多發(fā)的地點、人群、趨勢進行關(guān)聯(lián)分析，預測違反行政法律規(guī)范行為發(fā)生的概率及分布，有助于選擇性地將稀缺行政執(zhí)法資源(包括執(zhí)法人數(shù)、執(zhí)法設備、財政撥款等)配置在風險更高的地方。與此同時，針對更有可能發(fā)生的違法行為、違法主體加強行政檢查，適時依法作出行政處罰，提高行政執(zhí)法力度，確?！昂娩撚迷诘度猩稀?6)宋華琳,孟李冕.人工智能在行政治理中的作用及其法律控制[J].湖南科技大學學報(社會科學版),2018，(6)：85.。如浙江省杭州市于2018年9月發(fā)布的城市數(shù)據(jù)大腦，具備自動發(fā)現(xiàn)套牌改裝、亂停亂放等110種交通亂象的能力，對其進行規(guī)律性分析，判定哪些是堵點、亂點、事故隱患點，以幫助交警部門實現(xiàn)警情處置。

因此，人工智能在行政處罰立案階段的應用，有助于節(jié)約行政執(zhí)法成本，縮減了行政執(zhí)法機關(guān)對當事人違反行政法律規(guī)范行為、情節(jié)及事件的響應時間，大大提高了行政執(zhí)法的效率。

(三)人工智能在行政處罰調(diào)查中的應用及意義

傳統(tǒng)的行政處罰調(diào)查程序也需要信息引擎來確定案件中的違法事實，以此作出行政處罰決定。一般情況下，相對于行政相對人的違法行為而言，對其進行的行政處罰往往具有滯后性。大多數(shù)行政處罰機關(guān)無法及時發(fā)現(xiàn)并制止相對人的違法行為，或是發(fā)現(xiàn)違法行為時關(guān)鍵的證據(jù)與事實已無法固定考證，使執(zhí)法人員難以確定違法情節(jié)和處罰幅度。在此情況下，行政處罰機關(guān)可利用人工智能收集、固定違法行為證據(jù)(7)《市場監(jiān)督管理行政處罰程序暫行規(guī)定》(2019年4月1日起施行)第23條：市場監(jiān)督管理部門可以利用互聯(lián)網(wǎng)信息系統(tǒng)或者設備收集、固定違法行為證據(jù)。用來收集、固定違法行為證據(jù)的互聯(lián)網(wǎng)信息系統(tǒng)或者設備應當符合相關(guān)規(guī)定，保證所收集、固定電子數(shù)據(jù)的真實性、完整性。。如前述的我國首個環(huán)境行政處罰智能系統(tǒng)，就按照程序自動指引違法證據(jù)收集、裁量證據(jù)收集。

隨著人工智能的研發(fā)與革新，越來越多的新興技術(shù)被應用于行政處罰的調(diào)查階段，電子技術(shù)監(jiān)控設備等能夠進行全天候監(jiān)控作業(yè)，實時捕獲違法、違章信息，使之成為作出行政處罰決定的確鑿證據(jù)來源。目前，人臉識別、車輛深度識別等作為人工智能最重要的一個應用分支，其高速自動識別能力在行政處罰執(zhí)法收集并固化證據(jù)中得到了更為廣泛的應用。以道路交通違章的調(diào)查取證為例，一些中大城市打造了智能交通管理網(wǎng)絡，以“天眼”為基礎，建立電子警察系統(tǒng)、測速卡口系統(tǒng)、非機動車監(jiān)測系統(tǒng)、前后牌照對比系統(tǒng)、違停系統(tǒng)、禮讓行人系統(tǒng)、行人闖紅燈系統(tǒng)、違停系統(tǒng)等，在此基礎上，應用人工智能對人、車、非機動車等目標進行深度識別和自動化分析，按照技術(shù)標準形成車輛違法的電子數(shù)據(jù)，實時報送交通執(zhí)法機關(guān)，觸發(fā)行政處罰執(zhí)法相關(guān)程序的依法啟動(諸如依法審核這些電子證據(jù)、擬定違法車輛進行處理、告知違法者等)。

因此，人工智能在行政處罰調(diào)查中的應用，促使行政處罰機關(guān)能夠全面而高效地收集、固定違法事實，提高了辦理行政處罰的調(diào)查取證能力，有助于依法全方位查明案件的客觀事實，增強相關(guān)證據(jù)的確鑿程度，確保了行政處罰結(jié)果的合法性。同時，運用光學字符識別、自然語言處理、要素提取、機器學習等人工智能新技術(shù)，實時、精準、全面、科學地對證據(jù)進行校驗、提示、把關(guān)、監(jiān)督，可及時發(fā)現(xiàn)證據(jù)中存在的瑕疵和證據(jù)之間的矛盾，并及時提示給辦案人員，由辦案人員決定是否補正或者作出，能有效防范不當執(zhí)法。

(四)人工智能在行政處罰決定中的應用及意義

效力位階不同的法律規(guī)范性文件，對行政處罰的種類和幅度有不同的規(guī)定。擬作出行政處罰決定過程，就是適用這些法律規(guī)范性文件的過程。在此過程中，一旦行政處罰機關(guān)及其執(zhí)法人員對當事人違法行為的處罰種類、幅度把握不準，甚至濫用行政處罰權(quán)或超越行政處罰權(quán)，就可能有違平等原則，作出明顯不當(顯失公平)的行政處罰。

而人工智能可以通過深度學習對大規(guī)模的先例處罰決定進行分類、聚類、分析和關(guān)聯(lián)，在考量行政相對人情況，例如違法成因、動機構(gòu)成、違法所得、危害后果、認過悔過等因素基礎上，建立比對模型，并搜尋正確適用的法律法規(guī)依據(jù)，對擬處罰案件作出預測。如北大法寶智能行政執(zhí)法助手能夠進行違法裁量智能預測、相似案例推送、裁量依據(jù)智能推送、智能案例檢索、智能化數(shù)據(jù)分析等，行政執(zhí)法人員在平臺簡單輸入違法事實后，該系統(tǒng)可以根據(jù)機器識別的違法要素進行智能預測處罰結(jié)果。同時，在行政處罰決定作出前，行政處罰機關(guān)領導審核簽名、行政相對人陳述申辯過程、行政處罰機關(guān)決定討論的信息反饋等，也可以應用人工智能。

因此，人工智能在行政處罰決定中的應用，在一定程度可實現(xiàn)類案類罰，能夠避免行政處罰裁量過程中出現(xiàn)恣意妄為的腐敗案、人情案等弊端，力保處罰決定的一致性、公平性，使得合法、合理的行政處罰決定更經(jīng)得起質(zhì)疑與監(jiān)督。

(五)人工智能在行政處罰執(zhí)行中的應用及意義

行政處罰的有效執(zhí)行是觀察法治政府建設成效的顯微鏡、晴雨表和櫥窗口。人工智能可以應用于以下兩個方面，即一方面，對行政相對人而言，行政相對人通過人工智能履行行政處罰的法定義務(如繳納罰款等)、投訴及查看相關(guān)法律依據(jù)等，維護自己合法權(quán)益，避免在行政處罰執(zhí)行中遭受人為的干擾，這也是高效便民原則的體現(xiàn)，踐行了服務型政府的要求。另一方面，對行政處罰機關(guān)而言，通過人工智能的信息系統(tǒng)能及時提醒、督促當事人按期執(zhí)行行政處罰決定，監(jiān)督被處罰人加強后續(xù)整改落實，充分發(fā)揮行政處罰懲戒教育作用。特別是對被從業(yè)禁止、可能被“三振出局”(8)《中華人民共和國食品安全法》第134條：食品生產(chǎn)經(jīng)營者在一年內(nèi)累計三次因違反本法規(guī)定受到責令停產(chǎn)停業(yè)、吊銷許可證以外處罰的，由食品安全監(jiān)督管理部門責令停產(chǎn)停業(yè)，直至吊銷許可證。處罰以及逾期不履行罰款義務而需繳付滯納金的行政相對人，人工智能實時監(jiān)督這些行政相對人的履行情況，確保行政處罰決定有效執(zhí)行。此外，人工智能還可以通過嵌入社會信用體系，依法對行政處罰執(zhí)行結(jié)果進行公示，甚至在法定授權(quán)范圍內(nèi)對失信主體實行聯(lián)合懲戒，使其“一處違法、處處受限”，以維護執(zhí)法權(quán)威和法律尊嚴。

因此，人工智能在行政處罰執(zhí)行中的應用，為行政處罰決定提供了快捷高效的執(zhí)行平臺，既簡化了行政處罰決定執(zhí)行流程，又加強了在行政處罰執(zhí)行中對行政執(zhí)法人員、行政相對人的監(jiān)督，提升了行政處罰執(zhí)行的效果。

三、行政處罰中人工智能應用的法律規(guī)制

人工智能應用于行政處罰過程能顯著提升行政處罰工作的質(zhì)量與效率，智慧處罰(9)魏瓊，徐俊暉.人工智能應用于處罰的風險治理[J].河南財經(jīng)政法大學學報，2020，(5)：86.勢在必行。人工智能算法的“公共性”應用會產(chǎn)生一系列潛在風險，包括算法的不透明風險、算法的“偏見”風險以及算法的“權(quán)力異化”風險等(10)孫清白.人工智能算法的“公共性”應用風險及其二元規(guī)制[J].行政法學研究，2020，(4)：58.。一般地說，人工智能的法律規(guī)制措施包括制定人工智能專門立法、設計人工智能倫理框架(11)馬長山.人工智能的社會風險及其法律規(guī)制[J].法律科學(西北政法大學學報),2018，(6)：53.，結(jié)合法律和技術(shù)手段建立對人工智能的風險控制機制(12)吳漢東.人工智能時代的制度安排與法律規(guī)制[J].法律科學(西北政法大學學報),2017，(5)：128.。就人工智能應用于行政處罰而言，人工智能在行政處罰中的應用應當遵循怎樣的程序，人工智能在何種情況下參與行政處罰，人工智能可以參與行政處罰的哪些領域等，都需要通過法律來明確，以防止人工智能在行政處罰過程中的濫用、錯用及怠用。

(一)合理定位人工智能

1.明確人工智能可應用的處罰領域與適用條件

隨著人工智能的發(fā)展，由人工智能處理復雜的行政處罰活動，絕非空想。但這并不意味著人工智能可以完全取代行政處罰機關(guān)及其執(zhí)法人員。況且，也并非所有行政處罰都適合應用人工智能。特別是在不宜應用人工智能或者人工智能難以勝任的重大、復雜行政處罰案件中，行政處罰機關(guān)及其執(zhí)法人員應用了人工智能，或依賴人工智能為主要執(zhí)法方式的，就有涉嫌濫用行政處罰權(quán)的可能。因此，應用人工智能進行行政處罰時，不可過度依賴它，應將其定位成輔助工具，要求以人類為中心的工作理念、構(gòu)建人與人工智能的“合作觀”，平衡效率與價值之間的沖突(13)姜素紅,張可.人工智能輔助地方立法的應用與規(guī)制[J].湖南科技大學學報(社會科學版)，2019，(4)：144.。在法律架構(gòu)中，也應明確人工智能在行政處罰中應用的領域與條件，必要時采用許可制及嚴格禁止的方式予以規(guī)范。許可制意味著經(jīng)過充分測試或驗證的AI程序才可得到正式使用，嚴格的批準程序是AI有效性的保證；許可制也意味著更廣泛對話的可能，實現(xiàn)通過充分的討論來確定模型的構(gòu)建，主要是各種變量的權(quán)重。

在行政處罰與AI融合方式上，必須得設置“最后看門人”機制，執(zhí)法人員應當審查AI處理結(jié)果的理由及邏輯，形成“AI預處理+執(zhí)法人員最終決定”的模式。只不過在執(zhí)法人員介入的程度上應視案件的復雜程度區(qū)別對待(14)李曉楠.可信賴AI司法：意義、挑戰(zhàn)及治理應對[J].法學論壇，2020，(4)：125.。對于起輔助作用的弱人工智能，比如執(zhí)法記錄儀等，宜將其定位為執(zhí)法人員的助手，用來處理技術(shù)性、輔助性的活動，如執(zhí)法記錄、資料收集、處罰決定文書的制作等。一般情況下，這些經(jīng)核準投入使用的弱人工智能，被運用于處罰案件調(diào)查取證，其條件不受限制。對于有識別、分析、推演等智能功能且其活動對行政相對人權(quán)利義務產(chǎn)生或者可能產(chǎn)生實際影響的這類人工智能則宜采用更為嚴格的許可制以限制其應用，特別是將這類人工智能應用于行政處罰案件哪一環(huán)節(jié)，須事先有更為嚴格而明晰的規(guī)定。例如，對于道路的交通指導、違法行為能進行識別、分析、證成等這類人工智能，就主要運用于那些違法事實確鑿并有明確法定依據(jù)而按照簡易程序進行或適用快速辦理的行政處罰案件(15)《公安機關(guān)辦理行政案件程序規(guī)定》(2019年1月1日施行)第40條：對不適用簡易程序，但事實清楚，違法嫌疑人自愿認錯認罰，且對違法事實和法律適用沒有異議的行政案件，公安機關(guān)可以通過簡化取證方式和審核審批手續(xù)等措施快速辦理。。對案情情節(jié)復雜或重大違法行為應給予較重處罰的行政處罰案件，人工智能可以被運用于行政處罰案件的調(diào)查階段，但須慎重介入行政處罰案件的決定階段，甚至不宜介入決定階段，否則就會很容易出現(xiàn)算法“偏見”或算法“權(quán)力異化”。

據(jù)此，現(xiàn)行《行政處罰法》修訂時，有必要增補關(guān)于人工智能應用于行政處罰的適用條件這類條文。從立法例的角度，建議這類條文不妨采用列舉的方式，從肯定方面和否定方面來羅列出哪些能應用人工智能，哪些不能應用人工智能的范圍，以具體規(guī)定明確人工智能在行政處罰中的應用領域與條件。同時，宜規(guī)定一個兜底性的適用條款，防止法律的不周嚴性以及社會情勢的變遷性。甚至，一定層級的行政處罰機關(guān)也可以制作相應的規(guī)程或指南，專門規(guī)范人工智能在行政處罰案件中的應用。

在此，建議《行政處罰法》修訂時，宜增加以下的內(nèi)容：行政機關(guān)在下列事項中，可以在行政處罰執(zhí)法中應用人工智能：(一)違法行為的識別分析證成；(二)違法事實確鑿并有明確法定依據(jù)，可以當場作出行政處罰決定；(三)適用快速辦理的行政處罰案件；(四)其他技術(shù)性、輔助性執(zhí)法。對情節(jié)復雜或重大違法行為的行政處罰案件，禁止行政機關(guān)直接應用人工智能介入行政處罰決定。

2.制定標準化的規(guī)范標準

《行政處罰法(修訂草案二次審議稿)》第39條的規(guī)定要求“應當經(jīng)過法制和技術(shù)審核，確保電子技術(shù)監(jiān)控設備設置合理、標準合格、標志明顯”。但我國尚未建立人工智能進入行政處罰領域的行政許可制度。因此，有必要在制度層面建立健全對人工智能的審核認證程序，制定對審核認證前的測試標準與規(guī)則等規(guī)范標準。由一定層級的立法機關(guān)或者行政處罰機關(guān)與有關(guān)部門聯(lián)合從標準化入手，制定頒布相關(guān)的標準化的規(guī)范性文件，在這些規(guī)范性文件中細化人工智能應用于行政處罰的技術(shù)規(guī)范和準入條件，確定規(guī)范標準，運用科技與法治相結(jié)合來規(guī)范人工智能，實現(xiàn)事前監(jiān)管，以防因人工智能的應用導致處罰違法情形的出現(xiàn)。統(tǒng)一的技術(shù)標準也能一定程度上限制算法設計者的編寫行為，有助于降低算法的“權(quán)力異化”風險。在執(zhí)法實踐中，人工智能的這些技術(shù)和產(chǎn)品一旦應用到各個行政執(zhí)法領域，就有可能會涉及相應行業(yè)的準入資格、資質(zhì)取得，故有必要采取“高準入、嚴許可”(16)汪慶華.人工智能的法律規(guī)制路徑：一個框架性的討論[J].現(xiàn)代法學,2019，(2)：61.進路，實行分類化管理。

進行信息識別和處理的弱人工智能應當保持一定的準確性，并根據(jù)不同的行政處罰機關(guān)的執(zhí)法事項設置不同的標準，如環(huán)保部門用于檢測污染物的人工智能應當進行量化，與構(gòu)成處罰標準的指標相匹配；市場監(jiān)管局用于識別違禁物品時，只需要能夠識別出其信息，保證與正規(guī)物品比對圖片的清晰。對處理存在保密信息的行政處罰案件的人工智能也需根據(jù)機密性設置不同的安全標準，個人隱私、商業(yè)機密、國家秘密的數(shù)據(jù)安全級別要更高。據(jù)此可制作相應的標準化手冊，為行政執(zhí)法人員提供擬行政處罰決定的參照。

值得注意的是，隨著AI科技的進步、行政執(zhí)法的需要及社會的發(fā)展，人工智能可能通過不斷抓取新的數(shù)據(jù)或?qū)ν饨绛h(huán)境的反饋，更新其預測模型。為此，該標準化的規(guī)范性文件及其應用手冊也須時時更新，不斷調(diào)整。

(二)堅持正當程序約束

1.公開透明

在抽象體系的交匯口，連接公眾與信任關(guān)系的當面承諾，通常表現(xiàn)出明白無誤的可信任性與誠實性，并伴隨著一種“習以為?！被颉版?zhèn)定自若”的態(tài)度(17)[英]安東尼·吉登斯,現(xiàn)代性的后果[M].田禾譯.南京:譯林出版社，2011.73.。故現(xiàn)代社會需要一個公正透明的政府，以增強公眾對政府的信賴。行政處罰中應用的人工智能(如算法等)會直接或間接影響行政相對人的利益，所以行政處罰機關(guān)要遵循公開原則，做到技術(shù)上的透明，包括事先透明和事后透明。在以算法驅(qū)動的AI政務系統(tǒng)中，透明度不僅是一種“清晰可見的狀態(tài)”，更是一種觀察和了解甚至參與系統(tǒng)運行的方式(18)Danielle Keats Citron & Frank Pasquale, “The Scored Society: Due Process for Automated redictions”,Wash.L.Rev.,2014,p.25.，強調(diào)算法透明度的關(guān)鍵不只在于披露算法的具體內(nèi)容，還在于向利益相關(guān)者披露算法的運作原理和決策生成過程。

事先透明，即在使用人工智能前，應當向全社會公布算法內(nèi)容，包括公布行政處罰擬決定的算法流程，公開驗證算法時所生成的適當記錄，開發(fā)風險預測和裁量基準算法時考慮的變量與賦權(quán)比重(19)R. Brauneis , EP Goodman , “Algorithmic Transparency for the Smart City” ,Social Science Electronic Publishing, 2017, p.2.。據(jù)此，對決策程序加以合法性與合理性解釋，可通過相應途徑、形式(如座談會、聽證會、論證會)聽取相對人意見。但在這一過程中不建議完全公開代碼和數(shù)據(jù)，因為完全公開有可能泄露隱私數(shù)據(jù)甚至危及國家安全，也可能為行政相對人采取行動來規(guī)避人工智能治理提供通道(20)Paul B.de Laat , “Big Data and Algorithmic Decision-Making”,Acm Sigcas Computers & Society , 2017 , p.39.。事后透明，即指事前不知決策的過程及程序，但事后通過對人工智能績效的監(jiān)測、可解釋化的算法等，可以推導出其決策的整個過程。簡言之，即公開結(jié)果，利用倒推法得知決策過程。

《行政處罰法(修訂草案二次審議稿)》第44條(21)《行政處罰法(修訂草案二次審議稿)》第45條：行政機關(guān)應當依法以文字、音像等形式,對行政處罰的啟動、調(diào)查取證、審核、決定、送達、執(zhí)行等進行全過程記錄,歸檔保存。新增規(guī)定要求對行政處罰進行全過程記錄?？梢娨矐髮θ斯ぶ悄芟到y(tǒng)運行過程予以完整記錄，如德國相關(guān)立法必須安裝“黑匣子”(22)德國《道路交通法第八修正案》(2016年)對自動駕駛數(shù)據(jù)的記錄要求，載有高度或全自動化功能的汽車必須根據(jù)通用的國際技術(shù)標準來記錄汽車在某一時刻究竟由駕駛?cè)丝刂?，還是由高度或全自動化功能控制，即“黑匣子”記錄功能。。應用人工智能完整記錄當事人的行為是一把“雙刃劍”?！昂谙蛔印痹谛畔⒈Ａ魰r效內(nèi)可作為爭議解決的證據(jù)，便于事后追究行為人的法律責任，在行政處罰案件中亦是如此。而人工智能來了更多的隱私獲取性(海量信息、數(shù)據(jù)的收集和對數(shù)據(jù)進行知識抽取)，極大地增強了入侵行政相對人隱私的能力，況且這一侵害隱私的行為也極具迷惑性，很可能引發(fā)嚴重的隱私危機(23)鄭志峰.人工智能時代的隱私保護[J].法律科學(西北政法大學學報)，2019，(2)：51.。“黑匣子”作為證據(jù)使用時的公開透明還可能增加個人數(shù)據(jù)和隱私被濫用的風險。對此，美國的相關(guān)立法規(guī)定強化了“隱私權(quán)”保護(24)鄭戈.人工智能與法律的未來[J].探索與爭鳴，2017，(10)：83.。在我國，對《行政處罰法》的修改中，對于應用人工智能的公開程序等也需做類似的規(guī)定，以確保其合法、適當。

透明，還意味著問責的可能性。當系統(tǒng)出現(xiàn)誤判時，諸如行政處罰中明顯考慮了相對人的職業(yè)特征，或引用了錯誤法條時，透明性有助于找出智能系統(tǒng)產(chǎn)生歧視或功能偏差的原因，如識別出AI出現(xiàn)的偏差，究竟是開發(fā)人員或使用人員故意導致，還是AI系統(tǒng)深度學習的結(jié)果，以實現(xiàn)責任的準確歸結(jié)(25)李曉楠.可信賴AI司法:意義、挑戰(zhàn)及治理應對[J].法學論壇,2020，(4)：124.。

2.說明理由

公權(quán)力的運行離不開法定程序乃至正當程序。正當程序蘊含著尊嚴、平等、秩序、公正和效率基本價值，構(gòu)成了法治國家的基石(26)章劍生.行政程序正當性之基本價值[J].法治現(xiàn)代化研究，2017，(5)：102.。因此有必要通過說明理由制度在行政處罰決定送達過程中實現(xiàn)程序性權(quán)利的價值，保障行政相對人權(quán)利(27)宋華琳.英國行政決定說明理由研究[J].行政法學研究，2010，(2)：103.。我國《行政處罰法》規(guī)定了說明理由制度(28)《中華人民共和國行政處罰法》第31條第1款：行政機關(guān)在作出行政處罰決定之前，應當告知當事人作出行政處罰決定的事實、理由及依據(jù)，并告知當事人依法享有的權(quán)利。。一旦某一行政處罰案件應用了人工智能，那么它的特殊之處還在于，要求行政處罰機關(guān)應向行政相對人就人工智能系統(tǒng)的結(jié)果或行為作出解釋。為此，在對《行政處罰法》的修改中，建議針對該法第31條增補相關(guān)內(nèi)容的條款，應當對應地增加《行政處罰法(修訂草案二次審議稿)》第42條的內(nèi)容，作為該條的第二款，該款宜明確地規(guī)定：對于應用人工智能的行政處罰，在作出行政處罰決定之前，應當告知當事人，并解釋人工智能系統(tǒng)的結(jié)果或行為。

行政處罰機關(guān)及其執(zhí)法人員向當事人解釋的內(nèi)容，至少包括以下五個方面：第一，解釋證明人工智能采集的電子證據(jù)的合法性、合理性；第二，解釋處罰決定作出所考慮的主要因素，以及各因素的不同權(quán)重；第三，解釋究竟是哪些因素會改變處罰決定，且哪些因素才是決定性的；第四，解釋為什么相似情況可能有不同決定，為什么不同情況可能有相似決定(29)Doshi-Velez F, Kortz M, Budish R ,et al, “Accountability of AI under the Law: The Role of Explanation”,Social Science Electronic Publishing, 2017, p.5.；第五，解釋人工智能應用中算法的準確性和科學性。以上這些解釋內(nèi)容一旦出現(xiàn)缺位或者缺項，即意味著該處罰決定說明理由的欠缺，會導致相應行政處罰決定的無效或依法被撤銷。

此外，正當程序原則要求在人工智能應用于行政處罰時，行政處罰機關(guān)不能既做算法的評分裁判者又做算法的事實參與者(30)何淵. 智能社會的治理與風險行政法的建構(gòu)與證成[J].東方法學，2019，(1)：76.。行政處罰機關(guān)也需要遵循可辯駁原則，在人工智能對行政相對人作出不利的評價之前，必須給其辯駁(陳述、申辯)、要求說明理由及聽證的權(quán)利，以保障相對人的合法權(quán)益。如歐盟《一般數(shù)據(jù)保護條例》第71條即有規(guī)定：“數(shù)據(jù)主體有權(quán)獲得人工干預，表達其觀點，獲得針對自動化決策的解釋并提出異議的權(quán)利?！?/p>

在實踐中，如何要求自建大數(shù)據(jù)平臺、人工智能系統(tǒng)的行政處罰機關(guān)依法定乃至正當程序應用人工智能，防止其行政處罰權(quán)的“暗箱操作”和濫用，這是一個值得重視的問題。在未來，強人工智能在自動化作出行政處罰決定時，宜賦予受罰人依法享有免于自動化行政處罰決定的權(quán)利，這也是正當程序的要求之一。

(三)全面監(jiān)管人工智能

1.建立專門的監(jiān)督制度

通過明確適用條件、確定規(guī)范標準、定期評估測試等，力爭實現(xiàn)行政處罰機關(guān)對人工智能運用的自我監(jiān)督。我國現(xiàn)行《行政處罰法》規(guī)定了對行政處罰的監(jiān)督制度(31)《中華人民共和國行政處罰法》第54條第1款：行政機關(guān)應當建立健全對行政處罰的監(jiān)督制度，縣級以上人民政府應當加強對行政處罰的監(jiān)督檢查。，故而，從整個法治建設的框架出發(fā)，對人工智能應用于行政處罰，也有必要從外部對它進行實時監(jiān)督，從而形成一個比較完備的專門監(jiān)督制度，為此，首要之舉是設置一個專門的監(jiān)督機構(gòu)。

根據(jù)我國《憲法》與相關(guān)組織法的規(guī)定，在國務院部委層面或者省級人民政府建立針對行政執(zhí)法中人工智能的專門監(jiān)督機構(gòu)。該機構(gòu)的主要法定職責是監(jiān)管數(shù)據(jù)、算法等人工智能的應用，規(guī)避隱私泄密和網(wǎng)絡安全風險，避免因數(shù)據(jù)不全面、不準確或因算法黑箱導致的行政違法(包括顯失公平的行政處罰等情形)。由這一監(jiān)督機構(gòu)搭建一個監(jiān)督平臺，形成“政府——平臺——大眾”的多元互動構(gòu)架(32)馬長山. 智能互聯(lián)網(wǎng)時代的法律變革[J].法學研究，2018，(4)：36.。該機構(gòu)可通過平臺針對不同的行政處罰機關(guān)開設不同的窗口進行專門監(jiān)督，并發(fā)布相適應的標準化規(guī)范和指導政策；行政相對人及其他公民、法人也可通過平臺向監(jiān)督機構(gòu)反映情況和投訴維權(quán)，參與糾紛解決。如在環(huán)境監(jiān)管中，企業(yè)對自動監(jiān)測數(shù)據(jù)進行造假，以至于人工智能受限無法及時發(fā)現(xiàn)不法行為，但周邊居民較易察覺周邊環(huán)境質(zhì)量，故公眾可通過平臺參與環(huán)境行政執(zhí)法監(jiān)督，促使環(huán)保部門采取措施。

有效的監(jiān)管不僅在于事前準入的規(guī)制以及對違規(guī)行為的事后糾正與處罰上，而且需要在事中有效預防及控制風險。應當構(gòu)建由事前準入及測試、事中實時動態(tài)監(jiān)測、事后風險處置反饋系統(tǒng)組成的智能環(huán)路監(jiān)管機制。可借鑒金融領域的監(jiān)管措施對行政處罰中應用的人工智能采取“穿透式”監(jiān)管(33)喬海曙,王鵬,謝姍珊.金融智能化發(fā)展：動因、挑戰(zhàn)與對策[J].南方金融，2017，(6)：3.。具體做法有二：一是建設基于大數(shù)據(jù)模型的法律風險實時監(jiān)測處置平臺，對主要執(zhí)法領域?qū)嵤┘皶r監(jiān)控，實現(xiàn)快速響應、自動預警的智慧處置乃至處罰、監(jiān)管。二是應用“監(jiān)管沙箱”監(jiān)管行政處罰，通過專門的監(jiān)管機構(gòu)、行政機關(guān)及相關(guān)當事人與廣泛的數(shù)據(jù)運營商等合作，產(chǎn)生高度自動化和有效的“數(shù)據(jù)驅(qū)動”型監(jiān)管體系，根據(jù)行政違法的特征來確定對行政處罰中的人工智能的監(jiān)管要求和監(jiān)管分工，把風險控制在重要領域，以此實現(xiàn)智慧處罰的合法、合理。

2.定期進行評估測試

行政處罰決定關(guān)乎行政相對人的切身利益，人工智能的誤判極有可能將行政相對人帶入“深淵”。算法偏見和算法黑箱，有時也可能嚴重影響行政處罰的公正。實踐中就存在關(guān)于人工智能準確性、合法性的爭議，如上海電子警察抓拍違法鳴笛行政處罰訴訟案的爭議焦點，就在于交警支隊提交的電子技術(shù)監(jiān)控設備記錄的內(nèi)容是否具有證明力。行政處罰既是依職權(quán)的執(zhí)法行為，也是負擔性行政行為，在行政處罰中哪怕有1%的失誤，都有可能侵犯相對人合法權(quán)益，引發(fā)行政爭議。為此，《行政處罰法(修訂草案二次審議稿)》對電子技術(shù)監(jiān)控設備記錄違法事實提出了清晰準確的要求。與此同時，行政處罰機關(guān)及其執(zhí)法人員在應用人工智能前必須確保其安全準確，不僅需要查看人工智能系統(tǒng)所使用的數(shù)據(jù)集，還需查看算法中描述變量、相關(guān)性和結(jié)論的源代碼與程序員的注釋。同時，應當組織或者委托相關(guān)技術(shù)機構(gòu)及其技術(shù)人員測試人工智能系統(tǒng)是否違背法律法規(guī)及倫理規(guī)范、是否準確寫入相關(guān)規(guī)則、是否符合應用的規(guī)范標準，測試平臺應當能夠測試人工智能系統(tǒng)的偏差、偏見和任意性?？偟恼f來，圍繞著人工智能行政處罰系統(tǒng)的功能定位，在實踐中，諸如白盒測試(諸如代碼審查等)，黑盒測試(等價類劃分法、正交試驗法等)等技術(shù)測試手段，均應當在行政處罰過程中得以充分的運用，以期發(fā)現(xiàn)人工智能程序使用中可能存在的錯誤，實現(xiàn)人工智能的魯棒性(Robust)和安全性。

行政處罰機關(guān)應當對人工智能產(chǎn)品和系統(tǒng)的關(guān)鍵性能進行評估，必要時可發(fā)布評估報告，來說明人工智能系統(tǒng)蘊涵的安全、歧視和隱私等風險，確保行政處罰過程的安全暢通與和諧(34)沈巋主編.風險規(guī)制與行政法新發(fā)展[M].北京:法律出版社,2013.193.。在人工智能應用過程中，定期按照規(guī)范標準對其進行評估測試，對產(chǎn)生故障的人工智能及時修理或更新替換，滿足發(fā)展的行政處罰精準度要求和行政管理目標，避免造成行政處罰受阻導致處罰顯失公平。這一評估測試的要求，宜成為一項常態(tài)化的行政事務活動，故有必要在立法層面上將其固化，使之成為行政處罰機關(guān)應履行的一項法定職責。故此，在《行政處罰法(修訂草案二次審議稿)》規(guī)定“應當經(jīng)過法制和技術(shù)審核”的基礎上，我們建議宜增加以下的內(nèi)容，即“行政機關(guān)應用人工智能之前，應當對人工智能進行評估測試，且須經(jīng)監(jiān)管部門或者授權(quán)的專業(yè)機構(gòu)的認證。在人工智能應用過程中，行政機關(guān)對產(chǎn)生故障的人工智能應當及時修理或更新替換。人工智能的監(jiān)管機構(gòu)對人工智能在行政處罰中的應用過程負責監(jiān)督，并對其后果承擔法律責任?！?/p>

此外，人工智能評估測試報告能夠增強其收集的電子數(shù)據(jù)的證據(jù)證明力。如環(huán)保部門以人工智能監(jiān)測的數(shù)據(jù)作為行政相對人違法行為證據(jù)時，應當提供污染源自動監(jiān)測數(shù)據(jù)報告、污染源自動監(jiān)測設備驗收合格證、污染源自動監(jiān)測設備運營維護、校準校驗記錄。是故，宜將人工智能評估測試報告以及法制和技術(shù)審核報告納入電子數(shù)據(jù)的范圍，將其視為行政證據(jù)的重要組成部分。

3.明確法律責任承擔

在行政處罰領域，有關(guān)人工智能技術(shù)的開發(fā)和應用極有可能引發(fā)行政違法及行政侵權(quán)事件。在法律責任的分配上，宜遵循簡約化的規(guī)則，尋求人工智能問題與《行政處罰法》及《電子商務法》等兼容，特別是在查明人工智能責任時，宜沿用《行政處罰法》的通常規(guī)則。比如，在舉證責任上，對于這類行政爭議，行政相對人在維權(quán)過程中要分清究竟是人為操作不當還是人工智能本身缺陷并非易事，訴訟舉證則尤為困難，故仍應當由行政處罰機關(guān)承擔舉證責任，該機關(guān)必須提供人工智能“黑匣子”。

同時，在明確細化人工智能分類的基礎上，對責任的認定與追究也必須區(qū)別對待。弱人工智能主要被視為“行政助手”，充當輔助者的角色，無法獨立做出活動，它并非獨立的行政主體或行為主體，亦不直接與第三人發(fā)生法律關(guān)系，故其行為仍應歸屬于該行政處罰機關(guān)，由該機關(guān)承擔相應的責任。這也是基于法的安定性考量。而隨著AI功能的不斷完善，行政處罰機關(guān)的責任可能最終轉(zhuǎn)化為監(jiān)督責任，即當AI具備獨立處理案件的能力時，行政處罰機關(guān)可能就僅僅扮演一個監(jiān)督者的角色。這意味著，當行政處罰機關(guān)對AI錯誤裁判結(jié)果造成當事人損害沒有過錯時，無須承擔責任。算法設計人員責任，主要表現(xiàn)若因設計原因?qū)е翧I出現(xiàn)偏差，對行政處罰機關(guān)形成誤導，損害當事人權(quán)益的，算法設計人員應當承擔責任(35)李曉楠.可信賴AI司法:意義、挑戰(zhàn)及治理應對[J].法學論壇，2020，(4)：126.。故此，當強人工智能進行責任規(guī)制時，首要之舉要理清生產(chǎn)者和程序編纂者的責任大小，再結(jié)合使用者的綜合習慣進行邏輯演化，劃分責任的主次，以落實責任的承擔。而針對行政處罰案件因人工智能引起的損害賠償，也有必要對行政賠償?shù)墓ぷ魅藛T作擴大解釋，將其視為“機器公務員”，進入國家賠償程序，明晰行政賠償義務機關(guān)。據(jù)此，我們建議，現(xiàn)行《行政處罰法》修訂時宜明確規(guī)定“行政機關(guān)應用人工智能，對當事人造成損失的，應當依法予以賠償”。

對于后續(xù)追責，可結(jié)合前述的許可制度，實現(xiàn)認證程序與責任體系的深度結(jié)合。企業(yè)可自愿申請監(jiān)管部門或授權(quán)的專業(yè)機構(gòu)的認證程序，在由機關(guān)的行政爭議引發(fā)的行政訴訟及賠償訴訟中，經(jīng)過權(quán)威認證的人工智能系統(tǒng)的設計者、生產(chǎn)者或銷售者僅須承擔有限責任，而未經(jīng)過認證的人工智能系統(tǒng)將會承擔嚴格的連帶責任(36)Scherer, M. U. “Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies”, Harvard Journal of Law and Technology, 2016, p.397.。當然，對于人工智能在行政處罰中應用時應承擔的具體責任，行政處罰機關(guān)可以穿透算法，通過協(xié)議與技術(shù)提供者進行約定，設定義務，明細責任分配。另外，此種約定條款也可出現(xiàn)在機關(guān)間的協(xié)議中，由此倘若引發(fā)我國行政處罰機關(guān)及其上級機關(guān)的責任爭議，無疑可以借助協(xié)議解決機制得以追究責任的最終承擔者。如此一來就避免算法黑箱逃避責任，為人工智能在行政處罰中更為廣泛的應用及發(fā)展保留充分空間。

四、結(jié)語

人工智能在行政處罰中所應用的終極目標，就是建成智慧處罰的平臺。這種以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等多種科技手段進行行政處罰的新型處罰模式，正是我國行政處罰的理論界和執(zhí)法實務部門都在積極探索、努力想突破的重大課題，推動智慧處罰的創(chuàng)新發(fā)展，既是適應大數(shù)據(jù)時代新發(fā)展和社會新需求的必然要求，也是體現(xiàn)國家治理體系和治理能力現(xiàn)代化的重要舉措，更是實施處罰體制機制改革、提升處罰管理精細化水平的技術(shù)保障。此外，依托大數(shù)據(jù)的智慧處罰的發(fā)展也對以行政處罰為主的傳統(tǒng)法律規(guī)范體系產(chǎn)生了新的沖擊。時至今日，《行政處罰法》作為處罰領域的基本法律制度，在實施了二十多年后即將迎來的第一次大修訂，應當以解決問題為導向。此次修法應體現(xiàn)立法的包容度、開放性和前瞻性。為此，在《行政處罰法(修改草案二次審議稿)》征求意見的基礎上，我國立法機關(guān)宜積極重視在該法中嘗試解決有關(guān)人工智能應用于行政處罰領域的法律適用問題。特別是在對相關(guān)法條的草擬中，有必要增補規(guī)范應用人工智能的具體內(nèi)容，諸如，應用人工智能的條件及應用人工智能的行政處罰機關(guān)應履行的法定義務及法律責任等，使人工智能等高科技更好地服務于行政處罰，促進智慧處罰的有序發(fā)展。

人工智能時代所引發(fā)的法律、倫理、技術(shù)的對話剛剛開始，伴隨著新技術(shù)、高信息化的跨時代發(fā)展，還需要不斷探索關(guān)于自動化決策系統(tǒng)及其風險治理的理論、制度與實踐創(chuàng)新，這將是一個系統(tǒng)化的過程，為實現(xiàn)人工智能時代的“良法善治”奠定基礎，并推進行政法治的現(xiàn)代化。