算法行政背景下健康碼適用現(xiàn)狀、問(wèn)題及規(guī)避路徑探析——以西安市健康碼為例

涂雨欣 楊玲 尹雪

（西北大學(xué)法學(xué)院，陜西 西安 710000）

一、健康碼的內(nèi)涵界定和運(yùn)行機(jī)理

（一）健康碼的內(nèi)涵界定

根據(jù)2020年2月25日國(guó)務(wù)院《關(guān)于依法科學(xué)精準(zhǔn)做好新冠肺炎疫情防控工作的通知》，健康碼是行政機(jī)關(guān)綜合判斷個(gè)人健康風(fēng)險(xiǎn)等級(jí)，獲得出行、復(fù)工資格的法定證明，是出于風(fēng)險(xiǎn)預(yù)防的目的對(duì)個(gè)人信息處理并進(jìn)行自動(dòng)化行政評(píng)級(jí)的行為，其內(nèi)嵌了自動(dòng)化的程式標(biāo)準(zhǔn)，是應(yīng)急狀態(tài)下算法行政在全國(guó)范圍內(nèi)的全新嘗試。

（二）健康碼的運(yùn)行機(jī)制及其合理性

健康碼作為政府的數(shù)字工具，其運(yùn)行主要依托市場(chǎng)主流應(yīng)用程序，通過(guò)線上采集授碼、線下核驗(yàn)信息掃碼兩條路線，根據(jù)行政機(jī)關(guān)已程式化的評(píng)判標(biāo)準(zhǔn)對(duì)疫情防控大數(shù)據(jù)庫(kù)的信息進(jìn)行處理，最終呈現(xiàn)出“紅黃綠”三種不同健康狀態(tài)。在這種運(yùn)行機(jī)制下，政府部門(mén)是數(shù)據(jù)的控制方，為行政治理提供數(shù)據(jù)技術(shù)的企業(yè)則是數(shù)據(jù)的處理方，而公民則是數(shù)據(jù)的提供方，維系三方的核心在于企業(yè)根據(jù)行政機(jī)關(guān)設(shè)定的評(píng)判標(biāo)準(zhǔn)[1]而提供的算法。

從健康碼的使用目的來(lái)看，其出于風(fēng)險(xiǎn)防控的目的，維護(hù)的是社會(huì)的公共利益，具有合法性；但從使用手段來(lái)看，健康碼是一種自動(dòng)化的行政評(píng)級(jí)，前期的信息收集和評(píng)級(jí)后的控制措施都帶有一定強(qiáng)制性，公民個(gè)人信息保護(hù)、信息處理誤判等風(fēng)險(xiǎn)是否超越了法律保護(hù)的界限仍有待考量。

二、健康碼的適用現(xiàn)狀

（一）西安市健康碼的適用現(xiàn)狀與效果評(píng)價(jià)

由于全國(guó)各地健康碼的運(yùn)行機(jī)制大致相同，故以西安市的適用現(xiàn)狀為例進(jìn)行調(diào)研分析。宏觀角度而言，健康碼在西安市的落實(shí)進(jìn)展順利。在通過(guò)問(wèn)卷的形式對(duì)西安市不同年齡段的市民進(jìn)行走訪調(diào)研后發(fā)現(xiàn)，對(duì)西安市健康碼的實(shí)際效果評(píng)價(jià)中。超過(guò)80%的被訪者認(rèn)為在疫情防護(hù)過(guò)程中西安市健康碼發(fā)揮了實(shí)際效果，但仍有10.28%的被訪者認(rèn)為西安市健康碼的實(shí)際效果有限。

鑒于適用效果評(píng)價(jià)呈現(xiàn)出多樣化的選擇，故對(duì)西安市健康碼存在的風(fēng)險(xiǎn)與實(shí)際局限進(jìn)行深入考察。

（二）健康碼適用中存在的問(wèn)題

1.算法自動(dòng)化決策地風(fēng)險(xiǎn)

由于算法標(biāo)準(zhǔn)、原始數(shù)據(jù)等原因形成的思維處理慣性，進(jìn)而使得算法系統(tǒng)在自動(dòng)化決策過(guò)程中出現(xiàn)帶有偏向性的結(jié)果[1]。除卻程序設(shè)計(jì)的偏差產(chǎn)生的偏見(jiàn)外，人工智能自動(dòng)化決策也伴隨其他類型偏見(jiàn)，容易無(wú)端放大某些風(fēng)險(xiǎn)要素，或者由于算法程序本身的局限性得出與實(shí)際不符的結(jié)論。

2.個(gè)人信息的保護(hù)面向

疫情防控過(guò)程中健康碼的生成方式是動(dòng)態(tài)碼，然而健康碼所包含的信息不僅是呈現(xiàn)的個(gè)人身份信息和健康信息，還包括交通出行記錄、通信記錄、家庭住址等個(gè)人敏感信息。這些龐大的信息在數(shù)據(jù)傳輸、管理的過(guò)程中難以避免地在系統(tǒng)后臺(tái)聚集，增加了信息泄露地風(fēng)險(xiǎn)[2]。

3.健康碼誤判的救濟(jì)途徑不暢通

作為疫情期間公民出行的法定證明，健康碼呈現(xiàn)的不同結(jié)果對(duì)應(yīng)著不同的管控措施，而出現(xiàn)誤判的黃碼和紅碼時(shí)，配套的解決措施卻并不完善。同時(shí)，公民對(duì)于現(xiàn)有健康碼誤判的救濟(jì)渠道知悉度低，疫情管控下趨于被動(dòng)，特別是對(duì)于多地往返人員而言，各地健康碼管理措施不一，盡管全國(guó)推進(jìn)健康的互認(rèn)機(jī)制②，但還沒(méi)有統(tǒng)一高效的申訴或救濟(jì)渠道，這亦是擺在各地健康碼互認(rèn)機(jī)制推進(jìn)面前的問(wèn)題。

三、公共空間健康碼適用風(fēng)險(xiǎn)的規(guī)避路徑

（一）技術(shù)治理：“算法偏見(jiàn)”的預(yù)防與協(xié)調(diào)

“算法偏見(jiàn)”作為人工智能領(lǐng)域所固有的缺陷，雖無(wú)法完全消除，但可以通過(guò)提前預(yù)防和事后的應(yīng)對(duì)措施來(lái)規(guī)避。具體而言，健康碼在算法程序的構(gòu)建方面應(yīng)當(dāng)重視算法公正，既需要保證程序的公正，還需要在具體的數(shù)據(jù)選取方面做到公正合理。另一方面，涉及對(duì)“算法偏見(jiàn)”的事后應(yīng)對(duì)與協(xié)調(diào)，可以采用“算法程序”的自我糾錯(cuò)和漏洞修復(fù)功能，以此將損失和影響降到最低。

（二）算法背景下的個(gè)人信息保護(hù)

公民的個(gè)人信息兼具人格和財(cái)產(chǎn)利益，在算法治理的模式下，公民的數(shù)字人格更加被重視。因此，健康碼在控制處理公民個(gè)人信息時(shí)更應(yīng)加強(qiáng)相應(yīng)的保護(hù)措施。

首先，知情同意原則是個(gè)人信息保護(hù)的基本原則，即數(shù)據(jù)控制者在處理個(gè)人信息時(shí)，應(yīng)當(dāng)履行告知義務(wù)，尊重公民的知情權(quán)，讓使用健康碼的公民明確自身的權(quán)利范圍以及個(gè)人信息的利用目的和范圍。

其次，行政機(jī)關(guān)在依據(jù)健康碼治理的過(guò)程中也需要遵循比例原則[3]，反映在健康碼運(yùn)行的合比例性審視，則須經(jīng)適當(dāng)性、必要性和均衡性的三重審度，例如對(duì)公民敏感信息的采集需要把握好個(gè)人信息保護(hù)的邊界[4]，對(duì)不必要采集的信息不予采集，兼顧好防疫目標(biāo)和相對(duì)人的利益。

（三）風(fēng)險(xiǎn)防控及報(bào)錯(cuò)問(wèn)責(zé)機(jī)制的完善

在健康碼運(yùn)行中存在“算法偏見(jiàn)”、數(shù)據(jù)報(bào)錯(cuò)等風(fēng)險(xiǎn)，這給疫情防控工作中信息的收集與識(shí)別帶來(lái)不便，同時(shí)也給公民帶來(lái)困擾。如何規(guī)避和進(jìn)行救濟(jì)，關(guān)鍵在于完善風(fēng)險(xiǎn)防控及報(bào)錯(cuò)問(wèn)責(zé)機(jī)制。

健康碼的風(fēng)險(xiǎn)防控有賴于算法程序的精準(zhǔn)調(diào)配和工作人員的嚴(yán)密審核。一方面，健康碼需要在不斷地試錯(cuò)中加強(qiáng)數(shù)據(jù)運(yùn)算的精準(zhǔn)度，同時(shí)輔之以算法程序的自我糾錯(cuò)功能。另一方面，配套的人工的救濟(jì)渠道是有必要的，但人工救濟(jì)渠道也需明確好權(quán)責(zé)界限[5]，責(zé)任主體根據(jù)不同的責(zé)任類型進(jìn)行責(zé)任承擔(dān)。

四、后疫情時(shí)代：健康碼的發(fā)展進(jìn)路

（一）健康碼在“后疫情”時(shí)代的發(fā)展趨勢(shì)

當(dāng)前，全國(guó)多個(gè)地方在嘗試健康碼的升級(jí)轉(zhuǎn)型。安徽“安康碼”添加政務(wù)服務(wù)事項(xiàng)、一碼通辦等新功能；杭州健康碼上線了醫(yī)院預(yù)約掛號(hào)和“健康證明”功能。健康碼在“后疫情時(shí)代”的轉(zhuǎn)型發(fā)展是必然趨勢(shì)，西安市健康碼也需要盡快建設(shè)體系性制度，將之?dāng)U展到政務(wù)服務(wù)、醫(yī)療健康、交通出行等領(lǐng)域。

（二）建設(shè)健康碼的體系性制度建設(shè)

健康碼應(yīng)盡快建設(shè)體系性制度，充分利用現(xiàn)有健康碼建設(shè)和應(yīng)用的良好形勢(shì)，將防疫健康信息碼升級(jí)為多功能信息碼，既能夠有效地提升政務(wù)服務(wù)效率和水平，助力“放管服”改革取得新突破，也能促進(jìn)信息技術(shù)與其他領(lǐng)域的更深層次結(jié)合。

其次，國(guó)家層面做好頂層設(shè)計(jì)，為政府職能轉(zhuǎn)變、釋放數(shù)據(jù)紅利、促進(jìn)數(shù)字經(jīng)濟(jì)和實(shí)體經(jīng)濟(jì)融合發(fā)展指明方向。具體到健康碼的升級(jí)，可以作為后疫情時(shí)期數(shù)據(jù)經(jīng)濟(jì)的一個(gè)突破口，在新一輪產(chǎn)業(yè)變革中進(jìn)行謀劃，先從地方試點(diǎn)探索開(kāi)始，鼓勵(lì)地方立法和政策創(chuàng)新，處理好各方關(guān)系，穩(wěn)步拓展數(shù)據(jù)應(yīng)用場(chǎng)景，推動(dòng)健康碼與政府治理融合、與服務(wù)業(yè)融合，與產(chǎn)業(yè)融合，從而催生更多數(shù)據(jù)經(jīng)濟(jì)商機(jī)[6]。

五、總結(jié)與展望

在算法行政背景下，健康碼的適用有效提升了政府的行政管理效率，也讓算法治理在實(shí)踐中接受公眾的檢視。健康碼在后疫情時(shí)代該何去何從？目前，由杭州市政府牽頭的多地政府提出在疫情常態(tài)化之后拓展健康碼應(yīng)用的建議[7]。但無(wú)論是健康碼的升級(jí)轉(zhuǎn)型，還是常態(tài)化管理路徑的探索，都需要我們從科技、民生、法律等多重視角考量分析。

注釋：

①參見(jiàn)市場(chǎng)監(jiān)管總局（標(biāo)準(zhǔn)委）發(fā)布《個(gè)人健康信息碼》系列國(guó)家標(biāo)準(zhǔn)。

②參見(jiàn)《關(guān)于深入推進(jìn)“互聯(lián)網(wǎng)+醫(yī)療健康”“五個(gè)一”服務(wù)行動(dòng)的通知》。