彭心一

武漢市建設(shè)工程設(shè)計(jì)審查和消防驗(yàn)收中心 湖北武漢 430015

一、背景

近年來(lái)，隨著計(jì)算機(jī)科學(xué)的蓬勃發(fā)展，算法(Algorithm)這一原本屬于傳統(tǒng)數(shù)學(xué)領(lǐng)域的概念也被投入計(jì)算機(jī)領(lǐng)域。國(guó)內(nèi)“互聯(lián)網(wǎng)+”概念提出后，使原本封閉的互聯(lián)網(wǎng)突破了傳統(tǒng)的時(shí)間、空間限制，所有信息數(shù)據(jù)可以實(shí)時(shí)進(jìn)行收集和處理，催生了利用數(shù)據(jù)作為生產(chǎn)力引領(lǐng)經(jīng)濟(jì)發(fā)展技術(shù)創(chuàng)新的“數(shù)字經(jīng)濟(jì)”。數(shù)字經(jīng)濟(jì)和其他行業(yè)的融合滲透推動(dòng)了產(chǎn)業(yè)領(lǐng)域的增長(zhǎng)，提升了經(jīng)濟(jì)發(fā)展的上升空間，而大數(shù)據(jù)作為數(shù)字經(jīng)濟(jì)時(shí)代的“新能源”，大數(shù)據(jù)算法作為數(shù)字經(jīng)濟(jì)時(shí)代的“新生產(chǎn)工具”，如何對(duì)它們?cè)诜缮线M(jìn)行賦權(quán)和規(guī)制，是數(shù)字經(jīng)濟(jì)時(shí)代的重要命題。

為順應(yīng)我國(guó)“十四五”發(fā)展規(guī)劃，推進(jìn)數(shù)據(jù)知識(shí)產(chǎn)權(quán)保護(hù)工作，2021年10月9日，國(guó)務(wù)院辦公廳頒布《“十四五”國(guó)家知識(shí)產(chǎn)權(quán)保護(hù)和運(yùn)用規(guī)劃》，其中“專(zhuān)欄2”提出數(shù)據(jù)知識(shí)產(chǎn)權(quán)保護(hù)工程，從開(kāi)展立法研究、完善法律法規(guī)、建立行業(yè)規(guī)范、推動(dòng)國(guó)際規(guī)則制定、保護(hù)數(shù)據(jù)安全幾個(gè)方面，對(duì)數(shù)據(jù)知識(shí)產(chǎn)權(quán)的賦權(quán)和規(guī)制進(jìn)行了討論[1]。大數(shù)據(jù)算法作為新興的前沿科學(xué)技術(shù)，在與現(xiàn)有的法律規(guī)范造成沖突的同時(shí)，也會(huì)不可避免地和現(xiàn)有倫理觀(guān)念產(chǎn)生碰撞，這與倫理學(xué)界的普遍觀(guān)點(diǎn)也不謀而合。[2]在考慮對(duì)其進(jìn)行法律規(guī)制的同時(shí)，也需要對(duì)其倫理方面的沖突引起注意。

二、大數(shù)據(jù)算法的內(nèi)涵

(一)大數(shù)據(jù)算法的界定

大數(shù)據(jù)(Big Data)泛指體量大、增長(zhǎng)率高、信息種類(lèi)繁多、來(lái)源復(fù)雜的數(shù)據(jù)集合，是國(guó)家重要的戰(zhàn)略資源。而“大數(shù)據(jù)”并非只是在“數(shù)據(jù)”的概念上簡(jiǎn)單疊加一個(gè)“大”字。不同于互聯(lián)網(wǎng)上沒(méi)有經(jīng)過(guò)數(shù)據(jù)處理的海量信息，大數(shù)據(jù)進(jìn)行了信息處理，從而產(chǎn)生了以人工智能為代表的信息應(yīng)用科技。大數(shù)據(jù)算法(Big Data Algorithms)是通過(guò)將海量的數(shù)據(jù)作為輸入，并通過(guò)特定的程序分析處理這些數(shù)據(jù)集合，從而作出決策的算法。隨著數(shù)字經(jīng)濟(jì)發(fā)展，海量數(shù)據(jù)集的產(chǎn)生使人類(lèi)越來(lái)越難以依靠傳統(tǒng)的人工決策進(jìn)行高效數(shù)據(jù)處理具有人工智能、深度學(xué)習(xí)特性的大數(shù)據(jù)算法可通過(guò)采集、分析、運(yùn)算數(shù)據(jù)集，對(duì)數(shù)據(jù)的特性、技術(shù)、結(jié)果形成自動(dòng)化決策，在現(xiàn)代數(shù)字經(jīng)濟(jì)發(fā)展中的作用越來(lái)越重要，難以替代。

(二)數(shù)字經(jīng)濟(jì)和大數(shù)據(jù)算法的關(guān)系

數(shù)字經(jīng)濟(jì)與大數(shù)據(jù)算法之間存在天然的相通關(guān)系。數(shù)字經(jīng)濟(jì)能將任何有機(jī)物和無(wú)機(jī)體都看作“算法”的一部分，從而使大數(shù)字的外延范圍向外擴(kuò)展；在新一輪工業(yè)革命的大潮下，我國(guó)正處在以網(wǎng)絡(luò)為核心的新型信息技術(shù)上升期，由大數(shù)據(jù)算法為主導(dǎo)的新型信息技術(shù)的合理應(yīng)用，勢(shì)必讓大數(shù)據(jù)分析中蘊(yùn)藏的巨大經(jīng)濟(jì)價(jià)值得以全面釋放，使中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展走向新的臺(tái)階。

然而，大數(shù)據(jù)算法只有在數(shù)據(jù)來(lái)源正規(guī)、中立客觀(guān)的情況下，才能在數(shù)據(jù)收集、智能分析、結(jié)果預(yù)測(cè)等方面發(fā)揮優(yōu)勢(shì)。如果數(shù)據(jù)本身有缺陷或不完美，僅靠通過(guò)技術(shù)手段并不能避免大數(shù)據(jù)算法被錯(cuò)誤使用或?yàn)E用，從而導(dǎo)致一系列問(wèn)題。

三、大數(shù)據(jù)算法倫理問(wèn)題及成因分析

在運(yùn)行大數(shù)據(jù)算法的過(guò)程中也需要遵循人類(lèi)道德準(zhǔn)則的規(guī)范。算法倫理問(wèn)題是傳統(tǒng)信息倫理問(wèn)題在數(shù)字經(jīng)濟(jì)背景下的進(jìn)一步延伸。由于大數(shù)據(jù)算法作為實(shí)現(xiàn)決策的技術(shù)手段具有雙面性，造成的算法倫理問(wèn)題不斷挑戰(zhàn)用戶(hù)的正常生活，造成了負(fù)面影響。其中，最為突出的是用戶(hù)知情權(quán)和個(gè)人信息的泄露，以及違反信息倫理。

(一)大數(shù)據(jù)算法的倫理問(wèn)題

大數(shù)據(jù)分析技術(shù)的應(yīng)用使得信息資料收集的難易度大大降低，自動(dòng)化程度上升。目前，部分算法設(shè)計(jì)師對(duì)消費(fèi)者的不同軟件應(yīng)用的用戶(hù)端數(shù)據(jù)進(jìn)行采集統(tǒng)計(jì)分析，并利用大數(shù)據(jù)算法生成“用戶(hù)畫(huà)像”(Persona)，以進(jìn)行產(chǎn)品的針對(duì)性推廣，平臺(tái)掌握了用戶(hù)的需求和偏好，便能更具針對(duì)性地向用戶(hù)推送商品和服務(wù)，長(zhǎng)此以往,可能會(huì)導(dǎo)致信息倫理問(wèn)題的出現(xiàn)。

大數(shù)據(jù)算法對(duì)用戶(hù)畫(huà)像的精確掌握使平臺(tái)對(duì)用戶(hù)的偏好和消費(fèi)習(xí)慣產(chǎn)生濫用。其本質(zhì)是平臺(tái)通過(guò)分析用戶(hù)畫(huà)像,形成的帶有價(jià)格歧視性質(zhì)的大數(shù)據(jù)算法。它將平臺(tái)的話(huà)語(yǔ)權(quán)無(wú)限放大,成為絕對(duì)的規(guī)則制定者，這種算法權(quán)力的濫用行為需要被及時(shí)約束。

由于用戶(hù)在網(wǎng)絡(luò)信息平臺(tái)獲取的信息偏向于自己喜歡的領(lǐng)域,久而久之,這種信息獲取的非全面性將必然導(dǎo)致信息認(rèn)知偏差，即“信息繭房”，而在其中發(fā)揮作用的正是個(gè)人推薦算法。

同時(shí)，大數(shù)據(jù)算法更多依賴(lài)于信息收集和計(jì)算機(jī)自身的深度學(xué)習(xí)，而深度學(xué)習(xí)的后果往往難以預(yù)料，算法黑箱是數(shù)據(jù)保護(hù)的天然屏障，但同時(shí)也為算法的倫理規(guī)制帶來(lái)了困難。數(shù)字經(jīng)濟(jì)時(shí)代,算法黑箱化傾向也會(huì)更加突出。

(二)大數(shù)據(jù)算法倫理問(wèn)題的成因分析

大數(shù)據(jù)的來(lái)源一般可分成自然科學(xué)數(shù)據(jù)和社會(huì)數(shù)據(jù)兩種。然而，無(wú)論是科學(xué)技術(shù)、社會(huì)進(jìn)程如何向前發(fā)展，這兩方面的數(shù)據(jù)也無(wú)法被全部收集涵蓋。這些數(shù)據(jù)的產(chǎn)生、獲取從客觀(guān)層面來(lái)講依然是具有隨機(jī)性、特殊性的，同時(shí)，收集的數(shù)據(jù)也不能包括邊緣數(shù)據(jù)和未能電子化的紙質(zhì)數(shù)據(jù)。大范圍的信息共享平臺(tái)也未能搭建，年代久遠(yuǎn)的信息只能以紙質(zhì)形態(tài)保存，散布于不同領(lǐng)域，沒(méi)有參與信息流通。如何盤(pán)活信息資源，共享數(shù)據(jù)，完善大數(shù)據(jù)樣本，政府部門(mén)的角色不能缺位。大數(shù)據(jù)算法只有在信息來(lái)源本身完善、高效的前提下,才能切實(shí)體現(xiàn)其優(yōu)越性。只有在保證數(shù)據(jù)資源合理利用的前提下，同時(shí)保障用戶(hù)使用數(shù)據(jù)權(quán)限的私密性、合法性，才能形成良性的數(shù)據(jù)處理機(jī)制和網(wǎng)絡(luò)監(jiān)管機(jī)制。

算法黑箱的普及也催生出了借助網(wǎng)絡(luò)、大數(shù)據(jù)技術(shù)和智能算法而形成的全新權(quán)力形態(tài),即算法權(quán)力。算法權(quán)力能夠短期內(nèi)提升企業(yè)效能、社會(huì)福利、政府管理效率等,但從長(zhǎng)遠(yuǎn)來(lái)看算法權(quán)力的滲入對(duì)合法權(quán)利體系來(lái)說(shuō)必然造成權(quán)力濫用。并且，算法內(nèi)嵌了設(shè)計(jì)者自身的價(jià)值取向，由此可能會(huì)產(chǎn)生算法歧視。如有的專(zhuān)家所說(shuō),算法的本質(zhì)是“以數(shù)學(xué)方式或者計(jì)算機(jī)代碼表達(dá)意見(jiàn)，包括其設(shè)計(jì)、目的、成功標(biāo)準(zhǔn)、數(shù)據(jù)使用等都是設(shè)計(jì)者、開(kāi)發(fā)者的主觀(guān)選擇，設(shè)計(jì)者和開(kāi)發(fā)者可能將自己所抱有的偏見(jiàn)嵌入算法系統(tǒng)”。[3]程序員在編寫(xiě)算法的時(shí)候，往往從自身角度出發(fā)，依靠自己的專(zhuān)業(yè)知識(shí)和價(jià)值評(píng)判標(biāo)準(zhǔn)構(gòu)建邏輯框架，編寫(xiě)代碼。久而久之便把對(duì)自身不熟悉的領(lǐng)域排斥在了思考范疇之外。

面對(duì)大數(shù)據(jù)算法這一新興主體所造成的倫理問(wèn)題，需要同步更新法律規(guī)制手段。注重用戶(hù)隱私保護(hù)，消除數(shù)據(jù)偏見(jiàn)問(wèn)題和歧視問(wèn)題，同時(shí)提升監(jiān)管措施和提升算法透明度，從而確保大數(shù)據(jù)算法的運(yùn)用符合公眾利益。

四、大數(shù)據(jù)算法倫理問(wèn)題法律規(guī)制建議

(一)政府主導(dǎo)開(kāi)放數(shù)據(jù)共享

必須破除數(shù)據(jù)信息孤島,并大力推動(dòng)全社會(huì)的數(shù)據(jù)開(kāi)放與資源共享,其中以政府?dāng)?shù)據(jù)開(kāi)放更為關(guān)鍵。這樣做的原因在于，一是真正核心的數(shù)據(jù)絕大部分掌握在政府部門(mén),二是政府的主導(dǎo)可以更好地促進(jìn)大數(shù)據(jù)全面、有序、規(guī)范的共享?？梢哉f(shuō),如果沒(méi)有政府介入和整合,就沒(méi)有真正的大數(shù)據(jù)。所以,需要由政府牽頭,就大數(shù)據(jù)公開(kāi)的收集、傳播、保存、使用和公開(kāi)等各環(huán)節(jié)規(guī)范管理并出臺(tái)立法,明確界定了政府?dāng)?shù)據(jù)公開(kāi)主體、范圍、程序,同時(shí)以《網(wǎng)絡(luò)安全法》《政府信息公開(kāi)條例》等法律為上位法基礎(chǔ),以各省、市自身的具體情況引導(dǎo)實(shí)施,并因地制宜出臺(tái)地方性法規(guī)或規(guī)章,為大數(shù)據(jù)公開(kāi)主客體各方的權(quán)利義務(wù)等規(guī)定提供了法律依據(jù)。既要促進(jìn)數(shù)據(jù)資源最大化利用,又要保障公眾的知情權(quán)、行政參與權(quán)和監(jiān)督權(quán)。在知情權(quán)保障的基礎(chǔ)上實(shí)現(xiàn)數(shù)據(jù)資源的充分開(kāi)發(fā)利用。

(二)完善算法行業(yè)的倫理規(guī)范

大數(shù)據(jù)算法的倫理規(guī)范完善的首要要求就是保證客觀(guān)性。在算法設(shè)計(jì)開(kāi)發(fā)初期,應(yīng)確保其使用不違背算法設(shè)計(jì)者和開(kāi)發(fā)者的本意,不違背法律規(guī)定及道德準(zhǔn)則要求。當(dāng)算法投入商業(yè)使用時(shí),將根據(jù)其原先設(shè)定的用途合理使用,同時(shí)人類(lèi)社會(huì)的法治精神與美德內(nèi)嵌于算法行業(yè)的商業(yè)倫理準(zhǔn)則。同時(shí)加大在教育與培訓(xùn)方面投資,以提高社會(huì)對(duì)大數(shù)據(jù)算法的認(rèn)知度。加強(qiáng)對(duì)從業(yè)人員的教育培訓(xùn)，使其了解大數(shù)據(jù)算法的運(yùn)用應(yīng)當(dāng)遵循哪些規(guī)范和準(zhǔn)則；各高等院校可多注重專(zhuān)業(yè)交叉教學(xué),有關(guān)政府組織及公司也可邀請(qǐng)專(zhuān)業(yè)人才對(duì)成員作有關(guān)技術(shù)培訓(xùn)。引導(dǎo)公民積極參與監(jiān)督,以適應(yīng)未來(lái)的高速增長(zhǎng),提高公眾的認(rèn)知能力。

(三)強(qiáng)化大數(shù)據(jù)安全和隱私保護(hù)機(jī)制

完善數(shù)據(jù)立法,進(jìn)一步增強(qiáng)立法對(duì)數(shù)據(jù)主權(quán)領(lǐng)域的支撐保護(hù)功能。如歐盟《通用數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation，GDPR)專(zhuān)門(mén)立足于保護(hù)個(gè)人數(shù)據(jù)隱私?！吨腥A人民共和國(guó)數(shù)據(jù)安全法》對(duì)盜竊和用其他非法手段獲取數(shù)據(jù)的行為作出了限制,同時(shí)擴(kuò)大了向境外提供數(shù)據(jù)的監(jiān)管適用情形；《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》也明確了對(duì)數(shù)據(jù)的使用收集要克制,明確哪些數(shù)據(jù)是必須要收集的,如果不能收集,就要明確相應(yīng)的制度對(duì)其進(jìn)行保護(hù)。

同時(shí)，根據(jù)算法的使用目的來(lái)設(shè)定法律規(guī)制。根據(jù)商業(yè)、教學(xué)、研發(fā)、個(gè)人使用等目的，對(duì)數(shù)據(jù)安全和隱私的保護(hù)進(jìn)行區(qū)別保護(hù)。如果是出于商務(wù)目的而使用大數(shù)據(jù)算法從事生產(chǎn)、管理活動(dòng)的,就必須要保障信息使用權(quán)人的合法利益,而不能任意損害商業(yè)信息所附帶的著作權(quán)、商業(yè)秘密等利益；企業(yè)個(gè)人或科學(xué)研究機(jī)關(guān)以教學(xué)、研發(fā)為目的對(duì)數(shù)據(jù)加以擷取、數(shù)據(jù)分析的,政府部門(mén)或地方司法機(jī)構(gòu)以行政管理或嚴(yán)厲打擊違法活動(dòng)為目的對(duì)數(shù)據(jù)加以獲取和分析的,則必須對(duì)信息使用權(quán)人加以一定的約束。當(dāng)然,這些約束都是相對(duì)的,也不是指有關(guān)機(jī)構(gòu)和社會(huì)個(gè)人都可任意損害數(shù)據(jù)使用權(quán)人的合法權(quán)益。

(四)建立寬柔并濟(jì)的算法審計(jì)制度

算法水平的高低影響國(guó)家綜合實(shí)力，因此,從國(guó)家利益來(lái)看,國(guó)家算法權(quán)力只能增強(qiáng)不能削弱。針對(duì)新型的科學(xué)技術(shù)，應(yīng)當(dāng)采用包容審慎的態(tài)度。明確設(shè)立算法審計(jì)制度的目的在于保證大數(shù)據(jù)算法的準(zhǔn)確性、公正性，同時(shí)兼顧數(shù)據(jù)安全和個(gè)人隱私。對(duì)于尚處于創(chuàng)新發(fā)展中的算法應(yīng)用,可以采用事中和事后審查兼用的模式，對(duì)于事前無(wú)法準(zhǔn)確判斷其影響的大數(shù)據(jù)算法，可以在不危及公共利益和個(gè)體基本權(quán)利的前提下，考慮設(shè)置一定的“觀(guān)察期”。同時(shí)建立算法審計(jì)制度,明確具體的審計(jì)標(biāo)準(zhǔn)，確保審計(jì)人員具有專(zhuān)業(yè)知識(shí)技能，建立明確的算法設(shè)計(jì)者、控制人監(jiān)管機(jī)制和針對(duì)算法失靈、算法崩潰的應(yīng)急預(yù)案機(jī)制。靜態(tài)的制度設(shè)計(jì)會(huì)產(chǎn)生監(jiān)督系統(tǒng)不到位的情形,所以政府必須創(chuàng)新制度設(shè)計(jì),并動(dòng)態(tài)地調(diào)整監(jiān)督系統(tǒng),才可以搭建由政府領(lǐng)導(dǎo)的大數(shù)據(jù)分析審計(jì)與監(jiān)督平臺(tái),對(duì)公司進(jìn)行真正的動(dòng)態(tài)監(jiān)督。

(五)建立算法違規(guī)問(wèn)責(zé)制度

利用“算法問(wèn)責(zé)”控制算法歧視和新技術(shù)對(duì)隱私的侵襲。傳統(tǒng)的決策問(wèn)責(zé)遵循“誰(shuí)決策誰(shuí)負(fù)責(zé)”“誰(shuí)主管誰(shuí)負(fù)責(zé)”,雖然大數(shù)據(jù)算法決策是機(jī)器做出的決策,也要從“誰(shuí)設(shè)計(jì)誰(shuí)負(fù)責(zé)”和“誰(shuí)主管誰(shuí)負(fù)責(zé)”的方式來(lái)溯責(zé)。在《算法問(wèn)責(zé)法(草案)》、歐盟《通用數(shù)據(jù)保護(hù)條例》《中華人民共和國(guó)個(gè)人信息保護(hù)法(草案)》等的系統(tǒng)問(wèn)責(zé)制度中,均有規(guī)定計(jì)算問(wèn)責(zé)制度的有關(guān)條款。在法律執(zhí)行方面，可以通過(guò)明確違反算法倫理的問(wèn)責(zé)對(duì)象、制定包含調(diào)查違規(guī)行為、證明問(wèn)責(zé)事實(shí)、決定問(wèn)責(zé)措施等步驟的問(wèn)責(zé)程序，將問(wèn)責(zé)與處罰制度相銜接，確保算法問(wèn)責(zé)能夠得到合理合規(guī)的執(zhí)行。在行政手段方面，[4]可通過(guò)區(qū)分職責(zé)層級(jí),分別明確計(jì)算設(shè)計(jì)者與系統(tǒng)之間的職責(zé)關(guān)系,并賦予計(jì)算設(shè)計(jì)者程序解釋權(quán),使數(shù)據(jù)處理者遵循透明度原則，對(duì)處理過(guò)程和結(jié)果進(jìn)行充分透明化，以確保數(shù)據(jù)使用的合法性和公正性。對(duì)算法解釋有助于理清算法行為背后存在的技術(shù)問(wèn)題與判斷失誤,除便于進(jìn)行系統(tǒng)問(wèn)責(zé)的制定以外,也可促進(jìn)計(jì)算機(jī)決策流程的完善,同時(shí)也是算法透明的體現(xiàn)。

結(jié)語(yǔ)

數(shù)字經(jīng)濟(jì)時(shí)代充滿(mǎn)著新的機(jī)遇和挑戰(zhàn),大數(shù)據(jù)算法決策將會(huì)獲得更加廣闊的應(yīng)用與推廣,并潛移默化地改變著人們的生活，因此,我們需要對(duì)大數(shù)據(jù)算法的保護(hù)和規(guī)制進(jìn)行前瞻性思考。道德準(zhǔn)則的執(zhí)行往往受人的主觀(guān)性影響，技術(shù)措施的效果受技術(shù)水平和技術(shù)應(yīng)用情況的限制，因此，在實(shí)際應(yīng)用中，最好的做法是綜合采用法律法規(guī)、道德準(zhǔn)則和技術(shù)措施，以提高數(shù)據(jù)處理的安全性和公正性。通過(guò)完善立法,提高法律倫理水準(zhǔn),通過(guò)強(qiáng)化行政介入來(lái)達(dá)到政府間接調(diào)控監(jiān)管市場(chǎng)的目的,從總體上提高了經(jīng)濟(jì)質(zhì)量與社會(huì)發(fā)展效果,并達(dá)到了經(jīng)濟(jì)社會(huì)發(fā)展、市場(chǎng)與消費(fèi)者維護(hù)三者間的動(dòng)態(tài)均衡。在此基礎(chǔ)上,希望我國(guó)能夠積極推動(dòng)社會(huì)各方的大數(shù)據(jù)管理合作,促進(jìn)社會(huì)和諧發(fā)展注入活力和動(dòng)能。