黃曉偉 天津大學(xué)科學(xué)技術(shù)與社會(huì)研究中心教師

隨著近年來(lái)人工智能安全與倫理問(wèn)題的逐漸暴露，全球新一輪人工智能政策部署的重點(diǎn)轉(zhuǎn)向重新平衡創(chuàng)新與監(jiān)管之間的關(guān)系，更加注重通過(guò)協(xié)同治理實(shí)現(xiàn)人工智能的健康發(fā)展。2019年G20大阪峰會(huì)前夕成為各國(guó)和地區(qū)發(fā)布人工智能治理政策原則、參與人工智能風(fēng)險(xiǎn)全球治理的一個(gè)窗口期，諸如日本的 《以人類(lèi)為中心的人工智能社會(huì)原則》 (2018年12月)、歐盟的 《人工智能道德準(zhǔn)則》 (2019年4月)、 《OECD人工智能原則》 (2019年5月)，以及 《G20人工智能原則》 (2019年6月)等。2019年6月17日，我國(guó)也發(fā)布了 《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理的八項(xiàng)原則倡議。

縱觀上述各個(gè)政策文本，如何治理數(shù)字化經(jīng)濟(jì)發(fā)展中的互聯(lián)網(wǎng)平臺(tái)壟斷問(wèn)題，已經(jīng)成為近期人工智能風(fēng)險(xiǎn)全球治理的一大難題。筆者從風(fēng)險(xiǎn)社會(huì)理論出發(fā)，嘗試剖析互聯(lián)網(wǎng)平臺(tái)壟斷問(wèn)題形成的根源，并探討現(xiàn)階段治理這一社會(huì)問(wèn)題的務(wù)實(shí)思路。

1 作為社會(huì)問(wèn)題的互聯(lián)網(wǎng)平臺(tái)壟斷

作為支撐數(shù)字化經(jīng)濟(jì)的 “基礎(chǔ)設(shè)施”，互聯(lián)網(wǎng)平臺(tái) (以下簡(jiǎn)稱 “平臺(tái)”)通常是指那些促進(jìn)兩個(gè)或兩個(gè)以上的群體之間的價(jià)值交換趨于便利化的中介。

從技術(shù)層面看，平臺(tái)的技術(shù)基礎(chǔ)是海量數(shù)據(jù)與智能算法。平臺(tái)的產(chǎn)生受益于21世紀(jì)以來(lái)人工智能的突破性進(jìn)展，其技術(shù)創(chuàng)新的基本流程是 “數(shù)據(jù)采取—數(shù)據(jù)標(biāo)注—機(jī)器學(xué)習(xí)—算法模型—識(shí)別測(cè)試—場(chǎng)景應(yīng)用”。其中，海量數(shù)據(jù)是一種服務(wù)于平臺(tái)的原材料，智能算法是海量數(shù)據(jù)的提取裝置，據(jù)此構(gòu)建的技術(shù)創(chuàng)新生態(tài)系統(tǒng)產(chǎn)生了強(qiáng)大的經(jīng)濟(jì)威力。

從經(jīng)濟(jì)層面看， “網(wǎng)絡(luò)效應(yīng)”使得平臺(tái)企業(yè)具有壟斷的自然傾向。平臺(tái)依賴于 “網(wǎng)絡(luò)效應(yīng)”，即特定平臺(tái)上的用戶越多，平臺(tái)對(duì)其他人而言就越有價(jià)值。在經(jīng)濟(jì)學(xué)意義上，平臺(tái)憑借其數(shù)據(jù)集聚優(yōu)勢(shì)，創(chuàng)造了一個(gè) “雙邊市場(chǎng)”：一方面對(duì)用戶個(gè)人免費(fèi)，用免費(fèi)服務(wù)換取用戶的個(gè)人數(shù)據(jù)，僅需要較低的獲客成本；另一方面對(duì)其他公司收費(fèi)，平臺(tái)迅速將用戶數(shù)據(jù)轉(zhuǎn)售給另一類(lèi)客戶用于價(jià)值開(kāi)發(fā)，由此創(chuàng)造出一種不同于傳統(tǒng) (管道型)線性價(jià)值鏈的新型 (平臺(tái)型)商業(yè)模式[1]。但是，多個(gè)平臺(tái)間競(jìng)爭(zhēng)的結(jié)果往往是走向 “贏者通吃” “一家獨(dú)大”的平臺(tái)壟斷局面，而平臺(tái)壟斷者則依靠黑箱化的智能算法成為 “數(shù)據(jù)寡頭”。這里的 “黑箱”隱喻折射出平臺(tái)競(jìng)爭(zhēng)時(shí)代的一個(gè)悖論：無(wú)論是從寬度還是廣度而言，數(shù)據(jù)的延展速度都非常驚人。然而，有些與外行公眾具有利害關(guān)系、能夠產(chǎn)生重要影響的信息，卻只有那些理解算法模型的 “局內(nèi)人”才能獲得[2]。

基于上述分析，平臺(tái)壟斷就不能僅僅是技術(shù)問(wèn)題，或者經(jīng)濟(jì)問(wèn)題。那么，平臺(tái)壟斷在何種意義上成為社會(huì)問(wèn)題，并需要社會(huì)范圍的集體行動(dòng)加以解決呢？從風(fēng)險(xiǎn)社會(huì)理論分析，一旦公眾不幸暴露于平臺(tái)壟斷導(dǎo)致的風(fēng)險(xiǎn)之中，算法處理數(shù)據(jù)過(guò)程的不透明性可能導(dǎo)致責(zé)任主體模糊、問(wèn)責(zé)機(jī)制缺位等 “有組織的不負(fù)責(zé)任”問(wèn)題[3]，進(jìn)而加劇公眾對(duì)平臺(tái)方、監(jiān)管方的不信任。因此，在一定程度上，平臺(tái)壟斷問(wèn)題成為一大社會(huì)問(wèn)題，意味著 “黑箱化風(fēng)險(xiǎn)社會(huì)”的來(lái)臨。智能算法將更加廣泛但隱秘地參與到人類(lèi)的決策過(guò)程中去，在推動(dòng)熟人社會(huì)加速轉(zhuǎn)向陌生人社會(huì)的同時(shí)，也助長(zhǎng)了社會(huì)運(yùn)行與治理的不透明性，侵蝕著公眾對(duì)社會(huì)的信任基礎(chǔ)。

2 平臺(tái)壟斷問(wèn)題的算法共謀根源

當(dāng)前平臺(tái)壟斷問(wèn)題產(chǎn)生的根源何在？這需要從平臺(tái)的技術(shù)基礎(chǔ)中去探究。在市場(chǎng)經(jīng)濟(jì)條件下，市場(chǎng)競(jìng)爭(zhēng)這只 “看不見(jiàn)的手”在資源配置過(guò)程中起著決定性作用。然而，當(dāng)市場(chǎng)經(jīng)濟(jì)進(jìn)入數(shù)字化時(shí)代，消費(fèi)者日常生活的各個(gè)方面都可以轉(zhuǎn)化為海量的數(shù)據(jù)資源，智能算法則貫穿了數(shù)字經(jīng)濟(jì)的各個(gè)要素和全流程。因此，市場(chǎng)競(jìng)爭(zhēng)的作用正在悄悄地被一只 “數(shù)字化的手”所取代，而后者顯然是一種受控于人類(lèi)的技術(shù)力量。正是在它的作用下，市場(chǎng)上出現(xiàn)了越來(lái)越多的反競(jìng)爭(zhēng)性平臺(tái)壟斷行為，而這往往是由 “算法共謀” (Algorithmic Collusion)導(dǎo)致的。

共謀是競(jìng)爭(zhēng)對(duì)手之間共同實(shí)施的、可能損害消費(fèi)者利益的團(tuán)體利潤(rùn)最大化策略行為。在數(shù)字化時(shí)代，算法共謀是將以黑箱化為典型特征的智能算法作為促進(jìn)共謀的技術(shù)因素，從而導(dǎo)致更為隱蔽的新型共謀。根據(jù)智能算法所發(fā)揮的作用以及導(dǎo)致的不透明程度，英國(guó)學(xué)者阿里爾·扎拉奇 (Ariel Ezrachi)等區(qū)分出四種算法共謀機(jī)制：信使型共謀，軸輻型共謀、預(yù)測(cè)型共謀、自主型共謀[4]。

(1)信使型共謀的隱蔽程度較低，是把智能算法用來(lái)執(zhí)行人類(lèi)共謀限制平臺(tái)競(jìng)爭(zhēng)的意圖，其角色類(lèi)似人類(lèi)的 “信使”。例如民航公司之間可能利用其電子票務(wù)系統(tǒng)傳遞價(jià)格信息，彼此暗示漲價(jià)。這種利用信息技術(shù)手段強(qiáng)化現(xiàn)有共謀效果的方式是人類(lèi)意志在技術(shù)層面的延伸，智能算法不過(guò)是輔助人類(lèi)共謀的工具，隱含了一種工具論的算法觀。

(2)軸輻型共謀是指同行業(yè)的多個(gè)市場(chǎng)對(duì)手 (輻)使用了同一套動(dòng)態(tài)定價(jià)算法 (軸)，該算法給出的價(jià)格將成為行業(yè)內(nèi)賣(mài)家公認(rèn)的市場(chǎng)價(jià)格。其中，定價(jià)算法的開(kāi)發(fā)者作為一個(gè)樞紐中心，其任務(wù)是策劃全行業(yè)范圍內(nèi)的共謀，從而實(shí)現(xiàn)最高定價(jià)。例如優(yōu)步、滴滴等網(wǎng)約車(chē)平臺(tái)運(yùn)用獨(dú)家的定價(jià)算法決定了每一筆出租車(chē)服務(wù)價(jià)格，形成了事實(shí)上的 “算法壟斷”。

(3)預(yù)測(cè)型共謀更為復(fù)雜，定價(jià)算法充當(dāng)了企業(yè)高管的代理人角色，持續(xù)監(jiān)控市場(chǎng)價(jià)格的變化，并根據(jù)競(jìng)爭(zhēng)對(duì)手價(jià)格的變化與市場(chǎng)數(shù)據(jù)的更新不斷調(diào)整自己的定價(jià)。例如高頻交易公司為了在數(shù)據(jù)傳輸速度上領(lǐng)先對(duì)手極小的時(shí)間差，不惜投入巨資用于技術(shù)研發(fā)，以捕捉外匯市場(chǎng)中的價(jià)格差從而攫取暴利，可能引發(fā) “閃電崩盤(pán)”的系統(tǒng)性風(fēng)險(xiǎn)。由于全行業(yè)采用相似的定價(jià)算法，企業(yè)行為之間相互依賴，更容易產(chǎn)生平臺(tái)壟斷。

(4)自主型共謀最為棘手，在機(jī)器學(xué)習(xí)過(guò)程中，算法自發(fā)找到了優(yōu)化利潤(rùn)的途徑。信息技術(shù)手段好比開(kāi)啟了 “上帝視角”，能夠獲取全局視野的商業(yè)行動(dòng)。當(dāng)智能算法的功能不再局限于定價(jià)并進(jìn)入更多市場(chǎng)時(shí)，消費(fèi)者甚至可能察覺(jué)不到市場(chǎng)中的價(jià)格操縱力量。這種共謀形式預(yù)設(shè)了自主論的算法觀，盡管擁有自主學(xué)習(xí)與決策能力的復(fù)雜算法尚處在思想實(shí)驗(yàn)階段，但其潛在危害不應(yīng)該被低估。

盡管算法在上述共謀機(jī)制中發(fā)揮的作用有所不同，但需要反思隱含其中的工具論或自主論算法觀，更加對(duì)稱性地看待人類(lèi)與算法在決策過(guò)程中的角色與責(zé)任。筆者認(rèn)為，在行動(dòng)者網(wǎng)絡(luò)理論的視域中，算法共謀風(fēng)險(xiǎn)是人類(lèi)行動(dòng)者與非人類(lèi)行動(dòng)者相互作用的產(chǎn)物。人類(lèi)已經(jīng)被納入一個(gè)受算法驅(qū)動(dòng)的復(fù)雜網(wǎng)絡(luò)中，算法作為非人類(lèi)行動(dòng)者參與到人類(lèi)的決策過(guò)程中[5]。算法為人類(lèi)行為賦能，但受所輸入數(shù)據(jù)的質(zhì)量以及算法模型本身的限制，內(nèi)在地嵌入了人類(lèi)正面或負(fù)面的價(jià)值觀，并能動(dòng)地制造著各種風(fēng)險(xiǎn)后果。

3 平臺(tái)壟斷問(wèn)題的協(xié)同治理思路

工業(yè)化時(shí)代的風(fēng)險(xiǎn)治理主要依賴屬地化管理的條塊分割體制，但數(shù)字化時(shí)代的風(fēng)險(xiǎn)生成在時(shí)間和空間上往往是分離的， “有組織的不負(fù)責(zé)任”現(xiàn)象有增無(wú)減。特別是，如今人工智能技術(shù)迭代升級(jí)的速度大大超過(guò)了現(xiàn)有治理主體的處理能力或現(xiàn)有治理規(guī)則的適用范圍，導(dǎo)致人工智能技術(shù)在一定時(shí)期內(nèi)處于無(wú)約束發(fā)展的局面。

平臺(tái)壟斷問(wèn)題是人工智能技術(shù)發(fā)展到當(dāng)前階段引發(fā)的一大社會(huì)問(wèn)題。盡管我國(guó)政府對(duì)數(shù)字化經(jīng)濟(jì)總體上采取 “包容審慎”的監(jiān)管原則，但這并不意味著對(duì)互聯(lián)網(wǎng)平臺(tái)反競(jìng)爭(zhēng)性的市場(chǎng)行為放任不管，或者一味地放松監(jiān)管。在人工智能治理體系尚不完善的現(xiàn)階段，多只 “看得見(jiàn)的手”之間的協(xié)同治理是破解平臺(tái)壟斷問(wèn)題的務(wù)實(shí)思路，以多元參與的透明化舉措遏制平臺(tái)無(wú)序發(fā)展導(dǎo)致的黑箱化趨勢(shì)。

首先，數(shù)據(jù)壟斷是協(xié)同治理的重點(diǎn)。海量數(shù)據(jù)是數(shù)字化時(shí)代的戰(zhàn)略性資源，是平臺(tái)形成信息優(yōu)勢(shì)地位的先決條件。監(jiān)管部門(mén)應(yīng)該深入調(diào)研不同行業(yè)的市場(chǎng)集中度情況，不僅要考察獨(dú)角獸企業(yè)的營(yíng)業(yè)額，也考察其依賴數(shù)據(jù)擴(kuò)張的交易額情況。要增強(qiáng)用戶對(duì)個(gè)人數(shù)據(jù)的控制范圍，尤其警惕那種旨在實(shí)現(xiàn)平臺(tái)壟斷的數(shù)據(jù)驅(qū)動(dòng)型并購(gòu)行為，防止平臺(tái)濫用其市場(chǎng)支配地位，在未經(jīng)知情同意的情況下就收集用戶數(shù)據(jù)。國(guó)家要推動(dòng)公共數(shù)據(jù)的開(kāi)放共享和基礎(chǔ)數(shù)據(jù)的互聯(lián)互通，減少數(shù)據(jù)孤島和數(shù)據(jù)壁壘。

其次，算法壟斷是協(xié)同治理的難點(diǎn)。定價(jià)算法是平臺(tái)得以實(shí)施共謀的關(guān)鍵技術(shù)手段，由算法驅(qū)動(dòng)的市場(chǎng)策略使一些核心平臺(tái)企業(yè)成為最大受益者。誠(chéng)然，算法壟斷的治理面臨不少技術(shù)上和制度上的現(xiàn)實(shí)阻礙，但監(jiān)管機(jī)構(gòu)應(yīng)該主動(dòng)探索對(duì)平臺(tái)的事前預(yù)防性監(jiān)管試點(diǎn)，加強(qiáng)對(duì)平臺(tái)定價(jià)算法的備案與審查，引入用于監(jiān)測(cè)平臺(tái)價(jià)格波動(dòng)的人工智能技術(shù)，逐步改變問(wèn)題倒逼式的事后監(jiān)管局面。同樣重要的是平臺(tái)企業(yè)自身的責(zé)任建設(shè)，平臺(tái)企業(yè)在保護(hù)自身算法模型知識(shí)產(chǎn)權(quán)的條件下，應(yīng)該向相關(guān)監(jiān)管機(jī)構(gòu)和公眾進(jìn)行必要的信息披露。

最后，話語(yǔ)壟斷是協(xié)同治理的盲點(diǎn)。從政策落實(shí)角度看，各國(guó)人工智能治理原則普遍缺少關(guān)于公眾參與機(jī)制的設(shè)計(jì)。客觀地講，當(dāng)前的人工智能風(fēng)險(xiǎn)治理原則還只是精英共識(shí)，在執(zhí)行過(guò)程中甚至有可能淪為技術(shù)精英的專(zhuān)家話語(yǔ)壟斷。筆者認(rèn)為， 《新一代人工智能治理原則》下一步的重點(diǎn)應(yīng)該是推動(dòng)行業(yè)自律和公眾參與，使得精英共識(shí)邁向社會(huì)共識(shí)。在平臺(tái)治理問(wèn)題上，人工智能行業(yè)協(xié)會(huì)、平臺(tái)企業(yè)應(yīng)該將公眾利益優(yōu)先、負(fù)責(zé)任創(chuàng)新等原則進(jìn)一步細(xì)化為從業(yè)人員可操作的行為規(guī)則；學(xué)術(shù)界應(yīng)該暢通自然科學(xué)與社會(huì)科學(xué)間的對(duì)話渠道，深化對(duì)人工智能相關(guān)法律、倫理和社會(huì)問(wèn)題的研究，持續(xù)開(kāi)展面向公眾的風(fēng)險(xiǎn)溝通；公眾應(yīng)主動(dòng)提升 “數(shù)字素養(yǎng)”，樹(shù)立人機(jī)協(xié)同共生的前瞻意識(shí)，并在風(fēng)險(xiǎn)面前保持合理的懷疑精神。

綜上所述，互聯(lián)網(wǎng)平臺(tái)作為支撐數(shù)字化經(jīng)濟(jì)的關(guān)鍵基礎(chǔ)設(shè)施，在廣泛增進(jìn)公眾利益和社會(huì)福祉的同時(shí)，在一定程度上也預(yù)示著 “黑箱化風(fēng)險(xiǎn)社會(huì)”的來(lái)臨。海量數(shù)據(jù)與智能算法相結(jié)合的威力使得市場(chǎng)競(jìng)爭(zhēng)這只 “看不見(jiàn)的手”逐步為 “數(shù)字化的手”所取代，較為隱秘的新型算法共謀機(jī)制將導(dǎo)致平臺(tái)壟斷現(xiàn)象向更多行業(yè)擴(kuò)散。由于目前人工智能風(fēng)險(xiǎn)的全球治理體系仍不健全，破解平臺(tái)壟斷問(wèn)題的務(wù)實(shí)思路是推動(dòng)政府監(jiān)管、平臺(tái)有為、行業(yè)自律、學(xué)術(shù)對(duì)話、公眾參與等 “看得見(jiàn)的手”之間的協(xié)同治理。