閆 海 王天依

(遼寧大學(xué) a.法學(xué)院;b.國(guó)家治理與法治研究中心,沈陽 110136)

提要: 成癮性科技形成于注意力經(jīng)濟(jì)背景之下,通過動(dòng)機(jī)、能力、提示的習(xí)慣塑造機(jī)制的運(yùn)用與算法科技的加持,幫助企業(yè)獲取用戶注意力、穩(wěn)固用戶群體、實(shí)現(xiàn)經(jīng)濟(jì)增長(zhǎng),但其隱蔽、深度控制用戶的特性應(yīng)當(dāng)受到法律規(guī)制的關(guān)注。成癮性科技運(yùn)用成癮模型與算法誘導(dǎo)用戶成癮,會(huì)產(chǎn)生過度使用風(fēng)險(xiǎn)、個(gè)人信息濫用風(fēng)險(xiǎn)、科技倫理價(jià)值風(fēng)險(xiǎn),具有風(fēng)險(xiǎn)影響的普遍性、形式的隱蔽性、趨勢(shì)的上升性、對(duì)象的不平等性等特征。我國(guó)針對(duì)成癮性科技應(yīng)當(dāng)采取多層級(jí)化的規(guī)制策略構(gòu)建成癮性科技風(fēng)險(xiǎn)法律規(guī)制體系,建立以用戶防御機(jī)制為核心的嵌套式元規(guī)制體系,通過與硬件廠商、應(yīng)用商店、戒癮軟件合作規(guī)制以提供加強(qiáng)和冗余的用戶保護(hù),并對(duì)教育型助推、經(jīng)濟(jì)型規(guī)制、科技倫理根源治理等外部規(guī)制工具進(jìn)行創(chuàng)新改良,形成融貫元規(guī)制-合作規(guī)制-外部規(guī)制的三重規(guī)制體系。通過對(duì)成癮性科技風(fēng)險(xiǎn)的法律規(guī)制,實(shí)現(xiàn)家長(zhǎng)主義、自由意志、商業(yè)自由三者之間的微妙平衡,使用戶在享受科技便利的同時(shí)免受成癮性科技風(fēng)險(xiǎn)的侵?jǐn)_、危害。

“屏幕那邊有數(shù)千人在努力工作,為的就是破壞你的自律”[1]3——成癮性科技(Habit-Forming Technology),指有意識(shí)地運(yùn)用基于行為經(jīng)濟(jì)學(xué)構(gòu)建的成癮模型與算法,誘導(dǎo)用戶形成心理甚至生理性依賴的應(yīng)用軟件。成癮性科技產(chǎn)生于注意力經(jīng)濟(jì)背景之下,信息曾經(jīng)是稀缺資源,但進(jìn)入后工業(yè)化特別是高度信息化社會(huì)后,數(shù)字信息豐富且漫灌[2],信息不再稀缺而是過載,人類處理數(shù)據(jù)信息的行為即注意力反而成為稀缺品[3]。人們的時(shí)間和精力都是有限的,諸如工作會(huì)消耗精力、休息會(huì)占用時(shí)間等等,能投入媒介上的時(shí)間和精力更為有限。因此,凝聚了受眾的時(shí)間和精力的注意力就顯得十分重要,媒介贏得的注意力越多,越能帶來較高的經(jīng)濟(jì)收益。成癮性科技推動(dòng)用戶養(yǎng)成定期、長(zhǎng)期、自我強(qiáng)化的使用習(xí)慣,幫助企業(yè)贏得用戶的穩(wěn)定使用時(shí)間、形成穩(wěn)固用戶群體,使企業(yè)更有可能取得注意力的市場(chǎng)競(jìng)爭(zhēng)優(yōu)勢(shì),因此備受青睞,近年來發(fā)展迅速。但是,成癮性科技深度控制用戶的精神世界,改變用戶行為模式,并且導(dǎo)致用戶合法權(quán)益受損的情況也引發(fā)關(guān)注。2022年《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第8條規(guī)定,“算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型”,標(biāo)志我國(guó)認(rèn)識(shí)到成癮性科技及其風(fēng)險(xiǎn)的存在并展開法律規(guī)制。目前,成癮性科技利用日漸成熟的成癮模型,依托于數(shù)據(jù)—算法—平臺(tái)構(gòu)成的“三維體系”,被隱蔽而廣泛地應(yīng)用于社交媒體、購(gòu)物、游戲休閑、短視頻、直播視頻等眾多互聯(lián)網(wǎng)領(lǐng)域,僅從算法倫理單一維度出發(fā)進(jìn)行規(guī)制顯然力有不逮,加之規(guī)制機(jī)關(guān)與企業(yè)之間的技術(shù)鴻溝致使條文虛置,迄今仍無適用案例出現(xiàn)?；ヂ?lián)網(wǎng)基礎(chǔ)設(shè)施的建立以及智能移動(dòng)客戶端的普及使成癮性科技的受眾空前廣泛,成癮性科技帶來的風(fēng)險(xiǎn)亦隨之成倍增長(zhǎng),因此對(duì)成癮性科技風(fēng)險(xiǎn)的法律規(guī)制應(yīng)當(dāng)進(jìn)行維度擴(kuò)展,增強(qiáng)相關(guān)主體的規(guī)制參與度,探索新的規(guī)制進(jìn)路,革新規(guī)制工具。

一、成癮性科技的習(xí)慣塑造機(jī)制

成癮性科技的本質(zhì)在于有目的地植入了成癮模型。成癮模型也被稱為“黑暗模式”,亞當(dāng)·奧爾特認(rèn)為成癮模型由“誘人的目標(biāo)”“不可抗拒的積極反饋”“毫不費(fèi)力的進(jìn)步”“逐漸升級(jí)的挑戰(zhàn)”“未完成的緊張感”“令人癡迷的社會(huì)活動(dòng)”六大要素組成[1]64-163;尼爾·埃亞爾則提出“觸發(fā)—行動(dòng)—多變的酬賞—投入”四階段模型[4]27-121。這些雖有助于理解成癮模型但未觸及根本,難以切實(shí)認(rèn)識(shí)成癮性科技,更無法為法律規(guī)制提供有效指引。我們以行為經(jīng)濟(jì)學(xué)視角,對(duì)成癮模型予以結(jié)構(gòu)、原理的解析,達(dá)成對(duì)成癮性科技的正確認(rèn)知,為法律規(guī)制的構(gòu)建奠定理論基礎(chǔ)。

(一)習(xí)慣塑造機(jī)制的成癮模型

為幫助人們塑造良好的生活習(xí)慣、扭轉(zhuǎn)困境,福格基于行為科學(xué)提出“福格習(xí)慣塑造模型”。模型展現(xiàn)了習(xí)慣塑造的三個(gè)通用要素,即動(dòng)機(jī)、能力、提示,當(dāng)三要素齊備,行為便會(huì)發(fā)生[5]29。福格還以行動(dòng)線圖形式進(jìn)一步總結(jié)和展現(xiàn)習(xí)慣塑造的四原則(見圖1):(1)動(dòng)機(jī)越強(qiáng),行為就越有可能做到;(2)行為越容易就越可能成為習(xí)慣;(3)動(dòng)機(jī)和能力要像隊(duì)友一樣密切配合;(4)沒有提示,任何行為都不會(huì)發(fā)生[5]34-40。申言之,只有在行動(dòng)線之上的行為才能夠被完成,行為①具備了動(dòng)機(jī)和能力,處于行動(dòng)線之上,只要受到提示便能夠做出行為并逐漸養(yǎng)成習(xí)慣;而行為②③④則分別因能力不足、動(dòng)機(jī)不足或能力動(dòng)機(jī)都不足而無法達(dá)成,因此位于行動(dòng)線以下,即使受到提示也無法成為習(xí)慣。

圖1 行動(dòng)線示意圖[5]38

福格習(xí)慣塑造模型的三要素與四原則為成癮性科技奠定了理論基礎(chǔ)。企業(yè)為了在注意力競(jìng)爭(zhēng)中取得優(yōu)勢(shì),運(yùn)用福格習(xí)慣塑造模型結(jié)合互聯(lián)網(wǎng)環(huán)境以及智能移動(dòng)客戶端的特點(diǎn)打造成癮模型:(1)以多變的酬賞和稟賦效應(yīng)塑造用戶的強(qiáng)大穩(wěn)定使用動(dòng)機(jī);(2)運(yùn)用簡(jiǎn)化式助推與默認(rèn)設(shè)置,清除使用阻礙、降低摩擦成本,使用戶更加容易使用;(3)設(shè)置外部型與內(nèi)源型觸發(fā)裝置,頻繁提示用戶進(jìn)行使用。在三者聯(lián)合運(yùn)用下,用戶被養(yǎng)成使用成癮性科技的習(xí)慣,形成生理、心理依賴,直至最終徹底成癮。

(二)以多變酬賞與稟賦效應(yīng)形成動(dòng)機(jī)

依據(jù)福格習(xí)慣塑造模型,動(dòng)機(jī)是復(fù)雜多變、波動(dòng)頻繁的,動(dòng)機(jī)在高漲后往往還會(huì)迅速回落[5]57-60,因此成癮性科技運(yùn)用多變的酬賞和稟賦效應(yīng)為用戶創(chuàng)造穩(wěn)定而強(qiáng)烈的動(dòng)機(jī)。

1.多變酬賞

多變酬賞,指基于可變比率強(qiáng)化原理(Variable Ratio Reinforcement)為用戶設(shè)計(jì)可變獎(jiǎng)勵(lì)計(jì)劃(Variable Reward Schedule),給予用戶隨機(jī)而非固定的酬賞。之所以提供隨機(jī)而非固定的酬賞,是因?yàn)橐粋€(gè)人在隨機(jī)的時(shí)間間隔接受積極的刺激時(shí),多巴胺會(huì)充斥大腦,此過程重復(fù)之后,就會(huì)產(chǎn)生依賴性[6]。盧克·克拉克對(duì)此解釋,“人類大腦的多巴胺系統(tǒng)對(duì)不可預(yù)測(cè)的獎(jiǎng)勵(lì)非常感興趣。當(dāng)存在最大不確定性時(shí),多巴胺細(xì)胞最為活躍,即多巴胺系統(tǒng)對(duì)不確定獎(jiǎng)勵(lì)的反應(yīng)高于可預(yù)測(cè)的相同獎(jiǎng)勵(lì)”[7]。質(zhì)言之,如果獎(jiǎng)勵(lì)總是固定的,用戶能夠預(yù)測(cè)下一步會(huì)發(fā)生什么,反而不會(huì)產(chǎn)生喜出望外的感覺[4]87-88。多變酬賞在早期通過機(jī)制設(shè)計(jì)而實(shí)現(xiàn),例如淘寶、京東將各類商品的優(yōu)惠、秒殺信息混雜在一起,用戶找到價(jià)格優(yōu)惠的心儀商品時(shí)便會(huì)感到興奮,會(huì)重復(fù)刷新查看;又如門戶網(wǎng)站將各類新聞、信息放置在一起,用戶為了能夠找到有趣的信息只能長(zhǎng)時(shí)間在網(wǎng)頁進(jìn)行搜尋。近期的多變酬賞則運(yùn)用算法工具進(jìn)行更精細(xì)的操作,例如社交與拍照應(yīng)用Instagram結(jié)合算法為特定用戶定制可變的獎(jiǎng)勵(lì)時(shí)間表,當(dāng)算法預(yù)測(cè)可以對(duì)用戶產(chǎn)生最大心理影響時(shí),便會(huì)通知用戶已被其他人關(guān)注或點(diǎn)贊,使“獎(jiǎng)勵(lì)”對(duì)用戶產(chǎn)生最大效用[6];又如原神、第五人格、明日方舟等網(wǎng)絡(luò)游戲采取所謂“氪金抽卡”①,用戶通過投入現(xiàn)實(shí)貨幣或虛擬幣以抽取裝備道具獎(jiǎng)勵(lì),抽獎(jiǎng)結(jié)果名為隨機(jī)實(shí)則取決于算法,算法將最大化多巴胺的產(chǎn)生,誘導(dǎo)用戶大量充值。

2.稟賦效應(yīng)

稟賦效應(yīng)是一種廣泛存在于市場(chǎng)交易中的行為偏誤,通常表現(xiàn)為某物品的擁有者較非擁有者對(duì)此物品的評(píng)價(jià)更高[8],其本質(zhì)之處在于效用與占有相關(guān),即以某種方式獲得某物品的人,不管是購(gòu)買抑或獲贈(zèng),對(duì)此物品的估價(jià)一般都要高于旁人的估價(jià)[9],因此擁有者損失已占有的物品時(shí)會(huì)感到極大的、超出理性的痛苦,而為了避免承受心理痛苦,擁有者通常采取能夠規(guī)避損失的策略。成癮性科技會(huì)向用戶授予某種獎(jiǎng)勵(lì),但在用戶中斷或停止使用時(shí)奪走它們,用戶為了規(guī)避“損失”,只能被迫持續(xù)使用。例如淘寶、京東設(shè)計(jì)了日常任務(wù)或連續(xù)簽到任務(wù),達(dá)成一定要求的用戶將獲得獎(jiǎng)勵(lì),若是中斷便會(huì)損失當(dāng)日獎(jiǎng)勵(lì)甚至重新起算。又如,社交媒體應(yīng)用軟件Snapchat設(shè)計(jì)了“連勝圖案”,當(dāng)用戶通過平臺(tái)向其他人發(fā)送圖片時(shí),他們就會(huì)開始積累由條紋構(gòu)成的“連勝圖案”。每連續(xù)分享圖片一天,條紋會(huì)增加一個(gè),但當(dāng)用戶超過24小時(shí)未發(fā)送圖像時(shí),就會(huì)失去所有條紋和標(biāo)志榮譽(yù)的火焰表情符號(hào)。再如,外語學(xué)習(xí)軟件Duolingo不僅采取鼓勵(lì)連續(xù)使用的“打卡”設(shè)計(jì),還設(shè)定“如果用戶錯(cuò)過打卡,他們可以付費(fèi)‘修復(fù)’”[10],加重了損失帶來的痛感。還有消除游戲開心消消樂則設(shè)計(jì)了簽到獲獎(jiǎng)模式,每月簽到使用超過28天的用戶可以免費(fèi)兌換獎(jiǎng)品,“缺席”的天數(shù)需要支付虛擬幣進(jìn)行“補(bǔ)簽”。

(三)以簡(jiǎn)化式助推與默認(rèn)設(shè)置強(qiáng)化能力

簡(jiǎn)化式助推與默認(rèn)設(shè)置幫助成癮性科技掃除了用戶使用成癮性科技過程中的操作障礙與法律障礙,用戶與成癮性科技之間再無任何阻隔,更加容易地使用成癮性科技——也就更容易成癮。

1.簡(jiǎn)化式助推

依據(jù)福格習(xí)慣塑造模型,某種行為欲被塑造為習(xí)慣,則行為難度不宜過高,“讓行為簡(jiǎn)單到隨時(shí)隨地都能做”[5]83。簡(jiǎn)化助推通過減少摩擦成本或改變默認(rèn)選項(xiàng)等方式,使事情變得更加簡(jiǎn)單易行[11],這無疑與成癮性科技降低行為難度的目標(biāo)契合。簡(jiǎn)化式助推在早期被用于提升用戶體驗(yàn),例如Facebook設(shè)計(jì)簡(jiǎn)易的注冊(cè)程序、谷歌清除了頁面的無關(guān)信息與廣告等[4]62-65,但其簡(jiǎn)化的潛在成癮功能隨即被發(fā)現(xiàn):(1)簡(jiǎn)化式助推無形地消除了用戶選擇中途停止使用的機(jī)會(huì),例如無盡卷軸(Infinite Scrolls),當(dāng)用戶接近或到達(dá)網(wǎng)頁已加載內(nèi)容的末尾時(shí),便會(huì)自動(dòng)加載額外內(nèi)容;又如自動(dòng)播放(Autoplay),當(dāng)用戶結(jié)束當(dāng)前播放的音樂或視頻后無需操作直接播放算法推薦內(nèi)容。這兩類設(shè)計(jì)被認(rèn)為將“鼓勵(lì)用戶的過度使用行為”,美國(guó)參議員喬希·霍利(Josh Hawley)發(fā)起的《降低社交媒體成癮技術(shù)法案》(SMART Act)主張對(duì)它們進(jìn)行禁止。(2)對(duì)于簡(jiǎn)化式助推的正反雙向應(yīng)用,正向使注冊(cè)、登錄、充值等行為都更加容易,反向則增加摩擦成本,將限制登錄和查看使用次數(shù)、限制使用時(shí)間、限制自動(dòng)續(xù)期續(xù)費(fèi)、注銷賬號(hào)等功能從主界面中隱藏起來,使用戶難以自主采用防止成癮和沉迷的措施,此類設(shè)計(jì)因其能夠令用戶“易進(jìn)難出”而被稱為“蟑螂屋(Roach Motel)”[12]。(3)簡(jiǎn)化式助推針對(duì)風(fēng)險(xiǎn)告知、知情同意等原本需要用戶深思熟慮的場(chǎng)景,這最具危險(xiǎn)性,導(dǎo)致用戶在“系統(tǒng)1”主導(dǎo)狀態(tài)下倉(cāng)促做出半意識(shí)的、自動(dòng)的決定②,使之同意上傳個(gè)人隱私信息,接受算法推薦,乃至開通長(zhǎng)期自動(dòng)續(xù)費(fèi)的網(wǎng)絡(luò)訂購(gòu)、網(wǎng)絡(luò)充值等付費(fèi)類服務(wù),隱私的放開和持續(xù)的自動(dòng)充值最終都會(huì)加深用戶與成癮性科技的綁定,使用戶更難放棄使用。

2.默認(rèn)設(shè)置

默認(rèn)設(shè)置是一種更為常用的簡(jiǎn)化式助推。默認(rèn)設(shè)置被企業(yè)濫用,設(shè)立于自己有益卻有害用戶的默認(rèn)設(shè)置,例如企業(yè)為用戶提供的個(gè)人隱私設(shè)置、使用數(shù)據(jù)上傳設(shè)置、算法推薦設(shè)置名義上可以自由選擇、定制,但卻刻意使功能界面過于復(fù)雜或隱蔽,這時(shí)用戶便會(huì)選擇那些有害于他們的“壞默認(rèn)(Bad Default)”[6]。美國(guó)消費(fèi)者聯(lián)盟的報(bào)告指出,Facebook運(yùn)用默認(rèn)設(shè)置的方式助推用戶接受預(yù)設(shè)隱私條款,允許廣告商收集和訪問自己的個(gè)人信息,若是用戶接受默認(rèn)隱私設(shè)置,注冊(cè)程序則非常簡(jiǎn)單,但若是用戶選擇在注冊(cè)完成前修改預(yù)設(shè)隱私條款,就會(huì)被引導(dǎo)至一系列復(fù)雜的條款選擇界面,當(dāng)其完成選擇,又會(huì)被引導(dǎo)至新界面——此界面顯示禁止用戶在注冊(cè)完成前修改Facebook提供的預(yù)設(shè)隱私條款[13],如此繁復(fù)又邏輯自相矛盾的流程,最終將迫使用戶接受對(duì)他們不利的“壞默認(rèn)”?！皦哪J(rèn)”掏空知情同意規(guī)則,使其徹底形式化、空洞化,令用戶“選擇”了更易成癮的服務(wù)條款:(1)“壞默認(rèn)”使成癮性科技獲得多重權(quán)限,可以通過發(fā)送通知、短信、郵件等方式頻繁誘導(dǎo)用戶使用;(2)“壞默認(rèn)”幫助成癮性科技獲取用戶的個(gè)人信息、隱私信息,這些信息將被用于誘導(dǎo)用戶成癮乃至售賣第三方;(3)“壞默認(rèn)”還令用戶“合法自愿”地暴露于成癮性科技的成癮模型與算法之下,乃至淪為成癮實(shí)驗(yàn)的對(duì)象,所得到的數(shù)據(jù)和結(jié)論還將被企業(yè)用于進(jìn)一步完善成癮模型與算法,從而開啟下一個(gè)成癮循環(huán);(4)“壞默認(rèn)”為成癮性科技清除了法律上的障礙,成癮性科技可以依照條款推卸責(zé)任,拒絕對(duì)用戶的安全和健康承擔(dān)義務(wù)。

(四)以外部型和內(nèi)源型觸發(fā)裝置設(shè)置提示

依據(jù)福格習(xí)慣塑造模型,提示是行為的第三要素,若是缺乏提示,即便存在動(dòng)機(jī)和能力,行為也不會(huì)發(fā)生。企業(yè)設(shè)置外部型和內(nèi)源型觸發(fā)裝置,使用戶在受到觸發(fā)后進(jìn)行使用[4]33-40。

外部型觸發(fā)裝置包括以下方式:(1)經(jīng)濟(jì)型觸發(fā),通過經(jīng)濟(jì)上的回饋吸引用戶,如周期性開啟秒殺活動(dòng)、發(fā)送優(yōu)惠券乃至直接發(fā)放現(xiàn)金等方式誘使用戶頻繁使用;(2)通知型觸發(fā),通知用戶收到新信息、新評(píng)論或點(diǎn)贊,在用戶長(zhǎng)時(shí)間不登錄時(shí)還會(huì)發(fā)送電子郵件或短信提示用戶進(jìn)行登錄;(3)人際型觸發(fā),如Facebook、QQ等軟件會(huì)自動(dòng)生成好友生日通知,迫使收到通知的用戶進(jìn)行生日祝福[14],又如備受厭惡的“好友垃圾郵件”(Friend Spam),以尋找現(xiàn)實(shí)好友為理由索取用戶的郵件或通訊錄,隨后向用戶的所有聯(lián)系人發(fā)送垃圾郵件,并聲稱郵件是用戶發(fā)送,脈脈軟件即曾因使用好友垃圾郵件,被法院認(rèn)定為“侵?jǐn)_私人生活的安寧,構(gòu)成對(duì)隱私權(quán)的侵犯”③。

尼爾·埃亞爾指出,依賴外界條件刺激用戶感官的外部型觸發(fā)難以持久發(fā)揮作用,自動(dòng)出現(xiàn)在用戶腦海中的內(nèi)源型觸發(fā)才是控制用戶行為的關(guān)鍵[4]36,但使用內(nèi)源型觸發(fā)也意味對(duì)用戶進(jìn)行深度心理操控。內(nèi)源型觸發(fā)可以來自積極情感,但恐懼、焦慮等負(fù)面情緒才是威力更加強(qiáng)大的內(nèi)部觸發(fā),更有助于使用戶成癮[15]。成癮性科技往往不惜將負(fù)面情緒以內(nèi)源型觸發(fā)裝置加諸用戶,如Facebook濫用用戶對(duì)“錯(cuò)過重要社交信息”的恐懼,一名用戶描述了他矛盾的心態(tài),“我不喜歡Facebook。我覺得我必須擁有它只是因?yàn)槠渌硕紦碛兴?。我覺得我會(huì)錯(cuò)過什么——我甚至不知道我會(huì)錯(cuò)過什么”[14]。比之濫用恐懼,制造對(duì)立情緒的內(nèi)源型觸發(fā)裝置更為惡劣,例如社交機(jī)器人被用于偽造人類言論,導(dǎo)致用戶對(duì)對(duì)立觀點(diǎn)形成更強(qiáng)的敵意從而緊密抱團(tuán)[16],借助對(duì)立甚至仇恨情緒觸發(fā)用戶的長(zhǎng)時(shí)間與對(duì)立者進(jìn)行“戰(zhàn)斗”。

二、成癮性科技風(fēng)險(xiǎn)的特征與類型

成癮模型發(fā)展以及數(shù)據(jù)算法科技的進(jìn)步推動(dòng)成癮性科技形態(tài)迭代。一代成癮性科技以谷歌、魔獸世界、Facebook、Twitter為代表,依賴成癮模型進(jìn)行運(yùn)作,并且通過成癮測(cè)試進(jìn)行實(shí)證以加強(qiáng)產(chǎn)品的成癮性,其對(duì)由此帶來的用戶風(fēng)險(xiǎn)持放任態(tài)度,所以一代成癮性科技本質(zhì)上是由私人主體進(jìn)行的“惡意助推”。諸如微信、抖音、滴滴等二代成癮性科技則重點(diǎn)運(yùn)用了數(shù)據(jù)采集和算法科技,通過后臺(tái)對(duì)用戶偏好進(jìn)行個(gè)性化的分析,進(jìn)而為用戶推送量身定做的產(chǎn)品,具有便攜性、個(gè)性化、自主性、鏈接性,全面入侵乃至掌控用戶日常生活,應(yīng)當(dāng)成為主要的規(guī)制對(duì)象。注意力競(jìng)爭(zhēng)推動(dòng)成癮性科技急速演化,法律規(guī)制卻長(zhǎng)期滯后缺位,二者之間不對(duì)稱性形成的規(guī)制真空使成癮性科技的發(fā)展走向盲目無序,以致成癮性科技的研發(fā)、運(yùn)營(yíng)、操作層面產(chǎn)生各種類、各形態(tài)風(fēng)險(xiǎn)。成癮性科技風(fēng)險(xiǎn)包括過度使用相關(guān)風(fēng)險(xiǎn)、個(gè)人信息濫用風(fēng)險(xiǎn)、科技倫理價(jià)值風(fēng)險(xiǎn),具有影響的普遍性、形式的隱蔽性、趨勢(shì)上升性、對(duì)象不平等性特征。

(一)成癮性科技風(fēng)險(xiǎn)的特征

1.風(fēng)險(xiǎn)影響的普遍性

成癮性科技已經(jīng)滲入即時(shí)通信、綜合電商、支付結(jié)算、短視頻等幾乎所有互聯(lián)網(wǎng)經(jīng)濟(jì)領(lǐng)域。在QUEST MOBILE發(fā)布的“App用戶規(guī)模億級(jí)玩家”榜單中,微信在國(guó)內(nèi)用戶量最多的20款應(yīng)用軟件中排行第1,用戶人數(shù)超過10億,淘寶、支付寶、抖音、拼多多等8款用戶人數(shù)超過5億,排行末位的今日頭條用戶也達(dá)到3.4億[17],這些均運(yùn)用了成癮模型與算法,符合成癮性科技的特征,可見成癮性科技雖是新近提出的概念但已普遍存在。2022年8月中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心《第50次中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示,截至2022年6月我國(guó)網(wǎng)民規(guī)模為10.51億,互聯(lián)網(wǎng)普及率達(dá)74.4%,網(wǎng)民中使用手機(jī)上網(wǎng)的比例為99.6%,網(wǎng)民年齡從10以下至60歲以上皆有分布[18],成癮性科技普遍性的運(yùn)用與我國(guó)互聯(lián)網(wǎng)高普及率疊加,意味著我國(guó)公眾處于成癮性科技的影響之下,成癮性科技的風(fēng)險(xiǎn)將給整個(gè)社會(huì)帶來巨大負(fù)外部性。

2.風(fēng)險(xiǎn)形式的隱蔽性

成癮性科技所影響的用戶基數(shù)巨大,但長(zhǎng)久以來卻流于法律規(guī)制之外,原因在于成癮性科技風(fēng)險(xiǎn)形式的隱蔽性。成癮模型與算法運(yùn)行于黑箱之內(nèi)天然隱蔽,其作用方式亦是暗中對(duì)用戶施加助推,誘使用戶“自主”決策,使用戶難以察覺自己受害的事實(shí),即使發(fā)現(xiàn)自己已經(jīng)成癮亦往往歸咎于自身意志力不足,無法認(rèn)知到成癮性科技才是真正風(fēng)險(xiǎn)源頭。此外,成癮性科技造成的風(fēng)險(xiǎn)往往是長(zhǎng)期的、潛移默化的,諸如身心健康、個(gè)人信息濫用等風(fēng)險(xiǎn),都存在延時(shí)發(fā)生的特性,風(fēng)險(xiǎn)時(shí)空的不一致性使得用戶乃至規(guī)制機(jī)關(guān)難以將成癮性科技與具體危害后果之間建立因果聯(lián)系。

3.風(fēng)險(xiǎn)趨勢(shì)的上升性

處于注意力競(jìng)爭(zhēng)中的企業(yè)試圖保有自身用戶、搶奪其他企業(yè)用戶,這使得市場(chǎng)競(jìng)爭(zhēng)朝向高成癮性競(jìng)爭(zhēng)發(fā)展,引發(fā)“成癮軍備競(jìng)賽”。企業(yè)時(shí)刻關(guān)注其他競(jìng)爭(zhēng)對(duì)手采取的成癮模型與算法,并試圖模仿和超越,再進(jìn)入下一個(gè)循環(huán),無休止的成癮競(jìng)爭(zhēng)將導(dǎo)致成癮性科技不斷自我進(jìn)化。成癮性的螺旋上升意味著對(duì)用戶操縱的不斷加深,用戶將為成癮性科技付出更多時(shí)間,也將自己暴露于更大的風(fēng)險(xiǎn)之下,成癮性科技風(fēng)險(xiǎn)不僅不會(huì)自行消弭,反而會(huì)隨時(shí)間上升,凸顯法律規(guī)制介入進(jìn)行遏制的必要性。

4.風(fēng)險(xiǎn)對(duì)象的不平等性

成癮性科技給用戶帶來的風(fēng)險(xiǎn)并非均等,部分用戶將承受更嚴(yán)重風(fēng)險(xiǎn)。用戶技術(shù)能力差異引發(fā)的風(fēng)險(xiǎn)并不平等,具有技術(shù)能力的用戶不僅可以較早認(rèn)識(shí)到成癮性科技帶來的影響,還可以對(duì)成癮性科技的默認(rèn)設(shè)置進(jìn)行修改,限制使用時(shí)間和花費(fèi)金額,達(dá)成一定程度的自主防御,但缺乏技術(shù)能力的用戶甚至不會(huì)認(rèn)識(shí)到自己正受成癮性科技影響,遑論采取防御措施。此外,用戶心理健康程度不一也造成成癮性科技風(fēng)險(xiǎn)的不平等,處于焦慮、抑郁或心理疾病狀態(tài)的用戶更容易受影響而成癮,心智處于發(fā)展中的未成年人亦容易遭遇風(fēng)險(xiǎn),乃至近期研究發(fā)現(xiàn),處于孤獨(dú)狀態(tài)的老人亦較容易成癮[19]。成癮性科技風(fēng)險(xiǎn)不平等性要求法律不僅要采取普適性規(guī)制措施,還需為弱勢(shì)群體提供更強(qiáng)保護(hù)。

(二)成癮性科技風(fēng)險(xiǎn)的類型

1.過度使用相關(guān)風(fēng)險(xiǎn)

成癮性科技旨在誘導(dǎo)用戶成癮,直接導(dǎo)致用戶不合理的過度使用,進(jìn)而引發(fā)系列風(fēng)險(xiǎn)。過度使用在心理方面帶來自戀、低自信和自尊、注意力不集中、多動(dòng)癥、批判性思維萎縮、情緒波動(dòng)、焦慮和抑郁、心理壓力等[20],Andreassen等指出,注意力缺陷多動(dòng)障礙、抑郁癥、焦慮和社交恐懼癥都與過度使用呈正相關(guān)[21]。過度使用在身體方面則帶來睡眠障礙,由分心駕駛、騎自行車和步行造成的事故,久坐不動(dòng)的成癮生活方式的影響,例如肥胖、糖尿病等[20];在社會(huì)關(guān)系層面,過度使用會(huì)造成婚姻不和諧、社會(huì)孤立、工作表現(xiàn)下降和失業(yè)[22]以及親子關(guān)系問題[23],大學(xué)生群體成癮使用還會(huì)給學(xué)業(yè)與心理健康帶來負(fù)面影響[24]。

除共性的過度使用風(fēng)險(xiǎn)外,成癮性科技滲透至具體領(lǐng)域內(nèi),或是引發(fā)新風(fēng)險(xiǎn),或是成為此領(lǐng)域內(nèi)原有風(fēng)險(xiǎn)的“放大器”:(1)媒體型成癮性科技易誘發(fā)網(wǎng)絡(luò)極化風(fēng)險(xiǎn)。推薦算法預(yù)先過濾掉了與用戶認(rèn)知不符的新聞、信息,用戶被置于網(wǎng)絡(luò)繭房之內(nèi)卻不自知,用戶受成癮影響長(zhǎng)時(shí)間停留其中,易受到極化影響,而極化又會(huì)衍生網(wǎng)絡(luò)各圈層嚴(yán)重對(duì)抗[25]、反主流情緒撕裂社會(huì)共識(shí)、破壞網(wǎng)絡(luò)生態(tài)[25]、誘發(fā)網(wǎng)絡(luò)暴力、極化行為延伸至現(xiàn)實(shí)生活[26]等一系列次生風(fēng)險(xiǎn)問題。(2)游戲型成癮性科技針對(duì)網(wǎng)絡(luò)游戲環(huán)境特點(diǎn)設(shè)計(jì)能夠令用戶不斷加大時(shí)間、金錢投入的“捕鯨策略”④,采用了與賭博高度類似的“氪金抽卡”機(jī)制,誘導(dǎo)用戶通過投入虛擬乃至現(xiàn)實(shí)貨幣獲取裝備物品,給用戶尤其是未成年人帶來誘發(fā)賭博風(fēng)險(xiǎn)[27]、財(cái)務(wù)風(fēng)險(xiǎn)[28]、霸凌風(fēng)險(xiǎn)[29],甚至可能引發(fā)未成年人早期犯罪行為。(3)購(gòu)物型成癮性科技的市場(chǎng)操縱行為給用戶帶來財(cái)務(wù)風(fēng)險(xiǎn)、隱私風(fēng)險(xiǎn)和獨(dú)立決策能力損害[30]。購(gòu)物型成癮性科技借助平臺(tái)優(yōu)勢(shì),為用戶設(shè)置網(wǎng)絡(luò)貸款入口并提供現(xiàn)金優(yōu)惠誘導(dǎo)用戶使用,形成購(gòu)物—貸款型成癮科技,其操作中的行為與掠奪性貸款的判定要件高度重合。在非必要的情況下,即用戶本可不使用貸款進(jìn)行支付,誘使用戶使用符合構(gòu)成服務(wù)濫用[31]。購(gòu)物—貸款型成癮科技運(yùn)用簡(jiǎn)化的流程,放松對(duì)用戶還款能力的充分審查,屬于超越用戶能力的放貸行為[32]。在用戶初次使用后,購(gòu)物—貸款型成癮科技在弱化對(duì)用戶的風(fēng)險(xiǎn)告知流程的前提下,不斷推薦延期還款、分期還款服務(wù),使交易結(jié)構(gòu)日趨復(fù)雜化進(jìn)而推高利息,屬于濫用有利于貸款人的信息不對(duì)稱[31]和“向不知情或缺乏經(jīng)驗(yàn)的借款人隱瞞貸款義務(wù)或輔助產(chǎn)品的真實(shí)性質(zhì)”[33],質(zhì)言之,購(gòu)物—貸款型成癮性科技符合掠奪性貸款認(rèn)定的形式要件,會(huì)給客戶帶來掠奪性貸款風(fēng)險(xiǎn)。

2.個(gè)人信息濫用風(fēng)險(xiǎn)

成癮性科技具有強(qiáng)烈的獲取個(gè)人信息動(dòng)因,成癮性科技需要收集信息進(jìn)行習(xí)慣測(cè)試以完善成癮模型,為實(shí)現(xiàn)“注意力吸引—監(jiān)控,數(shù)據(jù)收集和實(shí)驗(yàn)—成癮—注意力吸引”的定制化成癮循環(huán)[6],對(duì)個(gè)人信息的渴求更強(qiáng)烈,無節(jié)制獲取和濫用信息行為更甚。成癮性科技收集的個(gè)人信息不僅限聯(lián)系電話、電子郵箱、身份證號(hào)碼等“原始信息”,更通過成癮測(cè)試窺探用戶的心理狀態(tài)與行為模式,這些信息是用戶本人亦不知曉的“深度信息”。

2021年《個(gè)人信息保護(hù)法》第3條將自然人有關(guān)的各種信息與“分析、評(píng)估境內(nèi)自然人的行為”均納入法律適用范圍,亦即成癮性科技收集“原始信息”與“深度信息”的行為均應(yīng)受到規(guī)制。《個(gè)人信息保護(hù)法》等多部法律對(duì)個(gè)人信息處理的原則、條件予以規(guī)定,諸如處理個(gè)人信息目的的正當(dāng)性、收集個(gè)人信息的必要性以及個(gè)人的同意等構(gòu)成合法收集、處理個(gè)人信息的基本準(zhǔn)繩[34]。但是,貌似周全的個(gè)人信息法律保護(hù)框架,卻被成癮性科技以概念與技術(shù)的雙重鴻溝而突破。成癮性科技以概念鴻溝進(jìn)行形式化合規(guī)博弈,例如以“提升服務(wù)質(zhì)量和用戶體驗(yàn)”作為目的正當(dāng)性基礎(chǔ),利用自身地位對(duì)必要信息做出單方解釋和定義,以及利用格式條款、默認(rèn)選項(xiàng)乃至以停止服務(wù)為威脅獲取用戶的同意意思表示,形式上似具備了目的正當(dāng)性、必要性、個(gè)人同意三個(gè)必要合法要件,但在實(shí)質(zhì)上利用三要件法律規(guī)定的模糊性和相關(guān)案例暫付闕如的狀況進(jìn)行了傾向于自己利益的解釋與操作。成癮性科技還借助技術(shù)鴻溝逃避維權(quán)與執(zhí)法,相對(duì)于規(guī)制機(jī)關(guān)和用戶,具備壓倒性的技術(shù)優(yōu)勢(shì),在數(shù)據(jù)抓取和分析利用不透明的情況下,消費(fèi)者的維權(quán)行為很難對(duì)其展開有效對(duì)抗,規(guī)制機(jī)關(guān)的執(zhí)法檢查亦面臨技術(shù)與成本難題。

3.科技倫理失范風(fēng)險(xiǎn)

科技倫理價(jià)值的核心層面基于人類的核心價(jià)值,即建立在主體理性之上的人的尊嚴(yán)、幸福、自由、關(guān)愛等內(nèi)在價(jià)值[35],亦應(yīng)遵循不傷害、尊重人、受益和公平等生命倫理學(xué)基本原則[36]。成癮性科技的出現(xiàn)使科技倫理在互聯(lián)網(wǎng)經(jīng)濟(jì)中遭遇失范危機(jī):(1)成癮性科技通過技術(shù)控制手段對(duì)用戶的精神乃至身體進(jìn)行規(guī)訓(xùn)與操控而造成成癮,成癮會(huì)使用戶招致身體、精神、經(jīng)濟(jì)、事業(yè)、學(xué)業(yè)等多方面?zhèn)?因而違反不傷害原則,存在道德上錯(cuò)誤[37]。(2)為加速成癮性科技演化,用戶被反復(fù)作為實(shí)驗(yàn)對(duì)象進(jìn)行所謂“習(xí)慣測(cè)試”[4]186,用戶不知情地淪落為試驗(yàn)對(duì)象和數(shù)據(jù)資源[38]109。成癮性科技讓用戶參與其更容易上癮的研發(fā)過程中,并在無意識(shí)中貢獻(xiàn)了自己的數(shù)據(jù)與能力,“用戶被利用來對(duì)付自己”[37],這種行為將用戶尊嚴(yán)和利益視為無關(guān)緊要,是對(duì)用戶的不尊重和貶低[37],也構(gòu)成對(duì)用戶利益的漠視。(3)成癮性科技不斷在習(xí)慣測(cè)試中運(yùn)用數(shù)據(jù)與算法,窺探隱藏的人類思維和人類意圖的特征,但解讀卻顯非出于善意,而是為了探查用戶的脆弱性[38]109-111,再利用脆弱性使用戶成癮從而獲得經(jīng)濟(jì)利益。這種利用對(duì)方弱點(diǎn)達(dá)到目的的行為足以構(gòu)成剝削,是道德上特別令人反感的剝削形式[37]。(4)成癮性科技帶來的科技倫理失范,極易因模仿效應(yīng)而產(chǎn)生擴(kuò)散性風(fēng)險(xiǎn),對(duì)其他科技領(lǐng)域尤其是方興未艾的元宇宙帶來負(fù)面影響。

三、成癮性科技風(fēng)險(xiǎn)的元規(guī)制

法律規(guī)制應(yīng)當(dāng)著眼用戶福祉,基于自由主義的溫和專制主義理念[39]5-7,設(shè)計(jì)用戶防御機(jī)制即不強(qiáng)制用戶停止使用,而是幫助其更好認(rèn)識(shí)和改善使用行為,通過元規(guī)制推動(dòng)用戶防御機(jī)制運(yùn)行,以避免成癮性科技給用戶帶來風(fēng)險(xiǎn)。

(一)成癮性科技的嵌套式元規(guī)制體系

成癮性科技用戶防御機(jī)制的推行面臨雙重困境:一是企業(yè)自我規(guī)制動(dòng)力不足困境。有足夠的技術(shù)能力設(shè)計(jì)防御機(jī)制,但成癮性降低顯然意味著市場(chǎng)競(jìng)爭(zhēng)力削弱和盈利能力下降,因此完全寄望企業(yè)基于對(duì)用戶負(fù)責(zé)或社會(huì)責(zé)任感主動(dòng)設(shè)計(jì)用戶防御機(jī)制是不現(xiàn)實(shí)的;二是外部規(guī)制機(jī)關(guān)能力不足困境,規(guī)制機(jī)關(guān)雖然具有強(qiáng)烈規(guī)制意愿但卻缺乏技術(shù)能力,無法直接介入成癮性科技的設(shè)計(jì)和運(yùn)行為用戶配置防御機(jī)制。造成雙重困境的共同原因在于規(guī)制動(dòng)機(jī)與規(guī)制能力不匹配,企業(yè)具備技術(shù)能力和便利卻缺乏實(shí)施動(dòng)機(jī),其商業(yè)模式與幫助用戶預(yù)防成癮、促進(jìn)更安全使用之間存在矛盾,而規(guī)制機(jī)關(guān)則相反,雖有規(guī)制動(dòng)機(jī)但掣肘于規(guī)制資源的限制。打破困境應(yīng)當(dāng)以規(guī)制譜系上位于二者之間的元規(guī)制為應(yīng)因之道。元規(guī)制是指“對(duì)自我規(guī)制予以規(guī)制的過程”[40],采取雙層結(jié)構(gòu)嵌套構(gòu)建:第一層是市場(chǎng)主體自我規(guī)制,但元規(guī)制體系下的自我規(guī)制與“純粹的自我規(guī)制”不同,市場(chǎng)主體將受到規(guī)制機(jī)關(guān)在規(guī)制目標(biāo)、規(guī)制措施等方面的指導(dǎo);第二層是自我規(guī)制運(yùn)行未能產(chǎn)生預(yù)期規(guī)制效果時(shí),規(guī)制機(jī)關(guān)將介入并采取糾正措施。成癮性科技元規(guī)制亦應(yīng)構(gòu)建雙層嵌套模式,規(guī)制機(jī)關(guān)在第一層級(jí)為自我規(guī)制提出目標(biāo)并列舉若干必要的用戶防御機(jī)制;規(guī)制機(jī)關(guān)在第二層級(jí)檢視自我規(guī)制的成效,若自我規(guī)制失敗則介入予以糾正。

(二)第一層級(jí)的用戶防御機(jī)制設(shè)置

成癮性科技元規(guī)制的自我規(guī)制目標(biāo)是防止用戶過度使用引發(fā)各種風(fēng)險(xiǎn)危害,規(guī)制機(jī)關(guān)應(yīng)提供更具體指引,以列舉式方法要求企業(yè)采取用戶防御機(jī)制,亦鼓勵(lì)企業(yè)自主研發(fā)新型防御機(jī)制。成癮性科技從創(chuàng)造動(dòng)機(jī)、讓使用更加容易、設(shè)置觸發(fā)裝置三方面來塑造習(xí)慣、引導(dǎo)成癮,因此用戶防御機(jī)制亦應(yīng)基于行為經(jīng)濟(jì)學(xué)并采取相反邏輯運(yùn)行,即削弱動(dòng)機(jī)、限制能力、阻斷觸發(fā),以防止用戶成癮。

1.以使用反饋機(jī)制削弱動(dòng)機(jī)

幫助人們改進(jìn)其行為的最好方法是提供反饋。設(shè)計(jì)精妙的反饋系統(tǒng)能夠提示人們的行為是否得當(dāng)[39]107。用戶往往不知曉自己是否存在成癮問題,而使用反饋機(jī)制的設(shè)置能夠能幫助用戶認(rèn)識(shí)到成癮程度與嚴(yán)重性,給用戶樹立限制使用、理性使用的目標(biāo),削弱無節(jié)制使用成癮性科技的動(dòng)機(jī)。使用反饋機(jī)制亦能夠使用戶了解自己使用時(shí)間的增減趨勢(shì)從而輔助他們更加理性地進(jìn)行使用。使用反饋機(jī)制主要分為兩類:一類是跟蹤型(Tracking),對(duì)于查看次數(shù)、使用時(shí)間、充值付費(fèi)金額等數(shù)據(jù)追蹤調(diào)查;另一類是數(shù)據(jù)呈現(xiàn)型(Data Presentation),提供設(shè)備使用情況總結(jié)、應(yīng)用軟件使用情況總結(jié)、日/周使用情況回顧、使用情況社會(huì)比較[41]。跟蹤型與數(shù)據(jù)展示型機(jī)制應(yīng)當(dāng)進(jìn)行結(jié)合運(yùn)用,由跟蹤型工具進(jìn)行用戶原始使用數(shù)據(jù)的跟蹤調(diào)查,數(shù)據(jù)展示型工具則可以提供易于理解的圖表、畫面展示和用于個(gè)人與社會(huì)平均使用時(shí)間、建議使用時(shí)間的比較,二者協(xié)作預(yù)期能產(chǎn)生更好的助推作用。

2.以自主限制機(jī)制降低能力

自主限制機(jī)制能夠從根本上抑制用戶的成癮使用行為,起到釜底抽薪的作用,是用戶防御機(jī)制中最重要的一環(huán):(1)身份驗(yàn)證環(huán)節(jié)是自主限制機(jī)制的基礎(chǔ),若缺乏實(shí)質(zhì)性的身份驗(yàn)證,用戶可以無限制地注冊(cè)新賬號(hào),這將使自我限制機(jī)制形同虛設(shè)。此外,身份驗(yàn)證環(huán)節(jié)還有助于保護(hù)弱勢(shì)群體尤其是未成年人的成癮風(fēng)險(xiǎn)。我國(guó)對(duì)游戲型成癮性科技較早設(shè)立身份驗(yàn)證環(huán)節(jié),但運(yùn)行效果不盡如人意,屢次出現(xiàn)明顯漏洞⑤,依賴身份證信息的驗(yàn)證極易被突破,因此應(yīng)當(dāng)推廣人臉識(shí)別驗(yàn)證。(2)極限設(shè)定(Limit-setting),是國(guó)內(nèi)外均被認(rèn)為具有良好效果的防御機(jī)制,與有效運(yùn)行的身份驗(yàn)證結(jié)合能夠極好保護(hù)用戶。極限設(shè)定允許用戶為自己預(yù)設(shè)使用次數(shù)、使用時(shí)長(zhǎng)、充值付費(fèi)金額的極限數(shù)值,若超過預(yù)設(shè)數(shù)值則不再允許用戶使用。除用戶自主極限設(shè)定外,企業(yè)亦可參與到極限設(shè)定中,在用戶存在極端不合理的使用情況下,視情況可發(fā)出警示,暫停其使用,乃至?xí)簳r(shí)凍結(jié)該用戶的賬號(hào)。(3)人工智能保護(hù)系統(tǒng)是新近提出的防御機(jī)制,人工智能不再被用于使用戶成癮,而是用于識(shí)別和保護(hù)潛在的、可能過度使用的用戶。在理想狀態(tài)下,人工智能保護(hù)系統(tǒng)可以對(duì)用戶的不良行為進(jìn)行事前預(yù)判,并且在識(shí)別后限制其注冊(cè)、登錄、使用,在用戶成癮前實(shí)現(xiàn)智能管控[42]。(4)自主注銷機(jī)制是嚴(yán)重成癮用戶的最后防線。目前成癮性科技的內(nèi)置自主注銷機(jī)制設(shè)置過于隱蔽,并且允許用戶在注銷后立即重新注冊(cè),以致形同虛設(shè),法律應(yīng)當(dāng)要求企業(yè)將注銷流程規(guī)范化、明晰化,設(shè)置自主注銷后的“冷靜期”,即注銷后一段時(shí)間內(nèi)禁止同一用戶的注冊(cè)和使用。為了更好保護(hù)未成年用戶和存在心理問題的用戶,還應(yīng)設(shè)置監(jiān)護(hù)人權(quán)限,賦予監(jiān)護(hù)人暫時(shí)凍結(jié)賬號(hào)的權(quán)利。

3.以觸發(fā)限制機(jī)制阻止提示

提示是行為發(fā)生的決定性要素,沒有提示行為就不會(huì)發(fā)生[5]115。成癮性科技設(shè)計(jì)觸發(fā)機(jī)制不斷提示用戶進(jìn)行使用,因此用戶的自我防御機(jī)制應(yīng)幫助用戶過濾不必要的觸發(fā)。觸發(fā)限制機(jī)制包括以下兩部分:(1)優(yōu)化默認(rèn)設(shè)置?！皦哪J(rèn)”允許無限制地向用戶發(fā)送軟件消息提醒、手機(jī)短信、電子郵件,使用戶隨時(shí)隨地收到提示,易誘發(fā)成癮使用,對(duì)默認(rèn)設(shè)置優(yōu)化,除好友間通信外,默認(rèn)禁止對(duì)用戶發(fā)送提示行為,除非用戶因存在切實(shí)需要而自行設(shè)置準(zhǔn)許接收。(2)設(shè)定免擾時(shí)間。即使用戶同意接受觸發(fā),但亦應(yīng)當(dāng)為用戶設(shè)置合理的免擾時(shí)間,尤其是在深夜時(shí)段,學(xué)生用戶的上課時(shí)間亦應(yīng)禁止一切的主動(dòng)觸發(fā)行為。(3)禁止人工智能或社交機(jī)器人對(duì)用戶進(jìn)行自動(dòng)化的點(diǎn)贊、回復(fù)、評(píng)論等行為,防止人工智能的自動(dòng)化回復(fù)與算法結(jié)合隨時(shí)對(duì)用戶進(jìn)行提示。

(三)第二層級(jí)的糾正措施后置介入

糾正措施的后置介入是在第一層級(jí)預(yù)設(shè)的規(guī)制目標(biāo)未達(dá)成時(shí)所采取的規(guī)制手段,糾正措施雖發(fā)生于事后,但其所蘊(yùn)含的威懾力卻足以敦促企業(yè)主動(dòng)達(dá)成規(guī)制目標(biāo)以免受到懲戒。

糾正措施適用應(yīng)當(dāng)先建立對(duì)成癮性科技行政檢查。元規(guī)制中的行政檢查兼具執(zhí)法行為與監(jiān)督行為的雙重屬性,若預(yù)設(shè)規(guī)制目標(biāo)已然達(dá)成,規(guī)制機(jī)關(guān)應(yīng)選擇尊重現(xiàn)狀而非懲戒。質(zhì)言之,行政檢查的根本目的在于檢驗(yàn)規(guī)制目標(biāo)是否被達(dá)成,以決定后續(xù)是否進(jìn)行介入。成癮性科技數(shù)量龐大,因此行政檢查應(yīng)當(dāng)與分級(jí)分類監(jiān)管、信用監(jiān)管結(jié)合,著重將規(guī)制資源重點(diǎn)投入運(yùn)營(yíng)超大平臺(tái)的企業(yè)、存在違法或不良信用記錄的企業(yè)以及對(duì)未成年人影響較大的游戲型成癮性科技運(yùn)營(yíng)企業(yè)。

糾正措施應(yīng)逐步搭建“執(zhí)法金字塔”體系。在理想狀態(tài)情況下,規(guī)制機(jī)關(guān)應(yīng)擁有從強(qiáng)到弱的多種懲戒工具,形成懲戒力度拾級(jí)而上的執(zhí)法金字塔。但是,目前我國(guó)尚未建立成癮性科技法律規(guī)制的框架,亦未制定專門規(guī)范性文件,規(guī)制機(jī)關(guān)能夠?qū)で蟮降囊?guī)制工具極其有限。規(guī)制機(jī)關(guān)在個(gè)案處理上應(yīng)將行政約談為首要工具選項(xiàng),發(fā)揮行政約談的威懾效力,解除迫在眉睫的嚴(yán)重風(fēng)險(xiǎn)。行政約談亦是一項(xiàng)靈活性較強(qiáng)的對(duì)話式規(guī)制工具,有助于規(guī)制機(jī)關(guān)建立與企業(yè)的互信基礎(chǔ),為后續(xù)規(guī)制中的合作進(jìn)行鋪墊。待成癮性科技的法律規(guī)制通過漸進(jìn)優(yōu)化走向成熟,則應(yīng)開始豐富規(guī)制工具種類,制定由弱到強(qiáng)的完整金字塔式懲戒體系:首次犯錯(cuò)且改正積極的企業(yè)予以低力度的警告、教育和約談;對(duì)屢教不改的企業(yè)則漸次加強(qiáng)懲戒力度,依次采取重點(diǎn)監(jiān)管、負(fù)面信息公布、行政罰款、添加數(shù)字成癮標(biāo)簽直至最嚴(yán)重的吊銷行政許可和全面下架[43]。唯如此,才能既幫助偶然違法者改正行為,又能夠?qū)伊P屢犯、拒絕改正者施加嚴(yán)厲的處罰。

四、成癮性科技風(fēng)險(xiǎn)的合作規(guī)制

成癮性科技的合作規(guī)制能夠提供自我規(guī)制與外部規(guī)制以外的資源。作為合作對(duì)象的硬件廠商、應(yīng)用商店、第三方軟件皆為私主體,反而不必如規(guī)制機(jī)關(guān)般囿于法律授權(quán),可以實(shí)施更強(qiáng)力度的措施。此外,合作規(guī)制還可以為用戶提供“冗余保護(hù)”,即合作規(guī)制提供的保護(hù)形式與自我規(guī)制、外部規(guī)制存在措施上或?qū)ο笊系闹丿B[44]302-303,其優(yōu)勢(shì)在于能夠大大提高規(guī)制容錯(cuò)率,多重保護(hù)機(jī)制的任意一項(xiàng)都能起到保護(hù)作用。

(一)硬件廠商

硬件廠商在技術(shù)層面擁有較高優(yōu)勢(shì),通過自身掌握的系統(tǒng)與硬件權(quán)限能夠?qū)τ脩舻母黝惓砂a性科技使用情況進(jìn)行監(jiān)控和限制,并且硬件廠商還擁有較強(qiáng)的規(guī)制參與動(dòng)機(jī),硬件廠商能夠通過預(yù)防成癮風(fēng)險(xiǎn)、為用戶提供更好的注意力保護(hù)而提升自身市場(chǎng)競(jìng)爭(zhēng)力,部分硬件廠商已經(jīng)將預(yù)防成癮作為產(chǎn)品的獨(dú)特優(yōu)勢(shì)⑥。硬件廠商在成癮性科技合作規(guī)制中,可以從以下方面發(fā)揮作用:(1)硬件廠商運(yùn)用自身技術(shù)優(yōu)勢(shì)和對(duì)數(shù)據(jù)、算法底層邏輯的深刻理解開發(fā)新型反成癮機(jī)制,例如小米公司開發(fā)的“空白通行證”,允許用戶以一個(gè)空白的虛擬身份使用成癮性科技,當(dāng)成癮性科技試圖獲取用戶的個(gè)人信息或使用情況信息時(shí),系統(tǒng)會(huì)自動(dòng)反饋空白信息,“空白通行證”能夠有效防御用戶個(gè)人信息泄露和成癮算法影響,規(guī)制機(jī)關(guān)應(yīng)鼓勵(lì)指引此類工具的開發(fā)。(2)硬件廠商掌握設(shè)備出場(chǎng)的默認(rèn)設(shè)置和默認(rèn)安裝軟件,規(guī)制機(jī)關(guān)可引導(dǎo)要求廠商將反成癮機(jī)制設(shè)置為默認(rèn)開啟或預(yù)裝第三方的反成癮軟件應(yīng)用;與之相對(duì),規(guī)制機(jī)關(guān)亦可要求硬件廠商參與對(duì)違法劣跡成癮性科技的懲戒,不得將其作為預(yù)裝應(yīng)用。(3)硬件廠商擁有較高設(shè)備權(quán)限,其設(shè)置的反成癮機(jī)制能夠全面監(jiān)控硬件內(nèi)每個(gè)成癮性科技的使用情況,掌握成癮性科技的通知次數(shù)、亮屏次數(shù)、使用時(shí)間、使用時(shí)間段等重要信息,這些信息可以作為規(guī)制機(jī)關(guān)認(rèn)定成癮性程度的重要依據(jù),更進(jìn)一步,硬件廠商可以憑借信息優(yōu)勢(shì)成為數(shù)字成癮標(biāo)簽相關(guān)標(biāo)準(zhǔn)制定的重要參與者。

(二)應(yīng)用商店

應(yīng)用商店是用戶獲取各類應(yīng)用軟件的主要渠道,是成癮性科技流入市場(chǎng)走向用戶的關(guān)鍵樞紐,具有強(qiáng)大的規(guī)制能力和規(guī)制資源,是合作規(guī)制中不可或缺的參與者。應(yīng)用商店在成癮性科技合作規(guī)制中,可以從以下方面發(fā)揮作用:(1)應(yīng)用商店是數(shù)字成癮標(biāo)簽的有力推行者,可以在用戶獲取應(yīng)用軟件這一關(guān)鍵節(jié)點(diǎn)提供具備及時(shí)性、吸引力的助推,幫助用戶遠(yuǎn)離成癮性科技,倒逼企業(yè)控制、降低成癮性。(2)應(yīng)用商店可以將成癮性納入應(yīng)用軟件的質(zhì)量評(píng)價(jià)體系中,高成癮性的應(yīng)用軟件將被認(rèn)定為低質(zhì)量,進(jìn)而降低其推薦指數(shù)和榜單排名,營(yíng)造低成癮性競(jìng)爭(zhēng)氛圍。(3)規(guī)制機(jī)關(guān)在當(dāng)前法律框架下缺乏對(duì)成癮性科技采取規(guī)制行動(dòng)的法律依據(jù),對(duì)成癮性科技采取的懲戒極易構(gòu)成行政行為違法,嚴(yán)重限制了規(guī)制力度,但應(yīng)用商店作為私主體不受此限制,不僅可以添加數(shù)字成癮標(biāo)簽和警示信息,對(duì)于一些對(duì)用戶造成嚴(yán)重風(fēng)險(xiǎn)的成癮性科技還可以直接將其下架,被應(yīng)用商店下架的成癮性科技不僅失去推廣和下載渠道,還會(huì)被市場(chǎng)認(rèn)為不值得信任。質(zhì)言之,比之規(guī)制機(jī)關(guān),應(yīng)用商店擁有更多手段,能夠進(jìn)行力度更強(qiáng)的懲戒。

規(guī)制實(shí)踐中應(yīng)用商店的潛能尚未得到激發(fā),應(yīng)用商店為了獲取廣告費(fèi)和利潤(rùn)分成而為成癮性科技提供宣傳、下載、付費(fèi)渠道,反而成為成癮性科技事實(shí)上的共謀者。規(guī)制機(jī)關(guān)應(yīng)當(dāng)重塑應(yīng)用商店的規(guī)制角色,將其視為有潛力的規(guī)制合作者充分發(fā)揮其規(guī)制潛力。應(yīng)用商店與成癮性科技存在商業(yè)利益上的捆綁,規(guī)制角色轉(zhuǎn)換不會(huì)自然生成,規(guī)制機(jī)關(guān)需要運(yùn)用“蘿卜+大棒”的策略施加引導(dǎo)。應(yīng)用商店平臺(tái)所提供的平臺(tái)服務(wù)具有公共面向,除非存在法定事由或者其他正當(dāng)理由,平臺(tái)不應(yīng)對(duì)入駐平臺(tái)的成癮性科技實(shí)施拒絕服務(wù)或者差別化對(duì)待[45],否則便有違反服務(wù)義務(wù)之風(fēng)險(xiǎn)。為了打消應(yīng)用商店平臺(tái)的顧慮,規(guī)制機(jī)關(guān)應(yīng)當(dāng)承認(rèn)應(yīng)用商店平臺(tái)對(duì)成癮性科技采取管制行為的合法性,允許應(yīng)用商店平臺(tái)根據(jù)具體情節(jié)對(duì)成癮性科技實(shí)施警告、添加數(shù)字成癮標(biāo)簽、降低排名、屏蔽、下架等措施[46],保證應(yīng)用商店平臺(tái)不會(huì)因此遭到來自反壟斷或反不正當(dāng)競(jìng)爭(zhēng)等方面的調(diào)查與處罰,并且對(duì)存在爭(zhēng)議的管制措施進(jìn)行善意推定,肯定應(yīng)用商店的規(guī)制治理權(quán)能,此乃規(guī)制機(jī)關(guān)提供的“蘿卜”。規(guī)制機(jī)關(guān)還應(yīng)為應(yīng)用商店劃定紅線,一方面防止應(yīng)用商店出于經(jīng)濟(jì)動(dòng)因怠于對(duì)成癮性科技風(fēng)險(xiǎn)采取防范措施,另一方面亦預(yù)防應(yīng)用商店以整治成癮性科技之名而打壓其他企業(yè)或?qū)ψ陨砥煜碌某砂a性科技實(shí)施自我優(yōu)待。若應(yīng)用商店平臺(tái)明顯違背合理注意義務(wù)、采取明顯不合理的措施時(shí),規(guī)制機(jī)關(guān)應(yīng)進(jìn)行介入并對(duì)應(yīng)用商店平臺(tái)施加懲戒,措施包括但不限于傳統(tǒng)的警告、負(fù)面信息公布、財(cái)產(chǎn)罰,抑或?qū)?yīng)用商店征收庇古稅,削弱應(yīng)用商店濫用自身地位獲取經(jīng)濟(jì)利益的動(dòng)因,此乃對(duì)應(yīng)用商店產(chǎn)生威懾的“大棒”。

(三)戒癮軟件

面對(duì)成癮模型與數(shù)據(jù)算法加持的成癮性科技,用戶即便認(rèn)識(shí)到自己已經(jīng)成癮亦難通過自主控制注意力形成有效對(duì)抗,因此需要求助于外力,戒癮軟件由此應(yīng)運(yùn)而生。戒癮軟件與用戶防御機(jī)制類似,通過與成癮模型逆向運(yùn)行的方式,從動(dòng)機(jī)、能力、提示方面著手幫助用戶實(shí)現(xiàn)戒癮目標(biāo),為用戶提供了更多選擇和額外保護(hù)。戒癮軟件主要包括如下類型:(1)動(dòng)機(jī)激勵(lì)型戒癮軟件,成癮性科技運(yùn)用稟賦效應(yīng)使用戶成癮,動(dòng)機(jī)激勵(lì)型戒癮軟件則將稟賦效應(yīng)用于鼓勵(lì)用戶戒除成癮使用。此類軟件允許用戶制定戒除目標(biāo),當(dāng)目標(biāo)達(dá)成時(shí)會(huì)以游戲化的形式提供獎(jiǎng)勵(lì),例如虛擬的勛章、森林或城鎮(zhèn),一旦用戶“違約”,便會(huì)受到帶有隱喻性質(zhì)的懲罰,勛章會(huì)被剝奪、森林會(huì)枯萎、城鎮(zhèn)建筑會(huì)倒塌[47],通過獎(jiǎng)懲帶來的稟賦效應(yīng)用戶會(huì)被賦予戒除成癮使用動(dòng)機(jī),以抵消使用成癮性科技的影響。(2)障礙設(shè)置型戒癮軟件,與自主限制機(jī)制原理相同,通過限制用戶使用能力的方式防止用戶過度使用成癮性科技。在時(shí)間要素方面,這類軟件可以在用戶過度使用后,或達(dá)到臨界點(diǎn)前激活。在障礙要素方面,存在提示用戶已經(jīng)或?qū)⒁^度使用的弱障礙,在特定時(shí)間段或使用超時(shí)則禁止使用的強(qiáng)障礙,微交互(Microboundary Interactions)則是居于二者之間的新穎方式,通過在主界面上隱藏成癮性科技圖標(biāo),使其更難被用戶找到的方式增加使用中的摩擦成本[47]。(3)小組互助型戒癮軟件(Group-based Limiting Assistance App)[48],利用了社會(huì)性助推原理,將社會(huì)支持作為戒癮的動(dòng)機(jī)和觸發(fā)[47],主要包含三項(xiàng)功能:一是戒癮榜單,群組成員可以相互查看手機(jī)使用情況、戒癮成就和戒癮排名,如戒癮軟件Hold為積分靠前用戶設(shè)置皇冠圖標(biāo),戒癮軟件Focus則為排名前三的用戶制定金銀銅牌。榜單的設(shè)置喚醒了團(tuán)體內(nèi)的競(jìng)爭(zhēng)意識(shí),將其塑造為團(tuán)體成員的戒癮動(dòng)機(jī)。二是群組限制模式,組員可以創(chuàng)建虛擬房間,進(jìn)入房間內(nèi)的組員在特定時(shí)間內(nèi)禁止使用任何成癮性科技以專注于學(xué)業(yè)、社交、工作。三是協(xié)同定位功能,當(dāng)兩名或以上好友處于同一地點(diǎn),此功能便會(huì)觸發(fā),鼓勵(lì)該地點(diǎn)附近的好友一同限制成癮性科技的使用,轉(zhuǎn)而專注于線下事務(wù),此功能對(duì)在校學(xué)生群體極有助益,能夠幫助他們專心完成課程。

戒癮軟件和規(guī)制機(jī)關(guān)同樣具有強(qiáng)烈的幫助用戶防范成癮性科技風(fēng)險(xiǎn)的動(dòng)機(jī),但受經(jīng)濟(jì)利益所驅(qū)動(dòng),戒癮軟件在專注度、技術(shù)能力、防御措施更新速度等方面高于規(guī)制機(jī)關(guān),且更易接觸用戶,規(guī)制機(jī)關(guān)應(yīng)發(fā)揮戒癮軟件的保護(hù)作用,對(duì)研發(fā)運(yùn)營(yíng)戒癮軟件的企業(yè)進(jìn)行引導(dǎo)扶持。

五、成癮性科技風(fēng)險(xiǎn)外部規(guī)制的工具創(chuàng)新與改革

除了嵌入元規(guī)制與合作規(guī)制中的部分規(guī)制工具,規(guī)制機(jī)關(guān)針對(duì)成癮性科技風(fēng)險(xiǎn)實(shí)施的“純粹外部規(guī)制工具”應(yīng)當(dāng)進(jìn)一步創(chuàng)新與改革,以數(shù)字成癮標(biāo)簽工具實(shí)現(xiàn)助推規(guī)制治理,以經(jīng)濟(jì)工具進(jìn)行敏捷治理,以科技倫理治理尋求根源性規(guī)制治理。

(一)數(shù)字成癮標(biāo)簽

標(biāo)簽是助推規(guī)制體系中的重要工具,標(biāo)簽提供者試圖以標(biāo)簽鼓勵(lì)人們做出更好的選擇,但并不追求對(duì)人們施加強(qiáng)力控制,質(zhì)言之,貼標(biāo)簽是為了提高認(rèn)識(shí),實(shí)現(xiàn)認(rèn)知和行為的改變的教育型助推工具[49]。標(biāo)簽被廣泛應(yīng)用于成癮性物質(zhì)如藥物、煙草、酒精[50]的規(guī)制,成癮性科技的強(qiáng)制性標(biāo)簽規(guī)定目前暫付闕如。數(shù)字成癮標(biāo)簽?zāi)軌驅(qū)崿F(xiàn)教育功能、分級(jí)分類功能、借由標(biāo)簽解釋實(shí)現(xiàn)的信息傳遞功能、懲戒功能,是一項(xiàng)有潛力的教育型助推工具:(1)教育功能是數(shù)字成癮標(biāo)簽的基礎(chǔ)功能。成癮性科技的概念尚未普及,用戶對(duì)此缺乏認(rèn)識(shí),數(shù)字成癮標(biāo)簽的設(shè)立能夠在短時(shí)間內(nèi)喚起社會(huì)共同體對(duì)成癮性科技的重視,為用戶樹立限制、戒除使用的目標(biāo)。來自煙草研究的證據(jù)表明,描述消費(fèi)不良后果的健康警告標(biāo)簽改變了吸煙行為,其中圖文并茂(Image-and-text)的健康警告標(biāo)簽最有效[50],數(shù)字成癮標(biāo)簽的亦應(yīng)采取此設(shè)計(jì),標(biāo)簽還應(yīng)遵循助推的及時(shí)性原則,在“壞習(xí)慣發(fā)生前”對(duì)用戶進(jìn)行教育,把握用戶的下載、首次使用、開啟軟件界面等關(guān)鍵時(shí)機(jī)展示標(biāo)簽教育用戶。(2)數(shù)字成癮標(biāo)簽的分級(jí)功能是教育功能的實(shí)現(xiàn)與延伸。若將所有成癮性科技“一視同仁”地打上完全相同的數(shù)字成癮標(biāo)簽將會(huì)使用戶難以識(shí)別其中哪些成癮性更強(qiáng),從而產(chǎn)生困惑,降低了標(biāo)簽的教育功能。況且,被貼上數(shù)字成癮標(biāo)簽的成癮性科技則可能更加毫無顧忌地提升成癮性,反而削弱標(biāo)簽威懾力。因此,應(yīng)按照成癮性強(qiáng)弱制定多層級(jí)的數(shù)字成癮標(biāo)簽:首先,數(shù)字成癮標(biāo)簽的分級(jí)可以使用戶更加直觀地認(rèn)識(shí)每款成癮性科技的成癮風(fēng)險(xiǎn)高低,實(shí)現(xiàn)對(duì)用戶的有效教育、指引;其次,不同級(jí)別的成癮標(biāo)簽應(yīng)分別設(shè)置相應(yīng)的推薦使用年齡段,實(shí)現(xiàn)對(duì)未成年人的重點(diǎn)保護(hù);最后,標(biāo)簽的分級(jí)能夠有效應(yīng)對(duì)成癮性科技的頻繁變化特性,對(duì)于主動(dòng)采取措施降低成癮性的成癮性科技可以降低其成癮等級(jí),直至完全去除標(biāo)簽,反之,成癮等級(jí)則將不斷升高,質(zhì)言之,標(biāo)簽等級(jí)的變化能夠向企業(yè)傳達(dá)激勵(lì)或警示,敦促其降低成癮性。(3)標(biāo)簽解釋是數(shù)字成癮標(biāo)簽的重要一環(huán),用戶在看到標(biāo)簽后會(huì)產(chǎn)生疑問與好奇,此時(shí)提供相關(guān)信息既符合助推規(guī)制的及時(shí)性原則,又可降低用戶獲取信息的摩擦成本,使用戶可以及時(shí)展開成癮性科技相關(guān)知識(shí)、信息的學(xué)習(xí)。標(biāo)簽解釋向企業(yè)則會(huì)釋放規(guī)制信號(hào)和提供行動(dòng)指南,使之有意識(shí)地降低成癮性以避免被打上數(shù)字成癮標(biāo)簽。標(biāo)簽解釋還能夠防止標(biāo)簽被濫用、錯(cuò)用,一定程度上預(yù)防標(biāo)簽提供方的恣意行為。(4)標(biāo)簽還附帶有懲戒功能。數(shù)字成癮標(biāo)簽可以成為信息規(guī)制工具,對(duì)成癮性科技及其研發(fā)運(yùn)營(yíng)企業(yè)予以負(fù)面評(píng)價(jià)。在互聯(lián)網(wǎng)時(shí)代,負(fù)面評(píng)價(jià)更易傳播,對(duì)企業(yè)的潛在影響可能更甚于經(jīng)濟(jì)處罰,足以形成有效的懲戒與威懾。

(二)庇古稅

命令—控制型工具祛魅化后,規(guī)制機(jī)關(guān)認(rèn)識(shí)到經(jīng)濟(jì)型規(guī)制工具能夠?qū)⑼獠砍杀緝?nèi)部化,并由此實(shí)現(xiàn)企業(yè)行為的矯正,因此對(duì)其日益重視[51]248-249。在成癮性科技的法律規(guī)制中,經(jīng)濟(jì)型規(guī)制工具能夠影響企業(yè)的成本收益,實(shí)現(xiàn)對(duì)其行為的深層引導(dǎo)。

對(duì)成癮性科技而言,庇古稅(Pigouvian Taxation)是最佳的經(jīng)濟(jì)型規(guī)制工具。市場(chǎng)配置資源失效的原因之一是經(jīng)濟(jì)活動(dòng)當(dāng)事人的私人成本與社會(huì)成本不一致,致使私人的最優(yōu)并非社會(huì)最優(yōu),“糾正外部性的方案便是政府通過征稅或者補(bǔ)貼來矯正經(jīng)濟(jì)活動(dòng)當(dāng)事人的私人成本”[52],即庇古稅方案。庇古稅早期的治理對(duì)象是環(huán)境污染,亦可應(yīng)用于成癮性科技的法律規(guī)制[42]。庇古稅的規(guī)制進(jìn)路具有以下優(yōu)勢(shì):(1)成癮性科技使企業(yè)獲利頗豐,但其帶來的風(fēng)險(xiǎn)和治理成本卻由整個(gè)社會(huì)承擔(dān),產(chǎn)生巨大的負(fù)外部性,征收庇古稅能夠在一定程度對(duì)負(fù)外部性進(jìn)行抵消,降低成癮性科技帶來的隱形經(jīng)濟(jì)損失。(2)庇古稅的征收會(huì)削弱企業(yè)濫用成癮性科技的經(jīng)濟(jì)動(dòng)因,促使其積極開創(chuàng)其他盈利模式而非基于商業(yè)慣性繼續(xù)展開無休止的成癮性競(jìng)爭(zhēng)。(3)庇古稅具有較高靈活性,是實(shí)現(xiàn)敏捷治理的規(guī)制工具。規(guī)制機(jī)關(guān)可以通過調(diào)節(jié)庇古稅的稅率應(yīng)對(duì)不同規(guī)制任務(wù),若是為了彌補(bǔ)負(fù)外部性可以適用較低稅率,若有進(jìn)一步的證據(jù)表明成癮性科技存在嚴(yán)重風(fēng)險(xiǎn)則可提升稅率直至企業(yè)不得不放棄成癮性科技的研發(fā)運(yùn)營(yíng),在一些重點(diǎn)領(lǐng)域,例如游戲型成癮性科技,亦可采取更高的稅率以保護(hù)未成年人為主體的用戶。(4)庇古稅較之全面禁止等強(qiáng)硬措施而言,提供了緩和余地,體現(xiàn)了包容審慎的規(guī)制理念。成癮模型與算法已經(jīng)深刻融入至各類應(yīng)用軟件的底層設(shè)計(jì)邏輯中,要求短時(shí)間內(nèi)禁止全部成癮性科技,或者將成癮模型與算法全部剝離,會(huì)給企業(yè)帶來巨大負(fù)擔(dān),而庇古稅的征收既能夠表達(dá)我國(guó)治理成癮性科技的決心、敦促企業(yè)擺脫商業(yè)惰性,又為企業(yè)留足時(shí)間對(duì)應(yīng)用軟件和盈利模式進(jìn)行漸進(jìn)性優(yōu)化乃至實(shí)現(xiàn)轉(zhuǎn)型。在我國(guó),庇古稅可以采取政府性基金模式,收取的資金進(jìn)行專款專用,投入對(duì)成癮性科技的風(fēng)險(xiǎn)研究、數(shù)字成癮標(biāo)簽研究、用戶防御機(jī)制研究、科技倫理治理研究等方面。

(三)科技倫理治理

成癮性科技的法律規(guī)制若僅著眼于應(yīng)對(duì)現(xiàn)有成癮模型與算法注定事倍功半。隨著行為經(jīng)濟(jì)學(xué)與算法工具的不斷發(fā)展,企業(yè)可以輕而易舉地找到替代性的模型與算法,加之立法固有的滯后性,規(guī)制機(jī)關(guān)幾乎永遠(yuǎn)無法趕上企業(yè)開發(fā)新型成癮性科技的步伐。規(guī)制機(jī)關(guān)應(yīng)轉(zhuǎn)向根源治理,尋求從源頭遏制不負(fù)責(zé)任的成癮性科技研發(fā)行為,科技倫理治理是實(shí)現(xiàn)根源治理的可行路徑。

科技倫理治理架構(gòu)在早期多屬指導(dǎo)性或者自律性。伴隨科學(xué)技術(shù)逐步深入地嵌入社會(huì)、經(jīng)濟(jì)、政治和文化機(jī)理中,其對(duì)社會(huì)核心價(jià)值和利益分配機(jī)制的沖擊日益深遠(yuǎn),國(guó)家開始通過法律手段介入,科技倫理治理日漸與法律規(guī)制產(chǎn)生嵌合[53]。2021年修訂《科學(xué)技術(shù)進(jìn)步法》第112條規(guī)定,對(duì)進(jìn)行違背科技倫理的科學(xué)技術(shù)研究開發(fā)和應(yīng)用活動(dòng)的行為采取責(zé)令改正、追回財(cái)政性資金、沒收違法所得、公布違法行為等懲戒措施。2021年發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》以強(qiáng)化科技倫理意識(shí)作為算法治理基本原則,將科技倫理審查作為算法監(jiān)管體系的重要一維,并規(guī)定企業(yè)建立科技倫理審查制度責(zé)任。2022年《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第8條規(guī)定,“算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型”,認(rèn)定企業(yè)采取誘導(dǎo)用戶成癮行為系對(duì)倫理道德的違反。2022年中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》明確了增進(jìn)人類福祉、合理控制風(fēng)險(xiǎn)的科技倫理原則,提出倫理先行、敏捷治理的要求。

我國(guó)對(duì)成癮性科技進(jìn)行科技倫理治理已經(jīng)具備初步的法制基礎(chǔ)和法規(guī)依據(jù),但仍須細(xì)化微觀倫理原則、構(gòu)建科技倫理治理組織基礎(chǔ)、建立科技倫理責(zé)任制度,使科技倫理治理具備現(xiàn)實(shí)執(zhí)行力:(1)構(gòu)建以行政引導(dǎo)為主的倫理商談程序,確立秩序目標(biāo)。科技倫理治理尚處萌發(fā)階段,企業(yè)對(duì)科技倫理目標(biāo)缺乏認(rèn)知和重視,行政引導(dǎo)能夠短時(shí)間內(nèi)自上而下地樹立以下三個(gè)層面的秩序性目標(biāo),一是反思性目標(biāo),通過交流辯論方式明晰各方價(jià)值主張的基礎(chǔ)與邏輯,傳達(dá)規(guī)制機(jī)關(guān)的科技倫理要求,亦聽取企業(yè)基于商業(yè)邏輯提出的合理主張;二是認(rèn)知性目標(biāo),彌合規(guī)制機(jī)關(guān)—企業(yè)—行業(yè)—專家—公眾各方對(duì)于成癮性科技的認(rèn)知差距,使各方在具備相對(duì)理性客觀認(rèn)知的前提下展開價(jià)值交流探討;三是規(guī)劃性目標(biāo),規(guī)制機(jī)關(guān)在前兩個(gè)目標(biāo)基礎(chǔ)上,對(duì)成癮性科技的價(jià)值理念做出指南,要求企業(yè)在研發(fā)過程中注入向善的價(jià)值理念[54]。(2)開展微觀倫理學(xué)研究,制定行為指南。徒有抽象的倫理原則難以有效指導(dǎo)企業(yè),將抽象的倫理原則細(xì)化為行為指南,增強(qiáng)倫理原則的行為指引制度能力[54]。哈佛大學(xué)伯克曼互聯(lián)網(wǎng)與社會(huì)研究中心提出的“宏觀倫理原則—具體行為指引”的基本范式給成癮性科技的行為指南提供有益借鏡⑦,提供現(xiàn)階段的即時(shí)應(yīng)對(duì),隨著成癮性科技的認(rèn)識(shí)加深,行為指南還將繼續(xù)細(xì)化完善。(3)建立科技倫理審查委員會(huì),為科技倫理治理提供組織基礎(chǔ)。倫理審查委員會(huì)承擔(dān)著個(gè)案?jìng)惱韺彶?、倫理研究、制定行為指南、組織公共倫理辯論、政策和決策咨詢等多項(xiàng)職能,在科技倫理治理中不可或缺。我國(guó)可借鑒目前較為完善的生命健康領(lǐng)域倫理委員會(huì)組建的經(jīng)驗(yàn)[55],建立互聯(lián)網(wǎng)經(jīng)濟(jì)和應(yīng)用軟件領(lǐng)域?qū)ｉT倫理審查委員會(huì),將成癮性科技在內(nèi)的應(yīng)用軟件研發(fā)運(yùn)營(yíng)納入審查范圍。同時(shí),我國(guó)應(yīng)當(dāng)鼓勵(lì)較大規(guī)模企業(yè)展開內(nèi)部倫理審查信息化平臺(tái)建設(shè),將之作為自我規(guī)制的重要組成部分。(4)建立科技倫理責(zé)任制度。規(guī)制機(jī)關(guān)囿于規(guī)制資源所限難以對(duì)大量涌現(xiàn)的應(yīng)用軟件進(jìn)行面面俱到的審查,故應(yīng)強(qiáng)化企業(yè)的科技倫理責(zé)任,使之成為科技倫理的首道防線。針對(duì)企業(yè)科技倫理失范行為,除依據(jù)《科技進(jìn)步法》責(zé)令改正、沒收違法所得、負(fù)面信息公布外,還可采取列入重點(diǎn)監(jiān)管對(duì)象、失信懲戒等措施進(jìn)一步加強(qiáng)懲戒力度,以及對(duì)技術(shù)直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員進(jìn)行個(gè)人責(zé)任追究。

六、結(jié)語

元規(guī)制—合作規(guī)制—外部規(guī)制三重體系能夠抵御成癮性科技風(fēng)險(xiǎn),但這并不意味法律規(guī)制就此終結(jié)。成癮性科技在注意力競(jìng)爭(zhēng)背景下滲透至各個(gè)領(lǐng)域,衍生出媒體型成癮性科技、游戲型成癮性科技、購(gòu)物型成癮性科技等,這些具體類型成癮性科技在特定場(chǎng)景造成的風(fēng)險(xiǎn)危害尚有待進(jìn)一步研究,元宇宙為代表的全新形態(tài)成癮性科技亦蓄勢(shì)待發(fā)。元宇宙是社會(huì)信息化和虛擬化的必然趨勢(shì),被認(rèn)為是互聯(lián)網(wǎng)發(fā)展的終極階段[56],也可能是成癮性科技的終極形態(tài),在元宇宙的具身交互性、全息化沉浸性、虛擬補(bǔ)償性共同作用下,用戶在元宇宙中獲得多重感官體驗(yàn),收獲感官快感,更重要的是在“隨心所欲”的空間中,用戶會(huì)獲得極大的自我認(rèn)同和心理滿足,由此產(chǎn)生媒介依賴和成癮行為[57]。元宇宙超真實(shí)、超沉浸的環(huán)境若融入已頗為成熟的成癮模型與算法,所誕生的新型成癮性科技將遠(yuǎn)非前代成癮性科技所能企及。面對(duì)當(dāng)下以及將來的挑戰(zhàn),法律規(guī)制需要進(jìn)行理念轉(zhuǎn)軌,尋求達(dá)到家長(zhǎng)主義、自由意志、商業(yè)自由三者之間的微妙平衡,積極推動(dòng)企業(yè)開創(chuàng)新型盈利模式,使用戶在享受科技便利的同時(shí)免受成癮性科技風(fēng)險(xiǎn)的侵?jǐn)_、危害。

注 釋:

①“氪金”來源于我國(guó)游戲社區(qū),是指網(wǎng)絡(luò)游戲的充值,“抽卡”則是指充值所獲得的物品并非固定,是根據(jù)游戲預(yù)設(shè)的算法被“隨機(jī)”抽取。目前,絕大多數(shù)氪金抽卡網(wǎng)游采取保底策略,即抽卡達(dá)到一定數(shù)量必定出現(xiàn)某特定等級(jí)的游戲角色、物品或裝備,所以抽卡的結(jié)果不是真正意義上的隨機(jī)而是由算法進(jìn)行操控。

②行為經(jīng)濟(jì)學(xué)認(rèn)為人的大腦存在兩套系統(tǒng),系統(tǒng)1的運(yùn)行是無意識(shí)且快速的,處于自主運(yùn)行狀態(tài),容易犯邏輯上的錯(cuò)誤;系統(tǒng)2負(fù)責(zé)復(fù)雜的運(yùn)算和邏輯推理,其運(yùn)行通常與行為、選擇和專注等主觀體驗(yàn)相關(guān)聯(lián)(參見丹尼爾·卡尼曼:《思考,快與慢》,胡曉姣、李愛民、何夢(mèng)瑩譯,中信出版社2012年版,第5-9頁)。

③參見王某與北京淘友天下科技發(fā)展有限公司隱私權(quán)糾紛案,北京市海淀區(qū)人民法院民事判決書,(2018)京0108民初25154號(hào)。

④捕鯨策略由鉤子(Hook)、習(xí)慣(Habit)、愛好(Hobby)三個(gè)階段組成,鉤子階段將為用戶提供廉價(jià)贈(zèng)品,使用戶“上鉤”,養(yǎng)成充值付費(fèi)習(xí)慣;習(xí)慣階段允許用戶通過充值獲得更快進(jìn)度,因此更樂于游玩;愛好階段培養(yǎng)用戶將游戲作為日常生活的一部分,將充值金額不斷推高。See Mike Rose. Chasing the Whale: Examining the ethics of free-to-play game。https://www.gamedeveloper.com/business/chasing-the-whale-examining-the-ethics-of-free-to-play-games。

⑤例如被稱為史上最嚴(yán)禁令的《國(guó)家新聞出版署關(guān)于進(jìn)一步嚴(yán)格管理切實(shí)防止未成年人沉迷網(wǎng)絡(luò)游戲的通知》出臺(tái)后不久,網(wǎng)上即盛傳“60歲花甲老太太,凌晨三點(diǎn)進(jìn)行游戲,并17次通過人臉識(shí)別”,此事甚至還引起中宣部、國(guó)家新聞出版署對(duì)騰訊、網(wǎng)易進(jìn)行約談。(參見杭州網(wǎng). “60歲老太凌晨用趙云五殺”騰訊回應(yīng):人臉識(shí)別17次,認(rèn)為確系“本人”在游戲。https://news.hangzhou.com.cn/shxw/content/2021-09/10/content_8051065.htm)

⑥例如奇虎 360集團(tuán)旗下獨(dú)立業(yè)務(wù)公司北京安云世紀(jì)科技推出了基于安卓 11 系統(tǒng)的 360 OS手機(jī),該手機(jī)以青少年防沉迷功能作為主要競(jìng)爭(zhēng)優(yōu)勢(shì);華為、小米、OPPO三個(gè)手機(jī)品牌則各自研發(fā)了內(nèi)置的反成癮機(jī)制。(參見三易生活. 360新機(jī)Q20 Pro現(xiàn)身,主打青少年防沉迷功能。 https://new.qq.com/rain/a/20220922A08BR000;中關(guān)村在線. 玩手機(jī)“成癮”得戒 華為小米OPPO防沉迷實(shí)測(cè)對(duì)比。https://mobile.zol.com.cn/778/7785006.html)

⑦在“宏觀倫理原則—具體行為指引”的基本范式可以推導(dǎo)出以下成癮性科技治理的行為指南:(1)不傷害原則,企業(yè)不應(yīng)研發(fā)對(duì)用戶產(chǎn)生傷害的成癮模型與算法;(2)人類福祉原則,企業(yè)在成癮性科技運(yùn)營(yíng)前應(yīng)進(jìn)行社會(huì)影響評(píng)估;(3)透明與可解釋原則,企業(yè)應(yīng)履行對(duì)成癮模型與算法的雙重解釋義務(wù);(4)技術(shù)責(zé)任原則,企業(yè)及其技術(shù)人員在開發(fā)過程中應(yīng)進(jìn)行負(fù)責(zé)任的設(shè)計(jì)并承擔(dān)責(zé)任;(5)知情同意原則,進(jìn)行成癮性科技“同意治理”,不得運(yùn)用簡(jiǎn)化和默認(rèn)設(shè)置將知情同意空洞化。See Fjeld,Jessica,Nele Achten,et al:Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI,Berkman Klein Center for Internet &Society 5(2020)1-68.