女性視角下，人工智能融入市域治理應(yīng)用中的未來問題研究

摘要：人工智能已滲透并逐漸影響著市域治理的格局，正在實(shí)現(xiàn)市域公共管理的技術(shù)躍進(jìn)，同時(shí)帶來挑戰(zhàn)與機(jī)遇。通過厘清人工智能技術(shù)融入市域治理的風(fēng)險(xiǎn)、應(yīng)對及未來方向，形成女性視角下，人工智能融入市域治理應(yīng)用中的未來問題框架并加以研究，以此呼吁在人工智能與市域治理的應(yīng)用與結(jié)合的過程中向女性等群體適度傾斜政策、技術(shù)及資源，助推市域治理公平化、智能化、精細(xì)化和現(xiàn)代化。

關(guān)鍵詞：女性;人工智能;市域治理;公共管理

引言

隨著人工智能不斷發(fā)展，其不但深入進(jìn)駐公共治理領(lǐng)域，也快速應(yīng)用于公共治理實(shí)踐。黨和國家高度重視其治理價(jià)值，將發(fā)展人工智能作為重要戰(zhàn)略舉措，寫入十九大報(bào)告。市域治理作為國家治理體系的重要領(lǐng)域，及國家發(fā)展的核心空間，其作用地位日漸上升。人工智能已滲透并推動(dòng)人類生產(chǎn)生活各個(gè)領(lǐng)域的發(fā)展，必然已逐漸影響著市域治理的格局，帶來挑戰(zhàn)與機(jī)遇。在當(dāng)前中國發(fā)展方式與社會治理方式轉(zhuǎn)變的重要節(jié)點(diǎn)上，需要深刻理解作為新一代科技革命重要技術(shù)的人工智能對新時(shí)代中國城市治理，和對城市治理下，越來越多身兼社會及家庭重任的現(xiàn)代中國女性工作、生活和未來發(fā)展的影響，形成女性視角下的未來問題框架并加以探索研究，才能嘗試提供在數(shù)字時(shí)代壓縮負(fù)面影響、降低技術(shù)歧視，增強(qiáng)城市風(fēng)險(xiǎn)應(yīng)對能力的“時(shí)代良方”，真正助推市域治理公平化、智能化、精細(xì)化和現(xiàn)代化。

一、人工智能技術(shù)融入市域治理的應(yīng)用風(fēng)險(xiǎn)

（一）市民權(quán)利風(fēng)險(xiǎn)

這一風(fēng)險(xiǎn)主要包括安全風(fēng)險(xiǎn)和侵權(quán)風(fēng)險(xiǎn)。從市域公共安全視角來看，一方面如杭州、南京等城市的“智慧警務(wù)”等智慧政務(wù)的打造，快速提高了市域治理能力，另一方面，人工智能技術(shù)的不確定性及智能醫(yī)療技術(shù)、智能駕駛技術(shù)產(chǎn)品的應(yīng)用，會帶來使用不當(dāng)危險(xiǎn)、人機(jī)協(xié)同風(fēng)險(xiǎn)、惡意操縱風(fēng)險(xiǎn)、黑客入侵風(fēng)險(xiǎn)、隱私泄露風(fēng)險(xiǎn)等與市民權(quán)利密切相關(guān)的風(fēng)險(xiǎn)，如美國巴爾的摩市政系統(tǒng)的黑客攻擊勒索事故。而由于目前相關(guān)政策的空白，侵權(quán)后的責(zé)任歸屬及賠償也成為一大問題。在屬地管理原則下，省、市、縣各級屬地政府、職能單位及相關(guān)企業(yè)的風(fēng)險(xiǎn)控制責(zé)任難以明確識別和區(qū)分，造成目前人工智能技術(shù)引發(fā)的市民侵權(quán)事件責(zé)任分?jǐn)偛磺宓娘L(fēng)險(xiǎn)。

（二）治理體系風(fēng)險(xiǎn)

這一風(fēng)險(xiǎn)主要包括治理秩序風(fēng)險(xiǎn)和法治體系風(fēng)險(xiǎn)。傳統(tǒng)的人際互動(dòng)模式和社會結(jié)構(gòu)已經(jīng)被新興數(shù)字信息技術(shù)逐漸打破，海量數(shù)據(jù)分析和超強(qiáng)算法給市域政治和社會管理帶來撕裂性的秩序風(fēng)險(xiǎn)，表現(xiàn)為分配機(jī)制的可替代性和治理權(quán)力的去中心化。資本、權(quán)力和人力的傳統(tǒng)性分配受到人工智能技術(shù)的爆發(fā)性破壞和替代，對就業(yè)市場的沖擊愈發(fā)顯著，人類的就業(yè)機(jī)會和工資收入是否會受到擠壓，進(jìn)而造成大規(guī)模的收入縮減和結(jié)構(gòu)性失業(yè)成為日漸普遍的擔(dān)憂。比如從2016年開始的全面性失業(yè)潮，甚至影響到第三產(chǎn)業(yè)，如中國“四大行”裁員數(shù)以萬計(jì)，連印度的IT行業(yè)從業(yè)者都受到?jīng)_擊;再如美國相關(guān)研究發(fā)現(xiàn)，每千名工人增加使用一臺機(jī)器人，工資收入平均下降0.25%-0.5%。公眾參與權(quán)利被信息技術(shù)快速放大，公共問題的討論和政治問題的協(xié)商已進(jìn)入移動(dòng)智能化全媒體時(shí)代，普通網(wǎng)民的微小舉動(dòng)都可能干擾整個(gè)城市系統(tǒng)的穩(wěn)定。同時(shí)，人工智能技術(shù)又會加劇寡頭統(tǒng)治的危險(xiǎn)，賦權(quán)與約束的非對稱性為市域治理秩序引入更多復(fù)雜性和不確定性。而這些風(fēng)險(xiǎn)都缺乏法律體系的有效規(guī)制，加大法律事實(shí)認(rèn)定的難度和對法律主體地位、對行政公平等法治領(lǐng)域、對自然人權(quán)利義務(wù)關(guān)系進(jìn)行規(guī)范的法治體系的挑戰(zhàn)。

（三）道德倫理風(fēng)險(xiǎn)

人工智能技術(shù)現(xiàn)階段的應(yīng)用，還處于弱倫理化的狀態(tài)，無法自主維護(hù)公共價(jià)值和道德倫理。而在人工智能進(jìn)一步發(fā)展之后，尤其在智能妻子、智能父母、智能子女等應(yīng)用技術(shù)不斷完善的情況下，其存在價(jià)值與機(jī)器判斷的合理性必將引發(fā)道德倫理的沖突，帶來的超越人類傳統(tǒng)思維與實(shí)踐界限的網(wǎng)戀、情愛形式、婚姻模式、養(yǎng)育教育和家庭結(jié)構(gòu)，不但會使真人女性的家庭地位產(chǎn)生質(zhì)的變化，更可能引發(fā)歷史性的婚戀革命，威脅和動(dòng)搖全體自然人的存在價(jià)值與既有公共道德倫理綱常，而其本身的發(fā)展和迭代也會不斷引起新一輪的道德倫理風(fēng)險(xiǎn)。另一方面，人工智能尤其是廣泛性的自動(dòng)化應(yīng)用已經(jīng)對傳統(tǒng)行業(yè)，特別是制造業(yè)等就業(yè)領(lǐng)域產(chǎn)生了顛覆性的沖擊，引起市民對于穩(wěn)定就業(yè)的衍生性倫理風(fēng)險(xiǎn)。這就對市域政府制定公共政策及調(diào)節(jié)相關(guān)市場提出了新要求，必須在智能與人力、經(jīng)濟(jì)產(chǎn)出和社會福利之間做出最佳選擇。

（四）算法歧視風(fēng)險(xiǎn)

算法歧視風(fēng)險(xiǎn)，可視為人工智能公正性問題的統(tǒng)稱，根源于個(gè)人偏見無意識地表達(dá)，或者結(jié)構(gòu)性權(quán)力性的不平等，主要包含兩種類型，一是市場支配權(quán)不平等下的歧視，二是身份特征不平等下的歧視。前者最突出的例子就是依據(jù)大數(shù)據(jù)算法而出現(xiàn)的“殺熟”現(xiàn)象，后者表現(xiàn)為人工智能技術(shù)及應(yīng)用對特定集體身份的區(qū)別對待，體現(xiàn)出性別歧視、種族歧視、殘障歧視、年齡歧視、地域歧視等問題。算法歧視風(fēng)險(xiǎn)也體現(xiàn)了互聯(lián)網(wǎng)行業(yè)從業(yè)人員的視角缺失問題。第四次全國經(jīng)濟(jì)普查軟件行業(yè)數(shù)據(jù)顯示，女性從業(yè)人員147萬，僅占全部從業(yè)人員的34.6%，整體從業(yè)人員平均年齡僅為28.3歲;而我國互聯(lián)網(wǎng)綜合實(shí)力排名前十的企業(yè)披露，不僅男性員工總體數(shù)量是女性員工的1.3-3.4倍，女性占比與崗位層級之間更是呈明顯的反比關(guān)系，這就決定了行業(yè)產(chǎn)品相當(dāng)局限在年輕健康男性的問題建構(gòu)視野上，彼此無法突破設(shè)計(jì)結(jié)構(gòu)上的狹隘，造成了無意識、不自覺的不平等現(xiàn)象，造成了普遍性和滯后性的社會問題，如科幻電影中幾乎清一色的女性AI形象、老年人遭遇的“數(shù)字化鴻溝”等。

二、人工智能在市域治理中的風(fēng)險(xiǎn)應(yīng)對

（一）健全政府政策規(guī)劃及監(jiān)測機(jī)制

為有效保障人工智能技術(shù)的合法應(yīng)用，需要建立適應(yīng)性的治理政策和體系來引導(dǎo)和保障，兼容城市治理與人工智能技術(shù)的發(fā)展。市域相關(guān)政策制定可與國家戰(zhàn)略政策相結(jié)合，借鑒學(xué)習(xí)人工智能應(yīng)用國家戰(zhàn)略政策發(fā)展較早，既有經(jīng)驗(yàn)和政策文本較豐富的美英等國家的經(jīng)驗(yàn)，制定專門戰(zhàn)略政策，明確人工智能技術(shù)研發(fā)重點(diǎn)，引導(dǎo)財(cái)政投入，建設(shè)人才隊(duì)伍，構(gòu)建協(xié)同體系，規(guī)定“制定標(biāo)準(zhǔn)和基準(zhǔn)”“理解并解決倫理問題”“開發(fā)公共數(shù)據(jù)集成環(huán)境”等未來技術(shù)時(shí)代的戰(zhàn)略方向。另一個(gè)重點(diǎn)是建立人工智能應(yīng)用的市域政府監(jiān)測機(jī)制。借鑒如英國的共享監(jiān)管機(jī)制，由政府部門、學(xué)術(shù)機(jī)構(gòu)代表、科技行業(yè)代表、消費(fèi)者團(tuán)體共同組建，實(shí)現(xiàn)人工智能應(yīng)用的多利益主體監(jiān)管功能。推動(dòng)反歧視法律體系的數(shù)字化轉(zhuǎn)型，重視人工智能的監(jiān)管立法，如美國紐約市的《政府部門自動(dòng)決策系統(tǒng)法案》，將市域公共決策對人工智能技術(shù)應(yīng)用的監(jiān)管上升到了法律范疇。

（二）提高市民風(fēng)險(xiǎn)感知能力與技術(shù)協(xié)同能力

主觀能動(dòng)性也是影響風(fēng)險(xiǎn)應(yīng)對效果的重要因素，從人工智能融入市域治理的角度來看，市民對人工智能技術(shù)與城市治理主體的信任、對相關(guān)風(fēng)險(xiǎn)關(guān)心的程度、利益取向性選擇、風(fēng)險(xiǎn)信息獲取的渠道和信息量等主、客觀因素，都很大地影響著個(gè)體通過信息傳遞后感知、判斷并形成的風(fēng)險(xiǎn)感知，最后影響市民對人工智能技術(shù)及應(yīng)用的風(fēng)險(xiǎn)應(yīng)對。這就要求城市政府加強(qiáng)公眾倫理風(fēng)險(xiǎn)教育、擴(kuò)大市民的技術(shù)決策參與、同時(shí)強(qiáng)化政府信息公開，拓寬多元主體參與，不斷協(xié)商與調(diào)整，才能降低人工智能技術(shù)風(fēng)險(xiǎn)，提高全民技術(shù)協(xié)同性，建立合理的權(quán)責(zé)體系，最終形成共建共治共享的市域治理新格局。

（三）重塑基于數(shù)字平權(quán)的非歧視權(quán)力結(jié)構(gòu)

結(jié)構(gòu)性的不合理是造成算法歧視的根源。由國家層面鼓勵(lì)，城市治理主體引導(dǎo)，在數(shù)字領(lǐng)域延伸由企業(yè)、高校等多元主體參與的社會平權(quán)行動(dòng)，才是遏制人工智能歧視的根本手段。一是要推動(dòng)開發(fā)團(tuán)隊(duì)人員構(gòu)成的多元化。突破人工智能團(tuán)隊(duì)的人員同質(zhì)化局限，規(guī)范開發(fā)行為，抑制無意識的偏見，吸收不同性別、種族、經(jīng)濟(jì)水平、社會背景、殘障和學(xué)科領(lǐng)域的成員加入，才能自發(fā)避免對弱勢、少數(shù)群體的歧視。二是要重點(diǎn)關(guān)注相關(guān)的職業(yè)與教育領(lǐng)域。從人工智能歧視的風(fēng)險(xiǎn)源頭入手，政策關(guān)注、資源傾斜，優(yōu)先鼓勵(lì)女性、殘障人士、少數(shù)民族、偏遠(yuǎn)貧困地區(qū)等群體進(jìn)入人工智能密切相關(guān)的計(jì)算機(jī)科學(xué)與技術(shù)、軟件工程等專業(yè)和行業(yè)，從人才培育開始，保障新興科技領(lǐng)域人員構(gòu)成的平等化。三是利用人工智能治理歧視危機(jī)。既然存在數(shù)字化擴(kuò)散人類歧視行為的風(fēng)險(xiǎn)，那同樣可以利用人工智能等數(shù)字化工具來開展平權(quán)行動(dòng)。從倫理體系入手，將人類社會成熟、公認(rèn)、相對公平的倫理原則轉(zhuǎn)換為人工智能編程基礎(chǔ)，遵循人類兒童成長的過程，讓人工智能逐漸學(xué)習(xí)成長為“有道德的算法”，輔助市域治理主體和相關(guān)企業(yè)，挖掘和分析女性、老年人等弱勢、少數(shù)群體面臨的實(shí)際問題，精準(zhǔn)引導(dǎo)市域治理政策、手段和公共服務(wù)資源向有需要的人群流動(dòng)，實(shí)現(xiàn)精準(zhǔn)數(shù)字化“反歧視”。

三、人工智能技術(shù)融入市域治理的未來方向

（一）城市最小功能單元治理未來化

社區(qū)和鄉(xiāng)村可說是市域治理的最小功能單元?！爸腔凵鐓^(qū)（鄉(xiāng)村）”“未來社區(qū)（鄉(xiāng)村）”的構(gòu)建，是綜合性、全面性和實(shí)踐性地運(yùn)用人工智能技術(shù)，數(shù)字化重構(gòu)基層治理流程、規(guī)則、功能和生態(tài)，從根本上改變社區(qū)居民（鄉(xiāng)村農(nóng)民）的社會關(guān)系和實(shí)際生活的嶄新嘗試，是數(shù)字經(jīng)濟(jì)的落地單元，是數(shù)字社會的重要載體，也是與人民群眾最密切相關(guān)、未來之中又最為現(xiàn)實(shí)的人工智能與市域治理融合領(lǐng)域。2019年3月20日，浙江省政府印發(fā)《浙江省未來社區(qū)建設(shè)試點(diǎn)工作方案》（浙政發(fā)〔2019〕8號），截至目前，全省已有70個(gè)社區(qū)（村）及全域類試點(diǎn)進(jìn)入浙江省“未來社區(qū)”創(chuàng)建名單，2021年5月已上線運(yùn)行未來社區(qū)智慧服務(wù)平臺2.0，同時(shí)篩選確定在杭州上城楊柳郡社區(qū)、湖州長興齊北社區(qū)、紹興柯橋大渡社區(qū)等6個(gè)創(chuàng)建社區(qū)爭取率先實(shí)現(xiàn)“智慧醫(yī)療”“社區(qū)文化”等系列多跨應(yīng)用場景，多元共建，社會合力，保證先行先試，項(xiàng)目高質(zhì)量落地運(yùn)行，加快形成可學(xué)、可看、可體驗(yàn)的實(shí)踐成果。還可借鑒國際上未來社區(qū)的建設(shè)經(jīng)驗(yàn)，如新加坡組屋計(jì)劃、加拿大Quayside社區(qū)、日本5.0模式、歐美BLOCK街區(qū)等建設(shè)模式，完成我國社區(qū)數(shù)字引擎直到城市數(shù)字引擎的更新迭代，擴(kuò)張滲透，演進(jìn)深化，使人工智能與市域治理的切身融合從“盆景”變成“風(fēng)景”。

（二）城市整體公共治理智能化

人工智能技術(shù)對整個(gè)城市治理，包括公共信息收集與處理、公共政策制定、公共問題決策、公共治理手段創(chuàng)新等一整個(gè)城市治理過程的智能化發(fā)展的推動(dòng)已是顯著的趨勢。通過網(wǎng)絡(luò)與傳統(tǒng)行業(yè)緊密結(jié)合，人工智能技術(shù)為城市治理提供了開放性技術(shù)集成的基礎(chǔ)，促進(jìn)市域公共治理流程再造和效率改進(jìn)，提升公共服務(wù)供給的智能化水平。比如福建漳州市的“96123行政服務(wù)平臺”、上海浦東新區(qū)的“小博士”行政審批職能導(dǎo)航，岳陽市智慧城管系統(tǒng)等都是通過智能終端，實(shí)現(xiàn)審批、環(huán)衛(wèi)、查違等城市治理流程的網(wǎng)絡(luò)一站式自助服務(wù)，都是市域治理主體在推行“智慧政務(wù)”“智慧民生”“智慧產(chǎn)業(yè)”的基礎(chǔ)上，全面實(shí)現(xiàn)“智慧城市”的成功案例。

（三）城市人工智能公共倫理設(shè)計(jì)及應(yīng)用責(zé)任分?jǐn)倷C(jī)制化

人工智能應(yīng)用的風(fēng)險(xiǎn)已成為市民普遍爭議的公共新議題。一方面，市域政府在運(yùn)用人工智能的治理實(shí)踐中，必須平衡多樣化的價(jià)值訴求，對人工智能產(chǎn)品進(jìn)行倫理設(shè)計(jì)，將行政倫理、社會公共道德精神等公共倫理嵌入其中，控制其智能水平尤其是自主程度，引導(dǎo)人工智能技術(shù)整體上向符合道德的方向發(fā)展。另一方面，可參考上海（浦東新區(qū)）人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)建設(shè)經(jīng)驗(yàn)，創(chuàng)新政府管理，構(gòu)建包容審慎的新型審批監(jiān)管制度和城市公共治理人工智能應(yīng)用責(zé)任體系，消除融合發(fā)展面臨的安全、數(shù)據(jù)、資質(zhì)等壁壘，研究確定人工智能技術(shù)及應(yīng)用引發(fā)侵權(quán)風(fēng)險(xiǎn)的責(zé)任主體認(rèn)定機(jī)制，把人工智能技術(shù)應(yīng)用的設(shè)計(jì)者、生產(chǎn)者、銷售者等相關(guān)主體全部納入監(jiān)管，實(shí)現(xiàn)新型技術(shù)應(yīng)用侵權(quán)責(zé)任明晰化和責(zé)任分?jǐn)倷C(jī)制化，營造公平、競爭、開放、有序的市場環(huán)境。

（四）城市公共治理新型智庫技術(shù)化與集成化

人工智能技術(shù)的應(yīng)用，是建設(shè)城市公共治理新型智庫的大勢所趨，同時(shí)改變了市域政府智庫的構(gòu)成元素，呈現(xiàn)出跨學(xué)科合作、多維度協(xié)同、重視人才整合的新特點(diǎn)，正逐漸成為城市甚至國家智庫研究的熱點(diǎn)和重點(diǎn)。專家智庫服務(wù)的有限理性、滯后性，知識權(quán)威壟斷性以及男性專家占絕大多數(shù)的性別價(jià)值觀不公正性，讓城市治理主體將目光轉(zhuǎn)向以人工智能系統(tǒng)和計(jì)算機(jī)為核心的融合型智庫，引導(dǎo)女性尖端技術(shù)方向的職業(yè)發(fā)展，在巨型數(shù)據(jù)庫的基礎(chǔ)上，集成性別平等的專家服務(wù)與多種高新技術(shù)，不斷吸納技術(shù)性要素，最終構(gòu)建工作效能高，工作負(fù)擔(dān)輕，人工智能部分替代專家，甚至替代大部分專家的公平化、技術(shù)化、集成化城市未來大智庫。依據(jù)2020 年 3 月 8 日，清華大學(xué) - 中國工程院知識智能聯(lián)合研究中心、清華大學(xué)人工智能研究院與北京智源人工智能研究院隆重發(fā)布的人工智能全球女性榜單，全球范圍內(nèi)人工智能領(lǐng)域最頂尖的 2000位學(xué)者中有179位是女性，中國12名女性學(xué)者入選，位列第二，但具體到比率層面，中國只有6.9%，遠(yuǎn)低于9%的國際基準(zhǔn)線。

四、結(jié)語

城市治理智能模式已經(jīng)被“數(shù)據(jù)+算法+算力”重新定義，人工智能的嶄新工具正在實(shí)現(xiàn)市域公共管理的技術(shù)躍進(jìn)，全面提升分析、預(yù)測、診斷、決策、轉(zhuǎn)型等層面的城市治理能力。在廓清和研究人工智能市域治理未來問題的基礎(chǔ)上，還應(yīng)向女性等行業(yè)少數(shù)群體適度傾斜政策、技術(shù)及資源，才能在數(shù)字時(shí)代切實(shí)維護(hù)社會公平正義的底線，在新興技術(shù)的應(yīng)用和融合中真正推動(dòng)城市治理創(chuàng)新轉(zhuǎn)型。

參考文獻(xiàn)

[1]張明斗，劉奕.人工智能在城市治理中的應(yīng)用邏輯與風(fēng)險(xiǎn)應(yīng)對[J].湖南行政學(xué)院學(xué)報(bào)，2021（01）：5-13.10.16480/j.cnki.cn43-1326/c.2021.01.001.

[2]譚九生，楊建武.人工智能嵌入政府治理的倫理風(fēng)險(xiǎn)及其防控[J].探索，2021（02）：126-138.10.16501/j.cnki.50-1019/d.2021.02.011.

[3]代佳欣.公共治理中的人工智能應(yīng)用：一個(gè)文獻(xiàn)綜述[J].吉首大學(xué)學(xué)報(bào)（社會科學(xué)版），2021，42（02）：97-108.10.13438/j.cnki.jdxb.2021.02.010.

[4]張炫煒.人工智能融入經(jīng)濟(jì)社會發(fā)展時(shí)的潛在風(fēng)險(xiǎn)研判及應(yīng)對研究[J].現(xiàn)代商業(yè)，2021（13）：99-101.10.14097/j.cnki.5392/2021.13.030.

作者簡介：陳婷婷（1987—），女，南昌大學(xué)公共管理學(xué)院在讀碩士，臺州市科技館，浙江省臺州市科學(xué)技術(shù)協(xié)會數(shù)字化改革專班成員，信息系統(tǒng)項(xiàng)目管理師（高級），軟件設(shè)計(jì)師，主要從事青少年科普教育及公共管理、行政管理的相關(guān)數(shù)字化研究。