人工智能：無限開發(fā)與有限理性的倫理博弈

唐代興 王 燦

人工智能發(fā)展到今天，幾乎家喻戶曉。人工智能帶來的好處、便利，幾乎人人已初步在日常生活中感受到；人工智能的無限前景及其帶動(dòng)起來的無限制研發(fā)的風(fēng)險(xiǎn)(1)唐代興：《基因工程和人工智能:人類向后人類演進(jìn)的不可逆風(fēng)險(xiǎn)與危機(jī)》，《江海學(xué)刊》2020年第3期。也逐漸清晰地呈現(xiàn)。從正反兩個(gè)維度觀，人工智能技術(shù)并不僅僅是一種技術(shù)，它也是一種存在方式、一種社會(huì)結(jié)構(gòu)方式和社會(huì)分配方式(2)唐代興：《人工智能發(fā)展帶動(dòng)的社會(huì)公正危機(jī)》，《人文雜志》2020年第8期。，并正在形成一種新的文化形態(tài)，并有可能創(chuàng)造出一種新的文明形態(tài)。正是在這個(gè)意義上，人工智能技術(shù)的內(nèi)在倫理問題才隨其快速發(fā)展突顯出來。國際倫理學(xué)界將這些日漸突顯出來的倫理問題及其對無限制地研發(fā)生成風(fēng)險(xiǎn)的倫理思考均納入“人工智能倫理學(xué)”(ethics of Artificial Intelligence)，它被看成一種如同“環(huán)境倫理學(xué)”那樣的領(lǐng)域性應(yīng)用倫理學(xué)。在此認(rèn)知框架下，根據(jù)研究對象的側(cè)重將其類分為“機(jī)器倫理學(xué)”(machine ethics)和“機(jī)器人倫理學(xué)”(robot-ethics)，然后予以研究對象和范圍的定位：將機(jī)器倫理學(xué)劃定為探究人工智能產(chǎn)品的功能釋放如何合倫理，其基本任務(wù)是探討制定機(jī)器的行為規(guī)范和邊界約束；將機(jī)器人倫理學(xué)劃定為研究人工智能技術(shù)研發(fā)如何合倫理，其基本任務(wù)是探討研發(fā)主體的行為規(guī)范和邊界約束。對人工智能技術(shù)而言，其研發(fā)行為如何合倫理和其產(chǎn)品功能釋放如何合倫理這兩個(gè)相互關(guān)聯(lián)的問題之間蘊(yùn)含一種張力，此即人們對人工智能技術(shù)的無限期待與人工智能技術(shù)激發(fā)人類有限理性節(jié)制之間必然形成生物人類可持續(xù)的主體化生存的倫理博弈。這一正在聚力形成的倫理博弈表明人工智能倫理并不能被簡單地歸入“領(lǐng)域性應(yīng)用倫理學(xué)”范疇，因?yàn)槿斯ぶ悄軅惱聿⒉皇呛唵蔚募夹g(shù)倫理，它既涉及人類倫理的演變，更涉及當(dāng)世倫理的重建。所以，在更為宏闊的視域平臺(tái)上了解人工智能的根本動(dòng)機(jī)和目標(biāo)，才可真正認(rèn)識(shí)到人工智能如何在社會(huì)倫理的層面敞開其博弈的重心取向。

一、動(dòng)機(jī)和目標(biāo)：人工智能無限可能性與人的有限理性的博弈格局

始于20世紀(jì)50年代的人工智能技術(shù)進(jìn)入21世紀(jì)以來，迅速進(jìn)入全面發(fā)展階段，形成全球競爭與社會(huì)化運(yùn)用的發(fā)展格局，與此并存的問題也不斷呈現(xiàn)，比如算法黑箱、產(chǎn)品問責(zé)、大數(shù)據(jù)隱私風(fēng)險(xiǎn)、就業(yè)替代等，不僅提出了制度、法律等方面的挑戰(zhàn)，更要求倫理學(xué)在更高認(rèn)知水準(zhǔn)上整體性回應(yīng)這諸多根本性的倫理問題，這就涉及客觀存在姿態(tài)選擇問題。比如阿西莫夫(Isaac Asimov)最早提出的機(jī)器人“不準(zhǔn)傷害人” “服從命令” “保護(hù)自己”(3)艾薩克·阿西莫夫：《銀河帝國8:我，機(jī)器人》，葉李華譯，江蘇鳳凰文藝出版社，2012年，第2頁。這三大道德原則，就表達(dá)出一種經(jīng)過強(qiáng)制性代碼輸入方式以禁止機(jī)器人危害人的企圖，具有很強(qiáng)的前預(yù)設(shè)姿態(tài)。耶魯大學(xué)機(jī)器人專家喬納森·哈特曼(Jonathan Hartman)認(rèn)為阿西莫夫提出的這三條道德原則恰恰證明了人工智能機(jī)器不具有道德主體能力，人工智能體是人工智能科學(xué)家采取編程設(shè)計(jì)置入其中的行為規(guī)范(和行為邊界)程序命令，當(dāng)這種程序命令被取消或被破壞時(shí)，人工智能體就處于非服務(wù)的自在狀態(tài)。這種將人工智能看成不可能成為主體的觀念，仍然是與人工智能這一生物工藝學(xué)技術(shù)完全不相干的屬于傳統(tǒng)認(rèn)知模式框架下的純粹的技術(shù)物觀念。正是這一純粹的技術(shù)物觀念推動(dòng)世界范圍內(nèi)的“人工智能倫理學(xué)”研究呈現(xiàn)兩種姿態(tài)。一是大學(xué)學(xué)院內(nèi)部并沒有在整體上形成對人工智能風(fēng)險(xiǎn)及其倫理問題的科學(xué)關(guān)注。雖然隨著人工智能的發(fā)展而引來越來越多的學(xué)院研究者們轉(zhuǎn)向人工智能的倫理問題，卻并不構(gòu)成人工智能倫理研究的主導(dǎo)性力量，由此形成其研究的實(shí)際主導(dǎo)性力量在全球范圍內(nèi)只是官方與企業(yè)達(dá)成的市場默契與合作。二是因?yàn)檫@種市場默契與合作通過研究資金投入和市場宣傳導(dǎo)向的雙重方式形成虹吸效應(yīng)，推動(dòng)人工智能倫理研究的動(dòng)機(jī)與企圖很自然地夾雜很強(qiáng)的實(shí)利訴求和應(yīng)景取向，往往忽視人工智能自身的性質(zhì)及展開邏輯，從而造成人工智能倫理研究難以立足學(xué)科發(fā)展的內(nèi)部邏輯。政府、企業(yè)、軍方等在看待人工智能時(shí)有各自的邏輯，為其代言的人工智能倫理研究很自然地形成各自的姿態(tài)。比如2016年歐洲議會(huì)發(fā)布了一份建議性文件，旨在討論將普遍認(rèn)可的民權(quán)準(zhǔn)則賦予機(jī)器人的問題(2017年沙特阿拉伯授予機(jī)器人索菲婭以公民身份，就是在這樣的背景下產(chǎn)生的)，但有軍方背景的研究者卻關(guān)心“能夠自動(dòng)開火的機(jī)器人”應(yīng)當(dāng)遵循哪些倫理規(guī)范的問題。(4)P. Lin, “Robots in War: Issues of Risks and Ethics,” in R. Capurro and M. Nsgenborg ed., Ethics and Robotics，Heidelberg:Akademische Verlages gesellschaft AKA GmdH, 2009, pp.49-67.在諸如此類的姿態(tài)選擇中，人工智能自身的倫理問題總是被忽略。在這種語境下，人工智能倫理研究要能“立足于科學(xué)發(fā)展的內(nèi)部邏輯”，需要正視“人工智能何以需要倫理”這一前提性問題，但前提是要先理解人工智能產(chǎn)生于一個(gè)什么樣的時(shí)代，以及它能夠?yàn)檫@個(gè)時(shí)代解決什么問題。

從技術(shù)發(fā)展與思想演變史看，技術(shù)的誕生總是需要思想的孕育。以此考察人工智能的思想淵源，雖然可追溯到帕斯卡爾和萊布尼茨(5)D. R. Hofstadter, G?del,Escher,Bach:An Eternal Golden Braid, New York,USA:Basic Books,1979.(6)M. Lungarella, F. Iida, J. Bongard and R. Pfeifer, 50 Years of Artificial Intelligence:Essays Dedicated to the 50th Anniversary of Artificial Intelligence, New York, USA:Springer, 2008.那里，但其思想產(chǎn)生的真正土壤是計(jì)算機(jī)科學(xué)的全面發(fā)展，其思想的真正形成得益于計(jì)算機(jī)科學(xué)之父圖靈。他在《計(jì)算機(jī)和智力》(1950)中提出“機(jī)器能夠思維”的“圖靈命題”。圖靈命題既對人工智能科學(xué)提出很高要求，也設(shè)計(jì)出人工智能的長遠(yuǎn)愿景：希望未來人工智能系統(tǒng)具備人的大腦能力。(7)A. M. Turing, “Computing Machinery and Intelligence,” Mind, Vol.59, No.236, 1950.圖靈命題和愿景激勵(lì)約翰·麥卡錫(John McCarthy)于1956年正式提出“人工智能”概念，他給“圖靈愿景”賦予兩個(gè)維度的目標(biāo)，即“機(jī)器何以能夠思維”和“機(jī)器怎樣高效思維”。前者的目標(biāo)是賦予機(jī)器能夠思維的能力，起步是“模擬、延伸、擴(kuò)展人類智能”(8)J. McCarthy, M. L. Minsky, N. Rochester and C. E. Shannon, A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, http：//www-formal.Stanford.edu/jmc/history/darmouth/dartmouth.html.的邏輯思維，實(shí)現(xiàn)對人的大腦工作原理及其邏輯思維運(yùn)行機(jī)制的掌握，構(gòu)建起智能機(jī)器的學(xué)習(xí)能力；后者的目標(biāo)是賦予機(jī)器高效思維的能力，其起步是模擬、延伸、擴(kuò)展人腦的抽象思維，使其具備自主性的深度學(xué)習(xí)能力，探求人類的情感原理，破譯人類的心靈機(jī)制，使智能機(jī)器具備生物人的創(chuàng)造能力。

基于這一雙重目標(biāo)，人工智能從20世紀(jì)50年代中葉起步發(fā)展到今天，已形成社會(huì)化和全球性競爭。人工智能發(fā)展的社會(huì)化，是指人工智能技術(shù)向全社會(huì)鋪開：一方面是智能技術(shù)全面市場化，形成人類技術(shù)體系全方位更新與替換，主導(dǎo)工業(yè)社會(huì)的機(jī)械技術(shù)體系正全面潰退而被以計(jì)算機(jī)為運(yùn)演工具、以會(huì)聚技術(shù)為認(rèn)知論方法、以大數(shù)據(jù)和云計(jì)算為分析方法的人工智能技術(shù)體系所取代；另一方面是智能技術(shù)向生活領(lǐng)域、管理領(lǐng)域全面滲透，形成社會(huì)管理和大眾生活的人工智能化，比如掃碼管理和攝像頭監(jiān)控等構(gòu)成人的日常生活的有機(jī)內(nèi)容。人工智能的全球競爭，一方面指人工智能已不把人的生物腦作為單純的科學(xué)研究對象，而是作為生存發(fā)展的資源對象予以全方位開發(fā)；另一方面指將人的生物腦作為資源來開發(fā)，由相對單純的企業(yè)行為迅速演繹成為國際化的和世界性的政治—經(jīng)濟(jì)行為，各國政府的競爭成為將人的生物腦作為資源來開發(fā)的主導(dǎo)性力量。

圖靈關(guān)于人工智能系統(tǒng)可以具備“人的大腦能力”的愿景變成人工智能技術(shù)的目標(biāo)，即使機(jī)器從“能夠思維”向“高效思維”發(fā)展。人工智能技術(shù)從如何使機(jī)器“能夠思維”向怎樣使機(jī)器“高效思維”方向發(fā)展，之所以很快演繹成社會(huì)化和全球性競爭，是因?yàn)檠杆侔l(fā)展的人工智能技術(shù)自我賦形了新目標(biāo)，即要在使機(jī)器“能夠思維”和“高效思維”的努力中把人的生物腦作為最大的資源來開發(fā)。人工智能技術(shù)開發(fā)的目標(biāo)從使機(jī)器“能夠思維”到“高效思維”再到將人腦變成新資源來開發(fā)，一方面展現(xiàn)了人工智能技術(shù)動(dòng)機(jī)和目標(biāo)的無限可能性，另一方面體現(xiàn)了人類理性認(rèn)知的有限性。這種有限性從根本上表現(xiàn)為人類對技術(shù)的依賴性和盲目性擴(kuò)張。人類對技術(shù)的依賴性擴(kuò)張，體現(xiàn)在只看到技術(shù)對改變生存帶來的好處和便利而絕對地依賴技術(shù)，這種絕對依賴推動(dòng)人們主動(dòng)追求技術(shù)化存在。人類對技術(shù)的盲目性擴(kuò)張，體現(xiàn)在人類在技術(shù)帶來的好處和便利面前無限制地自我膨脹實(shí)利主義思維，以致逐步喪失有限的理性判斷力，對“技術(shù)化存在”從根本上造成技術(shù)對人的奴役并推動(dòng)人淪為技術(shù)的工具熟視無睹。

從人類存在和技術(shù)發(fā)展的歷史來看，技術(shù)既是人類克服存在危機(jī)、解決生存困境的有利工具，也成為制造新的存在危機(jī)和生存困境的深度方式。劉易斯·芒福德通過梳理人類現(xiàn)代技術(shù)演變發(fā)展的歷程揭示了技術(shù)如何異化人的不可逆方向，指出現(xiàn)代技術(shù)發(fā)展的歷程是“使人的勞動(dòng)機(jī)械化的過程，也就是邁向使機(jī)器人性化的第一步，這種過程直接導(dǎo)致了貶低人格的后果”(9)劉易斯·芒福德：《技術(shù)與文明》，陳允明等譯，中國建筑工業(yè)出版社，2009年，第136頁。。為何會(huì)如此呢？鮑德里亞指出，技術(shù)不僅開辟了人類社會(huì)的資本主義，而且還創(chuàng)造了物質(zhì)主義。(10)參見張一兵：《反鮑德里亞：一個(gè)后現(xiàn)代學(xué)術(shù)神話的祛序》，商務(wù)印書館，2009年，第9頁。正是基于這一基本認(rèn)識(shí)，尼爾·波斯曼認(rèn)為以人工智能為導(dǎo)向的技術(shù)化存在的時(shí)代本質(zhì)上是技術(shù)壟斷的時(shí)代，“技術(shù)壟斷并不使其他選擇不合法，也不使它們不道德，亦不使之不受歡迎，而是使之無影無形，并因此而失去意義。為此目的，技術(shù)壟斷重新界定宗教、藝術(shù)、家庭、政治、歷史、真理、隱私、智能的意義，使這些定義符合它的新的要求”，從而推動(dòng)“文化向技術(shù)投降”(11)尼爾·波斯曼：《技術(shù)壟斷：文化向技術(shù)投降》，何道寬譯，北京大學(xué)出版社，2007年，第28頁。?！拔幕蚣夹g(shù)投降”的實(shí)質(zhì)是人的有限理性能力向無限可能的技術(shù)的投降，是“技術(shù)發(fā)展創(chuàng)造了巨大的物質(zhì)力量和社會(huì)力量，但是人類不僅沒有支配這些力量，卻相反地受這些力量所支配”(12)H. 馬爾庫塞等：《工業(yè)社會(huì)和新左派》，任立編譯，商務(wù)印書館，1982年，第66頁。。由于天賦人的有限理性能力無法最終駕馭不斷開發(fā)的無限可能的技術(shù)，導(dǎo)致不斷開發(fā)的技術(shù)在為解決人類存在安全和生活保障而努力的進(jìn)程中，既成為任何時(shí)代社會(huì)制造其根本存在危機(jī)和生存困境的幫兇，也是貶抑人的人格、制造人的工具生存的真正元兇。因?yàn)椤敖y(tǒng)治不僅通過技術(shù)而且作為技術(shù)而使自身永久化不斷擴(kuò)大，技術(shù)為不斷擴(kuò)大的同化所有文化領(lǐng)域的政治權(quán)力提供了很大的合法性”，所以“技術(shù)的解放力量——物的工具化——變成自由的枷鎖：人的工具化”。(13)赫伯特·馬爾庫塞：《單向度的人》，張峰、呂世平譯，重慶出版社，1993年，第135頁。人的工具化，就是人的異化，人被技術(shù)異化，才是造成人的其他方面異化的根源。

從人類技術(shù)史看，在技術(shù)工具化和異化人的歷史進(jìn)程中，人工智能技術(shù)是最全面最徹底地工具化和異化人的技術(shù)體系，也是從根本上展現(xiàn)人的絕對有限理性能力博弈無限可能的技術(shù)的力不從心，這種力不從心恰好體現(xiàn)人向自我終結(jié)方向降落的不可逆性?？藙谒埂な┩卟荚凇兜谒拇喂I(yè)革命》中指出，人類第一次工業(yè)革命以發(fā)明和運(yùn)用蒸汽機(jī)為標(biāo)志，它把人類帶進(jìn)機(jī)器生產(chǎn)的時(shí)代，人的身體力量卻逐漸被機(jī)械力量取代；第二次工業(yè)革命以發(fā)明和運(yùn)用電力和內(nèi)燃機(jī)為標(biāo)志，人類在享受電氣化生存方式的同時(shí)，其身體力量更加弱化；第三次工業(yè)革命人類通過計(jì)算機(jī)進(jìn)入了互聯(lián)網(wǎng)時(shí)代，獲得柔性技術(shù)生存方式，不僅身體能力更加羸弱，而且思維、認(rèn)知、思想能力也在迅速弱化；其后，以對數(shù)字技術(shù)的會(huì)聚開發(fā)為根本認(rèn)知方式的新技術(shù)革命，將人類推入生物工藝學(xué)時(shí)代(14)唐代興：《基因工程和人工智能：人類向后人類演進(jìn)的不可逆風(fēng)險(xiǎn)與危機(jī)》，《江海學(xué)刊》2020年第3期。。生物工藝學(xué)是指探討正在形成的新技術(shù)體系的科學(xué)。這一正在形成的新技術(shù)相對機(jī)械技術(shù)而言，體現(xiàn)出四個(gè)方面的特征。第一，它“主張一個(gè)人應(yīng)僅僅按照他自己所希望的那樣去構(gòu)造一個(gè)新的自我,從他過去的經(jīng)歷和遺傳密碼的束縛中解放出來”(15)劉易斯·芒福德：《技術(shù)與文明》，陳允明等譯，中國建筑工業(yè)出版社，2009年，第12頁，第12頁，第13頁。。第二，它推動(dòng)“人類正進(jìn)化到達(dá)爾文未曾預(yù)想到的新階段。遺傳重組的潛勢或許正在迅速推進(jìn)我們超越達(dá)爾文的自然進(jìn)化說而進(jìn)入人工進(jìn)化的大膽的領(lǐng)域”(16)劉易斯·芒福德：《技術(shù)與文明》，陳允明等譯，中國建筑工業(yè)出版社，2009年，第12頁，第12頁，第13頁。。這就是“人有權(quán)利決定重新構(gòu)造自己的肉體的這一新觀念已經(jīng)很快得到了普遍的認(rèn)可”(17)劉易斯·芒福德：《技術(shù)與文明》，陳允明等譯，中國建筑工業(yè)出版社，2009年，第12頁，第12頁，第13頁。。第三，為了解決身體對人的自我解放的嚴(yán)重阻礙，人類必須重建“更深層的優(yōu)生學(xué)，我們的下一代將真正成為‘純’人類的最后一代”(18)杰弗里·戴奇：《后人類》，許明清譯，《美術(shù)世界》1994年第3期。。由此形成第四，生物工藝學(xué)技術(shù)的研發(fā)對象是人的生物身體，它的基本形式是基因工程和人工智能。前者是以人體生物細(xì)胞和人體生物基因?yàn)檠邪l(fā)對象來建構(gòu)深層的優(yōu)生學(xué)。所謂“深層的優(yōu)生學(xué)”，就是可按照工業(yè)生產(chǎn)的方式來制造人的生物學(xué)技術(shù)體系和方法體系。后者以人的生物腦為研究對象，借助計(jì)算機(jī)基本理論、以計(jì)算機(jī)為運(yùn)算工具、以會(huì)聚技術(shù)為認(rèn)識(shí)方法、以大數(shù)據(jù)和云計(jì)算為分析方法，來模擬、延伸、擴(kuò)展人腦工作原理及運(yùn)行機(jī)制的技術(shù)方式和方法系統(tǒng)。當(dāng)這種性質(zhì)和方法的人工智能技術(shù)由科學(xué)界倡議、政府資助、企業(yè)和大學(xué)合作形成全球競爭市場開發(fā)機(jī)制時(shí)，人工智能的無限可能性得到前所未有的擴(kuò)張，與此同時(shí)，人原本就絕對有限的理性能力變得更為脆弱。

二、壓力與困境：人工智能無限可能性與人的有限理性的博弈傾斜

從根本上講，科學(xué)源自對存在世界的驚詫與好奇，科學(xué)進(jìn)步的動(dòng)力既是對人類好奇心的滿足(19)喬治·薩頓：《科學(xué)史和新人文主義》，陳恒六等譯，華夏出版社，1989年，第35頁。，也是以認(rèn)知拓展、思維開闊、思想提升和方法更新等方式不斷地實(shí)現(xiàn)人本自由，即在浩瀚神奇的存在世界里“為自己的生存而生存”的自由(20)亞里士多德：《形而上學(xué)》，吳壽彭譯，商務(wù)印書館，1959年，第5頁。構(gòu)成科學(xué)發(fā)展的原動(dòng)力。與此不同，“技術(shù)在內(nèi)在意義上是實(shí)用主義的”(21)蘭登·溫納：《自主性技術(shù)：作為政治思想主題的失控技術(shù)》，楊海燕譯，北京大學(xué)出版社，2014年，第5頁。，它始終表征為人類為謀生而努力：技術(shù)既是人類在荒原般的存在世界里謀求解決存在安全和生活保障的社會(huì)方式，更是人類謀求解決存在安全危機(jī)和生活保障困境的持續(xù)努力方式，因?yàn)椴煌娜祟悤r(shí)代有不同的存在困境和生存危機(jī)，自然生發(fā)出不同層次、不同內(nèi)容、不同訴求的存在安全和生活保障問題，技術(shù)也因應(yīng)對其時(shí)代性存在困境和生存危機(jī)所呈現(xiàn)出來的根本問題而發(fā)展自己，形成技術(shù)的人類化、時(shí)代性和境遇化。這是我們從存在和生存兩個(gè)維度客觀理解人工智能技術(shù)無限可能與人的理性能力絕對有限之間形成博弈的必然傾斜的認(rèn)知出發(fā)點(diǎn)。以此來審視模擬、延伸、擴(kuò)展人腦工作原理和運(yùn)行機(jī)制的人工智能技術(shù)，其從思想孕育、技術(shù)誕生到全面研發(fā)，都是人類化解當(dāng)代存在危機(jī)和生存困境的努力方式。所以，“為了理解技術(shù)在現(xiàn)代文明中所起的決定性作用，我們必須詳細(xì)考察其在意識(shí)形態(tài)和社會(huì)各方面做的準(zhǔn)備的階段，我們不僅要對新的機(jī)械和工具的出現(xiàn)作出解釋，我們還必須了解其背景”(22)A. M. Barrett, S. D. Baum, “A Model of Pathways to Artificial Super Intelligence Catastrophe for Risk and Decision Analysis, ” Journal of Experimental &Theoretical Artificial Intelligence, Vol.29, No.2, 2016.。

第一，為解決人口壓力而開發(fā)人工智能技術(shù)的非理性剛性沖動(dòng)，削弱了人的有限理性能力。

人口壓力是指人口生產(chǎn)的過度。客觀地講，人口生產(chǎn)應(yīng)該與其存在環(huán)境之間保持動(dòng)態(tài)平衡，這種動(dòng)態(tài)平衡表現(xiàn)為人口在三個(gè)方面與社會(huì)形成正相關(guān)的共生取向：一是人口數(shù)量沒有突破地球生態(tài)容量極限，沒有打破地球生物系統(tǒng)中物種間的共生平衡；二是人口結(jié)構(gòu)處于充滿(財(cái)富和人口)生產(chǎn)的活力狀態(tài)，即人口結(jié)構(gòu)年輕化；三是人口貧富差距沒有突破基尼系數(shù)0.3～0.4的合理空間，理論上沒有人處于饑餓狀態(tài)。反之，人口壓力指其當(dāng)世人口在如上三個(gè)方面與社會(huì)形成負(fù)相關(guān)的異化取向：一是人類進(jìn)入“后人口轉(zhuǎn)變時(shí)代”(23)李建民：《后人口轉(zhuǎn)變論》，《人口研究》2000年第4期。，截至2020年底，世界人口達(dá)到77.6億。這表明世界人口數(shù)量將突破地球生態(tài)容量極限，越來越多的地區(qū)和國家或局部或整體地打破了地球生物系統(tǒng)中物種間的共生平衡。二是人口老齡化國家越來越多，適育人口的生育愿望和生育意識(shí)越來越淡漠，不生孩子已聚成一種社會(huì)性潮流。三是全球財(cái)富集中在少數(shù)人手中，不少地區(qū)和國家人口貧富差距突破基尼系數(shù)警戒線，相當(dāng)數(shù)量的人口處于饑餓或半饑餓狀態(tài)。聯(lián)合國發(fā)布的《2021年可持續(xù)發(fā)展目標(biāo)報(bào)告》中指出，2020年在全球范圍內(nèi)陷入貧困狀況的人口數(shù)量增加了1.2億左右。該報(bào)告還指出，2020年全球范圍減少全職工作崗位約2.55億個(gè)，導(dǎo)致極端貧困率從2019年的8.4%升到9.5%，饑餓人口總數(shù)將達(dá)到8億人。要解決由如上三方面聚合形成的全球性人口壓力，需要尋求一種釋放或緩解的方式，而技術(shù)進(jìn)步始終具有緩解人口壓力的社會(huì)功能，因?yàn)榧夹g(shù)進(jìn)步作為解決存在安全和生活保障的根本社會(huì)方式，總是不斷地開辟新的資源渠道、創(chuàng)造新的財(cái)富來源，并且成為不斷激活市場和不斷更新社會(huì)分配格局的新動(dòng)力。

以此來看正進(jìn)入全面開發(fā)狀態(tài)的人工智能技術(shù)，它同樣構(gòu)成解決如上人口壓力的社會(huì)方式。因?yàn)?，為解決人口壓力，必須進(jìn)一步發(fā)展經(jīng)濟(jì)；為進(jìn)一步發(fā)展經(jīng)濟(jì)，必須開發(fā)新的資源市場，重構(gòu)全球范圍內(nèi)新的經(jīng)濟(jì)增長點(diǎn)。人工智能這種使機(jī)器“能夠思維”和“高效思維”的技術(shù)方式，意外地打開了一個(gè)全新的資源市場，這就是以人的生物腦為資源對象的市場，這個(gè)新的資源市場可以使低迷的世界經(jīng)濟(jì)重建起新的經(jīng)濟(jì)增長點(diǎn)，為解決世界人口壓力提供可能性。正是在這個(gè)意義上，無限度地開發(fā)人工智能技術(shù)構(gòu)成新一輪全球競爭的剛性沖動(dòng)，這一剛性沖動(dòng)的競爭性展開必然以進(jìn)一步削弱和降低人類有限理性能力為代價(jià)，而賦予人工智能技術(shù)開發(fā)以無限可能性。由此不難發(fā)現(xiàn)，人工智能技術(shù)的無限可能性與人的理性能力的絕對有限性相博弈所形成的傾斜，不僅緣于人工智能技術(shù)本身的無限潛力，更源于人類的非理性沖動(dòng)對它的強(qiáng)力推動(dòng)。

第二，為解決環(huán)境死境化這一世界性難題而開發(fā)人工智能技術(shù)，進(jìn)一步強(qiáng)化了人類的非理性剛性沖動(dòng)，人的有限理性能力更加脆弱。

從存在論和發(fā)生學(xué)兩個(gè)方面看，人類是自然的產(chǎn)物，在本原意義上，人類及其組成的社會(huì)嵌含在自然之中，與自然構(gòu)成原發(fā)性的共生關(guān)系。人類在其存在敞開的歷史進(jìn)程中要保持這一原發(fā)性的共生關(guān)系，必須具備兩個(gè)前提：一是拜自然為師、向自然學(xué)習(xí)；二是自然以極強(qiáng)的自生境方式為人類提供存在安全和豐裕的生存資源。當(dāng)人類從向自然學(xué)習(xí)轉(zhuǎn)向改造自然、征服環(huán)境、掠奪性開發(fā)地球資源的反自然道路，并在這條道路上突破地球生態(tài)容量極限時(shí)，自然世界被迫滑向逆生態(tài)狀況。20世紀(jì)后半葉以來，全球性氣候失律，地球生境破碎整體性擴(kuò)散，霧霾氣候，世界范圍內(nèi)資源枯竭，以及由此導(dǎo)致的第二次更大規(guī)模的殖民運(yùn)動(dòng)、海洋爭霸、太空開發(fā)等，從不同方面顯示自然環(huán)境不支撐人類存在發(fā)展，人類被迫以修復(fù)和治理環(huán)境的方式向環(huán)境支付無限度開發(fā)和掠奪造成的成本債務(wù)。并且，修復(fù)和治理環(huán)境——比如恢復(fù)氣候、治理霧霾、解決地球生境整體性破碎等——卻成為必須解決的剛性問題和世界性難題。當(dāng)今人類既要解決這一世界性難題，又要持續(xù)地發(fā)展經(jīng)濟(jì)，其最好的應(yīng)對方式就是開發(fā)新技術(shù)。比如，1998年，第13屆歐洲人工智能會(huì)議(European Conference on Artificial Intelligence)達(dá)成一項(xiàng)共識(shí)，即認(rèn)為環(huán)境動(dòng)態(tài)變化的復(fù)雜性和系統(tǒng)性導(dǎo)致對環(huán)境問題影響因素分析的重重困難，人工智能技術(shù)可為環(huán)境問題研究提供有效工具。(24)U. Cortés, M. Sànchez-Marrè, I. R-Roda, et al., “Binding Environmental Sciences and Artificial Intelligence on ECAI’98,” Ai Communications, Vol.12, 1999.其后，研發(fā)人工智能治理環(huán)境的應(yīng)用技術(shù)逐漸從如下三個(gè)方面展開。首先，人工智能技術(shù)能全面提升環(huán)境監(jiān)測與預(yù)警能力。比如，人工智能技術(shù)推動(dòng)神經(jīng)網(wǎng)絡(luò)技術(shù)的開發(fā)和在環(huán)境監(jiān)測以及環(huán)境信息感知方面的運(yùn)用，建立大氣質(zhì)量評(píng)價(jià)預(yù)警系統(tǒng)，展開大氣質(zhì)量評(píng)價(jià)和預(yù)報(bào)，增強(qiáng)非線性處理能力和容噪能力；(25)宋暉等:《基于人工神經(jīng)網(wǎng)絡(luò)的大氣質(zhì)量智能評(píng)價(jià)預(yù)警系統(tǒng)的設(shè)計(jì)與應(yīng)用》,《現(xiàn)代計(jì)算機(jī)(專業(yè)版)》2011年第8期。將人工智能技術(shù)運(yùn)用于各種環(huán)境決策場景，為不同的復(fù)雜的環(huán)境場域提供更為客觀的環(huán)境治理決策方案；(26)Roberto Paggio, Genadi Agre, Christo Dichev, et al., “A Cost-effective Programmable Environment for Developing Environmental Decision Support Systems,” Environmental Modelling& Software, Vol.5, 1999.建立起以大數(shù)據(jù)為分析方法的可持續(xù)發(fā)展智能決策系統(tǒng)(B-IDSS)(27)Zhou Hong, Christopher Noble and Christopher J. Cotter, “A Big Data Based Intelligent Decision Support System for Sustainable Regional Development,” 2015 IEEE International Conference on Smart City/SocialCom/Sustaincom, 2016.，在現(xiàn)有設(shè)施條件的基礎(chǔ)上提升抗災(zāi)防災(zāi)能力；(28)Pouran Behnia and Andree Blais-Stevens, “Landslide Susceptibility Modelling Using the Quantitative Random Forest Method Along the Northern Portion of the Yukon Alaska Highway Corridor,Canada,” Natural Hazards, Vol.90, 2017.運(yùn)用人工智能來分析和預(yù)測人工智能技術(shù)發(fā)展將帶動(dòng)社會(huì)變革(29)席艷玲、張新宇:《新技術(shù)變革驅(qū)動(dòng)環(huán)境治理能力提升路徑研究》,《現(xiàn)代管理科學(xué)》2018年第12期。、政治風(fēng)險(xiǎn)、輿論風(fēng)險(xiǎn)及其倫理問題等。(30)薛瀾、張慧勇:《第四次工業(yè)革命對環(huán)境治理體系建設(shè)的影響與挑戰(zhàn)》,《中國人口·資源與環(huán)境》2017年第9期。其次，運(yùn)用人工智能技術(shù)來增強(qiáng)環(huán)境治理的能力(31)薛瀾、張慧勇:《第四次工業(yè)革命對環(huán)境治理體系建設(shè)的影響與挑戰(zhàn)》,《中國人口·資源與環(huán)境》2017年第9期。，包括增強(qiáng)環(huán)境信息的獲取能力、拓展環(huán)境治理的時(shí)空維度、優(yōu)化環(huán)境治理的決策機(jī)制以及為環(huán)境精細(xì)化管理創(chuàng)造條件，提升環(huán)境理念的傳播效率。(32)張文博、周馮琦：《人工智能背景下的環(huán)境治理變革及應(yīng)對策略分析》，《社會(huì)科學(xué)》2019 年第 7 期。最后，人工智能將人的生物腦作為資源來開發(fā)，在很大程度上轉(zhuǎn)換了資源開發(fā)的主陣地，即由地下資源、地面資源轉(zhuǎn)向大腦資源以及通過大腦資源的開發(fā)而擴(kuò)展為向深海和太空索取資源，從而緩解了地球不堪重負(fù)的生態(tài)狀況，有利于促進(jìn)地球環(huán)境的治理和生境恢復(fù)。

人工智能技術(shù)開發(fā)，既能為人類開辟新的資源市場，為拯救低迷的人類經(jīng)濟(jì)提供新的經(jīng)濟(jì)增長點(diǎn)，又能為全面治理環(huán)境、恢復(fù)自然的生境功能提供無限可能的操作工具和方法，這極大地強(qiáng)化了人類人定勝天的盲目自信，提升了創(chuàng)造更加美好生活的樂觀雄心。這種寄希望于人工智能技術(shù)的盲目自信和樂觀雄心，實(shí)際上是人類自我強(qiáng)化了技術(shù)化存在的非理性剛性沖動(dòng)，這種非理性的剛性沖動(dòng)更進(jìn)一步強(qiáng)化了人工智能技術(shù)開發(fā)在深度和廣度兩個(gè)方面工具化人、異化人的無限可能性，同時(shí)在深度和廣度兩個(gè)方面促使人類的有限理性能力更加脆弱。

第三，社會(huì)對人工智能技術(shù)的無限期待，打開了人工智能技術(shù)開發(fā)的無限空間，同時(shí)也越發(fā)壓縮了人類的有限理性能力，并不斷地削弱人類理性抵御技術(shù)奴役的各種可能性。

客觀地看，在當(dāng)代人類進(jìn)程中，“無限度的擴(kuò)張”和“有組織的不負(fù)責(zé)”(33)烏爾里?！へ惪耍骸妒澜顼L(fēng)險(xiǎn)社會(huì)》，吳英姿、孫淑敏譯，南京大學(xué)出版社，2004年，第191頁。成為最強(qiáng)勁的社會(huì)動(dòng)力，推動(dòng)人工智能技術(shù)全面開發(fā)以重塑人類自身。具體地講，人工智能是針對人腦的缺陷和運(yùn)用人腦的局限來立體地開發(fā)人腦，實(shí)現(xiàn)人的力量增強(qiáng)，以從根本上解決如下困境和問題。

首先，人工智能技術(shù)將人腦作為最大資源庫來開發(fā)，希望從根本上解決資源匱乏問題，以滿足經(jīng)濟(jì)可持續(xù)發(fā)展需要，更為全球經(jīng)濟(jì)迅速復(fù)蘇提供新的資源增長點(diǎn)和經(jīng)濟(jì)增長點(diǎn)。從目前各國由政府主導(dǎo)規(guī)劃和投入研發(fā)人工智能技術(shù)所形成的巨大市場效應(yīng)和經(jīng)濟(jì)增長效應(yīng)看，人工智能確有可能擔(dān)當(dāng)起解決全球資源匱乏并重振困境重重的經(jīng)濟(jì)的重任。

其次，近代以來從古典工業(yè)社會(huì)向現(xiàn)代工業(yè)社會(huì)方向展開，再到后工業(yè)社會(huì)，其發(fā)展所承受的巨大代價(jià)是環(huán)境遭受全面破壞，全球氣候變化和地球生境整體性破碎這一雙重環(huán)境死境化危機(jī)逼迫人類必須治理和修復(fù)環(huán)境，但卻不堪重負(fù)。以人腦為資源開發(fā)對象的人工智能技術(shù)，卻為解決各種環(huán)境問題和環(huán)境危機(jī)提供了可能性，因?yàn)槿四X既是無污染的自然，也是既不損害環(huán)境又可無限度開發(fā)的資源。所以，人工智能技術(shù)開發(fā)生物人腦，既是最好的資源開發(fā)方式，也成為促進(jìn)環(huán)境修復(fù)的最好方式。

再次，開發(fā)自然界物質(zhì)資源來發(fā)展經(jīng)濟(jì)，必須要承納巨大的環(huán)境成本、資源成本、人體健康成本(比如霧霾氣候)和復(fù)雜的社會(huì)管理成本，人工智能卻有可能成為最經(jīng)濟(jì)的生產(chǎn)方式，因?yàn)樗梢宰畲笙薅鹊販p少如上四種生產(chǎn)成本。

最后，從人類發(fā)展史看，技術(shù)越向前開發(fā)，經(jīng)濟(jì)就越發(fā)展；人的期待越豐富、欲望越無限，管理就越復(fù)雜。要解決日趨復(fù)雜的社會(huì)管理所面臨的最大問題，是如何對龐大的人口活動(dòng)——包括生產(chǎn)活動(dòng)、消費(fèi)活動(dòng)和生活運(yùn)動(dòng)——予以有序安排。人工智能可為對復(fù)雜的世界人口運(yùn)動(dòng)和國家人口運(yùn)動(dòng)進(jìn)行更高水平的有序管理提供最優(yōu)化的方式和方案。

社會(huì)對人工智能技術(shù)的如上期待和人工智能技術(shù)開發(fā)滿足如上期待之間，客觀地存在一個(gè)“度”的問題，即只有當(dāng)社會(huì)對人工智能技術(shù)的期待有限度時(shí)，人工智能技術(shù)開發(fā)才有限度。但由于人的理性能力是絕對有限的，加之有限的理性能力往往容易被實(shí)利主義所腐蝕，所以，社會(huì)對人工智能技術(shù)的期待更多地強(qiáng)化其非理性的剛性沖動(dòng)，由此導(dǎo)致人工智能技術(shù)開發(fā)呈無限可能性取向。社會(huì)期待的剛性沖動(dòng)與人工智能技術(shù)開發(fā)的無限可能性之間的矛盾，必然引發(fā)諸多難以解決的倫理困境，成為人工智能技術(shù)開發(fā)的無限可能性與人類理性能力的絕對有限性相博弈的感性呈現(xiàn)。

三、人性與機(jī)性：人工智能技術(shù)無限可能性與人的有限理性博弈的倫理實(shí)質(zhì)

人工智能要從理論和實(shí)踐兩個(gè)方面為解決資源、環(huán)境、經(jīng)濟(jì)、管理等諸方面問題探索道路，必然遭遇人的人性主義存在的根本倫理困境。這一倫理困境將人類到底是“人性”地存在還是“機(jī)性”地生存的問題突顯了出來。

第一，人工智能技術(shù)的反自然傾向帶出了人如何回歸自然人性地存在的倫理問題。

首先，人是自然的生物體，人工智能將人腦作為資源庫予以升級(jí)開發(fā)，并沒有擺脫工業(yè)社會(huì)的地球資源無限論這種反自然理念，因?yàn)槿斯ぶ悄芗夹g(shù)開發(fā)人的生物腦，同樣持大腦資源無限觀念。這種觀念呈現(xiàn)出來的反自然傾向，就是無止境無限度地開發(fā)人的生物腦，其最終結(jié)局可能是生物人的消亡。詹姆斯·巴拉特(J.Barrat)認(rèn)為，我們生產(chǎn)出來的人工智能“機(jī)器并不憎恨我們，但隨著它們獲得宇宙間最不可預(yù)測、我們自己都無法達(dá)到的高級(jí)力量，它們會(huì)做出意想不到的行為，而且這些行為很可能無法與我們的生存兼容”(34)詹姆斯·巴拉特:《我們最后的發(fā)明:人工智能與人類時(shí)代的終結(jié)》,閭佳譯,電子工業(yè)出版社，2016年，第XII頁。。尼克·波斯特洛姆(Nick Bostrom)指出，人工智能技術(shù)的發(fā)展可能使人類遭遇其“整體存在性風(fēng)險(xiǎn)”，因?yàn)樵谶@種無節(jié)制的開發(fā)進(jìn)程中，“如果有一天我們發(fā)明了超越人類大腦一般智能的機(jī)器大腦,那么這種超級(jí)智能將會(huì)非常強(qiáng)大。并且，正如現(xiàn)在大猩猩的命運(yùn)更多地取決于人類而不是它們自身一樣,人類的命運(yùn)將取決于超級(jí)智能機(jī)器”(35)尼克·波斯特洛姆:《超級(jí)智能：路線圖、危險(xiǎn)性與應(yīng)對策略》,張?bào)w偉、張玉青譯,中信出版社，2015年，第XXV頁。。按照今天全球競相開發(fā)人工智能爆發(fā)出來的狂熱速度及其呈現(xiàn)的態(tài)勢來看，“在未來30年間，我們將用技術(shù)手段來創(chuàng)造超人的智慧。不久后，人類的時(shí)代將結(jié)束”(36)馬丁·福特：《機(jī)器人時(shí)代：技術(shù)、工作與經(jīng)濟(jì)的未來》，王吉美、牛筱萌譯，中信出版集團(tuán)，2015年，第259-260頁。，人的倫理也隨之終結(jié)。

其次，人作為自然之子“直接地是自然存在物，人作為自然存在物，而且作為有生命的自然存在物，一方面具有自然力、生命力，是能動(dòng)的自然存在物，這些力量作為天賦和才能、作為欲望存在于人身上；另一方面，人作為自然的、肉體的、感性的、對象性的存在物，和動(dòng)植物一樣，是受動(dòng)的、受制約的和受限制的存在物”(37)《馬克思恩格斯全集》第42卷，人民出版社，1979年，第167頁，第127頁。。馬克思揭示了人的本性和自存在方式源于自然，更因?yàn)檠}承傳，有神性的想望和充滿生命激情的天賦想象力。當(dāng)人工智能開發(fā)機(jī)器去占領(lǐng)人的生活領(lǐng)域，最后將人引向反生物人的道路，淪為喪失生物機(jī)能的技術(shù)人，即淪為技術(shù)物。

從根本上講，人是生物的，人的生物機(jī)能的本質(zhì)是人性，人性的生命內(nèi)潛形態(tài)是心靈，心靈的本質(zhì)內(nèi)容是生物主義的自由意志、靈魂和生命激情。(38)唐代興：《生境倫理的心理學(xué)原理》，上海三聯(lián)書店，2013年，第34-88頁。人性的生命外顯形態(tài)是共情理解，是愛，是慈善與悲憫。與此相反，技術(shù)物是物質(zhì)的，技術(shù)物的物質(zhì)機(jī)能的本質(zhì)是機(jī)性，機(jī)性化的技術(shù)物可能是有生命存在，但卻沒有心靈，只有程序編碼與指令服從，即便可能被賦予情感或愛(比如性愛機(jī)器人)，也是無個(gè)性且缺乏心靈滋養(yǎng)的。人若淪為喪失人性的技術(shù)物，只成為機(jī)性的存在者時(shí)，即使倫理存在，也既喪失倫理存在的自然基礎(chǔ)，更可能喪失倫理本身的根本功能。

最后，人性存在的社會(huì)，是人性滋養(yǎng)人的社會(huì)。人性滋養(yǎng)和人性地存在，成為人類社會(huì)的應(yīng)然取向，它表征為人道、平等、自由和普遍公正的訴求，這種訴求要求人人通過勞動(dòng)、付出、創(chuàng)造而獲得存在資源和生存保障，過一種有德的生活，來縮小各種先天或后天形成的等級(jí)、差距、智愚、貧富等，這就是馬克思所講的“全部人的活動(dòng)迄今都是勞動(dòng)”(39)《馬克思恩格斯全集》第42卷，人民出版社，1979年，第167頁，第127頁。，因?yàn)閯趧?dòng)才推動(dòng)人的發(fā)展。如果喪失勞動(dòng)，人將可能重新回到動(dòng)物般的狀況中去。(40)《馬克思恩格斯全集》第1卷，人民出版社，1995年，第67頁。與此相反，人工智能技術(shù)全面開發(fā)釋放出來的無限可能性，將可能把人性滋養(yǎng)的人變成機(jī)性的人，將人性存在的社會(huì)淪為機(jī)性化的社會(huì)。人工智能技術(shù)在開發(fā)人腦資源的同時(shí)，可能會(huì)全面地解構(gòu)人的存在的動(dòng)力，不斷降低勞動(dòng)的熱情，并將使越來越多的人喪失勞動(dòng)的能力，因?yàn)槿斯ぶ悄軣o阻礙地發(fā)展必將導(dǎo)致社會(huì)化的“技術(shù)性失業(yè)”(41)杰瑞·卡普蘭：《人工智能時(shí)代》，李盼譯，浙江人民出版社，2016年，第126頁。，人將陷入“我們能做何事”的困境和“我們有何事可做”的絕望(42)唐代興：《基因工程和人工智能:人類向后人類演進(jìn)的不可逆風(fēng)險(xiǎn)與危機(jī)》，《江海學(xué)刊》2020年第3期。。這種“無力做事”的困境和“無事可做”的絕望根源于人工智能技術(shù)從兩個(gè)根本的方面改造著社會(huì)。一是人工智能技術(shù)正在加速創(chuàng)造出一個(gè)如曼紐爾·卡斯特(Manuel Castells)所概括的“社會(huì)排斥”:“現(xiàn)在世界大多數(shù)人都與全球體系的邏輯毫無干系。這比被剝削更糟。我說過總有一天我們會(huì)懷念過去被剝削的好時(shí)光。因?yàn)橹辽賱兿魇且环N社會(huì)關(guān)系。我為你工作,你剝削我，我很可能恨你，但我需要你,你需要我，所以你才剝削我。這與說‘我不需要你’截然不同。”(43)曼紐爾·卡斯特:《千年終結(jié)》,夏鑄九、黃慧琦等譯,社會(huì)科學(xué)文獻(xiàn)出版社，2003年,第434頁。人工智能技術(shù)無限度開發(fā)的真正可怕之處，就在于它大步向前以更神奇的速度和更高的水準(zhǔn)創(chuàng)造著“我不需要你”的社會(huì)。二是這個(gè)“我不需要你”的“排斥社會(huì)”是一個(gè)通過基因編輯技術(shù)而優(yōu)生和通過人工智能技術(shù)而優(yōu)智的社會(huì)。尤瓦爾·赫拉利(Y. N. Harari)指出，優(yōu)智的人工智能技術(shù)使當(dāng)代人類正經(jīng)歷從智人向“神智”的飛躍，它的革命性比從猿到人的轉(zhuǎn)變更為深刻和徹底。在人類進(jìn)化史中，猿轉(zhuǎn)變?yōu)槿耸钦麄€(gè)物種；人工智能技術(shù)(包括基因技術(shù))將智人轉(zhuǎn)變?yōu)椤吧裰恰钡闹皇巧贁?shù)人，它使大多數(shù)人淪陷于既無力做事也無事可做的“無用階層”。在人工智能(也包括基因工程)技術(shù)快速推進(jìn)的當(dāng)代進(jìn)程中，“至少部分精英階層會(huì)認(rèn)為，無須再浪費(fèi)資源為大量無用的窮人提升甚至是維持基本的健康水平,而應(yīng)該集中資源,讓極少數(shù)人升級(jí)到超人類”(44)尤瓦爾·赫拉利:《未來簡史》,林俊宏譯,中信出版社，2017年，第314頁。。人工智能技術(shù)越是向前發(fā)展，人性可能越萎縮，人將越發(fā)陷入機(jī)性的生活狀態(tài)和無用的存在，從而將人工智能技術(shù)開發(fā)的無限可能性與人的理性絕對有限性相博弈的根本倫理矛盾突顯出來，敞開了人類在人工智能面前的存在本質(zhì)的危機(jī)。

第二，人工智能技術(shù)無限開發(fā)推動(dòng)技術(shù)化存在與人性存在之間的倫理矛盾更為尖銳。

雅斯貝爾斯認(rèn)為， “無論如何更明確得多的是，技術(shù)僅是一種手段，它本身并無善惡。一切取決于人從中造出些什么，它為什么目的而服務(wù)于人，人將其置于什么條件之下”(45)卡爾·雅斯貝爾斯：《歷史的起源與目標(biāo)》，魏楚雄、俞新天譯，華夏出版社，1989年，第142頁。。雅斯貝爾斯揭示了傳統(tǒng)技術(shù)的外生性和外在性特征。技術(shù)的外生性，是指技術(shù)從外部產(chǎn)生，它以自然存在物為資源，比如石器技術(shù)、竹器技術(shù)或者機(jī)械技術(shù)，甚至包括電氣技術(shù)等都屬于外生性技術(shù)，它不僅產(chǎn)生于外在物，其運(yùn)用也是外在的。技術(shù)的外在性，是指一切外生性技術(shù)完全與人分離，即人是人，技術(shù)是技術(shù)。人對技術(shù)的使用是功能組合性質(zhì)的，人對技術(shù)一旦結(jié)束使用，技術(shù)必然與人分離而各以自身方式存在。比如，無論在手工技術(shù)時(shí)代，還是在機(jī)械技術(shù)時(shí)代，工人離開生產(chǎn)勞動(dòng)工場——比如車間，所有的生產(chǎn)工具都與工人脫離關(guān)系，因?yàn)榧夹g(shù)物與人隸屬于完全不同的兩個(gè)世界，只因?yàn)槿说男枰热鐒趧?dòng)或娛樂，這兩個(gè)世界才發(fā)生聯(lián)系而產(chǎn)生互動(dòng)。與此不同，人工智能是以人腦為研發(fā)對象，模擬和復(fù)制人腦工作原理和思維機(jī)制所形成的內(nèi)生性和內(nèi)在性的技術(shù)。人工智能的內(nèi)在性，一方面指其產(chǎn)品的功能發(fā)揮必須按照人腦原理展開，并具有自生成性，比如自生成的深度學(xué)習(xí)能力、自生成的自主性品質(zhì)等；另一方面指人工智能技術(shù)的最終努力是將智能技術(shù)置入人腦或人體，使人機(jī)融為一體，不可分離，比如內(nèi)置于人的大腦之中或人的身體的任何部位之中的芯片，使之構(gòu)成人的大腦、人的身體和人的生命的內(nèi)生性內(nèi)容。

從根本上講，人工智能賦予了技術(shù)本性以新內(nèi)涵。在傳統(tǒng)意義上，技術(shù)的自主性是指技術(shù)的客觀性，即技術(shù)一旦產(chǎn)生，就具有自存在方式，并自我規(guī)定了使用功能、范圍、方式和方法。比如農(nóng)業(yè)時(shí)代的手工技術(shù)或工業(yè)時(shí)代的機(jī)械技術(shù)所表現(xiàn)出來的自主性本性主要是功能性質(zhì)的；人工智能的自主性本性卻是內(nèi)生成的，比如深度學(xué)習(xí)能力、情景創(chuàng)造能力或自我更新能力等，都體現(xiàn)了人工智能的自主性本性是自生成性質(zhì)的。正是因?yàn)槿斯ぶ悄芗夹g(shù)能開發(fā)出來自生成性的智能體，所以“它已經(jīng)塑造了一個(gè)技術(shù)無孔不入的世界，這個(gè)世界遵從技術(shù)自身的規(guī)律，并已拋棄了所有的傳統(tǒng)”(46)Jacques Ellul, The Technological Society, trans. by John Wilkinson, New York:Alfred A. Knopf, 1964, p.14.。進(jìn)一步看，在過去，人與技術(shù)的關(guān)系是主體與客體的關(guān)系，這種關(guān)系構(gòu)成人與技術(shù)之間使用與被使用的單向?qū)?yīng)性。人工智能的內(nèi)在生成本性推動(dòng)技術(shù)打破了這種簡單的主客二分的固化關(guān)系，構(gòu)建起智能技術(shù)與人之間的開放性生成的橋梁，人既可能成為主體，也有可能淪為客體。智能技術(shù)有可能統(tǒng)治人，人有可能淪為技術(shù)、機(jī)器役使的工具。這種情況是人不愿意看到的，但當(dāng)人工智能發(fā)展到這種水平狀態(tài)時(shí)，人卻無力阻止。這就是人工智能與人在本性上的根本矛盾，這一矛盾的深度展開則表現(xiàn)為：在沒有阻礙的情況下，人工智能的自主生成性呈無限取向，其潛能釋放呈無限可能性；與此相反，人的本性雖然也呈開放生成性，但其生成功能始終呈有限取向，其潛能釋放呈絕對有限性。這就是為什么“深藍(lán)”誕生后人類就再無象棋冠軍、AlphaGo出現(xiàn)后人類就再無圍棋冠軍的最終根源。

第三，人工智能技術(shù)開發(fā)的無限可能性與人的有限理性的既定性相博弈生成的倫理矛盾是內(nèi)在的，這種內(nèi)在化的倫理矛盾呈無限擴(kuò)張、無可彌合的撕裂狀態(tài)。

首先，要理解人工智能技術(shù)開發(fā)的無限可能性與人的有限理性相博弈生成的倫理矛盾的內(nèi)生性張力和無可彌合的撕裂狀態(tài)，需先理解人工智能為何具有無限可能性。這有兩個(gè)激勵(lì)因素。第一個(gè)激勵(lì)因素是人類對人工智能的無限期待，這一無限期待的生成和強(qiáng)化源于三個(gè)維度推動(dòng)機(jī)制：一是社會(huì)大眾對人工智能的無限期待想望，是基于人工智能技術(shù)能給生活帶來方方面面的便利；二是技術(shù)專家和企業(yè)家群體對人工智能的無限期待熱忱，在于人工智能激活市場、變革世界所帶來的特殊利益，包括無限商機(jī)或難得的發(fā)展機(jī)會(huì)等；三是全球范圍內(nèi)的社會(huì)政治精英(包括政客)對人工智能的無限期待激情，才真正演繹出人工智能研發(fā)的無限競爭動(dòng)力并展開無限競爭。如上三者形成合力，必然使得人工智能無限可能性與人的有限理性之間的根本倫理矛盾日益加劇而不可消解。第二個(gè)激勵(lì)因素是人工智能的內(nèi)生性品質(zhì)和由此形成的極強(qiáng)生成性功能，使它本身在自主地深度學(xué)習(xí)、潛能釋放、能力更新等方面具有無限可能性。并且，如果沒有外在阻礙因素，人工智能研發(fā)必將成為終結(jié)人類的力量。

其次，無限可能的人工智能技術(shù)映照出人的理性絕對有限的窘境生成的根源有三個(gè)方面：一是人性的局限，即天賦“相近”的人性與其生存敞開的“習(xí)相遠(yuǎn)”(47)楊伯峻：《論語譯注》，中華書局，2004年，第181頁。之間的二重性，構(gòu)成人性的根本局限；二是造成這種人性局限的根本動(dòng)力卻是無限的利欲渴望與滿足；三是滋生這種無限利欲渴望的原動(dòng)力機(jī)制卻是人的存在在物質(zhì)、精神、情感等方面的絕對匱乏，尤其是權(quán)力占有的匱乏作為根本的匱乏沖動(dòng)，源源不斷地激發(fā)出對技術(shù)的熱情，對人工智能技術(shù)的無限想望和期待。

最后，人工智能的無限可能性與人的有限理性的既定性之間所形成的根本矛盾內(nèi)具無限擴(kuò)張的本性，這一無限擴(kuò)張的本性正伴隨人工智能技術(shù)的全面開發(fā)而實(shí)實(shí)在在地演繹出“蝴蝶效應(yīng)”般的四個(gè)方面的風(fēng)險(xiǎn)。一是人工智能技術(shù)開發(fā)雖然給社會(huì)帶來了諸多便利，但其繼續(xù)向前是造福人類還是毀滅人類，卻并不可知；而且，迅速發(fā)展的人工智能技術(shù)越發(fā)使人感覺到自身能力的局限性，從而產(chǎn)生對人工智能技術(shù)的憂慮，這種憂慮可表述為“人正面臨著一股自己根本無法控制的力量，與這股力量相比，人只是一粒塵埃罷了”(48)陳學(xué)明等：《痛苦中的安樂——馬爾庫塞、弗洛姆論消費(fèi)主義》，云南人民出版社，1998年，第162頁。。二是人類認(rèn)知能力的局限性使人感到難以駕馭人工智能技術(shù)，甚至面對人工智能發(fā)展的倫理風(fēng)險(xiǎn)而選擇隨波逐流，恰恰是“這個(gè)社會(huì)在技術(shù)上越來越完善，它甚至能夠提供越來越完美的解決辦法，但是，與此息息相關(guān)的后果和種種危險(xiǎn)卻是受害人根本無法直覺到的”(49)烏爾里希·貝克、約翰內(nèi)斯·威爾姆斯：《自由與資本主義——與著名社會(huì)學(xué)家烏爾里?！へ惪藢υ挕?，路國林譯，浙江人民出版社，2001年，第127頁。。三是人工智能技術(shù)發(fā)展帶來的各種好處和便利，往往遮蔽了人們的有限理性的眼睛，由此必然引發(fā)政治、經(jīng)濟(jì)、市場、文化、教育以及學(xué)術(shù)研究等領(lǐng)域反應(yīng)的盲目性，這種盲目性蘊(yùn)含最為普遍而嚴(yán)重的倫理風(fēng)險(xiǎn)，這就是無知的盲目樂觀與實(shí)利主義將使整個(gè)社會(huì)喪失對人工智能技術(shù)的警覺和警惕，這種整體性喪失突出地表現(xiàn)在科學(xué)界倡議、政府資助、企業(yè)和大學(xué)合作形成全球競爭的剛性市場開發(fā)機(jī)制，人類有限的理性在這種全球競爭裹持下和在其剛性的市場開發(fā)機(jī)制碾壓下，變得越來越無足輕重。四是在人工智能技術(shù)向人腦的縱深領(lǐng)域，也就是向人的情感領(lǐng)域甚至心靈領(lǐng)域開發(fā)的進(jìn)程中，人類越來越羸弱的有限理性將變得更加遲鈍，這突出地表現(xiàn)在“人類對人工智能產(chǎn)品道德風(fēng)險(xiǎn)認(rèn)知的滯后性”(50)閆坤如：《人工智能的道德風(fēng)險(xiǎn)及其規(guī)避路徑》，《上海師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2018年第2期。。

四、成人或成物：人工智能技術(shù)開發(fā)與人的存在相博弈的最終倫理走向

人工智能技術(shù)開發(fā)的無限可能性，既源于人類對它的無限期待，更因?yàn)樗旧淼牟淮_定性。人工智能技術(shù)的不確定性蘊(yùn)含開發(fā)的無限性與人的有限理性相博弈的內(nèi)在矛盾，敞開人類的根本認(rèn)識(shí)局限，這就使實(shí)利主義的剛性認(rèn)知沖動(dòng)與理性認(rèn)知之間形成不可調(diào)和的倫理困境和倫理張力，從根本上激發(fā)人工智能技術(shù)發(fā)展與生物人種的可持續(xù)存在之間的倫理博弈。這一博弈在大時(shí)間尺度平臺(tái)上展開形成的最終勝負(fù)，必然決定人類是繼續(xù)人性地存在還是機(jī)性地存在。這一兩者必?fù)衿湟坏奈磥碜呦?，更可從人的有限智力博弈無限可能的人工智能技術(shù)節(jié)節(jié)敗退的進(jìn)程中得到預(yù)知。

首先看人的有限智力與人工智能機(jī)之間的跳棋博弈。

1952年，塞繆爾(Samuel)研制出跳棋程序。

1992年，跳棋冠軍馬里恩·汀斯雷(Marion Tinsley)與跳棋程序Chinook對弈，汀斯雷獲勝。

1994年，汀斯雷與跳棋程序Chinook再次對弈，汀斯雷落敗。以后，跳棋領(lǐng)域再無世界冠軍。

其次看人的有限智力與人工智能機(jī)之間的象棋博弈。

1958年，IBM704成為第一臺(tái)象棋計(jì)算機(jī)系統(tǒng)“深思”，每秒可走200步。

1973年，開發(fā)出國際象棋4.0軟件，它構(gòu)成未來程序的基礎(chǔ)。

1979年，國際象棋X.0達(dá)到專家級(jí)水平。

1983年，BELLEAT&T開發(fā)的國際象棋硬件達(dá)到大師水平。

1987年，“深思”更新，每秒走75萬步，其水平相當(dāng)于擁有2450等級(jí)分的棋手。

1988年，“深思”擊敗世界國際象棋特級(jí)大師拉爾森。

1989年，“深思”更新，每秒走200萬步，與世界國際象棋棋王卡斯帕羅夫?qū)?，?∶2敗于卡斯帕羅夫。

1990年，“深思”第二代產(chǎn)生。

1991年，“深思”第二代與澳大利亞國際象棋冠軍約翰森對弈，以1∶1戰(zhàn)成平局。

1993年，“深思”第二代打敗丹麥國家隊(duì)，取勝世界優(yōu)秀女棋手小波爾加。

1995年，“深藍(lán)”更新，每秒走300萬步。

1996年，“深藍(lán)”與卡斯帕羅夫再次對弈，以2∶4敗于卡斯帕羅夫。

1997年，“深藍(lán)”更新為更高級(jí)別的“大腦”，每秒走2億步，與卡斯帕羅夫第三次對弈，以 3∶2 戰(zhàn)勝卡斯帕羅夫。

最后看人的有限智力與人工智能機(jī)之間的圍棋博弈。

1997年，邁克爾·布洛(Michael Buro)開發(fā)的黑白棋程序Logistello與世界冠軍村上健對弈，以6∶0打敗村上健。

2016年，歐洲圍棋冠軍樊麾與AlphaGo對弈，敗于AlphaGo。

2016年，世界圍棋冠軍李世石與AlphaGo對弈，以1∶4敗于AlphaGo。

2017年，世界圍棋冠軍柯潔與AlphaGo對弈，三番棋全敗于AlphaGo。

跳棋、象棋、圍棋三種智力游戲的人機(jī)博弈，均以人工智能機(jī)取勝而告終，這等于宣告在跳棋、象棋、圍棋領(lǐng)域，從此再無生物人世界冠軍；同時(shí)也暗示人工智能技術(shù)向哪個(gè)領(lǐng)域開發(fā)，哪個(gè)領(lǐng)域就終將被人工智能機(jī)占領(lǐng)，這些領(lǐng)域的人類行為和人生活動(dòng)就必須承受人工智能技術(shù)物的主宰。

比較跳棋、象棋、圍棋此三者，跳棋最簡單，人在與人工智能技術(shù)的博弈中最容易敗北，亦為自然。圍棋的棋局非常復(fù)雜，難以估計(jì)，而且圍棋棋盤上有361個(gè)點(diǎn)，其搜索寬度和深度遠(yuǎn)大于國際象棋；而國際象棋人機(jī)博弈經(jīng)歷了30年時(shí)間，“深藍(lán)”才奪取世界冠軍。然而，讓人們意想不到的是，最不容易被攻克的圍棋，AlphaGo與人博弈只用了短短兩年時(shí)間，就橫掃人類圍棋界并輕易地奪取了世界冠軍。世人為之驚異不已的同時(shí)，對人工智能技術(shù)歡呼不已，卻忽略了AlphaGo的取勝既呈現(xiàn)出人工智能的未來又預(yù)示生物人類命運(yùn)的三個(gè)基本事實(shí)。第一個(gè)基本事實(shí)，就跳棋、象棋、圍棋的復(fù)雜性程度和人工智能系統(tǒng)分別戰(zhàn)勝跳棋、象棋、圍棋的時(shí)間長短來看，人工智能的進(jìn)化速度呈幾何級(jí)數(shù)增長，這是人類大腦進(jìn)化所不能比擬的。同時(shí)也表明人工智能技術(shù)開發(fā)賦予人工智能機(jī)進(jìn)化潛力無限，而人的生物腦進(jìn)化潛能卻絕對有限。換句話說，人類物種以上百萬年的進(jìn)化才形成現(xiàn)在的智力能力，卻被只有短短70年開發(fā)史的人工智能機(jī)所超越，這一兩相對應(yīng)的歷史事實(shí)本身敞開了人工智能技術(shù)的絕對可怕性。第二個(gè)基本事實(shí)，AlphaGo一問世就戰(zhàn)績遠(yuǎn)勝它的前輩“深思”和“深藍(lán)”，其根本秘密是它具備了前所未有的自主性的深度學(xué)習(xí)方式，具備了自主性的深度學(xué)習(xí)能力。簡要地講，AlphaGo深度學(xué)習(xí)的基本方式是將人類棋譜輸入計(jì)算機(jī)，學(xué)習(xí)人類的落子習(xí)慣，其展開步驟有三：第一步，AlphaGo將棋盤上每個(gè)落子及應(yīng)對落子理解成一個(gè)樣本，然后將輸入系統(tǒng)的棋譜的每一步予以分拆，由此將變化的棋局分解出三千多萬個(gè)樣本；第二步，AlphaGo按自己的方式任意地下棋，通過這種亂下棋子的過程來發(fā)現(xiàn)規(guī)律、訓(xùn)練思維、重整思路；然后進(jìn)入第三步，AlphaGo左右互搏與自己對弈，以此重新學(xué)習(xí)棋局，自建棋局。AlphaGo如此自主性的深度學(xué)習(xí)方式及其以幾何方式更新的深度學(xué)習(xí)能力，既預(yù)示了人工智能技術(shù)無限開發(fā)的方向，更預(yù)示了人類在思維、智力和自主性學(xué)習(xí)等方面已遠(yuǎn)落后于人工智能機(jī)。第三個(gè)基本事實(shí)，從“深思”到“深藍(lán)”再到AlphaGo，其前赴后繼的進(jìn)取與成功，將成為人工智能技術(shù)無阻礙開發(fā)的強(qiáng)勁推動(dòng)力量，人類的未來也將可能自毀于人類的這種有限理性的狂熱之中，因?yàn)槿藗兏嗟貜娜祟愔黧w的角度看到了人類的創(chuàng)造能力前所未有的爆發(fā)，更從市場、商機(jī)和政治、經(jīng)濟(jì)以及軍事競爭角度看到了種種競爭勝利或爭霸的無限可能性，從而忽視了“深藍(lán)”戰(zhàn)勝國際象棋冠軍、AlphaGo打敗世界圍棋冠軍、“沃森”在人類智力競賽中取勝的行為所暴露出來的人類危機(jī)。這就是人工智能機(jī)的自主學(xué)習(xí)能力已超出其邏輯思維層面的程序設(shè)計(jì)而獲得了抽象思維的能力，繼續(xù)向前就是真正解決“怎樣高效思維”的問題，人工智能機(jī)在創(chuàng)造性理解能力、超強(qiáng)的深度學(xué)習(xí)能力和自主決策能力等方面的進(jìn)化，將使其成為“在各個(gè)方面都比人類具有優(yōu)勢的智能系統(tǒng)”(51)P.羅素、S.諾維格：《人工智能：一種現(xiàn)代方法》，姜哲等譯，人民郵電出版社，2004年，第397-414頁。，由此將隱含于人工智能技術(shù)開發(fā)中的內(nèi)在的和本質(zhì)的倫理問題突顯了出來。

第一，人工智能的不確定性蘊(yùn)含的無限可能性與人的有限理性敞開的認(rèn)識(shí)局限性所表現(xiàn)出來的根本倫理博弈，根源于人工智能、人、自然三者關(guān)系界限的模糊。比如2017年波士頓機(jī)器人事件引發(fā)的倫理之爭，就是這方面的典型個(gè)案。一個(gè)動(dòng)力機(jī)器人在搬箱子的過程中遭受測試科學(xué)家的攻擊而摔倒，引來互聯(lián)網(wǎng)視頻觀眾的抗議，人們指責(zé)這位測試科學(xué)家侵犯了機(jī)器人的權(quán)利，從而引發(fā)“機(jī)器人有無自己的權(quán)利”的爭論。該爭論在兩個(gè)方面敞開了有關(guān)人類倫理的擴(kuò)展性考量。一是權(quán)利的擴(kuò)展性考量：如果不承認(rèn)人工智能體有自己的權(quán)利，就不能承認(rèn)人工智能體有自主性能力和自生成本性；反之，如果根據(jù)人工智能的自主性和自生成性而承認(rèn)其有自己的權(quán)利，那么，人類就無權(quán)以任何形式阻止人工智能的發(fā)展，這樣一來，人工智能無限發(fā)展的可能性自然蘊(yùn)含了人類終結(jié)的必然宿命。二是人類道德統(tǒng)一性的擴(kuò)展性考量：如果承認(rèn)人工智能有權(quán)利要求，就是承認(rèn)人工智能有道德意識(shí)、道德要求和道德能力，這就涉及如何使人工智能的權(quán)利及其道德要求與自然倫理、社會(huì)倫理達(dá)成統(tǒng)一的問題。被賦予公民權(quán)利的機(jī)器人索菲亞在接受采訪時(shí)表達(dá)自己作為機(jī)器人能夠“幫助人類過上更美好的生活，人類不用害怕機(jī)器人”的前提，是“你們對我好，我也會(huì)對你們好”。機(jī)器人索菲亞對人類的這一條件要求，恰恰表達(dá)出人工智能技術(shù)全面開發(fā)暴露了人類、自然、人造物三者之間的道德統(tǒng)一何以可能的問題。這個(gè)問題可具體表征為人工智能技術(shù)引發(fā)出來的人造物與人類之間的存在論博弈必然鋪開其倫理約束的邊界探索。

第二，人工智能技術(shù)及其開發(fā)表現(xiàn)出來的倫理到底是人工智能體的倫理，還是人對人工智能體的倫理？更具體地講，人工智能體能否成為道德主體？這涉及如下兩個(gè)方面：

其一，人工智能體是否具備道德主體的能力？

其二，人工智能體能否享有道德主體的權(quán)利？

第二個(gè)問題以第一個(gè)問題的解決為前提，即“人工智能體能否成為道德主體”的根本前提，是人工智能體是否具備道德主體能力。對這一問題的思考形成了兩種觀念。一種觀念認(rèn)為人工智能體應(yīng)該具備道德能力，其基本理由有二：一是人工智能技術(shù)既具有自主性，也具有自主生成性能力；二是人工智能體有一定的“自控能力”(52)Patrick Lin, Keith Abney and George Bekey, “Robot Ethics: Mapping the Issues for a Mechanized World,” Artificial Intelligence, Vol.175, No.5-6, 2011.。另一種觀點(diǎn)認(rèn)為人工智能體不具有道德主體能力，主要理由也有二：一是認(rèn)為人工智能體沒有倫理意向性，因而不可能成為道德主體；(53)J. R. Searle, “Minds, Brains, and Programs,” Behavioral &Brain，Sciences, Vol.3, No.3, 1980.二是認(rèn)為機(jī)器人的道德不過是人的道德向機(jī)器的嵌入。如果認(rèn)為人工智能技術(shù)創(chuàng)造出來的智能體具有道德能力并享有道德主體的權(quán)利，那么，人工智能技術(shù)及生產(chǎn)的智能機(jī)必然以道德主體的資格和身份向人類爭取平等的道德權(quán)利甚至更多的道德權(quán)利，這種可能性的出現(xiàn)及不斷實(shí)現(xiàn)也就意味著人類的主體地位遭受威脅，人與機(jī)器之間的倫理博弈誰勝誰負(fù)，“深藍(lán)”和AlphaGo與人類爭奪智力冠軍的戰(zhàn)績似乎早已寫出了結(jié)果。如果認(rèn)為人工智能技術(shù)創(chuàng)造出來的技術(shù)物沒有主體能力且不具有主體資格，人們則無視人工智能技術(shù)以人的生物腦為開發(fā)對象，把它看成是模擬、延伸和擴(kuò)展人的大腦原理及其運(yùn)行機(jī)制，并賦予其創(chuàng)造物以內(nèi)生功能的技術(shù)，以此無所限制地開發(fā)人工智能技術(shù)，其展開進(jìn)程必然將作為創(chuàng)造主體的人置于其對立面，形成無限可能性的人工智能技術(shù)與有限理性能力的人之間的不對稱博弈。

第三，人工智能開發(fā)所考慮的是人工智能體如何在更高水平上模擬和復(fù)制人腦工作原理和思維機(jī)制，使制造出來的智能產(chǎn)品無所不在，但這種實(shí)用努力卻與人的人格化存在的倫理訴求相悖。一方面，人工智能技術(shù)的市場努力是使其產(chǎn)品功能的釋放無所不能，沒有邊界和限度；但人的存在和生存卻需要邊界和限度，因?yàn)檫吔绾拖薅炔艠?gòu)筑起個(gè)人的隱私生活和自由的存在空間，也只有邊界和限度才建構(gòu)起對人的隱私權(quán)的保護(hù)，使之不遭受來自任何方面和任何形式的侵犯。另一方面，人工智能開發(fā)追求無邊界、無限度的自由，恰恰是以抑制、減少甚至從根本上解構(gòu)人的平等自由權(quán)利為基本表征，因?yàn)槿斯ぶ悄芗夹g(shù)追求普遍的共性，但作為生物個(gè)體的人卻訴求主體地存在和創(chuàng)意地生存，這種主體地存在和創(chuàng)意地生存的感性呈現(xiàn)就是個(gè)性的自由。由此兩個(gè)方面，人們對人工智能無所不能的期待與人有邊界和限度地生存之間形成巨大的矛盾和沖突。這一根本不可調(diào)和且只有無限撕裂和擴(kuò)張的矛盾與沖突構(gòu)成其倫理博弈的具體呈現(xiàn)，亦可抽象地表述為人工智能研發(fā)與隱私權(quán)保護(hù)、人工智能的共性規(guī)范與人性存在的個(gè)性自由訴求，構(gòu)成到底由人工智能主宰人類還是人類主導(dǎo)人工智能的分水嶺(54)約翰·C. 黑文斯：《失控的未來》，仝琳譯，中信出版社，2017年，第23頁。，即到底是由以平等自由為導(dǎo)向的人性主義倫理來引導(dǎo)規(guī)訓(xùn)人工智能技術(shù)的開發(fā)，還是人工智能技術(shù)逾越人性主義倫理而任性自由地開發(fā)？

第四，人工智能技術(shù)開發(fā)的簡短歷史進(jìn)程其實(shí)已從全球平臺(tái)和市場兩個(gè)維度呈現(xiàn)一種態(tài)勢，這就是全球競爭鋪開無限開發(fā)人工智能技術(shù)必然形成重構(gòu)人類(及其國家)社會(huì)的結(jié)構(gòu)框架以及分配機(jī)制，如何正視和保障起點(diǎn)平等和分配公正，構(gòu)成人工智能發(fā)展中最根本的倫理博弈。(55)唐代興：《人工智能研發(fā)帶動(dòng)社會(huì)公正危機(jī)》，《人文雜志》2020年第8期。這包括全球競爭框架下市場利益?zhèn)惱聿┺暮蜕鐣?huì)分配結(jié)構(gòu)及其分配方法變動(dòng)中的技術(shù)權(quán)力、公權(quán)、民權(quán)三個(gè)維度的利益?zhèn)惱聿┺摹?/p>

第五，在人類生存發(fā)展史上，技術(shù)產(chǎn)生于破解存在危機(jī)和突圍生存困境的努力，但是在制度和法律本身呈專斷取向的社會(huì)里，具有自主性和共性取向的技術(shù)本身構(gòu)成一種最為實(shí)在的權(quán)力，而這種性質(zhì)的技術(shù)權(quán)力又最有可能也最容易與國家機(jī)器權(quán)力互為目的和手段。正是這種互為目的和手段的可能性將有可能形成無限度開發(fā)的人工智能技術(shù)推動(dòng)制度、法律在權(quán)利維護(hù)與權(quán)力限度方面的博弈重心的傾斜，更有可能推動(dòng)無限可能的人工智能技術(shù)與有限理性的人類相博弈的機(jī)制，或承受被動(dòng)修正，或形成主動(dòng)重建。