陶鋒

關(guān)鍵詞 人工智能文藝 倫理 治理 審美理性 人機(jī)和諧

〔中圖分類(lèi)號(hào)〕Ｉ０－０５；ＴＰ１８ 〔文獻(xiàn)標(biāo)識(shí)碼〕Ａ 〔文章編號(hào)〕０４４７－６６２Ｘ（２０２３）０５－００５２－１１

近幾年來(lái)，人工智能在文藝領(lǐng)域的表現(xiàn)越發(fā)亮眼。人工智能繪畫(huà)程序Ｄａｌｌｅ－２、ＳｔａｂｌｅＤｉｆｆｕｓｉｏｎ等已經(jīng)可以生成風(fēng)格各異、極具創(chuàng)新性的作品。而ＣｈａｔＧＰＴ則憑借強(qiáng)大的自然語(yǔ)言處理系統(tǒng)，在人工智能文學(xué)方面的表現(xiàn)令人驚嘆，它不僅可以生成非虛構(gòu)類(lèi)的作品，如工作報(bào)告、策劃方案、論文、新聞、悼詞、影評(píng)等，還可以創(chuàng)作虛構(gòu)類(lèi)作品，如小說(shuō)、歌詞、劇本等。這些人工智能文藝作品不但能以假亂真，而且似乎還有一定的創(chuàng)新和風(fēng)格。人工智能不僅可以幫助人類(lèi)進(jìn)行體力勞動(dòng)，還能進(jìn)行一定程度的腦力勞動(dòng)和創(chuàng)造性活動(dòng)。除了這些自動(dòng)生成藝術(shù)品的程序之外，還有很多文藝產(chǎn)業(yè)中的計(jì)算機(jī)平臺(tái)、軟件和手機(jī)ＡＰＰ在廣泛使用智能程序，如引發(fā)激烈爭(zhēng)論的“換臉術(shù)”，以及娛樂(lè)ａｐｐ利用人工智能來(lái)計(jì)算客戶(hù)的審美偏好并進(jìn)行智能推送等等，這些新技術(shù)、新作品和新應(yīng)用也帶來(lái)新的社會(huì)和倫理問(wèn)題。

人工智能文藝作品主要指的是人工智能技術(shù)獨(dú)立或者半獨(dú)立地模擬生成的文藝作品。廣義的人工智能文藝作品還包括以“人工智能”等智能技術(shù)為主要輔助手段的人類(lèi)作品。人工智能文藝研究主要包括：（１）對(duì)人工智能文藝作品的鑒別、欣賞與評(píng)價(jià)；（２）對(duì)人工智能文藝作品的生成、流通、應(yīng)用和鑒賞等活動(dòng)的研究和反思，并以此為關(guān)照，對(duì)人類(lèi)藝術(shù)活動(dòng)本質(zhì)的重新審思；（３）對(duì)人工智能技術(shù)在文藝領(lǐng)域的應(yīng)用所引發(fā)的諸多社會(huì)現(xiàn)象的分析和反思。人工智能文藝活動(dòng)與傳統(tǒng)的文藝活動(dòng)的區(qū)別主要在于，人工智能可以較為獨(dú)立地進(jìn)行文藝生產(chǎn)，一定程度上改變了傳統(tǒng)藝術(shù)生產(chǎn)者的構(gòu)成和地位。下文主要就人工智能文藝作品的生成和應(yīng)用（人工智能行為）領(lǐng)域產(chǎn)生的各種問(wèn)題進(jìn)行討論，結(jié)合最新的人工智能技術(shù)，探討人工智能可能會(huì)對(duì)文藝領(lǐng)域產(chǎn)生何種倫理和社會(huì)沖擊，以及我們應(yīng)該如何在思想和現(xiàn)實(shí)層面對(duì)技術(shù)進(jìn)行引導(dǎo)。

一、人工智能文藝領(lǐng)域的倫理與社會(huì)問(wèn)題

人工智能藝術(shù)的生產(chǎn)和應(yīng)用過(guò)程，會(huì)產(chǎn)生大量的倫理和社會(huì)問(wèn)題。雖然相對(duì)于其他人工智能技術(shù)，如自動(dòng)駕駛、智能制造等方面，人工智能文藝生產(chǎn)和應(yīng)用不會(huì)直接威脅到人類(lèi)的生命安全，但是其對(duì)個(gè)人和社會(huì)造成的顯性和隱性影響也極為廣泛與深遠(yuǎn)。對(duì)于個(gè)體而言，人工智能文藝活動(dòng)會(huì)影響到個(gè)人隱私和安全、文藝工作者的權(quán)益以及情感問(wèn)題；而對(duì)于社會(huì)而言，這類(lèi)特殊的生產(chǎn)應(yīng)用活動(dòng)會(huì)帶來(lái)信任問(wèn)題、數(shù)字鴻溝、歧視以及影響到藝術(shù)行業(yè)的人員就業(yè)問(wèn)題。下面，我們從個(gè)體和社會(huì)兩個(gè)方面來(lái)談?wù)勅斯ぶ悄芪乃囶I(lǐng)域的影響。

１．人工智能對(duì)文藝領(lǐng)域內(nèi)個(gè)體權(quán)益、隱私和情感的影響

人工智能強(qiáng)大的圖像處理能力，使其可以生成高仿真的圖片和視頻，特別是人臉圖片。這類(lèi)技術(shù)在文藝領(lǐng)域特別是影視和主播領(lǐng)域，得到了廣泛的運(yùn)用。比如電影拍攝方面，正在越來(lái)越多地運(yùn)用到換臉技術(shù)。如《速度與激情７》（２０１５）中，用ＡＩ換臉技術(shù)完成了去世影星的表演鏡頭。２０１９年一款名為“ＺＡＯ”的軟件風(fēng)靡全國(guó)，該軟件運(yùn)用了人工智能深度學(xué)習(xí)技術(shù)，可以進(jìn)行實(shí)時(shí)的面部轉(zhuǎn)化，俗稱(chēng)“換臉術(shù)”。這種換臉術(shù)早在２０１６年就由德國(guó)紐倫堡大學(xué)的教授蒂耶斯（Ｊ．Ｔｈｉｅｓ）團(tuán)隊(duì)開(kāi)發(fā)出來(lái)，稱(chēng)為Ｆａｃｅ２Ｆａｃｅ，后來(lái)進(jìn)一步發(fā)展成Ｄｅｅｐｆａｋｅ技術(shù)，該技術(shù)主要包括三個(gè)步驟：一是人臉偵測(cè)和識(shí)別，二是確定變換矩陣，三是人臉替換。由于這種面部轉(zhuǎn)換過(guò)于逼真和簡(jiǎn)易，會(huì)侵犯到他人的肖像和隱私權(quán)，所以引發(fā)了較大的爭(zhēng)議。而在主播行業(yè)，虛擬主播越來(lái)越流行，人們既可以生成一張?zhí)摂M面孔以替代真人主播，也可以利用虛擬技術(shù)為自己建立數(shù)字分身。

本雅明認(rèn)為，藝術(shù)的本質(zhì)特征是復(fù)制。但是，當(dāng)這種復(fù)制不再局限于靜態(tài)圖片，而是介入動(dòng)態(tài)視頻甚至生成更加仿真的事物時(shí)，會(huì)產(chǎn)生很多現(xiàn)實(shí)的道德和法律上的風(fēng)險(xiǎn)。例如Ｄｅｅｐｆａｋｅ可以用來(lái)制作明星虛假色情視頻，這嚴(yán)重地侵犯了他人的肖像權(quán)，甚至有些視頻使用政治人物的頭像，這可能會(huì)造成外交和政治問(wèn)題。美國(guó)試圖立法禁止媒體使用此類(lèi)視頻，但是由于技術(shù)限制，目前仍然很難追蹤并快速識(shí)別換臉視頻。影視行業(yè)如果不加約束地使用此技術(shù)，會(huì)導(dǎo)致一些節(jié)目為了節(jié)約人力成本、追求利潤(rùn)，使用ＡＩ換臉術(shù)來(lái)欺騙觀眾，這將損害到觀眾的權(quán)益，也必然對(duì)整個(gè)行業(yè)造成負(fù)面影響。

除了Ｄｅｅｐｆａｋｅ換臉術(shù)，人工智能生成文學(xué)作品也帶來(lái)了各種爭(zhēng)議。深度學(xué)習(xí)需要輸入大量的人類(lèi)作品，這會(huì)帶來(lái)版權(quán)和著作權(quán)等問(wèn)題。一些人工智能程序開(kāi)發(fā)者已經(jīng)明確放棄人工智能生成作品的版權(quán)，如微軟小冰在推出《陽(yáng)光失去了玻璃窗》詩(shī)集之后不久，就宣布放棄對(duì)程序?qū)懺?shī)的版權(quán)。美國(guó)版權(quán)局主任帕爾穆特（Ｓ．Ｐｅｒｌｍｕｔｔｅｒ）指出，使用ＤＡＬＬ－Ｅ、Ｍｉｄｊｏｕｒｎｅｙ、ＣｈａｔＧＰＴ以及新發(fā)布的ＧＰＴ－４等工具生成的數(shù)字藝術(shù)、詩(shī)歌和書(shū)籍，如果人類(lèi)在作品生成中僅僅使用文字描述或提示，將不受版權(quán)保護(hù)。

在人工智能時(shí)代，藝術(shù)的復(fù)制不再是簡(jiǎn)單的機(jī)械“復(fù)制”，而是進(jìn)入了一種風(fēng)格模擬、創(chuàng)意模擬和藝術(shù)機(jī)制模擬的階段，也即是“人工智能模擬時(shí)代”。對(duì)于表象上的復(fù)制和抄襲，我們很容易鑒別，但是對(duì)于風(fēng)格、創(chuàng)意和機(jī)制的模擬，就很難從直觀上分辨了。例如現(xiàn)在的ＣｈａｔＧＰＴ使用了超大規(guī)模的自我監(jiān)督神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)技術(shù)，學(xué)習(xí)了幾十億個(gè)詞匯。它生成的作品很難說(shuō)會(huì)和已有人類(lèi)的某件作品雷同，但是這并不能保證，其在一些創(chuàng)意上不會(huì)“借鑒”他人的作品。這些隱性的抄襲雖然不會(huì)直接傷害到作者的權(quán)益，但是會(huì)影響其創(chuàng)作積極性。

人工智能技術(shù)在圖像和藝術(shù)方面的開(kāi)發(fā)和應(yīng)用，不僅會(huì)產(chǎn)生個(gè)體權(quán)益問(wèn)題，還可能會(huì)侵犯到個(gè)人隱私。首先在技術(shù)開(kāi)發(fā)中，由于人工智能需要大量的數(shù)據(jù)輸入來(lái)訓(xùn)練，所以一些公司可能在未經(jīng)用戶(hù)同意的情況下使用他們的照片和數(shù)據(jù)。例如，ＩＢＭ在未經(jīng)用戶(hù)同意的情況下，在圖片分享網(wǎng)站Ｆｌｉｃｋｒ上獲取了大約１００萬(wàn)張照片用于訓(xùn)練其人臉識(shí)別的算法。另外，個(gè)人興趣、愛(ài)好和一些偏好也屬于隱私的一部分。一些娛樂(lè)的ａｐｐ會(huì)根據(jù)個(gè)體的觀看偏好來(lái)推薦作品，這樣也會(huì)引發(fā)人們對(duì)隱私的擔(dān)憂。隨著人工智能視覺(jué)識(shí)別技術(shù)的廣泛運(yùn)用，還會(huì)產(chǎn)生金融和財(cái)務(wù)的安全問(wèn)題。例如現(xiàn)在的人臉識(shí)別技術(shù)，被廣泛地運(yùn)用于交通、出行、快遞收取和金融業(yè)務(wù)上，這極大地提高了工作效率、改善了生活體驗(yàn)，但是也帶來(lái)了各種風(fēng)險(xiǎn)。

人工智能藝術(shù)生成還會(huì)對(duì)人類(lèi)的藝術(shù)情感和情感交流產(chǎn)生沖擊。首先，人工智能藝術(shù)的出現(xiàn)，打破了藝術(shù)必須傳遞情感的說(shuō)法。沒(méi)有情感或者偽造情感灌注的藝術(shù)品，也能引發(fā)人們的審美感受和共鳴。目前的人工智能是無(wú)法真正產(chǎn)生情感的，它只能通過(guò)“情感計(jì)算”（ａｆｆｅｃｔｉｖｅｃｏｍｐｕｔｉｎｇ）或者設(shè)置情感程序的方式來(lái)模擬情感。情感計(jì)算的實(shí)質(zhì)是通過(guò)大數(shù)據(jù)和精確的計(jì)算將引發(fā)情感的藝術(shù)表現(xiàn)形式與情感對(duì)應(yīng)起來(lái)，然后通過(guò)學(xué)習(xí)模擬這些藝術(shù)形式，生成一些看起來(lái)有情感的作品。無(wú)論是情感計(jì)算，還是設(shè)置情感程序，并非都是人工智能自身的情感。這種虛假的情感也能使人感動(dòng)，但是一旦它被發(fā)現(xiàn)是假的，人們會(huì)覺(jué)得受到了愚弄。就如同艾略特所說(shuō)的被“胡言亂語(yǔ)”（ｇｉｂｂｅｒｉｓｈ）的詩(shī)歌所欺騙那樣。

其次，情感機(jī)器人的發(fā)展也會(huì)對(duì)人類(lèi)的情感交流造成困擾。人工智能程序與人進(jìn)行對(duì)話的同時(shí)，可以通過(guò)情感計(jì)算方式來(lái)收集話語(yǔ)中的情感信息，對(duì)話者在對(duì)話中成了它的一個(gè)數(shù)據(jù)收集對(duì)象。但是，當(dāng)人們發(fā)現(xiàn)這些機(jī)器的情感并非基于生命而是通過(guò)計(jì)算而來(lái)的，人們很可能會(huì)陷入迷惘、失望和恐懼中。日本學(xué)者森政弘提出“恐惑谷”理論，認(rèn)為機(jī)器人與人類(lèi)的過(guò)分相似會(huì)導(dǎo)致人們的迷惑心理和恐懼情感。他主要是從機(jī)器人設(shè)計(jì)的外觀和行為來(lái)說(shuō)明這種現(xiàn)象的。實(shí)際上，這種恐惑心理和情感在機(jī)器人和人工智能與人類(lèi)交流時(shí)也會(huì)出現(xiàn)。在人工智能程序表現(xiàn)出高度的擬人化和智能化時(shí)，如人工智能程序Ｄａｌｌｅ－２創(chuàng)作出新奇的畫(huà)作，或者是如ＣｈａｔＧＰＴ能夠?qū)懗鰞?yōu)美的詩(shī)句時(shí)，人們也可能會(huì)出現(xiàn)迷惑甚至恐懼的心理，特別是在人們不知道創(chuàng)作者是人還是機(jī)器時(shí)。

人工智能在文藝領(lǐng)域的應(yīng)用不僅僅會(huì)對(duì)個(gè)體造成影響，還會(huì)對(duì)整個(gè)社會(huì)產(chǎn)生積極或消極的影響，引發(fā)人類(lèi)社會(huì)的信任危機(jī)，以及數(shù)字鴻溝、歧視、失業(yè)等社會(huì)問(wèn)題。

２．人工智能藝術(shù)產(chǎn)生的社會(huì)信任、數(shù)字鴻溝、就業(yè)問(wèn)題

人工智能對(duì)情感的模擬使得人們首先面臨一種情感信任危機(jī)，而在此基礎(chǔ)上會(huì)引發(fā)更大的人與機(jī)器、人與人的信任危機(jī)。人工智能模擬情感雖然可以在娛樂(lè)、科研等方面對(duì)人們有所助益，但是它們會(huì)擾亂人類(lèi)生命共同體的情感交流方式和信任機(jī)制，“人們的注意力逐漸被虛擬世界吸引”，人與人之間的同理心和共通感不再是普遍的、可靠的了。康德將人類(lèi)的共通感視作審美判斷之所以具有普遍性的基礎(chǔ)，而審美快感是與生命感緊密聯(lián)系的。然而一旦人類(lèi)的情感和審美活動(dòng)被人工智能所模擬和中介，人們的審美判斷就不再是純粹的、普遍的、與生命有關(guān)的了。這一點(diǎn)在康德提到“人造花”時(shí)已經(jīng)指出，人們?cè)诎l(fā)現(xiàn)自己欣賞的是人造花而不是真花時(shí)，會(huì)有一種“虛榮的興趣”（ＩｎｔｅｒｅｓｓｅｄｅｒＥｉｔｅｌｋｅｉｔ）。當(dāng)人工智能藝術(shù)和文本越來(lái)越泛濫時(shí)，人們?cè)趯?duì)藝術(shù)品進(jìn)行審美判斷之前，需要先進(jìn)行真假判斷：這到底是人的作品還是人工智能的作品？這些作品的情感是真實(shí)的還是虛擬的？有人用ＣｈａｔＧＰＴ寫(xiě)作的論文和作品去投稿，導(dǎo)致許多期刊開(kāi)始抵制ＣｈａｔＧＰＴ寫(xiě)作的作品，這體現(xiàn)了學(xué)術(shù)界的擔(dān)憂，即人工智能文本會(huì)污染人類(lèi)文本。除了人工智能藝術(shù)品之外，前面說(shuō)的換臉術(shù)、虛擬主播、機(jī)器人客服等，都會(huì)導(dǎo)致信任危機(jī)。

人類(lèi)社會(huì)的穩(wěn)定在很大程度上建立在信任和共識(shí)上，正是因?yàn)槲覀儗?duì)人類(lèi)的個(gè)體相似性以及文化、情感、語(yǔ)言、精神的可交流性的信任，使得人們可以相信他人、協(xié)同合作。正如伽達(dá)默爾指出的，“語(yǔ)言是我們?cè)谑来嬖诘幕净顒?dòng)模式，也是包羅萬(wàn)象的世界構(gòu)造形式”。但是，以ＣｈａｔＧＰＴ為代表的人工智能程序，正在生成大量的“自然”語(yǔ)言和文本，這些語(yǔ)言和文本混入到了人類(lèi)的語(yǔ)言和文本池中。其強(qiáng)大的計(jì)算能力和生成效率，會(huì)導(dǎo)致人類(lèi)語(yǔ)言被機(jī)器生成的文本所稀釋、掩蓋甚至代替。后人類(lèi)時(shí)代要擔(dān)心的不僅僅是人類(lèi)個(gè)體器官被人工器官所置換，“身體不再?gòu)氐资腔蛲耆菍偃说摹保€要憂心于人類(lèi)社會(huì)，包括工具、文化甚至精神，都可能被機(jī)器所中介和置換。

人工智能技術(shù)的發(fā)展，還會(huì)造成不同階層、不同國(guó)家和地區(qū)的數(shù)字鴻溝問(wèn)題，這也集中體現(xiàn)在各地區(qū)人們對(duì)人工智能文藝的接受、理解、普及和宣傳的不同上?！皵?shù)字素養(yǎng)”（ｄｉｇｉｔａｌｌｉｔｅｒａｃｙ）是２１世紀(jì)人類(lèi)的重要技能，提高數(shù)字素養(yǎng)，其目的是“要讓大眾有能力去保護(hù)自己防止數(shù)據(jù)濫用，重要的是讓他們能夠順暢地理解數(shù)據(jù)收集和共享的方式、算法的使用方式和目的，以及他們可以使用哪些工具和技術(shù)來(lái)保護(hù)自己”。但是，不同階層、不同年齡段的民眾對(duì)數(shù)字和網(wǎng)絡(luò)技術(shù)的理解和學(xué)習(xí)能力是不同的。不同國(guó)家，由于教育、經(jīng)濟(jì)發(fā)展和重視程度的不同，也會(huì)導(dǎo)致數(shù)字素養(yǎng)方面的差距。

就文化和藝術(shù)而言，人工智能技術(shù)可以促進(jìn)文化產(chǎn)業(yè)的發(fā)展和擴(kuò)展文藝傳播的范圍。例如Ｆａｃｅｂｏｏｋ、Ｗｈａｔｓａｐｐ、抖音等社交娛樂(lè)軟件，由于應(yīng)用了人工智能技術(shù)，可以更便捷地推及世界各地。人工智能翻譯技術(shù)的提升，使得一些強(qiáng)勢(shì)語(yǔ)言和文化更易傳播，這種廣泛傳播反過(guò)來(lái)又能夠促進(jìn)人工智能語(yǔ)言翻譯的提升。而一些小語(yǔ)種和相對(duì)不發(fā)達(dá)的文化，由于本身可采集的文本和語(yǔ)料較少，人工智能翻譯數(shù)據(jù)少，再加上其地區(qū)的技術(shù)滯后，各種文化作品翻譯和傳播就更為艱難。強(qiáng)勢(shì)語(yǔ)言和文化與弱勢(shì)語(yǔ)言和文化之間的差距會(huì)越拉越大。人們?cè)谑褂茫茫瑁幔簦牵校詴r(shí)就體會(huì)到了，該程序?qū)τ诓煌Z(yǔ)言的回答會(huì)有明顯的質(zhì)量上的區(qū)別。ＣｈａｔＧＰＴ的中文訓(xùn)練語(yǔ)料庫(kù)僅占比５％，而且由于中文自然語(yǔ)言的復(fù)雜性等原因，使得ＣｈａｔＧＰＴ在中文文本生成上遠(yuǎn)遠(yuǎn)遜色于英文。中文尚且如此，其他小語(yǔ)種就更不用說(shuō)了。因此，智能科技的發(fā)展背后是國(guó)家實(shí)力和文化實(shí)力的支撐，數(shù)字鴻溝會(huì)隨著技術(shù)的發(fā)展而越來(lái)越大。

人工智能技術(shù)高度發(fā)展伴隨而來(lái)的還有各種歧視和偏見(jiàn)等問(wèn)題。麻省理工學(xué)院的學(xué)者發(fā)現(xiàn)，ＩＢＭ、微軟和中國(guó)公司Ｆａｃｅ＋＋的三個(gè)最新的性別識(shí)別程序，從照片中正確識(shí)別出一個(gè)人的性別，對(duì)于白人男性而言高達(dá)９９．２％，而對(duì)于皮膚黝黑的女性來(lái)說(shuō)，準(zhǔn)確率下降到只有６５．３％。而ＣｈａｔＧＰＴ的開(kāi)發(fā)者也明確指出，盡管他們努力使模型拒絕不正當(dāng)?shù)恼?qǐng)求，但是ＣｈａｔＧＰＴ仍然可能對(duì)有害的指令做出反應(yīng)或表現(xiàn)出有偏見(jiàn)的行為。ＣｈａｔＧＰＴ等人工智能的技術(shù)本質(zhì)決定了，它們可能會(huì)繼承并放大人類(lèi)思想中傳統(tǒng)的偏見(jiàn)，如性別、種族等等，這些歧視和偏見(jiàn)不僅僅需要我們通過(guò)技術(shù)來(lái)防止，還需要從人類(lèi)思想和文化的層面去改變。

人工智能生成藝術(shù)作品，還會(huì)引發(fā)文化產(chǎn)業(yè)領(lǐng)域中的就業(yè)和勞動(dòng)問(wèn)題。２０１６年，牛津大學(xué)出版的一份報(bào)告指出，雖然寫(xiě)作、作曲等藝術(shù)工作較之機(jī)械的、重復(fù)性勞動(dòng)更難被取代，然而在未來(lái)，也會(huì)被人工智能所取代。目前來(lái)看，人工智能程序已經(jīng)可以生成一定質(zhì)量的繪畫(huà)、設(shè)計(jì)、音樂(lè)、詩(shī)歌等門(mén)類(lèi)的作品。一些文化產(chǎn)業(yè)中的低端復(fù)制性工作更容易被取代，如插畫(huà)師、行畫(huà)技師、初級(jí)設(shè)計(jì)師、配樂(lè)師等等。特別是２０２３年３月１５日推出的ＧＰＴ４和升級(jí)版的ｓｔａｂｌｅｄｉｆｆｕｓｉｏｎ程序，在識(shí)圖、繪圖方面的水平表現(xiàn)得非常出色，其繪制的設(shè)計(jì)圖片，已經(jīng)被一些設(shè)計(jì)師用作參考了。而一些藝術(shù)家個(gè)體，也會(huì)在人工智能的全面圍剿下變得生存艱難。藝術(shù)市場(chǎng)會(huì)被物美價(jià)廉的人工智能藝術(shù)品所擠占。這將引發(fā)藝術(shù)市場(chǎng)的失業(yè)問(wèn)題，迫使人們向其他更難取代的工作轉(zhuǎn)移，文藝產(chǎn)業(yè)中的中低端工作將慢慢消失。我們雖然對(duì)此已有思想準(zhǔn)備，然而隨著人工智能技術(shù)的高速發(fā)展，行業(yè)調(diào)整以及人員培訓(xùn)的速度仍然可能趕不上技術(shù)發(fā)展的速度。因此，如何預(yù)先設(shè)想行業(yè)未來(lái)的發(fā)展?fàn)顩r，以及引導(dǎo)技術(shù)的發(fā)展方向，是亟須思考的重要問(wèn)題。

二、人工智能文藝的倫理社會(huì)問(wèn)題之思想根源

人工智能藝術(shù)帶來(lái)的個(gè)體與社會(huì)的問(wèn)題，有其深遠(yuǎn)的社會(huì)和思想根源。在人工智能出現(xiàn)之前，控制與自由、藝術(shù)與技術(shù)、人與機(jī)器的矛盾問(wèn)題就已經(jīng)存在了，人工智能技術(shù)進(jìn)一步放大了這些矛盾。人工智能與之前的作為工具的機(jī)器有著本質(zhì)的不同，人工智能已經(jīng)不單純是被動(dòng)的工具，而是具有一定主動(dòng)性和主體性的代理性主體（ａｇｅｎｔ）了，這迫使我們需要重新思考這些經(jīng)典的哲學(xué)問(wèn)題。

１．控制與自由

馬克思曾在《資本論》中分析了機(jī)器的自動(dòng)化與人類(lèi)勞動(dòng)之間的關(guān)系。馬克思指出，大工業(yè)生產(chǎn)中，機(jī)器成了異化和控制人的“自動(dòng)機(jī)”，“濫用機(jī)器的目的是要使工人自己從小就變成局部機(jī)器的一部分”。機(jī)器看似在減輕和取代人的勞動(dòng)，但實(shí)際上，“機(jī)器不是使工人擺脫勞動(dòng)，而是使工人的勞動(dòng)毫無(wú)內(nèi)容?！睓C(jī)器會(huì)加速人們的異化勞動(dòng)。馬克思認(rèn)為，“生產(chǎn)過(guò)程的智力同體力勞動(dòng)相分離，智力轉(zhuǎn)化為資本支配勞動(dòng)的權(quán)力”。自動(dòng)化機(jī)器實(shí)際上是資本控制的有力工具，人們創(chuàng)造了機(jī)器，但是反過(guò)來(lái)卻被機(jī)器和資本所控制。到了人工智能時(shí)代，機(jī)器不僅會(huì)取代人類(lèi)的體力勞動(dòng)，還可能取代人們的部分腦力勞動(dòng)，甚至是那些人類(lèi)引以為傲的創(chuàng)造性活動(dòng)。倘若如此，人們是會(huì)擺脫束縛，進(jìn)入到自由勞動(dòng)中，還是被資本在腦力與體力全方位控制呢？

海德格爾認(rèn)為，機(jī)器改變了人的語(yǔ)言本質(zhì)，機(jī)器與以往工具最大的不同在于，機(jī)器會(huì)催逼自然。海德格爾區(qū)分了言說(shuō)機(jī)器（Ｓｐｒｅｃｈｍａｓｃｈｉｎｅ）與語(yǔ)言機(jī)器（Ｓｐｒａｃｈｍａｓｃｈｉｎｅ）。前者是一種被動(dòng)的、記錄人類(lèi)語(yǔ)言的機(jī)械裝置，而“語(yǔ)言機(jī)器從它的機(jī)器能量和功能中已經(jīng)調(diào)節(jié)并安排我們的語(yǔ)言的可能的使用方法”，現(xiàn)代技術(shù)支配語(yǔ)言本身和世界，“語(yǔ)言機(jī)器使得語(yǔ)言運(yùn)行起來(lái)，因此控制了人類(lèi)”。海德格爾最終將希望寄托于本真的藝術(shù)語(yǔ)言——詩(shī)歌，因?yàn)楝F(xiàn)代技術(shù)與機(jī)器遮蔽了人和真理的本真狀態(tài)，所以“一首詩(shī)原則上不能用計(jì)算機(jī)編制程序”。

在智能科技時(shí)代，人工智能通過(guò)學(xué)習(xí)人類(lèi)文本，模擬生產(chǎn)類(lèi)似的文本。而當(dāng)人工智能生成的文本不斷增多，逐漸稀釋并淹沒(méi)了人類(lèi)文本時(shí)，人們會(huì)習(xí)慣于閱讀機(jī)器文本而不自知。那么，控制人工智能的力量，也可以輕而易舉地控制人們所有能讀到的文本。這種文化控制和阿多諾指出的工業(yè)化時(shí)代的控制是一脈相承的，文化工業(yè)可以通過(guò)對(duì)藝術(shù)產(chǎn)品的精確控制，來(lái)影響甚至控制人們的審美口味，進(jìn)一步控制人的思想和認(rèn)識(shí)。這種控制力量可以是資本、財(cái)團(tuán)或者統(tǒng)治階層。一些智能音箱如亞馬遜公司的智能音箱“Ｅｃｈｏ”可以在用戶(hù)不知情的情況下追蹤用戶(hù)的關(guān)鍵詞甚至部分對(duì)話。我們?cè)谏暇W(wǎng)、打電話或者用社交軟件等任何智能程序和設(shè)備時(shí)，都會(huì)遇到這種問(wèn)題。盡管研發(fā)者宣稱(chēng)，他們只是在追蹤一些關(guān)鍵詞，而不會(huì)涉及具體內(nèi)容。但是，正是這種智能化追蹤和推薦，正在潛移默化地改變?nèi)藗兊馁?gòu)買(mǎi)偏好、審美趣味、生活方式甚至思維習(xí)慣。

控制力量也可以來(lái)自人工智能本身。如果說(shuō)資本還只是人類(lèi)意識(shí)的延伸，那么群集智能、通用人工智能就有可能發(fā)展成獨(dú)立于人的自動(dòng)力量。它們具有資本所不具有的自主性與主動(dòng)性。一旦它們的發(fā)展超出人類(lèi)的控制，就可能轉(zhuǎn)而成為控制人的力量。在智能科技時(shí)代，控制和自由將體現(xiàn)在人與機(jī)器人的關(guān)系中。

２．人機(jī)關(guān)系

人與機(jī)器人的關(guān)系脫胎于人與機(jī)器的關(guān)系，是人機(jī)關(guān)系中的新類(lèi)型?，F(xiàn)代機(jī)器人主要指具有一定自主性的自動(dòng)化機(jī)器和智能化程序。人們對(duì)自動(dòng)化機(jī)器的想象由來(lái)已久，早期想象中的機(jī)器人類(lèi)型大致可分為兩種：一種是實(shí)用工具，即機(jī)器人代替人來(lái)工作，如古希臘神話中的青銅衛(wèi)士塔羅斯。亞里士多德在《政治學(xué)》中曾經(jīng)提到，如果工具能夠完成自己的工作，服從或預(yù)期他人的意愿，那么“主人也不想要奴隸”。還有中國(guó)傳說(shuō)中的自動(dòng)運(yùn)輸工具“木牛流馬”等。另一種則是供人欣賞娛樂(lè)的藝術(shù)品，如《列子·湯問(wèn)》里面的“偃師造人”中所設(shè)想的會(huì)自動(dòng)舞蹈的歌姬，霍夫曼小說(shuō)《沙人》中的情愛(ài)機(jī)器人奧林匹婭，以及中西方機(jī)械史中的人偶機(jī)械裝置。這些實(shí)際上也是一種供人娛樂(lè)的工具。到了２０世紀(jì)的文藝作品中，人們開(kāi)始重新批判這種人機(jī)關(guān)系。設(shè)想中的機(jī)器人與人類(lèi)的關(guān)系是不和諧的，機(jī)器人成了反抗的主體，它會(huì)威脅和報(bào)復(fù)人類(lèi)。捷克作家恰佩克（Ｋ．Ｃａｐｅｋ）在一部戲劇中創(chuàng)造了“Ｒｏｂｏｔ”（機(jī)器人）這個(gè)詞，該詞源于捷克語(yǔ)的“ｒｏｂｏｔａ”，意思是“苦力”。劇中，機(jī)器人后來(lái)毀滅了人類(lèi)，統(tǒng)治了地球。類(lèi)似的還有電影《大都會(huì)》（１９２７）里的破壞勞工運(yùn)動(dòng)的女機(jī)器人等等。到了好萊塢電影《ＡＩ》（２００１）中，人工智能機(jī)器人從威脅人的怪物變成了被人類(lèi)肆意傷害的弱者。在人們的文藝作品中，人與機(jī)器人的關(guān)系始終是壓抑與被壓抑的緊張關(guān)系。

隨著科技的發(fā)展，文藝想象中的自動(dòng)機(jī)器也逐漸變成現(xiàn)實(shí)。人與機(jī)器的關(guān)系越發(fā)緊密，特別是人工智能技術(shù)，已經(jīng)介入到我們的日常生產(chǎn)、生活中。智能機(jī)器已然不是一般的使用工具，人機(jī)關(guān)系理應(yīng)進(jìn)入到新型的人機(jī)合作形態(tài)。保羅·沙瑞爾（ＰａｕｌＳｃｈａｒｒｅ）根據(jù)機(jī)器承擔(dān)的任務(wù)類(lèi)型、執(zhí)行任務(wù)時(shí)的人機(jī)關(guān)系、機(jī)器決策的復(fù)雜性程度，將人機(jī)合作的具體形式分為半自主、輔助自主以及完全自主三種方式。２０２０年，馬斯克在Ｎｅｕｒａｌｉｎｋ發(fā)布會(huì)上展示了腦機(jī)接口技術(shù)，提示人類(lèi)和機(jī)器的融合已經(jīng)進(jìn)入到肉體甚至是神經(jīng)系統(tǒng)層面。隨著人工智能自主技術(shù)的發(fā)展，人機(jī)關(guān)系可能會(huì)進(jìn)入到人機(jī)共生關(guān)系形態(tài)，正如海姆所說(shuō)：“我們與信息機(jī)器的關(guān)系宣布了一種共生關(guān)系，最終是與技術(shù)的精神聯(lián)姻?！?/p>

２０１９年歐盟頒布的《可信賴(lài)的人工智能倫理原則》強(qiáng)調(diào)，人應(yīng)該對(duì)人工智能擁有絕對(duì)的控制權(quán)，人工智能應(yīng)該以人為中心。實(shí)際上，科幻作家阿西莫夫早在１９４２年小說(shuō)里提出的“機(jī)器人三定律”就是這種人機(jī)關(guān)系立場(chǎng)的延續(xù)，體現(xiàn)了一種“人類(lèi)中心主義”立場(chǎng)。在人工智能還不具備自主意識(shí)的情況下，人類(lèi)的這種控制是有其實(shí)際意義的。但是，人們一方面希望創(chuàng)造出能替代人類(lèi)進(jìn)行各種勞動(dòng)的真正的智能體，一方面又希望這種智能體只是一種可控的工具，這種想法顯然是矛盾的。因?yàn)槿绻斯ぶ悄苷嬉獙?shí)現(xiàn)智能，它就需要具有獨(dú)立性和一定的自主性，甚至，我們希望人工智能成為道德和法律上的責(zé)任主體。倘若如此，人工智能是很難被人所完全控制的。之所以會(huì)出現(xiàn)這種悖論，還是因?yàn)槿祟?lèi)理性的高度工具化、功能化和目的化，人們?yōu)榱硕虝旱膶?shí)用目的而忽視了長(zhǎng)期的合目的性。

因此，筆者在參與２０１９年科技部《新一代人工智能治理原則》的制定過(guò)程中，提出了“人機(jī)和諧”的建議，并得到了采納。所謂的“人機(jī)和諧”并不是一種浪漫的藝術(shù)幻想，而是基于對(duì)人自身的理性、對(duì)“人類(lèi)中心主義”的反思和批判。無(wú)論是人機(jī)合作還是人機(jī)共生，都應(yīng)該是一種和諧關(guān)系而非壓抑和對(duì)抗關(guān)系。人機(jī)和諧的前提和基礎(chǔ)是人對(duì)工具理性的控制，對(duì)人與技術(shù)、人與機(jī)器關(guān)系的思考。人們?cè)趽?dān)心人工智能給人帶來(lái)威脅之前，首先應(yīng)該擔(dān)心的是人類(lèi)理性中蘊(yùn)含的控制性和毀滅性力量。正如法蘭克福學(xué)派所預(yù)言和批判的，人類(lèi)的同一性哲學(xué)和工具理性，會(huì)讓人們控制自然、控制他者，而這種力量最終會(huì)反噬人類(lèi)自身，異化和控制人類(lèi)。正是人類(lèi)自己發(fā)明了足以摧毀人類(lèi)和世界的技術(shù)——核武器、基因工程和人工智能，如果有一天人工智能真的毀滅人類(lèi)，本質(zhì)上是人類(lèi)的自我毀滅。人機(jī)和諧的基礎(chǔ)是人類(lèi)的自我和諧、感性與理性的和諧，主體與客體的和諧。如果人始終想奴役和控制對(duì)象，那人類(lèi)也將在奴役和控制中自我奴役。而人類(lèi)的自身和諧，首先要將對(duì)抗性的工具理性轉(zhuǎn)變?yōu)橐环N和諧的理性，這需要藝術(shù)與技術(shù)的融合。

３．藝術(shù)與技術(shù)

早期的人類(lèi)藝術(shù)與技術(shù)是合一的，在漢語(yǔ)中，“藝”的原意是“種植”，古代“六藝”也多為實(shí)用性技術(shù)。亞里士多德所言的“技藝”（Ｔｅｋｈｎē）包括手工藝在內(nèi)的實(shí)用技術(shù)制造，也包括了“詩(shī)藝”（Ｐｏｉēｓｉｓ）。隨著人類(lèi)文明的發(fā)展，技術(shù)與藝術(shù)慢慢區(qū)分開(kāi)來(lái)，藝術(shù)成了以欣賞為主的、與人類(lèi)精神文明相關(guān)的行為?？档旅鞔_將“無(wú)功利性”和“自由”賦予了藝術(shù)。而技術(shù)則是實(shí)用的、有功利性的人類(lèi)活動(dòng)。

在《啟蒙辯證法》中，霍克海默和阿多諾認(rèn)為社會(huì)分工造成了藝術(shù)與科學(xué)的分離和對(duì)立?？茖W(xué)鄙棄藝術(shù)中留存的巫術(shù)，自己卻變成了一種工具，理性也成了一種工具理性。阿多諾在《美學(xué)理論》中進(jìn)一步發(fā)展了這種觀點(diǎn)，技術(shù)鄙棄藝術(shù)的巫術(shù)遺存，而藝術(shù)則將技術(shù)從統(tǒng)治中解放出來(lái)。斯蒂格勒認(rèn)為，工業(yè)時(shí)代，技術(shù)試圖徹底拋棄自身的偶然性，與科學(xué)結(jié)合到一起，成了斯蒂格勒所說(shuō)的“技術(shù)科學(xué)”（ｔｅｃｈｎｏｓｃｉｅｎｃｅ），即科技。不可否認(rèn)，科技對(duì)于人類(lèi)進(jìn)步起到了巨大的推動(dòng)作用。然而人們并不僅僅希望將這種必然性限于科技之中，也試圖將之加到藝術(shù)身上，將藝術(shù)整合進(jìn)科技中。

科技對(duì)藝術(shù)的第一次大規(guī)模整合即本雅明所說(shuō)的機(jī)械復(fù)制時(shí)代產(chǎn)生的藝術(shù)品，他將機(jī)械復(fù)制時(shí)代的藝術(shù)過(guò)程視作一種生產(chǎn)過(guò)程，文藝作者本身是生產(chǎn)者。因此，本雅明非常重視技術(shù)革新對(duì)藝術(shù)帶來(lái)的巨大影響，技術(shù)將藝術(shù)從巫術(shù)中解放出來(lái)，例如機(jī)械復(fù)制技術(shù)使得藝術(shù)失去了宗教價(jià)值，只剩下了展覽價(jià)值。阿多諾批判了本雅明的藝術(shù)生產(chǎn)和機(jī)械復(fù)制觀念，他認(rèn)為，藝術(shù)本身具有必然與偶然、表達(dá)與不可表達(dá)的辯證因素，本真藝術(shù)應(yīng)該保持其不可復(fù)制性，反對(duì)文化工業(yè)將藝術(shù)品變成商品。阿多諾試圖將技術(shù)藝術(shù)化來(lái)結(jié)合藝術(shù)與技術(shù)，藝術(shù)通過(guò)自身的技術(shù)——一種“無(wú)目的的”、非暴力的和諧方式，來(lái)反對(duì)和拯救有目的的、同一化的技術(shù)。藝術(shù)中的模仿—表達(dá)要素則可以用來(lái)拯救工具理性。本雅明的藝術(shù)技術(shù)化觀點(diǎn)重視的是技術(shù)為藝術(shù)生產(chǎn)帶來(lái)的解放性變革，而阿多諾的技術(shù)藝術(shù)化考慮的則是藝術(shù)對(duì)技術(shù)理性的改造。馬爾庫(kù)塞則試圖綜合兩者，他認(rèn)為藝術(shù)可以成為技術(shù)，技術(shù)也可以融入到藝術(shù)中，他重視的是藝術(shù)和審美中的“非侵略性”力量。

人工智能技術(shù)在藝術(shù)領(lǐng)域的應(yīng)用，體現(xiàn)了智能科技對(duì)藝術(shù)新的整合趨勢(shì)。一方面，人工智能可以生成藝術(shù)品，這表明藝術(shù)的某些規(guī)律已經(jīng)可以被算法化、計(jì)算化了。另一方面，人工智能技術(shù)也可以廣泛應(yīng)用到鑒賞性的、審美式的藝術(shù)之中。不過(guò)，目前人工智能在藝術(shù)上的應(yīng)用，更多地還是為了研發(fā)和提升技術(shù)。例如，ＣｈａｔＧＰＴ寫(xiě)作、微軟小冰寫(xiě)詩(shī)、谷歌寫(xiě)作ＡＰＰ研發(fā)的目的是為了改進(jìn)ＮＬＰ（自然語(yǔ)言處理）技術(shù)，從而能更好地為顧客服務(wù)，其背后驅(qū)動(dòng)仍然是商業(yè)利益。提倡藝術(shù)和技術(shù)結(jié)合，指的是通過(guò)技術(shù)藝術(shù)化來(lái)引導(dǎo)技術(shù)向善——技術(shù)的目的是為了提升人類(lèi)的生活福祉，人工智能技術(shù)應(yīng)該重點(diǎn)研發(fā)藝術(shù)、娛樂(lè)、教育以及健康等方面的問(wèn)題，而不是戰(zhàn)爭(zhēng)、犯罪以及控制等領(lǐng)域。

三、人工智能文藝領(lǐng)域倫理社會(huì)問(wèn)題之治理基礎(chǔ)

人工智能文藝生成和應(yīng)用活動(dòng)中，產(chǎn)生了各種與個(gè)人權(quán)益和社會(huì)控制相關(guān)的問(wèn)題，原因在于藝術(shù)與技術(shù)的摩擦、人和機(jī)器的矛盾，而追根溯源，則是人類(lèi)自身理性發(fā)展的問(wèn)題。正是由于人們無(wú)限制地使用理性，生成了各種無(wú)法控制的技術(shù)，所以才進(jìn)一步加劇了人與自然的對(duì)立、導(dǎo)致了社會(huì)矛盾的加劇，因此，對(duì)于人類(lèi)理性的控制和引導(dǎo)首當(dāng)其沖，只有深刻反思人類(lèi)思想上的痼疾，才能進(jìn)一步在實(shí)踐中加以引導(dǎo)和轉(zhuǎn)變。

１．審美理性

隨著技術(shù)的提升和人類(lèi)對(duì)工具理性的批判，人類(lèi)的理性在逐漸脫離舊的工具性、壓抑性特質(zhì)，而逐漸發(fā)展出一種相對(duì)可控的、調(diào)和的“設(shè)計(jì)理性”。人工智能之父司馬賀（Ｈ．Ｓｉｍｏｎ）認(rèn)為，我們現(xiàn)今生活的世界就是一個(gè)人工世界，正確地研究人類(lèi)就是研究設(shè)計(jì)科學(xué)。?設(shè)計(jì)理性不同于以往的工具理性之處在于，首先，工具理性的中心是外在目的，而設(shè)計(jì)理性更重視人的需求和目的。其次，工具理性關(guān)注物的功能與實(shí)用價(jià)值，設(shè)計(jì)理性除此之外，還關(guān)注物的審美價(jià)值。再次，設(shè)計(jì)理性中隱含著“創(chuàng)新”之維度，工具理性則只考慮利益的增值。在人工智能、虛擬現(xiàn)實(shí)、克隆、基因編輯等技術(shù)的加持之下，世界的一切，包括藝術(shù)、人類(lèi)大腦、生命都可以被設(shè)計(jì)。但是，設(shè)計(jì)理性不過(guò)是工具理性的高級(jí)階段，它并沒(méi)有擺脫那種將事物和人類(lèi)工具化的根本特征?？萍伎梢栽O(shè)計(jì)一切事物，但是無(wú)法設(shè)計(jì)自然合目的性本身。

因此，一種符合自然合目的性的審美理性應(yīng)該是理性發(fā)展到最高階段的產(chǎn)物。也即是說(shuō)，人類(lèi)的理性，只有實(shí)現(xiàn)了以生命為最終目的，才能是自由和自為統(tǒng)一的理性。審美理性的基礎(chǔ)來(lái)源于阿多諾的審美合理性（ＡｅｓｔｈｅｔｉｃＲａｔｉｏｎａｌｉｔｙ／？ｓｔｈｅｔｉｓｃｈｅＲａｔｉｏｎａｌｉｔａaｔ）概念。阿多諾提出此概念是為了彌補(bǔ)工具合理性的不足，其目的是借鑒藝術(shù)和審美中的平等因素，來(lái)糾偏同一性思想和技術(shù)理性中的壓制本性。在阿多諾之后，一些堅(jiān)持“審美理性”（ＡｅｓｔｈｅｔｉｃＲｅａｓｏｎ）觀點(diǎn)的學(xué)者，繼承了阿多諾的審美理性化和審美救贖責(zé)任這兩個(gè)核心維度，如伯恩斯坦認(rèn)為審美理性是“藝術(shù)作品中所表達(dá)的一種推理”，藝術(shù)品是對(duì)科學(xué)知識(shí)和道德經(jīng)驗(yàn)所提出問(wèn)題的回答。阿蘭·辛格提出要“重新審視現(xiàn)代美學(xué)理論的認(rèn)知主義根源”，審美活動(dòng)不應(yīng)該是一種逃避，而是“一種有意義的社會(huì)事業(yè)”。審美合理性除了審美救贖的內(nèi)涵之外，還包含著審美的理性化部分。人工智能藝術(shù)的出現(xiàn)，首先說(shuō)明了審美理性化是有可能的，藝術(shù)和審美的部分規(guī)律可以被認(rèn)識(shí)、計(jì)算或者算法化了。一些現(xiàn)代美學(xué)流派如信息美學(xué)、實(shí)驗(yàn)美學(xué)、神經(jīng)美學(xué)重視藝術(shù)的必然性一面，卻忽視了審美辯證法。我們不應(yīng)該簡(jiǎn)單地讓智能科技將藝術(shù)整合進(jìn)去，用必然性替代個(gè)性、偶然性和自由特征。我們更需要的是藝術(shù)與技術(shù)的融合，人工智能技術(shù)需要審美理性來(lái)引導(dǎo)。人工智能藝術(shù)可以成為文化工業(yè)有力的工具，成為資本盈利的手段，控制資本與技術(shù)的階層可以通過(guò)控制大眾的審美來(lái)進(jìn)一步控制人們的思想與行為。在這種情況下，我們更應(yīng)該重視和珍惜人類(lèi)藝術(shù)的重要性，不應(yīng)該將藝術(shù)完全交給人工智能去生產(chǎn)。我們只有堅(jiān)持發(fā)展藝術(shù)的想象力和創(chuàng)造力，保有藝術(shù)創(chuàng)作和欣賞過(guò)程中的平等、和諧因素，才能夠更好地引導(dǎo)人類(lèi)理性和技術(shù)，同時(shí)對(duì)人工智能技術(shù)進(jìn)行有效的引導(dǎo)。

２．中國(guó)話語(yǔ)

人工智能藝術(shù)所帶來(lái)的倫理和社會(huì)問(wèn)題，也可以從中華傳統(tǒng)思想中尋找到指引方法。如前所述，中國(guó)的《新一代人工智能治理原則》率先提出了人機(jī)和諧的思想，這種和諧觀就來(lái)自中國(guó)傳統(tǒng)的天人和諧觀念。在莊子那里，機(jī)械源于人類(lèi)的“機(jī)事”和“機(jī)心”，莊子希望人們能夠去掉機(jī)心和分別心，回到人與自然的融合，實(shí)現(xiàn)天人合一。然而，我們現(xiàn)代世界中已經(jīng)充斥了各種人工物，這些人工物不僅實(shí)際參與了我們的生活，還參與到我們的意向活動(dòng)以及倫理中。機(jī)器和人工物構(gòu)成了一種人造自然，因而，我們就要考慮如何在人類(lèi)、自然和人造自然之間重新達(dá)成新的和諧。這種和諧需要人們承認(rèn)自己的有限性、理性的有限性，需要人們破除“人類(lèi)中心主義”迷思。唯有如此，人類(lèi)才能尊重其他生命，敬畏自然，警惕理性和技術(shù)的過(guò)度使用，為理性與技術(shù)劃界。老子說(shuō)“知止不殆，可以長(zhǎng)久”，知道界限，人類(lèi)才能長(zhǎng)存。庫(kù)茲韋爾在《奇點(diǎn)臨近》中認(rèn)為，我們要進(jìn)行“細(xì)粒度放棄”，放棄那些會(huì)對(duì)人類(lèi)產(chǎn)生不可逆的、巨大危險(xiǎn)的技術(shù)。對(duì)于人工智能藝術(shù)而言，我們可以通過(guò)人工智能技術(shù)去探索藝術(shù)和審美的規(guī)律及算法進(jìn)程，但是同時(shí)也要重視藝術(shù)中那些偶然性、個(gè)體性和變化性等無(wú)法算法化的特性。在生產(chǎn)應(yīng)用方面，我們還要限制那些威脅到人類(lèi)隱私和自由的應(yīng)用，如“換臉術(shù)”、竊取數(shù)據(jù)等，更要警惕資本在文化工業(yè)中對(duì)人工智能技術(shù)的肆意濫用，生產(chǎn)出大量的拙劣的、惡趣味的文化商品，而使真正的藝術(shù)品被淹沒(méi)。

另外，人機(jī)和諧還包括人與人工物、人工物的研發(fā)者之間和諧信任的機(jī)制。誠(chéng)信是中國(guó)傳統(tǒng)美德，孔子非常強(qiáng)調(diào)人與人之間“誠(chéng)信”相待，“信”是儒家所說(shuō)的“四教”之一?！缎乱淮斯ぶ悄苤卫碓瓌t》提到人工智能程序必須事先表明身份。筆者認(rèn)為，在文藝領(lǐng)域，人工智能藝術(shù)品也應(yīng)該作出明確標(biāo)示，這是為了防止人工智能濫用仿人、仿生技術(shù)，給人類(lèi)社會(huì)帶來(lái)信任危機(jī)。誠(chéng)信還包含了人與機(jī)構(gòu)、國(guó)家之間的信任，所謂“民無(wú)信不立”。在文化工業(yè)中，一些公司掌握了大量的公民的數(shù)據(jù)，如個(gè)人的審美偏好、閱讀習(xí)慣、趣味等等，公民授權(quán)它們使用這些數(shù)據(jù)，是為了促進(jìn)文化工業(yè)領(lǐng)域的健康發(fā)展，為人們提供更加優(yōu)質(zhì)的文藝作品。所以這些公司應(yīng)該盡量做到信息和技術(shù)的“開(kāi)源”，讓人們普遍參與到授信與監(jiān)督之中，也最大限度地保障公民隱私權(quán)不受侵犯。

因此，引導(dǎo)理性、提升道德和建立互信是長(zhǎng)遠(yuǎn)之計(jì)，從現(xiàn)實(shí)層面來(lái)說(shuō)，我們還是應(yīng)該加強(qiáng)倫理監(jiān)管，預(yù)先設(shè)置道理倫理準(zhǔn)則甚至是法律制度。

３．指導(dǎo)規(guī)范

相較于法律制度，倫理原則更加寬泛、更有彈性一些，因此也適合那些新出現(xiàn)的、尚無(wú)定論的社會(huì)問(wèn)題。例如人工智能“換臉術(shù)”“換聲術(shù)”等，這些技術(shù)如果合理運(yùn)用，是可以有益于人的。但是一旦濫用，則必定給個(gè)人和國(guó)家的隱私、安全帶來(lái)極大的威脅，在不同的情況下需要區(qū)別對(duì)待，而法律很難做到巨細(xì)無(wú)遺。因此，出臺(tái)相應(yīng)的倫理原則成了當(dāng)務(wù)之急。目前，歐美多國(guó)出臺(tái)了人工智能治理和倫理規(guī)范。例如歐盟《可信賴(lài)的人工智能倫理指南》提出，“可信賴(lài)的人工智能”包括合法、合乎道德、穩(wěn)健可控三個(gè)方面，而道德是基礎(chǔ)。２０１６年美國(guó)白宮發(fā)布的《國(guó)家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》中確定的七項(xiàng)戰(zhàn)略中也包括“理解和應(yīng)對(duì)人工智能帶來(lái)的倫理、法律和社會(huì)影響”。２０１７年國(guó)務(wù)院發(fā)布的《新一代人工智能戰(zhàn)略發(fā)展規(guī)劃》中明確指出“制定促進(jìn)人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”。２０１９年科技部發(fā)布的《新一代人工智能治理原則》以“和諧友好”“公平公正”“包容共享”“尊重隱私”“共擔(dān)責(zé)任”等倫理道德原則為核心內(nèi)容。不過(guò)，這些原則卻幾乎沒(méi)有言及人工智能在文藝領(lǐng)域所產(chǎn)生的倫理和社會(huì)問(wèn)題，更多關(guān)注的是自動(dòng)駕駛、安全、監(jiān)控和隱私方面。前已論及，人工智能文藝生產(chǎn)雖然并不會(huì)直接危及人們的生命、財(cái)產(chǎn)安全，但是，也會(huì)給個(gè)人的權(quán)益、隱私以及整個(gè)社會(huì)帶來(lái)不利影響，還會(huì)通過(guò)改變?nèi)藗兊膶徝?、?chuàng)造能力來(lái)同質(zhì)化人們的認(rèn)識(shí)能力和鑒別能力，甚至能對(duì)人類(lèi)的感性、理性和自由精神產(chǎn)生影響。這些危害或許要多年以后才能顯現(xiàn)出來(lái)?！皧蕵?lè)平臺(tái)為了自身的商業(yè)利益，利用算法誘導(dǎo)用戶(hù)進(jìn)行娛樂(lè)或信息消費(fèi)，導(dǎo)致用戶(hù)沉迷。另外，‘算法至上的內(nèi)容推薦，會(huì)導(dǎo)致利用算法不斷強(qiáng)化用戶(hù)自己想看的世界，內(nèi)容越來(lái)越單一且變得偏激，以致形成惡性循環(huán)。此類(lèi)算法濫用可能導(dǎo)致用戶(hù)價(jià)值觀扭曲、視野狹窄等問(wèn)題。”因此，我們也需要出臺(tái)相應(yīng)的行業(yè)倫理細(xì)則來(lái)規(guī)范人工智能文藝領(lǐng)域的研發(fā)和應(yīng)用，特別是對(duì)一些研發(fā)平臺(tái)和公司進(jìn)行監(jiān)督和規(guī)范，加強(qiáng)科技工作者的倫理教育和自律，加強(qiáng)技術(shù)人員與藝術(shù)工作者的合作，讓藝術(shù)和技術(shù)真正地融合起來(lái)。

綜上所述，人工智能藝術(shù)的出現(xiàn)，會(huì)產(chǎn)生應(yīng)用倫理、社會(huì)倫理、情感倫理等多方面的問(wèn)題，如危及個(gè)體隱私、自由、權(quán)益和情感，會(huì)導(dǎo)致信任問(wèn)題、數(shù)字鴻溝、性別歧視等問(wèn)題頻發(fā)，甚至也會(huì)影響到藝術(shù)行業(yè)的就業(yè)和經(jīng)濟(jì)結(jié)構(gòu)。這些問(wèn)題的根源在于控制與自由、人與機(jī)器、藝術(shù)與技術(shù)等傳統(tǒng)問(wèn)題中固有的矛盾和沖突，人工智能的出現(xiàn)，加劇了這些矛盾。我們只有先從批判人類(lèi)理性入手，才能進(jìn)一步地健全人類(lèi)理性和道德，并引導(dǎo)技術(shù)朝健康的方向發(fā)展。筆者呼吁能通過(guò)審美理性——結(jié)合了感性和理性、藝術(shù)與技術(shù)、平等與和諧的理性，來(lái)糾偏技術(shù)理性，引導(dǎo)技術(shù)。我們應(yīng)該承認(rèn)理性的有限性和界限，適時(shí)適當(dāng)?shù)胤艞壞承┩{人類(lèi)的技術(shù)，從而能夠塑造人與自然、人工自然的和諧。中國(guó)的傳統(tǒng)和諧觀能夠?yàn)樾碌娜藱C(jī)關(guān)系奠定思想基礎(chǔ)，另外，我們也需要建立文藝領(lǐng)域的倫理原則，來(lái)指導(dǎo)人工智能藝術(shù)的健康發(fā)展。

作者單位：南開(kāi)大學(xué)哲學(xué)院

責(zé)任編輯：魏策策