摘要：人工智能的設(shè)計(jì)倫理研究并非新事，不斷發(fā)展的人工智能技術(shù)為人類帶來便利的同時(shí)，伴隨復(fù)雜環(huán)境而來的人機(jī)矛盾也逐漸顯現(xiàn)，反復(fù)探究人工智能產(chǎn)品可能埋下的隱患以及如何實(shí)現(xiàn)設(shè)計(jì)階段的倫理反思是幫助人工智能走向“良善”的應(yīng)有之舉。因此，文章探究設(shè)計(jì)對(duì)人工智能產(chǎn)品的倫理規(guī)約，設(shè)計(jì)行業(yè)之善想要最終形成歷史進(jìn)程之善，需要多學(xué)科、全行業(yè)和政策的共同支持，人機(jī)關(guān)系和諧背后是人際關(guān)系的處理以及人性與資本、科技的博弈，梳理與分析這些問題，是倫理介入人工智能設(shè)計(jì)環(huán)節(jié)的前提，它將幫助設(shè)計(jì)引導(dǎo)人工智能實(shí)現(xiàn)“良善”的未來。

關(guān)鍵詞：設(shè)計(jì)之善;人工智能;設(shè)計(jì)倫理;奇點(diǎn);人機(jī)關(guān)系

中圖分類號(hào)：B82-057 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1004-9436（2022）08-00-03

從1956年達(dá)特茅斯會(huì)議提出AI（Artificial Intelligence）概念，到1968年菲利普·K.迪克的小說《仿生人會(huì)夢(mèng)見電子羊嗎？》中“妄圖成為人類”的“生命”進(jìn)行的抗?fàn)?，再到人工智能早已不再停留于理論層面的?dāng)下，具備智能的機(jī)器到底意味著什么，又該如何處理人機(jī)關(guān)系等，人們從未停止對(duì)這些問題的思考。過去只存在于小說、電影中的情形逐漸變?yōu)楝F(xiàn)實(shí)，人類需要面對(duì)的一系列倫理問題也隨之而來。如果人類不能將倫理反思前置到設(shè)計(jì)階段，只在問題發(fā)生后提出批評(píng)，那所做的一切也不過是亡羊補(bǔ)牢罷了。越早將人工智能的設(shè)計(jì)倫理問題納入考量，就能越早地處理人機(jī)矛盾，從而避免人工智能技術(shù)引發(fā)嚴(yán)重的人機(jī)沖突，并從設(shè)計(jì)層面實(shí)現(xiàn)人工智能的“向善”發(fā)展[1]。

1 倫理規(guī)約何以由設(shè)計(jì)伊始

當(dāng)人們意識(shí)到設(shè)計(jì)已滲透到人類生活的方方面面后，對(duì)設(shè)計(jì)的定義便不再局限于它是一種有限的人類活動(dòng)。理查德·布坎南曾對(duì)設(shè)計(jì)有如下理解：“當(dāng)代生活的每個(gè)角落都有設(shè)計(jì)，如規(guī)劃、實(shí)施或作業(yè)假設(shè)等都是設(shè)計(jì)的表現(xiàn)，亦構(gòu)成了目的性活動(dòng)的目的本身，設(shè)計(jì)是形塑人類體驗(yàn)（塑造人類經(jīng)驗(yàn)）的重要因素?！盵2]在這里，設(shè)計(jì)被理解為一種人類特有的思維方式，它是站在更宏觀的視角整體、系統(tǒng)地指引人類未來走向。在此意義上，將人工智能產(chǎn)品的應(yīng)有面貌與未來建構(gòu)視為一種設(shè)計(jì)，它有義務(wù)不斷向自身與周遭發(fā)問，并在循環(huán)演進(jìn)之中為人工智能產(chǎn)品明晰思路，提供倫理框架。

2 設(shè)計(jì)之善的四重維度

在探討設(shè)計(jì)倫理如何介入人工智能設(shè)計(jì)環(huán)節(jié)之前，有必要理解應(yīng)該從哪些維度詮釋設(shè)計(jì)之善。設(shè)計(jì)的善是設(shè)計(jì)最基本的價(jià)值追求，與此相關(guān)的設(shè)計(jì)方法論分支是設(shè)計(jì)倫理學(xué)[3]。張黔先生在《設(shè)計(jì)方法論的構(gòu)成譜系》中將設(shè)計(jì)之善歸納為四個(gè)維度，不同維度體現(xiàn)的是對(duì)設(shè)計(jì)之善理解上的層次差異，分別是設(shè)計(jì)服務(wù)對(duì)象、設(shè)計(jì)師的價(jià)值尺度、設(shè)計(jì)效應(yīng)以及設(shè)計(jì)評(píng)價(jià)標(biāo)準(zhǔn)。其中，設(shè)計(jì)師的價(jià)值尺度、設(shè)計(jì)效應(yīng)以及設(shè)計(jì)評(píng)價(jià)標(biāo)準(zhǔn)是對(duì)設(shè)計(jì)師本人的要求，設(shè)計(jì)師需要在消費(fèi)者和生產(chǎn)者之間充當(dāng)溝通、協(xié)調(diào)的角色，從雙方不同的利益訴求中找到共同的價(jià)值尺度。另外，設(shè)計(jì)師必須充分權(quán)衡設(shè)計(jì)帶來的近期效應(yīng)與遠(yuǎn)期效應(yīng)，并使自己的設(shè)計(jì)與社會(huì)的、長(zhǎng)期的利益保持一致。

需要注意的是，設(shè)計(jì)作為動(dòng)態(tài)的存在，其評(píng)價(jià)標(biāo)準(zhǔn)也處在變動(dòng)之中，設(shè)計(jì)之善只是一個(gè)籠統(tǒng)的概念，時(shí)代變化帶來的全新問題會(huì)影響設(shè)計(jì)之善具體的內(nèi)容。敏銳知悉新的標(biāo)準(zhǔn)，才是實(shí)現(xiàn)設(shè)計(jì)持續(xù)的正面價(jià)值的關(guān)鍵。張黔先生的這篇文章用凝練概括的語言闡述了設(shè)計(jì)之善應(yīng)該從何考量，但也折射出設(shè)計(jì)倫理本身實(shí)施可能遇到的巨大困難與矛盾，他寫道：“設(shè)計(jì)之善，不是一時(shí)之善，不是一人或一企業(yè)、一行業(yè)之善，從根本上是整個(gè)人類、整個(gè)歷史進(jìn)程之善?！盵3]設(shè)計(jì)師或設(shè)計(jì)行業(yè)，想要貫徹設(shè)計(jì)之善，往往意味著需要與資本、技術(shù)博弈。隨著設(shè)計(jì)跨學(xué)科傾向愈發(fā)明顯，如果設(shè)計(jì)之善的內(nèi)核不能夠在生產(chǎn)設(shè)計(jì)環(huán)節(jié)達(dá)成跨學(xué)科共識(shí)，促成歷史進(jìn)程之善則十分困難。在人工智能技術(shù)不斷發(fā)展的今天，設(shè)計(jì)所要面對(duì)的早已不是簡(jiǎn)單的節(jié)能、環(huán)保、可持續(xù)發(fā)展等評(píng)價(jià)標(biāo)準(zhǔn)，隨著復(fù)雜環(huán)境而來的是有關(guān)身體、控物能力、技術(shù)強(qiáng)權(quán)等一系列問題，如何解決這些問題，是設(shè)計(jì)對(duì)人工智能產(chǎn)品進(jìn)行倫理規(guī)約的關(guān)鍵所在。

3 被虛構(gòu)的身體與數(shù)字化聯(lián)結(jié)

視頻主播是真實(shí)存在的人還是繁復(fù)代碼構(gòu)成的虛像？虛擬數(shù)字人代言的口紅，廣告詞“滋潤(rùn)不拔干”是否值得相信？中央美術(shù)學(xué)院2022年畢業(yè)季虛擬學(xué)生元徠的作品能算是“獨(dú)立人格”進(jìn)行的創(chuàng)作嗎？人工智能技術(shù)似乎在不斷挑戰(zhàn)人們對(duì)于“真實(shí)”的認(rèn)知，社會(huì)的非物質(zhì)化進(jìn)程因人工智能技術(shù)而得到了空前加速，它的速度之快、光景之炫目甚至令人們無暇思考——當(dāng)人們的精神全然賦予虛擬數(shù)據(jù)，情感的另一端聯(lián)結(jié)運(yùn)轉(zhuǎn)的光纖，真實(shí)世界的身體又該如何自處？

早在20世紀(jì)末，第亞尼就在《非物質(zhì)社會(huì)：后工業(yè)世界的設(shè)計(jì)、文化與技術(shù)》一書中指出，與過去相比，非物質(zhì)社會(huì)將發(fā)生的最根本的改變，即思想觀念和思維方式的改變，“多數(shù)傳統(tǒng)的‘兩極對(duì)立，如物質(zhì)與非物質(zhì)的對(duì)立、精神與身體的對(duì)立、天與地的對(duì)立、主觀主義與個(gè)人主義的對(duì)立等等，眼看著一個(gè)個(gè)消失了”[4]。對(duì)立的消失意味著“邊界”將變?yōu)椤斑吘墶?，而“邊緣”是?duì)立雙方融合、對(duì)話、拼貼、交融的場(chǎng)所。這也許就是為什么在人工智能時(shí)代人們依然對(duì)“身體”有所執(zhí)著，盡管人們追求的是“身體”在數(shù)字化社會(huì)投射的“象”?！爱?dāng)現(xiàn)實(shí)與非現(xiàn)實(shí)、真實(shí)物品與它們的表象之間的界限在人們心目中變得越來越模糊時(shí)，當(dāng)人們?cè)僖才磺逭鎸?shí)顯現(xiàn)與替代性顯現(xiàn)之間的等同時(shí)，人類還有沒有能力來控制現(xiàn)實(shí)？”[4]第亞尼書中的提問仿佛一個(gè)清脆的耳光，在光怪陸離的數(shù)字世界，人們選擇沉淪還是保持清醒，這是不得不思考的問題，也應(yīng)該是設(shè)計(jì)提醒人們?nèi)ニ伎嫉膯栴}。不同于張黔先生為設(shè)計(jì)之善提出的四重維度，第亞尼書中收錄的最后一篇文章《從尼安德特人到數(shù)字化的人》并未詳細(xì)描述數(shù)字社會(huì)中的設(shè)計(jì)應(yīng)該是何種樣貌，但通過他提出的眾多設(shè)計(jì)倫理問題，人們依然能夠?yàn)楫?dāng)下人工智能產(chǎn)品應(yīng)持有的“良善”勾勒出輪廓：將社會(huì)中最重要但又最脆弱的社會(huì)要素——人始終放在首位，這不是簡(jiǎn)單的“以人為本”，而應(yīng)該是跨越設(shè)計(jì)學(xué)、人類學(xué)、社會(huì)學(xué)、哲學(xué)等眾多學(xué)科進(jìn)行學(xué)科交叉研究的成果。

4 奇點(diǎn)啟示錄

“智能并不是人之為人的全部，人還有一個(gè)智慧與意義的世界?！盵5]精神世界似乎是人類與人工智能抗衡的最后陣地，可如果失去對(duì)現(xiàn)實(shí)之物的控制力量，人們對(duì)超人工智能來說不過是會(huì)思考的“猩猩”。不過，這場(chǎng)未來也許會(huì)發(fā)生的人機(jī)沖突，可能正來自人類控物能力與控己能力之間的失衡，對(duì)物的過分追求最終使人類失去對(duì)物的控制力。

何懷宏先生在《奇點(diǎn)臨近：福音還是噩耗——人工智能可能帶來的最大挑戰(zhàn)》一文中從哲學(xué)角度將人工智能時(shí)代人類所要面臨的問題極致化，當(dāng)“奇點(diǎn)”到來時(shí)，超人工智能是否會(huì)讓全人類成為“無用之人”？比人更聰明、更有控制物的力量的超級(jí)智能機(jī)器，怎么還會(huì)繼續(xù)服帖地充當(dāng)人類的仆人呢？何懷宏先生更多地持有將“奇點(diǎn)”的可能來臨視作一種警訊的觀點(diǎn)，并且指出想要從根本上避免人類被超人工智能取代，最根本的出路也許是放慢甚至停止對(duì)科技的發(fā)展、對(duì)人工智能的發(fā)展，減弱人類的控物能力。但他也指出，停止對(duì)人工智能的發(fā)展需要在根本上改變?nèi)诵院腿诵模@是幾乎不可能達(dá)到的，雖然難以達(dá)到，但這是人類尚能干預(yù)與妥協(xié)的領(lǐng)域。這意味著，想要在人工智能設(shè)計(jì)環(huán)節(jié)達(dá)成設(shè)計(jì)之善，在處理好人機(jī)關(guān)系之前，應(yīng)預(yù)先處理好人與人之間的關(guān)系，這種關(guān)系不必苛求完美，而應(yīng)追求一種和諧。

“災(zāi)難之所以最終沒有發(fā)生，正是一些人擔(dān)心和預(yù)警而使人們采取行動(dòng)的結(jié)果?！盵5]這也是為什么要在人工智能技術(shù)為人類帶來好處與歡樂的當(dāng)下敲響警鐘，并盡早將設(shè)計(jì)之善納入人工智能設(shè)計(jì)的考量之中。畢竟，“奇點(diǎn)”最終是福音還是噩耗，取決于人類何時(shí)反思、如何反思以及采取何種行動(dòng)。

5 設(shè)計(jì)的抵抗姿態(tài)

上述三篇文獻(xiàn)分別從設(shè)計(jì)之善的認(rèn)識(shí)論基礎(chǔ)、非物質(zhì)社會(huì)可能面臨的設(shè)計(jì)倫理問題以及人工智能倫理問題的哲學(xué)考量三個(gè)角度帶來啟示，但如何將設(shè)計(jì)之善貫徹設(shè)計(jì)的全過程，答案依然是模糊的。周志禹先生則在《人工智能系統(tǒng)及產(chǎn)品設(shè)計(jì)的倫理問題探究》一文中提出了詳盡的設(shè)計(jì)倫理實(shí)施路徑。他首先列舉人工智能可能帶來的包括貧富差距、數(shù)據(jù)壟斷、算法操縱等十大問題，由此提出倫理介入人工智能設(shè)計(jì)環(huán)節(jié)的緊迫性，并指出人工智能熱潮背后的驅(qū)動(dòng)力——資本，它的增值有時(shí)是盲目而不計(jì)后果的，需要予以足夠的警惕，這是站在更為宏觀的視角提出的面向國(guó)家、社會(huì)的呼吁，需要政府適時(shí)出臺(tái)相應(yīng)約束資本的政策。而在個(gè)人或行業(yè)層面，特別是對(duì)設(shè)計(jì)師來說，既要積極掌握人工智能技術(shù)，讓工具為自身所用，又要形成一種抵抗姿態(tài)，避免應(yīng)用有設(shè)計(jì)缺陷的人工智能并防止人工智能形成自主的侵犯。

周志禹先生在文章最后一部分指出，負(fù)責(zé)任的設(shè)計(jì)一定要詢問：設(shè)計(jì)的目的是什么？但也發(fā)現(xiàn)，設(shè)計(jì)師的主觀能動(dòng)性往往難以與大型的人工智能研發(fā)公司相抗衡，而將希望全然寄托于研發(fā)公司和科研人員的自覺顯然是不負(fù)責(zé)任的。因人工智能引起的復(fù)雜問題，應(yīng)邀請(qǐng)更多的學(xué)科參與討論，共同營(yíng)造一個(gè)以“人工智能理應(yīng)良善”為常識(shí)的社會(huì)環(huán)境，消費(fèi)者也應(yīng)當(dāng)積極提出對(duì)人工智能產(chǎn)品進(jìn)行倫理規(guī)約的要求，從消費(fèi)端推動(dòng)研發(fā)公司進(jìn)行設(shè)計(jì)規(guī)劃上的配合。

與何懷宏先生的觀點(diǎn)“人機(jī)關(guān)系背后事實(shí)上是人與人的關(guān)系”[5]一致，周志禹先生同樣認(rèn)為“在建立設(shè)計(jì)倫理的時(shí)候，警惕的是人：反人道主義科學(xué)家或不正當(dāng)利用人工智能者。來自人工智能的威脅其實(shí)也是來自人類本身的威脅”[6]。因此，設(shè)計(jì)之善對(duì)人工智能產(chǎn)品進(jìn)行的倫理規(guī)約，本質(zhì)上克服的是人性之中的諸多缺陷，追求的是人機(jī)關(guān)系背后人際關(guān)系的和諧，而設(shè)計(jì)扮演的角色是交流的中介，它要能夠幫助人工智能技術(shù)所有的利益相關(guān)者暢通地互動(dòng)，并通過利益相關(guān)者的參與和反饋進(jìn)一步完善自身，在此循環(huán)演進(jìn)過程中，不斷為人工智能產(chǎn)品的倫理導(dǎo)向提供思路，以達(dá)成規(guī)約人工智能產(chǎn)品的目的。

6 人性與資本的博弈

周至禹先生在《人工智能系統(tǒng)及產(chǎn)品設(shè)計(jì)的倫理問題探究》一文中洞察到需要警惕盲目的資本，吳軍先生則在《智能時(shí)代：大數(shù)據(jù)與智能革命重新定義未來》一書中認(rèn)為，將個(gè)人隱私泄露等智能時(shí)代所帶來的問題寄托在數(shù)據(jù)擁有者的善意上是人們一廂情愿的行為，他的這一觀點(diǎn)佐證了周至禹先生對(duì)資本的看法。那么問題是，應(yīng)該如何看待資本的混沌狀態(tài)呢？吳軍先生鼓勵(lì)人們加入資本一方，擁抱新技術(shù)，成為技術(shù)革命中受益的那2%的人[7]。但數(shù)字鴻溝導(dǎo)致每個(gè)人接觸新技術(shù)的機(jī)會(huì)并不是均等的，如果按照吳軍先生認(rèn)為的技術(shù)革命必然犧牲一部分人的利益，人們要做的是避免自己成為被犧牲的那部分，如此逐利，那么設(shè)計(jì)之善或者社會(huì)之善便失去了實(shí)施的土壤。

吳軍先生站在技術(shù)理性的角度呼吁個(gè)人、企業(yè)、國(guó)家積極面對(duì)智能時(shí)代的到來，這種態(tài)度并沒有錯(cuò)，但他的觀點(diǎn)難免會(huì)被企業(yè)家們當(dāng)成資本利用新技術(shù)不計(jì)后果謀發(fā)展的借口。確實(shí)應(yīng)該發(fā)展人工智能技術(shù)并充分使用它，可究其根本它只是一種工具，工具不是人肆意使用的理由，也不該是企業(yè)為了牟利而拋棄善意的借口。也就是說，即使人工智能產(chǎn)品在設(shè)計(jì)過程中已經(jīng)考量了如隱私、信任、知情同意、無偏見等一系列問題，設(shè)計(jì)師們也只是呈現(xiàn)出了可能達(dá)成設(shè)計(jì)之善的產(chǎn)品，而最終人工智能產(chǎn)品能否被正確使用，其背后仍然是人性與資本之間的博弈。

7 結(jié)語

設(shè)計(jì)對(duì)人工智能產(chǎn)品進(jìn)行倫理規(guī)約，為人工智能倫理的建構(gòu)提供了新的思路，通過設(shè)計(jì)的方式將倫理價(jià)值嵌入人工智能技術(shù)中，使人工智能技術(shù)表現(xiàn)出“向善”的倫理意圖，是設(shè)計(jì)的責(zé)任所在。但是，正如上述文獻(xiàn)中提出的，人工智能設(shè)計(jì)所要面臨的是復(fù)雜的價(jià)值沖突問題，設(shè)計(jì)既要協(xié)調(diào)自身與資本的關(guān)系，又需要形成完善的設(shè)計(jì)倫理框架，其間的諸多矛盾，顯然僅靠設(shè)計(jì)行業(yè)是難以調(diào)解的。設(shè)計(jì)之善是人工智能產(chǎn)品擁有“善”的內(nèi)核的基礎(chǔ)，而在產(chǎn)品的使用、傳播過程中形成良性互動(dòng)，需要多學(xué)科、全行業(yè)以及政策的共同支持，如此，方能對(duì)人工智能產(chǎn)品構(gòu)建的未來有所期待。良善方能致遠(yuǎn)，如果“奇點(diǎn)”將在不久的未來降臨，那么今日設(shè)計(jì)之善或許能成全來日人類的一方樂土。

參考文獻(xiàn)：

[1] 于雪，李倫.人工智能的設(shè)計(jì)倫理探析[J].科學(xué)與社會(huì)，2020，10（2）：75-88.

[2] 理查德·布坎南，維克多·馬格林.設(shè)計(jì)思維中的抗解問題[M].設(shè)計(jì)的觀念：設(shè)計(jì)問題讀本[M].張黎，譯.南京：江蘇鳳凰美術(shù)出版社，2018：25.

[3] 張黔.設(shè)計(jì)方法論的構(gòu)成譜系[J].設(shè)計(jì)藝術(shù)研究，2017，7（2）：41-46，57.

[4] 馬克·第亞尼.非物質(zhì)社會(huì)：后工業(yè)世界的設(shè)計(jì)、文化與技術(shù)[M].滕守堯，譯.成都：四川人民出版社，1998：3-27.

[5] 何懷宏.奇點(diǎn)臨近：福音還是噩耗：人工智能可能帶來的最大挑戰(zhàn)[J].探索與爭(zhēng)鳴，2018（11）：50-59，117.

[6] 周至禹.人工智能系統(tǒng)及產(chǎn)品設(shè)計(jì)的倫理問題探究[J].創(chuàng)意與設(shè)計(jì)，2019（1）：23-30.

[7] 吳軍.智能時(shí)代：大數(shù)據(jù)與智能革命重新定義未來[M].北京：中信出版社，2016：237-260.

作者簡(jiǎn)介：周姣彤（1993—），女，湖北武漢人，碩士在讀，研究方向：設(shè)計(jì)史論。