基于技術(shù)和倫理角度的機(jī)器人的發(fā)展趨勢

王 東 浩.

（南開大學(xué) 哲學(xué)院，天津 300071）

機(jī)器人是當(dāng)今社會技術(shù)成就上非常成功的一個(gè)典型。人類對這個(gè)領(lǐng)域的研究開始于20世紀(jì)30年代，最初，機(jī)器人主要應(yīng)用在工業(yè)和制造業(yè)部門，后來擴(kuò)展到社會服務(wù)部門和個(gè)人生活領(lǐng)域。近年來，機(jī)器人在軍事領(lǐng)域發(fā)揮著越來越重要的作用?？梢哉f，機(jī)器人應(yīng)用范圍越來越廣泛，甚至我們在報(bào)紙、雜志等媒介中經(jīng)?？梢钥吹接嘘P(guān)機(jī)器人的介紹。

然而先進(jìn)技術(shù)的快速發(fā)展，往往會帶來一些負(fù)面影響。機(jī)器人技術(shù)的發(fā)展也是如此。隨著機(jī)器人應(yīng)用領(lǐng)域和范圍的逐步深入和廣泛，它所表現(xiàn)出來的社會和倫理方面的問題也日益突出?；诖?，人們開始關(guān)注機(jī)器人倫理問題。并逐步從技術(shù)和倫理相結(jié)合的角度研發(fā)機(jī)器人。在本文中，我們從機(jī)器人的概念出發(fā)，就機(jī)器人在工業(yè)、醫(yī)療和軍事等領(lǐng)域的應(yīng)用，以及它所表征的倫理問題進(jìn)行分析，進(jìn)而說明機(jī)器人在未來的發(fā)展趨勢。

一、何謂機(jī)器人

對于機(jī)器人的定義，國際上較為統(tǒng)一的觀點(diǎn)為：“一種可編程和多功能的操作機(jī)；或是為了執(zhí)行不同的任務(wù)而具有可用電腦改變和可編程動作的專門系統(tǒng)。”但這一定義卻不能涵蓋當(dāng)今機(jī)器人所具有的內(nèi)涵特征。更不能引起機(jī)器人專家及其使用者的共鳴。因此，我們需要一個(gè)更精確化、更合理的定義。

隨著機(jī)器人感知能力的出現(xiàn)并加強(qiáng)，機(jī)器人所具有的模擬與“認(rèn)知”能力也越來越精細(xì)。這樣以來，具有自主意識的機(jī)器人就有可能出現(xiàn)。而這種自主意識的前提是具備“思考”的能力。即通過“思考”，機(jī)器能夠借助傳感器或其他途徑來做出自主決策。機(jī)器人的自主決策能力在此解釋為：一旦機(jī)器的一部分被啟動，那么該機(jī)器就能夠根據(jù)現(xiàn)實(shí)環(huán)境進(jìn)行自我反饋運(yùn)作，而在一定時(shí)間內(nèi)不受外部控制的一種能力。

據(jù)此，我們認(rèn)為傳統(tǒng)的對于機(jī)器人的定義已不能詮釋現(xiàn)代機(jī)器人的內(nèi)涵。那些完全遠(yuǎn)程或遙控的機(jī)器不具有自主決策能力，它們基本上依賴于外部控制，沒有獨(dú)立“思考”的能力，也不能進(jìn)行獨(dú)立行動，因此它不能稱為機(jī)器人。生產(chǎn)力的發(fā)展，社會的進(jìn)步要求機(jī)器人必須具備自主決策能力，而這正是人類社會發(fā)展的必然趨勢。

二、機(jī)器人應(yīng)用上的廣泛性

從第一臺機(jī)器人誕生距今短短幾十年間，機(jī)器人技術(shù)不斷革新。從當(dāng)前和未來發(fā)展的前景看，伴隨著新系統(tǒng)頻繁研發(fā)問世，機(jī)器人功能會更加明顯和多樣化。具體表現(xiàn)在：

·人機(jī)交互

·機(jī)器人的情感顯示和識別

·類人型機(jī)器人

·多樣化的機(jī)器人系統(tǒng)

·自主體系

新型技術(shù)的發(fā)展和應(yīng)用帶來了巨大的生產(chǎn)力，而同時(shí)生產(chǎn)力的發(fā)展也促進(jìn)了技術(shù)研發(fā)的飛躍。然而，人們更多關(guān)注的是它在技術(shù)層面的快速發(fā)展，對于機(jī)器人發(fā)展所帶來的社會影響人們卻很少關(guān)注。事實(shí)上，從機(jī)器人出現(xiàn)并且融入到社會生活中的時(shí)候，倫理問題就會出現(xiàn)在相關(guān)領(lǐng)域。從人機(jī)交互最先出現(xiàn)的工業(yè)領(lǐng)域開始，然后擴(kuò)展到健康護(hù)理和醫(yī)療保健等領(lǐng)域。例如，在今天，社交型機(jī)器人（尤其是類人型機(jī)器人）已然參與到我們的家庭或社會聚會；另外，無論是現(xiàn)在或?qū)碥娪脵C(jī)器人都會發(fā)揮著重要的作用?？梢哉f在所有可能的應(yīng)用領(lǐng)域，機(jī)器人與人類的互動已非常廣泛和深入。

三、工業(yè)或制造業(yè)中作為合作者的機(jī)器人引發(fā)的倫理問題

機(jī)器人廣泛應(yīng)用在各類型的實(shí)驗(yàn)室中。除此之外，伴隨著 Unimate（第一代工業(yè)機(jī)器人）機(jī)器人的出現(xiàn)，它已開始在制造業(yè)中發(fā)揮作用。

在早期，機(jī)器人應(yīng)用于制造業(yè)的時(shí)候，首先引起人們對倫理問題的關(guān)注是通過一個(gè)死亡事件。1979年 1月 25日，事發(fā)密歇根（Michigan）的弗林特（Flint）福特制造廠，在一次罷工中有位工人試圖從倉庫取回一些零件而被機(jī)器人“殺死”；另外，在 1981年也發(fā)生了一起死亡事件，一個(gè)日本維修工人在對機(jī)器進(jìn)行維修的時(shí)候也被機(jī)器人“殺死”。繼這兩個(gè)事件之后，制造業(yè)部門開始在一些重大和存在潛在危險(xiǎn)的環(huán)節(jié)安裝防護(hù)措施。即使如此，在 1984年，還是發(fā)生了工人致死的案例。很明顯，工廠的雇傭工人和機(jī)器人是以合作者的關(guān)系出現(xiàn)，這種合作本身就包含了倫理責(zé)任，那么就需要確保工人的安全和幸福。然而，卻沒有一個(gè)安全的防護(hù)能夠保證人們遠(yuǎn)離危險(xiǎn)。

設(shè)置防護(hù)確實(shí)在很大程度上緩解了機(jī)器人在工作中給人類帶來的傷害。然而，在使用它們的過程中卻帶來了很多其他方面的倫理問題，尤其體現(xiàn)在人類的情感問題上。

（一）人類在被機(jī)器替代的過程中產(chǎn)生恐懼情感

機(jī)器人進(jìn)入工廠，雇傭工人就會減少，從而導(dǎo)致失業(yè)，這必然要引起擔(dān)憂和恐懼。因此，這就需要管理人員有責(zé)任去阻止或至少是減少這些恐懼。例如，在工廠中對機(jī)器人和工人進(jìn)行一定數(shù)量比例的限制。另外，既然機(jī)器人在重復(fù)性的動作上具有很大的優(yōu)勢，那么在其缺乏判斷和決策的位置上就應(yīng)該充分發(fā)揮工人的力量。

（二）人類對于作為合作者的機(jī)器人從情感上的抵觸

原則上，在制造業(yè)領(lǐng)域，科學(xué)家應(yīng)該盡可能地設(shè)計(jì)能夠完成枯燥和危險(xiǎn)任務(wù)的機(jī)器人，同時(shí)，對于一些需要判斷和解決問題的任務(wù)由人類工作者完成。然而，在自動化工廠發(fā)展的過程中，在與機(jī)器人一起工作時(shí)，人類工作者可能會產(chǎn)生自卑情緒。更進(jìn)一步來說，他們可能擔(dān)心工廠的管理者會進(jìn)一步用機(jī)器人代替他們，因?yàn)樗麄冋J(rèn)為機(jī)器人（原則上來說）可以完全代替人類的工作。在這樣一種信念的引導(dǎo)下，他們可能會不高興甚至對機(jī)器人進(jìn)行一些破壞性活動。與此相關(guān)的一個(gè)案例是 19世紀(jì)英國工人破壞機(jī)器的一個(gè)事件。所以管理者應(yīng)該具有倫理方面的義務(wù)以允許工人在一定的任務(wù)范圍內(nèi)去工作，并充分利用他們極高的機(jī)器人所不具有的認(rèn)知能力。

（三）人機(jī)合作工作已成為當(dāng)前的發(fā)展趨勢

在當(dāng)前生產(chǎn)生活領(lǐng)域一個(gè)重要的發(fā)展趨勢是人機(jī)合作，以及機(jī)器人在工作時(shí)要和人類一起分擔(dān)責(zé)任。在 20世紀(jì) 90年代初期，美國西北大學(xué)教授 Peshkin& Colgate首先研發(fā)這樣一個(gè)機(jī)器人系統(tǒng)[1]。這種具有合作性的機(jī)器人稱為“Cobots”。基本上，“Cobots”和人類可以共同完成某一項(xiàng)任務(wù)，但是行動的能量完全由人類提供，“Cobots”提供向?qū)?，并可以控制行動方向。因?yàn)槿祟悶檫@個(gè)過程提供了能量，那么這個(gè)系統(tǒng)的作用還表現(xiàn)在它能夠進(jìn)一步解決人類在機(jī)器人行動過程中所面臨的危險(xiǎn)。

在最近幾年，人機(jī)合作在很多場合的增加已經(jīng)引起了人們的注意。新的感應(yīng)器的出現(xiàn)更加增進(jìn)了人機(jī)關(guān)系，從而將潛在危險(xiǎn)降低。這樣，當(dāng)機(jī)器人和人類在工作的過程中接近的時(shí)候，傳感器就會發(fā)出預(yù)警。同時(shí)，為了降低任何可能的危險(xiǎn)，未來的制造業(yè)機(jī)器人將具有識別人類手勢和行動而后運(yùn)作的能力。這一合作也意味著機(jī)器人能夠向人類學(xué)習(xí)一些限制性的活動。最終，這一效果的目標(biāo)是通過吸取機(jī)器人和人類各自的優(yōu)勢，為最大可能地實(shí)現(xiàn)機(jī)器人和人類之間的分享和合作而創(chuàng)造更多的機(jī)會。

顯然，人機(jī)之間的分享和合作可能會優(yōu)化工作環(huán)境，但是也可能會降低他們之間的互動與交流。因此，在工廠開始提高機(jī)械化的過程中，這些倫理問題就需要先行處理。

四、健康護(hù)理領(lǐng)域的人機(jī)互動

健康護(hù)理方面的機(jī)器人應(yīng)用是另一個(gè)人機(jī)交互快速發(fā)展的領(lǐng)域。它主要包括護(hù)理、手術(shù)、理療和康復(fù)等。可以說，這個(gè)領(lǐng)域的機(jī)器人應(yīng)用極大地拉近了人與機(jī)器之間的距離。對此，我們能夠推測，機(jī)器人在這一領(lǐng)域的應(yīng)用有助于減弱其對人類的潛在危險(xiǎn)。在此我們就機(jī)器人在這個(gè)領(lǐng)域的快速發(fā)展指出一些典型的應(yīng)用。

健康護(hù)理方面的工作通常是病人和護(hù)理者之間一對一的關(guān)系，這種人機(jī)交互的工作模式是非常重要的。因此，這也就是很多實(shí)驗(yàn)室正在發(fā)展“護(hù)理助理”機(jī)器人的原因。這方面最早的機(jī)器人是由 Pyxis公司制造的輪式助理機(jī)器人（Wheeled Helpmate）。HelpMate旨在幫助護(hù)士或醫(yī)院工作人員運(yùn)送藥物、實(shí)驗(yàn)樣本、設(shè)備、食物等工作。HelpMate還能夠?yàn)獒t(yī)院的各個(gè)地點(diǎn)導(dǎo)航，從而避免人員間的碰撞。除此之外，它還能夠使用電梯以及鎖定某個(gè)特定的病房。Carnegie Mellon 大學(xué)和Pittsburgh大學(xué)已經(jīng)制成了命名為Pearl的“機(jī)器人護(hù)士（nurse-bot）”。它能夠從一個(gè)助理的角度來檢查醫(yī)院的老年病人，從而為醫(yī)護(hù)人員提供信息，提醒病人用藥，記錄相關(guān)信息以及引導(dǎo)相關(guān)人員就醫(yī)等。這種機(jī)器人的形狀大體是在滑動的輪子上安裝直立的身軀，并具有類似于人類的頭部一樣的物體，上面裝有便于交流的攝像頭和聲音識別與記錄裝置。在頭部或腰部的位置，它們通常也會有數(shù)字顯示的功能，從而提示某些信息。

在助理機(jī)器人（Aassistive robots）中有這樣一個(gè)設(shè)備，它可以提供口頭引導(dǎo)、鼓勵，使中風(fēng)和脊髓損傷的人在與機(jī)器的交互中走向恢復(fù)。同時(shí)它還可以幫助患有自閉癥的孩子進(jìn)行治療。這一類型的機(jī)器人不會與對象進(jìn)行身體上的接觸，而是通過聲音和示范予以交流。例如圖1。

圖 1 助理機(jī)器人

在諸如這些護(hù)理型或助理型機(jī)器人中，經(jīng)常存在這樣一些倫理方面的問題：

·病人可能會對機(jī)器人產(chǎn)生感情，這樣如果撤回機(jī)器人就可能會觸發(fā)病情甚至加重。

·除了遵守人類的指令之外，機(jī)器人自身不能就病人的情緒，諸如生氣或失望等做出回應(yīng)。例如，一個(gè)病人可能拒絕機(jī)器人喂藥，并把藥片扔到地板上，甚至試圖打擊機(jī)器人。

·機(jī)器人會面對很多病人而不是唯一，而且它不能優(yōu)先考慮一些特殊情況，這就會引起病人的生氣和失望情緒。

圖 2 da Vinci外科機(jī)器人

另外，我們經(jīng)常提到的“機(jī)器人外科手術(shù)”，通常指的是外科手術(shù)中的人機(jī)合作活動。在今天，著名的 da Vinci外科機(jī)器人[2]已經(jīng)廣泛應(yīng)用在很多醫(yī)院。參見圖2。實(shí)際上da Vinci是一個(gè)遙控機(jī)器人，因?yàn)樗ㄟ^外科手術(shù)專家進(jìn)行遠(yuǎn)程操作，但并不是全自動化的。外科手術(shù)專家通過一個(gè)遠(yuǎn)程的控制臺，用兩個(gè)手柄把握內(nèi)窺鏡的位置以及手術(shù)儀器。事實(shí)上，他對計(jì)算機(jī)發(fā)送指令來控制機(jī)器人的手臂，使得機(jī)器人可以完成外科手術(shù)。手術(shù)的工具裝有感應(yīng)器，從而可以把實(shí)時(shí)情況反饋到外科醫(yī)生的手上，以防過度操作。這樣可以消除醫(yī)生在手術(shù)過程中手臂抖動的現(xiàn)象，并能夠提供及時(shí)的反饋從而確保手術(shù)順利進(jìn)行。因此，使用da Vinci機(jī)器人進(jìn)行手術(shù)已成為治療中的一個(gè)趨勢。在此，我們設(shè)想這樣一個(gè)場景：當(dāng)外科手術(shù)機(jī)器人變的更具自主性并且和人類外科專家成為真正的合作者，但其行動卻不是來自于簡單的遠(yuǎn)程控制，那么其結(jié)果如何？

我們再來考慮這樣一個(gè)情況。機(jī)器人完成了一個(gè)手術(shù)操作，然后病人出現(xiàn)很多并發(fā)癥并且較之之前病情加重。那么誰來為這個(gè)責(zé)任負(fù)責(zé)？如果這一外科手術(shù)可能存在一個(gè)眾所周知的潛在問題，那么由此出現(xiàn)的倫理責(zé)任又由誰來承擔(dān)？還有，傷害在什么樣的情況下可以定義為不道德？或者換句話說，傷害的程度在什么范圍內(nèi)是道德所允許的？

借助機(jī)器人做手術(shù)存在一定的風(fēng)險(xiǎn)，或者它獨(dú)立完成，或者與外科醫(yī)生合作完成，手術(shù)所面臨的風(fēng)險(xiǎn)也許要比獨(dú)立的人工操作低。另外，從手術(shù)費(fèi)用上來看，機(jī)器人手術(shù)要比純粹的人類醫(yī)生所做的手術(shù)費(fèi)用要低。然而，如果這一情況變?yōu)楝F(xiàn)實(shí)，那么必然會在手術(shù)中增加機(jī)器人的應(yīng)用，我們可能就會在醫(yī)院看到更多的“Luddite” 分子。那么，對于機(jī)器人的破壞是否也是倫理方面的問題，或者說機(jī)器人是否應(yīng)該得到尊重？

五、作為協(xié)作者的機(jī)器人

我們期望在未來的 10年里，能有更多的機(jī)器人出現(xiàn)在我們的家庭里，幫助我們打掃衛(wèi)生，處理內(nèi)務(wù)，照顧孩子，或者處理文秘工作等等。協(xié)作者機(jī)器人這一發(fā)展趨勢開始于 Roomba真空吸塵器機(jī)器人的問世，此類機(jī)器人是2002年由iRobot公司生產(chǎn)的。從那時(shí)開始，超過400萬個(gè)此類型的機(jī)器人在世界各地銷售。因此在很多情況下，我們把它定義為一個(gè)商品，而不是奢侈品。然而，Roomba在一些重要的事情上還不能與人進(jìn)行交流。這極大地限制了具有類人屬性的機(jī)器人與人之間的交互。換句話來說，類人型機(jī)器人，諸如真空吸塵器和割草機(jī)可能是機(jī)器人，但是它們卻不是當(dāng)前意義上的類人機(jī)器。

類人型機(jī)器人在一些方面具有人類的特征。它們可能有兩個(gè)手臂但是沒有腿（通過輪子移動）；它們可能有一個(gè)或多個(gè)手臂或者甚至沒有；它們可能有一個(gè)類似于人類的頭，并裝配視覺和聽覺工具；并且它們可能具有說話的能力以及辨識語音的能力。

饒有興趣但仍需注意的是類人型機(jī)器人為了取得人類的信任而不會與人類完全一致。眾所周知，人類可以與玩偶、雕塑相互作用，并且玩具只具有與人類最低限度的相似性。事實(shí)上，與人類能力相關(guān)的類人型動物已然惡化，因?yàn)樗鼈冊诎l(fā)展的過程中與人類的差別已很小，直到這個(gè)相似性完全變成等同。這種矛盾的結(jié)果被Mori稱為“詭異之谷（Uncanny Valley）”[3]，參看圖 3。這個(gè)圖示表明當(dāng)它們變得越來越像人類的時(shí)候人類的情緒反應(yīng)，直到它們達(dá)到一個(gè)相似點(diǎn)，也就是它們和人類之間的相似度近乎完美，但實(shí)際上可怕的是兩者根本不同，以至于我們不再信任它們——曲線滑到谷底代表這種關(guān)系的突然改變。

圖 3 詭異之谷（Uncanny Valley）

機(jī)器人分享人類空間的能力對人類的居住環(huán)境不會構(gòu)成威脅，當(dāng)然這主要依靠技術(shù)上的改進(jìn)。包括新的或更好的感應(yīng)器（它能夠使機(jī)器人充分了解周圍環(huán)境），這種能力可以通過聲音、手勢與人類進(jìn)行交流，并可及時(shí)控制制動器來控制運(yùn)動的速度和可能造成的危險(xiǎn)。另外還有很多待改進(jìn)的軟件，包括社會和人類相互影響的能力。這些都是高階的命令，但是機(jī)器人滿足這些要求的能力逐漸顯露。例如：日本三菱公司的機(jī)器人Wakamaru以及法國Aldebaran Robotics的機(jī)器人Nao，參見圖4。

Wakamaru是以人類伙伴的角色出現(xiàn)的，我們稱之為“伙伴機(jī)器人（Companion Robot）”。它大概有 4英尺的高度，有頭和大大的眼睛，有可移動的手臂但是沒有腿，它的移動是靠輪子，因此它的運(yùn)動需要相對平整的路況。它可以識別1萬個(gè)單詞，能夠打電話和使用互聯(lián)網(wǎng)。它備有一個(gè)攝像裝置，如果通過互聯(lián)網(wǎng)聯(lián)系的話，它可以拍攝圖像，并且能夠識別 10張臉譜，以及可以按照程序完成相應(yīng)的任務(wù)。它可以讀郵件和瀏覽新聞，并通過聲音傳遞信息。它可以同時(shí)運(yùn)用語言和手勢予以交流。

Nao也是一個(gè)機(jī)器人，當(dāng)前主要應(yīng)用在許多大學(xué)的實(shí)驗(yàn)室里。它只有 2英尺的高度，也就是Wakamaru的一半。它的行進(jìn)主要是通過慣性測量裝置和超聲測量儀來保證的（或者是借助一個(gè)持續(xù)計(jì)量位置、速度和方向的系統(tǒng)并使用感應(yīng)器和陀螺儀裝置）。它的手有抓住物體的能力。它具有兩個(gè)攝像機(jī)。它能夠通過4個(gè)麥克風(fēng)進(jìn)行全方位的試聽。它有兩個(gè)揚(yáng)聲器。和 Wakamaru一樣，它能夠進(jìn)入互聯(lián)網(wǎng)。它的處理器是一個(gè)嵌入式的操作系統(tǒng)。它能夠識別很多手勢和肢體動作。

另外，類人型機(jī)器人在我們家庭中占有一定的地位，參考圖 5，這是機(jī)器人在德國的新發(fā)展，主要是在廚房中提供幫助。

圖 4 Nao機(jī)器人

圖 5 類人型機(jī)器人

很明顯，這些機(jī)器人是復(fù)雜的類人型機(jī)器人，它具有和人類交流的各種能力?？梢哉f，伙伴型機(jī)器人技術(shù)即將到來，而相應(yīng)的風(fēng)險(xiǎn)和倫理問題業(yè)已提出。如下：

·如果此類機(jī)器人可以自由進(jìn)入人類房間，就會暴露很多隱私。

·機(jī)器人識別命令的能力會引起不道德的行為。(例如，盜取鄰居的攝像或盜聽電話)。

·機(jī)器人的權(quán)力和責(zé)任。例如，當(dāng)機(jī)器人把盤子或食物掉在地板上時(shí)，它如何感應(yīng)人的憤怒或語言？換句話來說，對機(jī)器人進(jìn)行吼叫是否屬于倫理方面的問題？我們能夠或是否應(yīng)該對機(jī)器人的過失行為進(jìn)行懲罰？而又如何懲罰？

·機(jī)器人如何應(yīng)對來自不同人發(fā)出的復(fù)雜的指令并做出反應(yīng)？例如，孩子招喚一個(gè)機(jī)器人過來玩耍，同時(shí)媽媽又對該機(jī)器人下達(dá)了到廚房洗刷盤子的命令，機(jī)器人如何面對？

·機(jī)器人計(jì)算機(jī)能否被黑客侵入，并窺測和發(fā)送圖片給潛在的竊賊？

很明顯，在當(dāng)前我們不能就這一系列問題給出明確的答案。

六、與社會互動的機(jī)器人

上面我們已經(jīng)討論過機(jī)器人是“社會交互式”的。就人機(jī)交互而言它本質(zhì)上是行為之間的一種結(jié)合。正如大量調(diào)查研究[4]中所指出的那樣，這個(gè)短語涵蓋了一個(gè)關(guān)于機(jī)器人更寬泛的范圍。廣義上來說它需要一個(gè)共同的甚至多個(gè)機(jī)器人系統(tǒng)（機(jī)器人可能會彼此合作）。這就需要機(jī)器人能識別彼此并盡可能地出現(xiàn)交互行為，這包括彼此之間的互相學(xué)習(xí)。同時(shí)對這個(gè)領(lǐng)域的大量調(diào)查研究正在發(fā)生，由于篇幅限制我們不能在此予以討論。然而，很明顯的是，這樣一個(gè)共同的關(guān)系將引發(fā)一些倫理問題的思考。例如，某個(gè)機(jī)器人毀壞或摧毀小組里的另一個(gè)機(jī)器人是不是倫理問題？如果不是，那么我們?nèi)绾文艽_保這種情況不會再次發(fā)生？

從長遠(yuǎn)來看，對于社會型機(jī)器人的發(fā)展，我們期待高水平編程語言的出現(xiàn)，可以使機(jī)器人具有自己個(gè)性，相互間可以進(jìn)行交流。以至于我們可以通過思考機(jī)器人的社會性來研究其社會行為的一面。比如，在完成一項(xiàng)任務(wù)中，其中一個(gè)機(jī)器人可以無私地幫助另一個(gè)機(jī)器人，即便助人者最后可能會受到損害[5]。

在交互式機(jī)器人中還涉及到另一個(gè)主題，那就是機(jī)器人自身的情感問題。在機(jī)器人實(shí)驗(yàn)室里這是一個(gè)深度研究的主題。關(guān)于機(jī)器人所揭示的“人工情感”存在廣泛的討論。如果人類和機(jī)器人都可以表達(dá)憤怒、高興、厭煩和其他一些情感，那么對于人機(jī)交互應(yīng)該是有利的。例如，感情可能會通過數(shù)字顯示器上人造的臉或三維立體的頭而表現(xiàn)出來。臉或頭部可能會有翹動的眉毛、嘴，可以變成某種形狀，或者通過眼睛的張閉來表達(dá)情感。麻省理工學(xué)院最早設(shè)計(jì)出稱為Kismet機(jī)器人的頭部[6]，它與人類有細(xì)微的相似之處，但是卻存在很多可以調(diào)整的面部形狀。同時(shí)我們可以證明機(jī)器人表達(dá)情感并不是真實(shí)的，而人類作用于它之后的反應(yīng)可能更加顯著[7]。人類有賦予機(jī)器人人性的趨勢，然而，機(jī)器人所表現(xiàn)出的任何情感（真的或人造的），可能不會被人類接受。

七、軍用機(jī)器人

機(jī)器人在軍事領(lǐng)域的應(yīng)用已成為很多書①或報(bào)告②的主題。從其中可以看出，我們不會討論自主性或半自主性的無人飛行機(jī)（UUVs），無人駕駛機(jī)（UGVs）或者臨時(shí)的爆炸裝置（IEDs）和地雷。很明顯，這些裝置可以保護(hù)士兵和海員的安全，參見圖 6。成千上萬個(gè)這樣的機(jī)器人出現(xiàn)在伊拉克和阿富汗戰(zhàn)爭中。這些防護(hù)型機(jī)器人也同樣被普通人使用，諸如就家庭安全、政府設(shè)施、商業(yè)設(shè)施、廠房檢查等。警察部門也可能會用到這些機(jī)器人，以進(jìn)入某一可能危及人員的建筑物。

圖 6 軍用機(jī)器人

為了解決軍事領(lǐng)域中機(jī)器人所面臨的日益升溫的道德困境，我們考慮以下場景：

1） 智能信息顯示，GPS定位到某一個(gè)房子中存在危險(xiǎn)的敵對分子。因此一個(gè)軍用機(jī)器人接到命令去接近這個(gè)房子，其目的是殺掉這個(gè)房子里的所有敵對分子?？墒钱?dāng)機(jī)器人接近房子時(shí)，它檢測（從幾個(gè)聯(lián)合的感應(yīng)器，包括視覺、X射線、聽覺和嗅覺等）到房子里除了有敵對分子外還有一些孩子。因?yàn)闄C(jī)器人具有戰(zhàn)爭中所應(yīng)遵守的規(guī)則和法律程序，所以它應(yīng)避免或至少最小化無辜人員傷亡。當(dāng)面對這一矛盾的指令時(shí)，機(jī)器人可能會把這一困境反饋到指揮中心，以求解決之道。但是這可能不具有可行性，因?yàn)榇藭r(shí)機(jī)器人可能會被敵對分子發(fā)現(xiàn)，以致傷害自己的力量。更為特別的是，當(dāng)機(jī)器人面對這一矛盾的指令時(shí)，運(yùn)行中的計(jì)算機(jī)可能會被“凍結(jié)”或“鎖定”。

2） 另一個(gè)場景涉及到一個(gè)高性能的無人駕駛機(jī)。這個(gè)無人機(jī)突然遭到不明身份的由人操縱的飛機(jī)攻擊。這種情況下，機(jī)器人只能通過傷害人類來保全自己。而這個(gè)決定反饋到遠(yuǎn)程控制臺以及做出相關(guān)決定的時(shí)間是用毫秒計(jì)算的，在這種情況下控制臺不可能迅速做出反應(yīng)，那么無人機(jī)應(yīng)該如何做出決定？

因此，軍用機(jī)器人的應(yīng)用帶來了很多倫理方面的問題。就此，Arkin試圖發(fā)明一個(gè)可控制的程序，即嵌入一個(gè)機(jī)器人控制軟件來解決這個(gè)問題。原則上來講，這個(gè)軟件可以確保機(jī)器人遵守交戰(zhàn)規(guī)則。但這能否保證機(jī)器人在所有情況下都能具有倫理道德？答案肯定是否定的，Arkin僅僅就此宣稱這樣的機(jī)器人較之純粹的戰(zhàn)士“更具有倫理道德”。事實(shí)上，可悲的是，具有更高道德素養(yǎng)的機(jī)器人在機(jī)器人倫理方面不可能有更大的進(jìn)步。很明顯，在之前的討論中就軍事機(jī)器人還存在很多未解決的倫理問題。具體如下：

·如果一個(gè)機(jī)器人進(jìn)入建筑物，我們?nèi)绾未_保它不會侵犯居住者的權(quán)利？

·該機(jī)器人是否有權(quán)利進(jìn)入？哨兵損壞或摧毀該機(jī)器人是否是犯罪？

·如果一個(gè)機(jī)器人在保護(hù)人類或逮捕罪犯的過程中對財(cái)產(chǎn)構(gòu)成破壞，誰為這一損失負(fù)責(zé)？

·既然可以減少自己一方的人員傷亡，那么是否可以增加軍用機(jī)器人的自主權(quán)？

·軍用機(jī)器人技術(shù)的普遍應(yīng)用要多久才可以擴(kuò)展到其它國家？它們具有了這項(xiàng)技術(shù)后的影響是什么？

·對于編程此類遵守戰(zhàn)爭規(guī)則或交戰(zhàn)規(guī)則的軟件是否過于困難？

·軍用機(jī)器人技術(shù)的充分發(fā)展是否能夠保證它們可以區(qū)分戰(zhàn)斗人員和平民？

·自動防故障裝置是否與計(jì)劃外的使用相沖突？例如，我們能否確定敵人的“黑客”不會控制我們的機(jī)器人并轉(zhuǎn)而對付我們？

學(xué)者 Arkin，Asaro，Sharkey，Sparrow 以及Weber對這些問題進(jìn)行了深層的探討，并出版了相應(yīng)的著作。

八、結(jié)論

在本文中，我們對機(jī)器人倫理總的發(fā)展趨勢已經(jīng)做了分析。另外，在當(dāng)前的研究中，我們揭示了機(jī)器人倫理領(lǐng)域的一些變化。隨著這一領(lǐng)域的快速發(fā)展，我們意識到機(jī)器人群體中所面臨的倫理方面遲遲未能解決，其主要原因是缺乏關(guān)注?；诖?，本文就這一領(lǐng)域發(fā)展過程中所出現(xiàn)的問題拋磚引玉，以期能有學(xué)者在這方面有更加深入的研究。

注釋：

① 參見 Singer P，Wired for War，New York: Penguin Press，2009。

② 參見 Lin P， Bekey G A， Abney K. Autonomous Military Robotics: Risk, Ethics and Design，Office of Naval Research-funded report. San Luis Obispo: California Polytechnic State University， 2008。

[1] Peshkin M A， Colgate J E. Cobots[J]. Industrial Robot，1999（5）:335-341.

[2] Taylor R H， Lavallée S， Burdea G S. Computer Assisted Surgery[M]. Cambridge， MA: MIT Press， 1995:12.

[3] Mori M. Bukimi no tani: The uncanny valley[J]. Energy，1970（4）:33-35.

[4] Fong T I， Nourbakhsh， Dautenhahn K. A survey of socially interactive robots[J]. Robotics and Autonomous System，2003（3-4）:143-166.

[5] Clark C M， Morton R， Bekey G A. Altruistic relationships for optimizing task fulfillment in robot communities[M].Berlin: Springer-Verlag， 2009:261-270.

[6] Breazeal C. Designing Sociable Robots[M]. Cambridge，MA:MIT Press， 2002:35.

[7] Ogata T， Sugano S. Emotional communication between humans and the autonomous robot WAMOEBA-2（Waseda Amoeba）which has the emotion model[J]. JSME Intenational Journal. Series C， Mechanical Systems， Machine Elements and Manufacturing， 2000（3）:568-574.