人工智能發(fā)展中道德問題辨析

趙志遠

（北京交通大學馬克思主義學院，北京 100044）

人工智能技術作為未來科技領域的指南針，對人類社會的發(fā)展具有重要的意義，人工智能的發(fā)展在帶來可喜成就的同時同樣也產生了一些難以回避的問題。比如，隨著未來強人工智能時代的到來，人工智能是否會像人類一樣面臨著“倫理道德問題”。人工智能前景如潮，不能因為畏懼風險就拋棄未來，社會發(fā)展事關全體，面對人工智能的發(fā)展我們必須建立起全社會一體的行動者網(wǎng)絡。

1 不斷前行的人工智能

1.1 人工智能發(fā)展歷程回顧

從1956年開始，人工智能一詞開始正式使用，進入理論研究階段。20世紀80年代中后期，神經(jīng)元網(wǎng)絡相關的研究技術取得巨大突破，對人工智能領域的建設有里程碑式的意義。20世紀90年代期間，反向算法橫空出世，致使多層的人工型神經(jīng)元網(wǎng)絡學習問題的解決成為可能，使人工智能研究更上一層樓。2019年，人工智能技術已經(jīng)63 周歲，人工智能科學取得重大進展。迄今為止，人工智能的應用領域非常廣泛，為交通、能源、醫(yī)療等社會各行各業(yè)的發(fā)展做出了巨大貢獻。

1.2 人工智能的階段性發(fā)展探析

根據(jù)目前普遍適用的劃分階段，人工智能可以劃分為“弱人工智能”“強人工智能”以及“超人工智能”?！叭跞斯ぶ悄堋敝粚Ｗ⒂跈C械的指令執(zhí)行，如語翻譯等工作，他們雖然高效快捷，但無法真正理解信息。而“強人工智能”系統(tǒng)包括了學習、語言、推理，實現(xiàn)非人類操縱下的獨立處理能力，這標志著人工智能達到或者接近了人類的思維狀態(tài)?！八^超人工智能，是指在強人工智能的基礎上，通過海量的數(shù)據(jù)整合和高度的學習與自我進化能力，具有的遠遠超越人類智慧水平的人工智能?！盵1]“2014年牛津大學人工智能領域專家尼克·博斯特倫，將超級智能定義為在幾乎所有領域都比最聰明的人類大腦都聰明很多，包括科學創(chuàng)新、通識和社交技能?！盵2]就當下的人工智能發(fā)展層次來講，“強人工智能”階段還未實現(xiàn)，但隨著“強人工智能”甚至“超人工智能”越來越逼近的腳步，我們首先想到的可能就是未來的人工智能與人類的區(qū)別在哪里？ 而這一焦點的關注顯然首先要被放到人工智是能否產生意識的問題上。

從馬克思唯物主義角度上我們認識到，意識首先是自然界長期發(fā)展的產物。意識的產生首先歷經(jīng)3 次時間極其漫長的生物性演變。而且意識是社會的產物，人的類本質是勞動，在勞動實踐和交往的過程中大腦不斷被刺激最終產生了意識。因此，基于上述的理論分析以及基于目前的科學進程，患者認為未來很長一段是時間內人工智能仍不具備產生意識的基礎。但是從意識產生的過程性來看，隨著人類認識能力的發(fā)展，科技的進步，情況將會發(fā)生變化。在《奇點臨近》書里Ray Kurzweil 討論了3 種非生物智能方案，全方位地展示生物人顯現(xiàn)出來的情感豐富的行為。其中第三個方案是使人類自身從生物過渡到非生物，納米機器人進入我們體內與身體“重新組合”。

2 關于未來人工智能的倫理問題分析

2.1 人工智能發(fā)展中可能存在的問題

人工智能可能出現(xiàn)的消極影響也同樣不容忽視。首先，人工智能可能導致社會的貧富差距的進一步擴大。對人工智能技術的掌握將創(chuàng)造更大的財富，反之，沒有掌握人工智能技術的行業(yè)會逐漸離軌，導致貧者越貧，富者越富。其次，技術失控的風險，在網(wǎng)絡信息時代，任何人都無法完全隱藏自己，私人信息很有可能盡被他人掌握。一旦被濫用，將會使個人的財產安全、信息安全甚至是生命安全都受到嚴重的威脅。最后，人工智能可能導致人—機關系的去主體化危機。人類對人工智能領域探索的出發(fā)點是為了擺脫自然的束縛尋求自由的發(fā)展，但未來的情況可能會超出人類預期，人—機關系可能在某一時期出現(xiàn)逆轉，威脅人類的主體地位。

2.2 未來人工智能道德地位分析

隨著人工智能“人化”程度越來越高的客觀現(xiàn)實，一系列倫理問題也緊隨其后。如人工智能是否具有“道德地位”。

馬克思主義認為,道德是由一定社會經(jīng)濟關系決定的社會意識形態(tài)的一個組成部分。作為一種意識形態(tài),道德依靠社會輿論、傳統(tǒng)習俗和人們內心信念來維系的，表現(xiàn)為社會特定規(guī)范下精神和行為活動的總和。顯然意識是作為人類擁有道德的首要因素，那么，我們進一步追問將來可能具備意識的人工智能是否可以作為道德圈的一員。

對于機器人是否具有道德地位，我們可以把動物的生存狀態(tài)作為參照。美國生學家利奧波德認為，整個生態(tài)系統(tǒng)都應該具有道德地位，具有生存和發(fā)展的機會。人類對待人類之外的生物需要尊重和關懷。人類站在食物鏈的頂端，對其他生物具有絕對的支配力。從“叢林法則”來看，弱肉強食似乎并沒有太大分歧，但是，關鍵是度的問題。那么，對非人物種的支配地位及其支配方式的倫理約束在什么地方？彼得·辛格其在動物解放論中強調，動物也能感受痛苦，因此他們具有道德地位，他把感受痛苦作為擁有道德標準。隨著人類文明的發(fā)展以及認識水平的不斷提高, 這一理念得到相當范圍的支持。如“小草也有生命”“沒有買賣就沒有殺害”的聲浪都凸顯了動物的“道德地位”不斷加強。雖然目前可能還沒有建立十分完備的制度體系，但是，這也體現(xiàn)了人類意識的能動性、實踐的反思性與未來發(fā)展的無限可能性。當人工智能越來越接近人的時候，甚至在一定程度上擁有人的情感，能夠感知幸福和痛苦，我們必須采取手段為他們爭取更高的地位。當然這必須有一個前提，不能凌駕于人之上。也可以說應該符合阿西莫夫的“機器人三定律”。總結起來就是，機器人必須完全聽從人類的指揮，不能傷害人類，在此基礎上可以保證機器人自身的安全，也就是說，作為仆人的人工智能可以被納入“道德圈”但是其道德地位應該低于人類而存在，人工智能作為人類認識實踐活動的產物，為人所創(chuàng)造，理應受到人的管理。所以牢牢把握住人類的“最主體”地位是我們研究一切科技問題的出發(fā)點。

3 構建關系互聯(lián)條件下的行動者網(wǎng)絡

行動者網(wǎng)絡理論是20世紀80年代中期由巴黎學派提出的理論。行動者網(wǎng)絡主張科學技術活動應該組建“不同質的”行動者網(wǎng)絡，這個網(wǎng)絡由自然、社會、技術、人共同編制的一張無縫之網(wǎng)，行動者通過“問題化”“引起興趣”“招募成員”“動員”4 個部分使網(wǎng)絡中行動者的利益趨于一致，逐漸構建一個包括人和非人的強大的動態(tài)行動者網(wǎng)絡，使異質的行動者不斷交互作用，使網(wǎng)絡不斷更新和構建。行動者網(wǎng)絡理論的基本規(guī)則是“追隨行動者”，即在“不同質”的行動者中選擇一個，以此為中心搭建行動者網(wǎng)絡。在人工智能倫理道德問題中，“用戶”“人工智能技術”“技術開發(fā)者”“政府”“倫理學家”等都是作為行動者而存在。

3.1 堅持倫理學家理論指引

堅持馬克思科技觀的基本原則，堅持人的主體性地位不動搖。我們要相信人工智能技術無論如何發(fā)展，終究只是技術而已，終究要為人而服務，在技術發(fā)展的過程中如果混淆了主體和客體地位是非常危險的，即使是到了人工智能階段，人工智能擁有了人類意識乃至人類情感的部分功能，我們仍然必須堅持以人為主體。在堅持馬克思主義倫理觀的原則下，需要有系統(tǒng)、有方法、有目的、有規(guī)律地用倫理去約束，即建立一套行之有效的倫理制度。

3.2 增強技術開發(fā)者社會責任感

愛因斯坦曾經(jīng)說過：“前幾代的人給我們高度發(fā)展的科學技術，這是一份寶貴的禮物，它使我們有可能生活得比以前無論哪一代人都要自由和美好。但是這份禮物也帶來了從未有過的巨大危險，它威脅著我們的生存?！盵3]科學無國界但是科學家有祖國，科學家的任務不僅是科學研究，更要對國家負責，對社會負責、對人類負責。首先，當前的智能技術主要是通過計算機技術去實現(xiàn)，編程技術中的各種漏洞都是人工智能的未來安全隱患。所以科學家們應該認清楚自己所做的每一項科學研究、科技發(fā)明背后隱藏的潛在影響，時刻清楚自己身上承擔的責任，加強自身的思想道德素質、增強人文道德情操與民族國家意識。

3.3 提高民眾知識素養(yǎng)

對于人工智能未來最大的受用者，社會大眾，是行動者網(wǎng)絡中極為重要的一環(huán)。人工智能技術需要健康發(fā)展就必須建立在人民大眾充分了解的基礎上，人工智能技術的出發(fā)點是善，落腳點也應該是為了社會的發(fā)展、人民的幸福。那么對于人工智能技術的發(fā)展狀況的認識人們有理由充分享有。當然這需要政府、科研人員以及民眾廣泛配合。只有這樣，即使是在人工智能出現(xiàn)問題的時候，全社會才能從容應對。

3.4 加強政府監(jiān)督管理

政府為人民服務，在人工智能的監(jiān)督中負有主導作用。人工智能發(fā)展具體走向仍不明確，人工智能在發(fā)展過程中可能會因為特定環(huán)境、利益狀況的影響下發(fā)生一定狀況的“越軌”現(xiàn)象，政府對人工智能的走向具有根本性的控制力。在政府監(jiān)督中，首先要規(guī)定人工智能的發(fā)展方向和發(fā)展原則等問題，制定相關政策法規(guī)，對人工智能技術和產品的各個方面的行為都要做到有法可依，有章可循。比如，責任問責條例。這不僅需要對科研人員，設計企業(yè)制定具體的規(guī)章制度把控其制造和銷售行為，同時還需對使用者進行明確行為規(guī)范。對待人工智能可能出現(xiàn)的問題，全社會不僅要做好事前防御機制，更要做好事后反思研究。讓每一個步驟，涉及的每一個個體都能權責明晰，讓人工智能技術越走越遠，越走越穩(wěn)。讓科學技術惠及每一個人。

我們想要達到的一個方向是自然科技與社會的結合，真理與價值的統(tǒng)一。在“社會善”的總領下，從知識、交往、利益等多角度出發(fā)，在實踐中構建動態(tài)的多元主體的行動者網(wǎng)絡，社會發(fā)展事關每個個體的現(xiàn)在和未來，因此行動者網(wǎng)絡的構建是最好的選擇。