潘宇翔

2017年12月24日，第四屆全國(guó)賽博倫理學(xué)暨人工智能倫理學(xué)研討會(huì)在湖南長(zhǎng)沙召開。本次會(huì)議由中國(guó)自然辯證法研究會(huì)科學(xué)技術(shù)與工程倫理專業(yè)委員會(huì)、國(guó)家社科基金重大項(xiàng)目“大數(shù)據(jù)環(huán)境下信息價(jià)值開發(fā)的倫理約束機(jī)制研究”課題組、湖南師范大學(xué)公共管理學(xué)院、湖南師范大學(xué)人工智能道德決策研究所、教育部人文社科重點(diǎn)研究基地湖南師范大學(xué)道德文化研究中心和《倫理學(xué)研究》雜志社聯(lián)合舉辦。來自中國(guó)科學(xué)院、上海交通大學(xué)、國(guó)防科技大學(xué)、華東師范大學(xué)、華南理工大學(xué)、中南大學(xué)、湖南師范大學(xué)、杭州涂子沛數(shù)據(jù)科技咨詢有限公司和紅網(wǎng)等高校、企業(yè)和媒體五十多名代表參加了會(huì)議。大會(huì)圍繞“大數(shù)據(jù)時(shí)代的信息倫理與人工智能倫理”這一主題，探討人工智能的道德哲學(xué)、道德算法、設(shè)計(jì)倫理和社會(huì)倫理等問題。

國(guó)家社科基金重大項(xiàng)目“大數(shù)據(jù)環(huán)境下信息價(jià)值開發(fā)的倫理約束機(jī)制研究”課題組首席專家、湖南師范大學(xué)人工智能道德決策研究所所長(zhǎng)李倫教授簡(jiǎn)要介紹了該所的發(fā)展歷程、宗旨和任務(wù)、研究團(tuán)隊(duì)和在研項(xiàng)目、學(xué)科和研發(fā)平臺(tái)等，并做了題為“人工智能倫理研究的四大板塊”的報(bào)告。他根據(jù)人工智能的特征及其與社會(huì)的關(guān)聯(lián)，以及目前全球人工智能倫理研究的狀況和趨勢(shì)，認(rèn)為人工智能倫理研究可概括為四大板塊：人工智能道德哲學(xué)、人工智能道德算法、人工智能設(shè)計(jì)倫理和人工智能社會(huì)倫理。這些板塊相互關(guān)聯(lián)，又擁有相對(duì)獨(dú)立的討論域。人工智能道德哲學(xué)主要探討傳統(tǒng)道德哲學(xué)如何面對(duì)人工智能的挑戰(zhàn)以及人工智能如何促進(jìn)道德哲學(xué)的發(fā)展；人工智能道德算法主要研究如何開發(fā)道德算法并將其植入人工智能，使人工智能能夠做出合乎道德的決策；人工智能設(shè)計(jì)倫理主要關(guān)注人工智能設(shè)計(jì)和制造的倫理準(zhǔn)則，使人工智能的設(shè)計(jì)與人類價(jià)值保持一致；人工智能社會(huì)倫理主要探討人工智能應(yīng)用的社會(huì)后果，探討如何善用和阻止惡用人工智能，使人工智能造福于人類。

一、人工智能道德哲學(xué)

顏青山認(rèn)為，人工智能的道德地位問題是一個(gè)真正新的道德難題，它可表述為“我們?nèi)绾未_定人工智能是或不是一個(gè)人格實(shí)體？”解決這個(gè)難題涉及“他心難題”及其變種“機(jī)心難題”。解決他心難題的方案對(duì)人工智能都可能是失效的。機(jī)心難題本質(zhì)上是一個(gè)元倫理學(xué)或道德形而上學(xué)問題，但這個(gè)在元倫理學(xué)層次無法解決的問題可以在規(guī)范倫理學(xué)的層次上得到解決。他根據(jù)人格倫理學(xué)和手段倫理學(xué)的規(guī)則提出對(duì)待人工智能的原則——“選言命令式”：一個(gè)實(shí)體及其運(yùn)行，要么冒犯了人，要么尊重了人。應(yīng)該將一個(gè)冒犯人的實(shí)體看作既非目的也非手段的實(shí)體：當(dāng)它是心靈實(shí)體時(shí)，限制其自由；當(dāng)它是非心靈實(shí)體時(shí)中止其運(yùn)行。應(yīng)當(dāng)尊重一個(gè)尊重你的實(shí)體的運(yùn)行規(guī)則：當(dāng)它是心靈實(shí)體時(shí)，尊重其本身；當(dāng)它是一個(gè)非心靈實(shí)體時(shí)，尊重制造它的人。

盧卡斯-彭羅斯論證是指“利用哥德爾不完全性定理可以得出人心勝過機(jī)器（圖靈機(jī)），心靈是不可計(jì)算的?！辟M(fèi)弗曼指出彭羅斯論證的疏忽，試圖調(diào)和機(jī)械論和反機(jī)械論的完全對(duì)立，并提出開放模式的公理系統(tǒng)表示心靈的數(shù)學(xué)能力。劉大為認(rèn)為，盧卡斯-彭羅斯論證需要加上一些理想化的假設(shè)，尤其應(yīng)該對(duì)彭羅斯論證中“F是健全的”這一斷言予以澄清和補(bǔ)充，并在借鑒盧卡斯-彭羅斯論證和費(fèi)弗曼論證的基礎(chǔ)上，考慮數(shù)學(xué)理解力和環(huán)境的重要性，嘗試提出基于完全開放的數(shù)學(xué)形式系統(tǒng)的心靈模型。

李熙通過“無免費(fèi)午餐定理”說明機(jī)器學(xué)習(xí)為了獲得通用性為什么必須訴諸形而上的“善”，但僅有形而上的基本“善”遠(yuǎn)不能保證智能體的行為符合人類的主流價(jià)值觀，為確保人類利益，還需要為機(jī)器賦予人類的價(jià)值觀，最直接的方式是為機(jī)器賦予符合人類利益的效用函數(shù)，但智能體在計(jì)算期望效用最大化、以追逐功利主義的“善”的過程中，不可避免地會(huì)侵占人類的資源。為了讓機(jī)器符合人類利益，保留關(guān)機(jī)中斷權(quán)，把風(fēng)險(xiǎn)降到最低限度，需要巧妙融合形而上的“善”與功利主義的“善”，進(jìn)行“先驗(yàn)”與“效用”的轉(zhuǎn)化，并靈活運(yùn)用逆強(qiáng)化學(xué)習(xí)或價(jià)值強(qiáng)化學(xué)習(xí)。

張含認(rèn)為，延展心智論題近年來在認(rèn)知科學(xué)與心智哲學(xué)領(lǐng)域獲得了廣泛的關(guān)注與討論。按照延展心智論題，作為心智重要組成部分的信念、欲求等心理狀態(tài)并非局限于人類生理系統(tǒng)的界限之內(nèi)，在某些情況下它們還可以由外部物理載體所實(shí)現(xiàn)。延展心智論題一經(jīng)提出就挑起了一場(chǎng)曠日持久的“心智邊界之爭(zhēng)”。哲學(xué)家、認(rèn)知科學(xué)家理查德·赫斯明克將“心智邊界之爭(zhēng)”推進(jìn)至“自我邊界之爭(zhēng)”，主張顱骨體膚并非自我與世界的固定邊界，自我與心智同樣可以延展于世界之中。張含對(duì)所謂“延展自我”進(jìn)行批判性分析，捍衛(wèi)自我的傳統(tǒng)邊界。

二、人工智能道德算法

孫保學(xué)認(rèn)為，人工智能算法倫理研究的內(nèi)涵即為算法在道德上的可接受性問題。這種可接受性的價(jià)值導(dǎo)向會(huì)使研究者的興趣和關(guān)注點(diǎn)主要聚焦于以下兩類算法：人類很難預(yù)測(cè)其行為后果的算法，以及算法造成的事實(shí)背后的決策邏輯難以解釋的算法。算法所引起的倫理問題與其他技術(shù)引起的倫理問題具有明顯的不同。算法倫理的問題域需要從算法的自主性特征、應(yīng)用性場(chǎng)景和歸責(zé)性困境三個(gè)方面來劃定，并以此為基礎(chǔ)對(duì)算法的倫理風(fēng)險(xiǎn)進(jìn)行分析。

張衛(wèi)認(rèn)為，隨著自動(dòng)駕駛汽車的出現(xiàn)，“電車難題”呈現(xiàn)出新的特點(diǎn)。傳統(tǒng)“電車難題”中的道德決策者是人，而自動(dòng)駕駛情景中的道德決策者是安裝在汽車之中的人工智能系統(tǒng)。傳統(tǒng)“電車難題”中的決策者自身不是決策結(jié)果的直接利益相關(guān)者，而在自動(dòng)駕駛情景中，購(gòu)買和使用自動(dòng)駕駛汽車的車主既是事件的決策者，也是事件的直接利益相關(guān)者。

余露以羅爾斯式算法為例討論自動(dòng)駕駛汽車的倫理算法及其限度。她認(rèn)為羅爾斯式的算法在自動(dòng)駕駛汽車應(yīng)用中可能面臨三個(gè)方面的異議：一是生存與生存價(jià)值何者更為重要；二是會(huì)帶來反向不公，安全系數(shù)較高的自動(dòng)駕駛汽車將成為“目標(biāo)”；三是這是反直覺的。因此，我們需要重新認(rèn)識(shí)羅爾斯“最大化最小規(guī)則”。最大化最小規(guī)則并非不確定性選擇的可靠指導(dǎo)，它僅在某些境況下有效，而且它還有一些限制條件，如正義的主題是社會(huì)的基本結(jié)構(gòu)，自由具有優(yōu)先性，公平的機(jī)會(huì)優(yōu)先于差別原則。

李楊從實(shí)驗(yàn)倫理的角度談?wù)摿俗詣?dòng)駕駛汽車，并對(duì)人工智能道德決策提出了建議。他調(diào)研的結(jié)果顯示：第一，人們對(duì)人工智能抱有高度期望。第二，人們將道德責(zé)任轉(zhuǎn)向其他不在場(chǎng)的人而非人工智能。第三，在人工智能的倫理研究中采用實(shí)驗(yàn)和調(diào)查的方法能夠?yàn)槲覀兲峁┏浞值臄?shù)據(jù)資源，可以根據(jù)人們對(duì)待人工智能的態(tài)度構(gòu)建人工智能的道德體系，使其做出符合公眾期望的道德決策，由此謀劃出一套適應(yīng)于公眾道德意識(shí)的人工智能的道德規(guī)范和道德決策程序。

王淑慶認(rèn)為，要使人工智能體的行動(dòng)符合相關(guān)倫理規(guī)范，最好使其具有道德決策的能力，可設(shè)想的必要工作之一是把倫理原則或規(guī)則形式化。盡管形式倫理學(xué)的初衷并不是面向人工智能，但其做法卻適用于人工智能。倫理規(guī)范的形式表達(dá)必須基于某種邏輯語言及其推理規(guī)則，而經(jīng)典邏輯是不夠的，所以有必要發(fā)展與行動(dòng)、道德相關(guān)的邏輯來適應(yīng)形式倫理學(xué)的需求。從單主體的角度看，能動(dòng)性邏輯是形式倫理表達(dá)最為合適的邏輯。人工智能體之間或人機(jī)之間要實(shí)現(xiàn)協(xié)作行動(dòng)，目前最為可行的邏輯基礎(chǔ)是多語境系統(tǒng)。

三、人工智能設(shè)計(jì)倫理

閆坤如從如下方面討論了智能機(jī)器人的設(shè)計(jì)倫理。第一，從機(jī)器人設(shè)計(jì)目的上明確機(jī)器人用途，使智能機(jī)器人的種類高度專業(yè)化，減少“萬事通”型機(jī)器人，做到專機(jī)專用。第二，機(jī)器人設(shè)計(jì)應(yīng)以安全性為目標(biāo)，不得利用機(jī)器人的法律真空做出逾越法律的事情。第三，機(jī)器人的設(shè)計(jì)者要對(duì)可能出現(xiàn)的倫理問題做出足夠的論證，使機(jī)器人的設(shè)計(jì)有益于人類。第四，機(jī)器人的設(shè)計(jì)要關(guān)注公平和正義，避免擴(kuò)大主體間權(quán)力、地位上的差距。

文賢慶認(rèn)為，人工智能作為一種技術(shù)必然帶有價(jià)值偏好。首先，技術(shù)出現(xiàn)其中的社會(huì)體制、實(shí)踐和態(tài)度已經(jīng)預(yù)先存在社會(huì)價(jià)值；其次，技術(shù)本身是有條件的；最后，技術(shù)使用環(huán)境中總會(huì)出現(xiàn)突發(fā)情形。也就是說，人工智能的設(shè)計(jì)不可能是價(jià)值中立的，它總是受到個(gè)人主觀意圖和社會(huì)價(jià)值的左右。如果說設(shè)計(jì)倫理還只是揭示了人工智能作為技術(shù)不可避免地帶有價(jià)值偏好，必然導(dǎo)致倫理問題，那么人工智能帶來的應(yīng)用倫理問題將會(huì)把這些具體問題進(jìn)一步展開。

董軍以關(guān)注隱性知識(shí)的心血管疾病分析為實(shí)例，認(rèn)為人工智能經(jīng)過六十多年的成長(zhǎng)，基本觀念似已“飛入尋常百姓家”，而其進(jìn)步依然有待宏觀的方法論指導(dǎo)和微觀的認(rèn)知神經(jīng)科學(xué)結(jié)論的支撐。從智能模擬的核心是思維模擬出發(fā)，問題之一是長(zhǎng)期積累的經(jīng)驗(yàn)中的難以言表的隱性知識(shí)的挖掘與刻畫，包括對(duì)象特征識(shí)別、推理規(guī)則精化等，需要機(jī)器學(xué)習(xí)和邏輯推理的融合。

陳自富針對(duì)歷史上人工智能研究綱領(lǐng)若干經(jīng)典的沖突，從科學(xué)研究綱領(lǐng)方法論的問題轉(zhuǎn)換角度指出，作為技術(shù)科學(xué)的人工智能理論的多元化競(jìng)爭(zhēng)格局將長(zhǎng)期存在，科學(xué)和技術(shù)實(shí)踐對(duì)經(jīng)驗(yàn)上的反常具有較強(qiáng)的解釋能力和容忍度，很難從個(gè)別的判決性實(shí)驗(yàn)出發(fā)實(shí)現(xiàn)研究綱領(lǐng)退化的問題轉(zhuǎn)換。我們應(yīng)基于這些特點(diǎn)，對(duì)人工智能理論的未來發(fā)展做出更加全面的預(yù)測(cè)或判斷。

四、人工智能社會(huì)倫理

孫偉平認(rèn)為，人工智能具有積極的社會(huì)效應(yīng)，但由于人們思想觀念滯后，政策取向不清晰，倫理規(guī)制缺失，法律法規(guī)不健全，人工智能使人類面臨巨大的不確定性和風(fēng)險(xiǎn)，造成諸多社會(huì)價(jià)值沖突和倫理困境，如挑戰(zhàn)人的本質(zhì)和人類的道德權(quán)威，沖擊傳統(tǒng)的倫理關(guān)系，造成數(shù)字鴻溝，解構(gòu)社會(huì)。我們必須對(duì)人工智能及其應(yīng)用后果進(jìn)行全方位的價(jià)值反思，制定智能社會(huì)的價(jià)值原則與綜合對(duì)策，立足“可能性”審慎地決定“應(yīng)該”怎么辦，確立不容逾越的基本價(jià)值原則，啟動(dòng)“興利除弊”的社會(huì)系統(tǒng)工程，將人工智能納入健康發(fā)展的軌道。

童光政指出，大數(shù)據(jù)時(shí)代的信息倫理與人工智能倫理問題是不可回避的重大問題。人工智能對(duì)個(gè)人隱私、經(jīng)濟(jì)安全、就業(yè)結(jié)構(gòu)和社會(huì)穩(wěn)定具有多重影響，對(duì)現(xiàn)行法律和社會(huì)倫理構(gòu)成挑戰(zhàn)。面對(duì)這些新問題和新挑戰(zhàn)，我們必須深入討論并提出一套具有技術(shù)操控性和價(jià)值合理性的規(guī)范體系，如秩序、安全、平等、正義、高效等價(jià)值，在此基礎(chǔ)上提出人工智能在各領(lǐng)域應(yīng)用中的具體規(guī)范，確保人工智能安全、可靠、可控的發(fā)展。

杜嚴(yán)勇認(rèn)為，無論人工智能是否會(huì)超越人類智能，人工智能的安全問題都是人工智能社會(huì)倫理的核心問題。他認(rèn)為解決安全問題至少有內(nèi)部、外部?jī)煞N進(jìn)路。從內(nèi)部進(jìn)路來看，需要對(duì)人工智能產(chǎn)品進(jìn)行倫理設(shè)計(jì)，對(duì)一些發(fā)展尚不成熟、容易引起安全問題與社會(huì)爭(zhēng)議的技術(shù)的應(yīng)用范圍進(jìn)行限定，限制人工智能的自主程度和智能水平，建立人工智能安全標(biāo)準(zhǔn)與規(guī)范。從外部進(jìn)路來看，要增強(qiáng)科學(xué)家的社會(huì)責(zé)任意識(shí)，調(diào)整公眾的接納度和觀念，加強(qiáng)人工智能安全評(píng)估與管理。

石海明認(rèn)為，在人工智能社會(huì)，軍事的時(shí)代意蘊(yùn)將發(fā)生重大變革。從自然觀與戰(zhàn)爭(zhēng)觀來看科技正在顛覆思想，人工智能是導(dǎo)向后人類戰(zhàn)爭(zhēng)的橋梁，后人類戰(zhàn)爭(zhēng)正在崛起，后人類時(shí)代再次開啟了人類進(jìn)化之路。我們必須對(duì)這些變革保持敏感，并做出及時(shí)的反應(yīng)。

張煌認(rèn)為，隨著無人機(jī)系統(tǒng)智能化水平和自治能力的不斷提高，原來作為純粹作戰(zhàn)手段的武器逐漸成為戰(zhàn)爭(zhēng)主體。無人作戰(zhàn)條件下人機(jī)集成共同扮演主體角色，沖擊正義戰(zhàn)爭(zhēng)理論關(guān)于責(zé)任主體與責(zé)任分配的固有認(rèn)識(shí)，導(dǎo)致無人機(jī)的責(zé)任分配困境和責(zé)任轉(zhuǎn)嫁等問題。具有智能化特征的無人機(jī)成為戰(zhàn)爭(zhēng)責(zé)任的主體，還可能削弱定義軍人職責(zé)的道德根基。

涂子沛回顧了人工智能發(fā)展的三個(gè)階段，認(rèn)為每一次發(fā)展的背后都是計(jì)算能力和數(shù)據(jù)容量的突破，計(jì)算能力和數(shù)據(jù)容量的突破就有深刻倫理意蘊(yùn)。在第一階段，人工智能是在人賦予其知識(shí)之后來執(zhí)行推理和分析的任務(wù)；人工智能發(fā)展到第二階段后，人類賦予人工智能知識(shí)；第三階段是機(jī)器學(xué)習(xí)。他對(duì)圖像人臉識(shí)別、語音識(shí)別等迅速發(fā)展的技術(shù)進(jìn)行了討論，認(rèn)為人與技術(shù)之間的關(guān)系呈現(xiàn)出一種異化，人越來越像機(jī)器，機(jī)器愈發(fā)具有自主性，這些問題需要社會(huì)各界進(jìn)行深入討論。

（潘宇翔，湖南師范大學(xué)人工智能道德決策研究所研究生）