高敬瑜

摘? 要：最近剛剛誕生的新學(xué)科——機(jī)器行為學(xué)，由MIT媒體實(shí)驗(yàn)室領(lǐng)銜，哈佛、耶魯?shù)扔?019年4月，在Nature發(fā)綜述提出，是以考查人工智能體入手，模仿考查生物及其群體的行為、生態(tài)及與人類之間的關(guān)系，將機(jī)器和人類的關(guān)系作為研究對象，來研究人工智能的倫理問題、發(fā)展問題、進(jìn)化問題。該文嘗試著發(fā)表對它的見解。

關(guān)鍵詞：人工智能? 社會(huì)倫理? 人機(jī)關(guān)系? 算法

中圖分類號：TP181 ? ?文獻(xiàn)標(biāo)識(shí)碼：A 文章編號：1672-3791（2019）11（c）-0007-02

機(jī)器行為學(xué)（Machine behaviour），主要研究智能機(jī)器所表現(xiàn)出的行為?，F(xiàn)在，人們提出和解決了大量人機(jī)倫理問題?？茖W(xué)家基于研究人類和動(dòng)物行為作為參照、模仿和起點(diǎn)，正在嘗試研究智能機(jī)器和智能機(jī)器群體在其存在環(huán)境中的宏觀行為規(guī)律和可能對人類和社會(huì)產(chǎn)生的結(jié)果。

人工智能已經(jīng)和正在成為人類現(xiàn)實(shí)和將來社會(huì)生活的很耀眼的組成部分，機(jī)器行為學(xué)分為5個(gè)部分：（1）研究機(jī)人工智能器行為的動(dòng)機(jī);（2）人工智能機(jī)器行為學(xué)的跨學(xué)科研究;（3）研究對象與研究問題;（4）3種研究范圍：個(gè)體、群集與人機(jī)交互;（5）展望：人工智能機(jī)器行為學(xué)未來發(fā)展？

1? 對各個(gè)部分的理解

基于人工智能的機(jī)器正日益深入地建立或者代替我們與網(wǎng)絡(luò)媒體和其他組織、個(gè)人關(guān)于社會(huì)、文化、經(jīng)濟(jì)、政治、科技為內(nèi)容的互動(dòng)，甚至幫助我們決策、判斷、推理。在廣泛推廣人工智能機(jī)器應(yīng)用的同時(shí)，充分把握人工智能系統(tǒng)的基本原理和行為是極其必要和必須的。因此把原屬于計(jì)算機(jī)學(xué)科內(nèi)的機(jī)器行為學(xué)（Machine behaviour）擴(kuò)展開來，融合更多學(xué)科的見解。同時(shí)我們也深知這個(gè)學(xué)科同樣受到技術(shù)、法律和制度的限制。

基于計(jì)算機(jī)和機(jī)器人學(xué)科誕生的機(jī)器行為學(xué)，與前兩者有很強(qiáng)關(guān)聯(lián)性，但它們又相互獨(dú)立。以類比的思考方法，首先基于經(jīng)驗(yàn)也只能在開始基于經(jīng)驗(yàn)去解釋智能機(jī)器的行為，模仿生命內(nèi)部本身具有的特質(zhì)（生理和生化的特質(zhì)）與外部環(huán)境塑造的特質(zhì)（生態(tài)與進(jìn)化的特質(zhì)）的行為生態(tài)學(xué)和動(dòng)物行為學(xué)研究，這種思路也許賦予學(xué)科更為深遠(yuǎn)的研究視野和范圍，但基于科學(xué)和技術(shù)的人工智能畢竟和生命體本質(zhì)上是迥異的，因此，我們研究的近期結(jié)果只能是探索性的和初步的，因?yàn)槲覀冊陉P(guān)于生命科學(xué)的研究上也僅僅是以發(fā)現(xiàn)人的疾病和治愈疾病來宣布成果，關(guān)于基因和克隆的研究和使用受到技術(shù)和倫理的限制。報(bào)道上說，動(dòng)物的行為和人類的行為，不是孤立的和完全自主的，而是與周圍環(huán)境的相互作用的結(jié)果。因此，人們在考察人工智能機(jī)器的執(zhí)行過程即行為時(shí)，不但需要考慮算法本身，也需要考慮算法應(yīng)用的硬件環(huán)境、地理環(huán)境和社會(huì)環(huán)境。

現(xiàn)在，人工智能體（Artificial Intelligence （AI） Agents）包括虛擬載體或者嵌入式的物理實(shí)體。研究他們行為的科學(xué)家，主要是通過算法設(shè)置他們需要的功能，用來解決他們想要解決的問題。

例如，在功能實(shí)現(xiàn)上，數(shù)據(jù)挖掘智能算法應(yīng)當(dāng)能夠確定在社交媒體中該鎖定哪幾個(gè)目標(biāo)，玩游戲的智能算法應(yīng)當(dāng)能夠過關(guān)斬將，擊敗一系列人類和機(jī)器對手，在信息分類、人臉識(shí)別、視覺識(shí)別領(lǐng)域的智能算法，應(yīng)當(dāng)達(dá)到一個(gè)標(biāo)準(zhǔn)的精度，自動(dòng)駕駛算法應(yīng)當(dāng)在不同非晴朗天氣情況下確保成功導(dǎo)航，這些例子只是相關(guān)領(lǐng)域的一小部分。

人工智能正不斷地融入我們的社會(huì)中的各個(gè)方面。例如，無人機(jī)作戰(zhàn)、網(wǎng)上約會(huì)、自動(dòng)駕駛、城市交通疏通、個(gè)人信用網(wǎng)上評估、物流運(yùn)輸、治安監(jiān)控，不同領(lǐng)域的專家學(xué)者正從神經(jīng)科學(xué)、教育認(rèn)知、人機(jī)交互、人類行為學(xué)、自然科學(xué)、工程技術(shù)、社會(huì)科學(xué)、網(wǎng)絡(luò)安全、社交安全等不同領(lǐng)域思考人工智能算法的超出創(chuàng)造者預(yù)期的行為和后果，既有正面的也有負(fù)面的，值得引起我們注意。

1.1 研究機(jī)器行為的動(dòng)機(jī)

現(xiàn)在從3個(gè)方面來研究機(jī)器行為學(xué)的研究動(dòng)機(jī)。

第一，手機(jī)或其他袖珍移動(dòng)設(shè)備的APP及其算法在社會(huì)生活、經(jīng)濟(jì)、生產(chǎn)中正起到越來越重要的作用。

第二，不單單是APP及其算法，還有APP和算法運(yùn)行的硬件環(huán)境、操作系統(tǒng)、通信網(wǎng)絡(luò)、服務(wù)器和網(wǎng)絡(luò)所處社會(huì)環(huán)境的復(fù)雜性，完全了解它們的行為，僅依靠人工和軟件工具等分析手段是很難做到的。

第三，由于人工智能和APP算法的廣泛存在和復(fù)雜性，預(yù)測它們對社會(huì)和個(gè)人潛在的好與壞的影響是極其困難的。

如今，在手機(jī)和其他人工智能設(shè)備中，應(yīng)用了許多算法和APP;廣告和新聞排名算法和社交媒體信息智能投很大程度上決定了人們看到和聽到的信息。購物網(wǎng)站使用的信用評分算法會(huì)計(jì)算個(gè)人信用評分和給金融機(jī)構(gòu)提供貸款評估和決策依據(jù)。依據(jù)銷量和購買力及偏好等屬性的在線定價(jià)算法給不同的用戶定價(jià)，各種在線支付算法交易軟件使得交易變得迅速快捷。依據(jù)警務(wù)事物變化和市區(qū)地理分布變化、人口密度等屬性的智能算法能快速重構(gòu)警務(wù)調(diào)度的派遣和空間格局，依據(jù)法律條文和審判案例數(shù)據(jù)庫等屬性的審判算法會(huì)協(xié)助法院判案和基本確定刑事系統(tǒng)中犯人的服刑時(shí)間。智能自動(dòng)駕駛裝置和算法會(huì)使駕駛更方便和幫助老年人降低駕駛疲勞和事故發(fā)生;城市智能交通算法會(huì)明顯改變傳統(tǒng)車輛的堵車現(xiàn)象，使交通管理和指揮顯著有效。家庭機(jī)器人會(huì)自動(dòng)記錄家庭平面和立體空間，對家庭成員口頭命令做出反應(yīng)，執(zhí)行常規(guī)的家務(wù)。家庭機(jī)器人有可能代替人們照顧老人和小孩。

在線約會(huì)網(wǎng)站所提供的信息和服務(wù)中，算法會(huì)依據(jù)個(gè)人信息有效匹配約會(huì)對象，促成浪漫的相會(huì)。綜合以上枚舉的正在使用的算法，我們認(rèn)為，以算法為基礎(chǔ)和核心的人工智能自治體正引導(dǎo)著人類的集體行為（Collectivebehaviours），從群體層面的配合行為到共享行為。

人工智能帶來了人們生活的便利，也帶來了管理上的困惑?？梢韵胂螅斯ぶ悄転榘l(fā)展自動(dòng)武器提供了技術(shù)上的可能，雖然它被嚴(yán)格禁止，但總有人嘗試犯罪，一旦智能武器用于沖突和戰(zhàn)爭，人們的生死將由它們決定而不是人類決定。

現(xiàn)在，可商用的和將要使用單個(gè)人工智能體已經(jīng)很復(fù)雜，復(fù)雜度不斷提升。當(dāng)初可以用簡單的代碼和訓(xùn)練模型架構(gòu)人工智能自治體，但是隨著訓(xùn)練的深入，成熟后的模型就會(huì)變得極其復(fù)雜，這經(jīng)常導(dǎo)致“黑箱（Blackboxes）”的產(chǎn)生。人工智能體也和以前的機(jī)器類似，是一個(gè)輸入輸出系統(tǒng)，雖然有了許多所謂“可解釋性（Interpretability）”的應(yīng)用場景，但是人工智能體實(shí)際產(chǎn)生這些輸出的過程，對架構(gòu)它們的科學(xué)家來說，也是解釋不清的。

知識(shí)產(chǎn)權(quán)為應(yīng)用次數(shù)最高的源代碼、模型、數(shù)據(jù)集添加商業(yè)保密和法律保護(hù)。許多情況下，我們只能觀察到AI系統(tǒng)的輸入和輸出。

即使開源AI中的程序代碼和數(shù)學(xué)模型，筆者要精確判斷出系統(tǒng)的輸出也是很困難的。有的AI系統(tǒng)在和相鄰其他智能單元相互作用時(shí)會(huì)有“特立獨(dú)行”的表現(xiàn)，即可能讓人不可理解。即使建構(gòu)數(shù)學(xué)模型的數(shù)學(xué)函數(shù)是有解的，那這個(gè)解也會(huì)因?yàn)槠鋸?fù)雜性而難以理解。人們越來越難以評估和推算更加復(fù)雜的算法對個(gè)人和社會(huì)帶來的影響、人工智能體對塑造人類的行為和社會(huì)結(jié)果在意料之中還是意料之外。

AI系統(tǒng)增加了人-機(jī)混合系統(tǒng)的復(fù)雜度，面對這樣情況，人們很難在正確和偏見之間進(jìn)行選擇，是相信自己還是服從機(jī)器？還有，婚戀網(wǎng)站的算法是否改變?nèi)藗儌鹘y(tǒng)戀愛行為進(jìn)而影響婚姻制度;個(gè)體與AI提供的虛擬愛人之間的戀愛婚姻算法是否讓人逃避現(xiàn)實(shí)生活中的婚姻和生殖、是否會(huì)顛覆性地影響人類進(jìn)化和發(fā)展進(jìn)程。人類-機(jī)器混合系統(tǒng)越來越復(fù)雜，人類個(gè)體和機(jī)器行為也更加復(fù)雜，產(chǎn)生的管理和指導(dǎo)問題也越來越復(fù)雜。機(jī)器行為學(xué)家必須站立起來，面對挑戰(zhàn)，盡力提供見解和指導(dǎo)，預(yù)測AI執(zhí)行過程，預(yù)測執(zhí)行結(jié)果，幫助人類在自己和機(jī)器之間合理評估和平衡偏頗。

1.2 機(jī)器行為學(xué)的跨學(xué)科研究

現(xiàn)在的智能系統(tǒng)整體結(jié)構(gòu)是接受信息，輸出結(jié)果和行為，它內(nèi)部的算法相當(dāng)于一個(gè)“黑箱”，要更準(zhǔn)確地了解和把握智能系統(tǒng)對周圍環(huán)境和社會(huì)的影響，需要跨學(xué)科知識(shí)，跨學(xué)科德爾專家參與進(jìn)來。

我們知道，最近研究行為的科學(xué)家大多是智能系統(tǒng)的設(shè)計(jì)者，它們有計(jì)算機(jī)方面的專業(yè)知識(shí)或者數(shù)學(xué)方面的知識(shí)，但他們不了解行為學(xué)，幾乎不接觸實(shí)驗(yàn)方面的方法論，基于群體的抽樣訓(xùn)練，或者基于觀察的因果推理，更少得懂神經(jīng)科學(xué)、集體行為學(xué)或者社會(huì)理論。

恰恰不同的是，盡管行為學(xué)家在對人性、人的個(gè)體行為和集體行為與周邊環(huán)境、社會(huì)大環(huán)境的關(guān)系的理解上卓有建樹，但是，他們不是計(jì)算機(jī)專家，不了解程序代碼，不能確定人工智能在全社會(huì)環(huán)境考慮上，它的性能和行為結(jié)果的正當(dāng)性。因此，將社會(huì)行為學(xué)家和計(jì)算機(jī)專家組合在一起形成一個(gè)共同團(tuán)隊(duì)很有必要，只有這樣，人們在設(shè)計(jì)智能系統(tǒng)時(shí)，會(huì)不僅僅關(guān)注智能系統(tǒng)的特定功能，還會(huì)考慮社會(huì)倫理和周圍環(huán)境。

在很多實(shí)際問題上，人工智能取得了眾多成果，手機(jī)APP語言翻譯系統(tǒng)、實(shí)時(shí)語音翻譯，各種棋類比賽（西洋棋、國際象棋、圍棋）和撲克游戲、電競游戲等，自動(dòng)駕駛和機(jī)器人足球比賽，尤其AlphaGo戰(zhàn)勝韓國和中國頂尖高手，引起全球計(jì)算機(jī)行業(yè)和其他行業(yè)震撼。

單單從計(jì)算機(jī)學(xué)科來考查智能系統(tǒng)的性能，標(biāo)準(zhǔn)單一，還需要考慮社會(huì)行為學(xué)家設(shè)計(jì)的各種指標(biāo)。就是要求社會(huì)學(xué)家將人工智能系統(tǒng)放到社會(huì)、政治等背景下，定義和考察智能系統(tǒng)對社會(huì)產(chǎn)生的宏觀或者微觀結(jié)果來確定智能系統(tǒng)在不同的環(huán)境中如何運(yùn)行、智能體和人類互動(dòng)對社會(huì)的影響評價(jià)。

隨機(jī)實(shí)驗(yàn)、觀察推斷和基于群體的統(tǒng)計(jì)學(xué)方法經(jīng)常用在定量行為學(xué)研究中，現(xiàn)在說的機(jī)器行為學(xué)就是參照這樣的研究方法。有計(jì)算機(jī)背景的智能系統(tǒng)設(shè)計(jì)者和社會(huì)行為學(xué)家都可以提供自己的研究方法、研究工具、多種可選的概念性框架，同時(shí)參與研究人工智能系統(tǒng)對經(jīng)濟(jì)、社會(huì)和政治的潛在和現(xiàn)實(shí)影響。

2? 結(jié)語

先對以上兩部分了解一下，以后再將剩下三部分提出見解。

參考文獻(xiàn)

[1] 新智元.“機(jī)器行為學(xué)”正式誕生！MIT、哈佛等23位作者Nature長文綜述[EB/OL].https：//baijiahao.baidu.com/s？id=1633404102085188762&wfr=spider&for=pc.