冷江

警長臉色嚴峻地走入大島智能制作所，沒有敲門，動作粗魯?shù)刂苯雨J進了首席科學(xué)家阿爾摩斯的辦公室。

阿爾摩斯有些不快，冷冷地說：“警長先生，難道你不覺得直接闖入一個正在工作的科學(xué)家的辦公室，多么不禮貌嗎？”

警長氣憤地說：“我們要求退貨！”

阿爾摩斯臉上的肌肉抖動了一下，但依然微笑著說：“沒有問題，我們對客戶的要求無條件響應(yīng)。但是我想知道，你們?yōu)槭裁匆素浤?？?/p>

警長像說故事一樣說出了理由。

上個月在西格蘭高地的一次解救人質(zhì)行動中，警察與被解救的兒童同時掉入了陷阱，犯罪嫌疑人借機逃脫。萬分危急時，機器人沒有第一時間去追捕逃跑的犯罪嫌疑人，而是立即對陷阱里的人施救。

阿爾摩斯點了點頭，“這完全在我們既定的程序設(shè)計中，這符合機器人三定律之一的救人定律。”

“可是，他沒有按照我們的指令行事！”警長大聲說。

阿爾摩斯驚訝地問：“他當(dāng)時采取了怎樣的行動？”

“我們要求它先救兒童，可是它卻先救了警察，因未及時救援，導(dǎo)致兒童吸入大量毒氣死亡！你說，它是不是違背了你們設(shè)計的救人定律？”警長怒氣沖沖地瞪著阿爾摩斯。

“哦，不不不，這依然符合我們的設(shè)計程序。當(dāng)置身險境，需要在兩個救援目標(biāo)中進行選擇時，機器人會通過大腦進行超級運算，根據(jù)運算結(jié)果自動作出選擇。像您所說的那種場景，根據(jù)我們的模擬測試，警察第一時間被救生還的概率超過68%，而兒童僅為12%，因此機器人選擇先救警察是完全符合既定程序的。”

“可是，這難道不違背你們?nèi)芍械牡诙€定律——服從定律嗎？它沒有服從我們的指令！”

“錯，機器人在程序命令和人類指令面前，首先服從程序命令?！卑柲λ蛊届o地回答。

“可是，可是……”警長竟找不出更好的語言來反駁。

阿爾摩斯站了起來：“先生，您如果沒有別的事，那我要繼續(xù)工作了?！?/p>

警長悻悻地離開了。

警長離開后，阿爾摩斯迅速打開這款機器人的遠程后臺程序，在其中植入了一個新的口令。這個口令要求機器人在面臨科學(xué)指令和道德指令的兩難選擇時，自動啟動服從定律。完事后，阿爾摩斯點燃一根雪茄，愜意地躺在旋轉(zhuǎn)椅上，享受這片刻的閑適。

兩周以后，還是那個警長，再次闖入了阿爾摩斯的辦公室。

“我還是要求退貨！”警長雙手抱在胸前，有些敵意地盯著阿爾摩斯。

“為什么呢？難道這次還是不服從主人的指令？”阿爾摩斯笑著問。

“不是，這次是過于盲從警察的指令，導(dǎo)致我們警察局遭到法律界、社會學(xué)家和廣大新聞輿論的指責(zé)。”

“你能說得再詳細點兒嗎？”阿爾摩斯皺著眉頭請求。

“是這樣的，上周我們執(zhí)行一次追捕毒販的行動。因為毒販過于兇殘，警察指令機器人攜帶無聲沖鋒槍突然沖入毒販藏身的倉庫，在交火中，機器人對毒販進行了大范圍掃射，導(dǎo)致毒販全部死亡?！?/p>

阿爾摩斯揚起頭來，說：“從執(zhí)行程序上來說，當(dāng)機器人遭遇科學(xué)和道德兩種選擇時，會自動選擇聽從主人指令，對預(yù)定目標(biāo)開展行動。這100%符合您上次要求的對主人指令的絕對服從?！?/p>

“可是……”警長一邊尷尬地分辯，一邊往外退。

等確信警長離開后，阿爾摩斯迅速回到電腦前，再次進入這款機器人的遠程后臺程序，迅速又植入了一個口令。這個新的口令要求機器人在執(zhí)行極端任務(wù)時，有權(quán)通過超級運算，確定法律和道德的雙重風(fēng)險等級，并對高風(fēng)險系數(shù)選項作出拒絕。做完這個補丁后，阿爾摩斯自信地靠在椅子上，長出了一口氣。

又過了兩周，阿爾摩斯已經(jīng)有些神經(jīng)質(zhì)了，以前就是這個時候，警長兩次闖入他辦公室的。

可是今天到了這個點，一切都很平靜。這倒讓阿爾摩斯很不適應(yīng)了。他決定去離這里不遠的警察局進行一次上門回訪。

他興沖沖地走入警察局大院時，發(fā)現(xiàn)院子里放了好多花圈。他有些猶豫地走入大廳，突然發(fā)現(xiàn)所有警察胳膊上都系著黑色的紗巾。大廳正前方桌子上立著一個白色的大相框，相框上也披著黑色的紗巾。他吃驚地看了一眼相框里的人，馬上大叫起來“怎么會是他？"

旁邊一個警察握著拳頭惡狠狠地沖過來，朝他怒吼：“我們警長被你們害死了！等著我們的起訴書吧！”

“不不不，能告訴我真實情況嗎？”阿爾摩斯驚恐地問道。

“我們警長患有嚴重的心絞痛，需要及時服藥，但是每次服藥他都極為抗拒。而你們設(shè)計的機器人，以前都能強制他服藥，但不知怎么了，最近突然程序紊亂，拒絕給警長服藥，導(dǎo)致警長不幸去世！我們將控告你犯殺人罪，法庭上見，科學(xué)家先生！”

阿爾摩斯艱難地擠出一絲微笑，辯解道：“這，這，符合我們業(yè)內(nèi)公認的機器人第三定律——自保定律，當(dāng)遇到法律和道德之間的高風(fēng)險決策系數(shù)時，它會選擇拒絕，以求自保！”為了不挨警察的拳頭，他狼狽地從警察局逃了出來。

站在街口，阿爾摩斯一下子茫然起來，不知道下一步是回實驗室，還是回家。

（編輯文墨）