李北辰

全球首例無人車致死事故，無人車，無罪，這合理嗎？

2018年3月18日，美國亞利桑那州，一輛配備了安全駕駛員的Uber自動(dòng)駕駛汽車，撞倒了一位違規(guī)橫穿馬路的行人，后者被送往醫(yī)院，最終不治身亡。

一年后，就在大眾輿論快要忘卻這樁悲劇的時(shí)候，它有了最新判決結(jié)果，當(dāng)?shù)貦z察官在一封信中稱，Uber在事故中負(fù)有刑事責(zé)任的指控“沒有依據(jù)”，事故視頻可能并未準(zhǔn)確地描述車禍過程，當(dāng)時(shí)車上的安全駕駛員則需進(jìn)一步調(diào)查。

你可以理解為：這起全球首例無人車致死事故，無人車，無罪。

在post-truth時(shí)代，任何公共事件都能成為劃分?jǐn)澄业姆忠肮ぞ?。這次也不例外，判決一出，圍攏在不同利益集團(tuán)和觀念陣地的旗幟下，人們迅速開始站隊(duì)。

有人欣喜于“技術(shù)的勝利”。畢竟，是“愚蠢”的人類違規(guī)橫穿馬路在先，技術(shù)又有什么錯(cuò)呢？另外，“愚蠢”的還有安全駕駛員，警方表示，Uber的自動(dòng)駕駛系統(tǒng)在出事前就發(fā)現(xiàn)了受害者，但因計(jì)算機(jī)系統(tǒng)的設(shè)置問題，計(jì)算機(jī)控制模式下車輛無法自動(dòng)啟用緊急剎車，剎車的責(zé)任交給了安全駕駛員，但安全駕駛員在事故當(dāng)晚看了大約42分鐘的“美國好聲音”，她反復(fù)低頭，無心關(guān)注路面，就在她一次抬頭的半秒鐘后，事故發(fā)生。

不過，盡管看起來無人車是“無辜”的，但對(duì)于判決結(jié)果，也有人感到“不舒服”。畢竟，是人類對(duì)機(jī)器的信賴，造成了這樁悲劇。這也是為什么，盡管檢方目前判Uber無罪，但美國國家運(yùn)輸安全委員會(huì)仍在對(duì)事故進(jìn)行調(diào)查，Uber也仍有可能遭到挑戰(zhàn)。

面臨挑戰(zhàn)的不只是Uber一家公司，事實(shí)上，這樁事故也猶如一記悶棍，再次逼迫所有人思考：人類信任機(jī)器的邊界在哪里？

L5可能是個(gè)夢(mèng)

截至目前，全球幾乎沒有太多完善的保險(xiǎn)條例和法律權(quán)限來規(guī)定無人車的責(zé)任，美國40多個(gè)州在無人車法規(guī)的制定上莫衷一是，已經(jīng)足以折射出自動(dòng)駕駛的現(xiàn)實(shí)痛點(diǎn)。

首先是技術(shù)，最近大眾商用車負(fù)責(zé)人在接受媒體采訪時(shí)表示，實(shí)現(xiàn)L5自動(dòng)駕駛，堪比火星探測(cè)。

我覺得他仍然低估了L5的難度。關(guān)于自動(dòng)駕駛的未來，業(yè)內(nèi)一種最極端的說法是：L5或許是一個(gè)夢(mèng)。為什么？因?yàn)锳I處理不了意外。

數(shù)十年前，AI概念誕生初期，當(dāng)時(shí)的研究者心高氣傲，并不滿足于將機(jī)器僅用于計(jì)算，他們?cè)噲D讓AI完整拷貝人腦的思考過程，讓機(jī)器“知其然，也知其所以然”。

但眾所周知，多年以來，人類意識(shí)之謎沒有任何實(shí)質(zhì)進(jìn)展，研究者開始收縮野心，重回對(duì)“計(jì)算”的追尋。如今的機(jī)器學(xué)習(xí)就是一條試圖彎道超車的捷徑，將現(xiàn)實(shí)世界以數(shù)據(jù)作為顆粒度呈現(xiàn)，再通過神經(jīng)網(wǎng)絡(luò)消化數(shù)據(jù)，更好地認(rèn)清這個(gè)世界。

以自動(dòng)駕駛為例，它最基礎(chǔ)的原理就是將人類司機(jī)目力所及的一切物體，路人，建筑，其他車……都構(gòu)建成三維模型，關(guān)心它們之間的移動(dòng)趨勢(shì)，估算速度，預(yù)測(cè)路線，有沖突就剎車或繞路。

但從邏輯上，這也幾乎意味著，無人車做不到所謂“絕對(duì)”的準(zhǔn)確性，因?yàn)檎鎸?shí)的交通是一個(gè)復(fù)雜生態(tài)系統(tǒng)，隨機(jī)分布著各種意外。

據(jù)說谷歌自動(dòng)駕駛就遇到過一些意外：比如，幾個(gè)小孩在高速路上玩青蛙；一個(gè)殘疾人坐著電動(dòng)輪椅，在路上追一只鴨子，鴨子繞圈跑，他也繞圈追……面對(duì)如此荒誕場(chǎng)景，你很難苛求機(jī)器能百分百預(yù)測(cè)這些人的軌跡。要知道近些年人工智能領(lǐng)域的一切進(jìn)步，都可歸為相似的框架：“輸入數(shù)據(jù)，生成回應(yīng)”——換句話說，由過去推導(dǎo)未來，機(jī)器沒法預(yù)測(cè)完全不在它經(jīng)驗(yàn)范圍內(nèi)的意外。

當(dāng)然，像小孩玩青蛙，殘疾人追鴨，這種意外想必大多數(shù)人也沒見過，但與機(jī)器的“沒見過”不同，因?yàn)槿祟悺袄斫狻彼麄冊(cè)诟陕?，就足以?dǎo)向正確決策。

這也是現(xiàn)階段安全駕駛員的作用，可惜這次人類自己也失職了。

臨時(shí)不想死怎么辦？

除了技術(shù)所限，人類將方向盤徹底交給機(jī)器，還面臨道德問題。

學(xué)者萬維剛在“精英日課”專欄里舉了一個(gè)例子：你正以高速開車，突然發(fā)現(xiàn)前方有一群小學(xué)生在馬路上打鬧，避讓他們，就只能撞到路邊的建筑物墻上，這意味著你有生命危險(xiǎn)，請(qǐng)問在這種情況下，你是選擇撞墻還是撞向小學(xué)生？

我相信有許多人會(huì)選擇撞墻，人性光輝，為你點(diǎn)贊——但問題來了，假如自動(dòng)駕駛系統(tǒng)的初始設(shè)置，就是在這種情況下“先確保行人安全”，你作何感想？

可能會(huì)覺得“不舒服”，就像萬維剛老師所言：“我犧牲我自己，是我自己的決定。我不能讓汽車替我做決定！萬一我臨時(shí)不想死怎么辦？萬一汽車判斷錯(cuò)了怎么辦？我不想開一輛在某種情況下會(huì)犧牲我的車?，F(xiàn)在有很多公司正在研究自動(dòng)駕駛的道德規(guī)范，Google 甚至還專門聘請(qǐng)了哲學(xué)家，但是沒有研究出來什么令人滿意的方案?！?/p>

面對(duì)人類如此矛盾的物種，也許令人滿意的方案根本就不存在。事實(shí)上，只要是出于所謂的自由意志（盡管神經(jīng)科學(xué)已基本拋棄了它的存在），人類無論自己做出什么決策，其他人都會(huì)感到“事態(tài)可控”，但若同一決策出自AI之手，許多人就會(huì)感到巨大的不適。

所以，在危機(jī)時(shí)刻將決策權(quán)交給人類自己，或許是最討巧的選擇——如果時(shí)間來得及的話。

人類沒有回頭路

關(guān)于自動(dòng)駕駛，前面潑了兩盆冷水，最后灌一碗雞湯。

依我之見，哪怕L5或許是一場(chǎng)幻夢(mèng)，但自動(dòng)駕駛本身，委實(shí)是一種確定性趨勢(shì)。

為什么這么說？原因至少有兩個(gè)。

其一當(dāng)然老生常談，在概率層面，機(jī)器犯錯(cuò)更少，美國交通部長(zhǎng)趙小蘭幾乎在每次關(guān)于自動(dòng)駕駛的演講中都要提及：美國持續(xù)增長(zhǎng)的交通事故中，有94%是因駕駛員的失誤造成。而全球范圍內(nèi)，每行駛20萬英里，人類駕駛員就會(huì)出現(xiàn)一次非致命性碰撞；每行駛100萬英里，就會(huì)有一名司機(jī)喪命。

我重點(diǎn)談一下原因之二，那就是：回溯人類技術(shù)演變史，一旦新事物破繭而出，往往就沒有了回頭路，你只能去迭代它，不能消滅它。

舉個(gè)最近很熱的例子，大概公元400多年，人類開始使用煙草，而一旦香煙誕生，你覺得它還會(huì)從世界上徹底消失嗎？永遠(yuǎn)不會(huì)。哪怕進(jìn)入現(xiàn)代，人類若想減少香煙帶給整個(gè)社會(huì)的負(fù)外部性，也只能通過技術(shù)而非禁止——比如發(fā)明電子煙。

事實(shí)上，縱觀人類文明史，解決技術(shù)帶來的問題的方式永遠(yuǎn)都是通過更好的技術(shù)，忘了是凱文？凱利還是誰說過：“即使新的科技發(fā)明帶來的49%是問題，但它同時(shí)也帶來了51%的好處，差別就在于這2%，2%很少，但人類需要這2%，通過一年年積累產(chǎn)生強(qiáng)大影響力。所以，即便新發(fā)明帶來的好處只比問題多一點(diǎn)，這一點(diǎn)就是人類進(jìn)步的動(dòng)力。”

自動(dòng)駕駛更是如此，Uber的事故只是放緩了他們自己的研發(fā)速度，并未阻礙全球自動(dòng)駕駛產(chǎn)業(yè)猛踩油門，這個(gè)世界上但凡有能力的國家和企業(yè)，都已全部聚齊在自動(dòng)駕駛的漫長(zhǎng)賽道上，并且都試圖率先達(dá)成技術(shù)迭代，用戶習(xí)慣，輿論環(huán)境，基礎(chǔ)設(shè)施等諸多方面的動(dòng)態(tài)均衡。

所以你說，今天自動(dòng)駕駛撞死了一個(gè)人，被判無罪，那么未來的AI世界會(huì)好嗎？

我的回答是：除了選擇相信“會(huì)”，還能怎么樣呢？

命運(yùn)自有時(shí)間表。一百多年前，人類一旦發(fā)明汽車，馬車所代表的田園牧歌，就只能成為一曲挽歌；一百多年后亦是如此，從汽車與信息文明相遇的那一瞬間，一切悲喜就已不可避免。