劉哲

最近看了《未來簡史》和《真實的人類》，確實有一種不寒而栗的感覺。當人工智能獲得統(tǒng)治地位之后，人類向何處去？

對此，我問過馮象老師，如果人工智能獲得統(tǒng)治地位之后，那未來的法律豈不是算法？馮老師說：很可能就是。

對于赫拉利來說，生物體與機器的區(qū)別不過就是生化算法與電子算法的區(qū)別，不同社會制度之間的本質(zhì)區(qū)別也就是集約算法和分散算法的區(qū)別。

搞了幾年公訴信息化，對此有點感受。法律、訴訟規(guī)則再厲害，都沒有統(tǒng)一辦案系統(tǒng)厲害，因為它絕對剛性，系統(tǒng)對流程怎么規(guī)定的，你就只能怎么操作，模版怎么寫，很多人都會直接照辦。個別模版有誤，就會產(chǎn)生批量性錯誤。流程永遠是剛性的，過不去就過不去，沒有這個流程，很多承辦人就不會辦案子了。到底是應該遵守法律還是應該遵守流程？在系統(tǒng)算法面前，只有唯一的答案。這就是算法的力量。

比如說，修改后的訴訟規(guī)則取消了公安機關(guān)撤回移送審查起訴的規(guī)定，但由于系統(tǒng)還留有相應流程和文書，還有部分人會照舊處理。再比如，網(wǎng)約車新規(guī)出臺之后，先不說是否合理，事實上很難執(zhí)行，因為平臺沒有做出相應調(diào)整。只要平臺調(diào)整，分分鐘就搞定。

法律與算法已經(jīng)開始了較量。

我曾經(jīng)說過，辦案系統(tǒng)并不僅僅是工具，它就是規(guī)則本身。它是精細化的、具體化的、絕對剛性的規(guī)則，因為為一個個案修改算法幾乎是不可能的，個別根據(jù)授權(quán)進行的信息調(diào)整其實也是算法的一部分。

最近很火的大數(shù)據(jù)，比如量刑系統(tǒng)，如果系統(tǒng)基于幾千萬份判決算出一個量刑參考建議，你敢不執(zhí)行？你想知道其中的算法過程么，那你將永遠別想弄明白，因為這已經(jīng)遠遠超越了你的認知能力。你想超越這個算法建議進行量刑，那算法一定會要求你進行詳細說明，在這種情況下如果上級法院給你改了，你就有的瞧了。所以在算法面前最好乖乖的，你按算法，上級法院也按算法，大家相安無事。即使錯了，也是算法錯了。目前，檢察機關(guān)希望研發(fā)的量刑建議系統(tǒng)可能也將面臨這個問題。

據(jù)推測，無人駕駛普及以后，可能會禁止人類司機上路，因為與人工智能相比人類具有更大的不確定性，容易受情緒、性格等因素影響。都是人工智能，馬路跟火車道差不多，偶爾可能會有系統(tǒng)故障，但幾乎不會有擁堵和交通事故。

目前，司法機關(guān)要進一步人工智能化，智慧法院、智慧公訴，輕微案件自動生成審查報告，自動生成起訴書、判決書。如果這樣的話，是否可以麻煩將危險駕駛的人類直接送到監(jiān)獄，因為這個路程中，刑期已經(jīng)計算好了，在路上可以自動宣判。

哦，對了。不允許人類司機上路的。我說的其實就是那些違法上路的司機，而不是酒駕的司機。在未來，只要是人類司機，不管你喝不喝酒，都是危險駕駛。是否喝酒對人工智能來說沒有本質(zhì)區(qū)別。人類帶來的問題將是因為增加不確定性而容易導致交通人工智能系統(tǒng)過載，造成系統(tǒng)癱瘓，影響系統(tǒng)的穩(wěn)定性將成為重罪。因為系統(tǒng)的穩(wěn)定是社會穩(wěn)定的基石，以后的維穩(wěn)工作主要是維護系統(tǒng)的穩(wěn)定。

赫拉利說了，大多數(shù)人類個體將對社會系統(tǒng)失去意義。

誰有意義呢？

就是那些制造算法的人。這些人就是赫拉利說的神人。

這些人有沒有腦機接口，是否通過基因編輯等進行生化算法改良，我不知道?？傊?，他們還沒有被人工智能代替，他們還要為人工智能編制核心程序。他們的創(chuàng)造性，人工智能還無法通過機器學習的方式獲得。

他們編制的算法不是在驅(qū)動幾臺機器，他們將通過人工智能驅(qū)動整個社會的運轉(zhuǎn)。

這就是未來之法。

傳統(tǒng)意義的法律是規(guī)范人類行為，是社會規(guī)則的基礎(chǔ)?？傮w來看，法的進化過程是越來越深入的融入社會生活進程，從漢謨拉比法典到羅馬法，從宗教法則到拿破侖法典，從商君之法到大清刑律，從判例法到日益繁多的成文法，從國內(nèi)法、海商法到國際法，法律變得越來越無孔不入。急劇變化的社會在加速推動法律的演化，很多傳統(tǒng)社會能夠容許的風險，在現(xiàn)代社會已經(jīng)轉(zhuǎn)化為犯罪行為，法律的邊界在不斷膨脹。但即使如此，法律也只是社會規(guī)則的一部分，很多還要依靠倫理、道德、習俗、文化，甚至生態(tài)法則來約束。這些都是人類社會自然演進的產(chǎn)物。

但是未來之法將與這些都不相同，它將直接將技術(shù)規(guī)則與行為規(guī)范合二為一。將由神人創(chuàng)制底層算法，由人工智能自行完善具體算法，由具體算法管理社會。是的，我們的法律實際上就是數(shù)學規(guī)則。它除了物理定律管不了，將規(guī)范人類的一切行為。看看我們周邊的智能化應用，你的自由選擇還有多少。

這一天是否會到來？物科學、人工智能的很多趨勢表明，這很有可能成為現(xiàn)實。對了，我們的自由意志哪去了，我們的意識呢？根據(jù)赫拉利的分析，這些就是生化算法。所謂的內(nèi)心聲音只是神經(jīng)元的放電反映。所謂的自由意志，只是一個幻覺。就是說生命與非生命并沒有本質(zhì)的區(qū)別，如果有的話只是算法不同。

所謂科技驅(qū)動未來，其實驅(qū)動的是人類的命運。沒有誰是不能替代的，包括人類自身。法律是人類行為的準則，但如果人類只聽人工智能的，那法律只規(guī)范人工智能就好了，所以未來的法律很有可能就是一堆算法。

當然這些都只是對未來的假設(shè)，眼下算法還遠遠不能替代人，但可以很大程度上將人類從重復智力勞動中解放出來，就像機械將人從重復體力勞動中解放出來一樣，這是人類生產(chǎn)力的第二次解放。其深遠影響可能會遠遠超過第一次解放運動。這也是人類進化的必由之路，也就是赫拉利說的智人通往神人之路。因此，今年政法工作格外重視科技發(fā)展，某種程度上說2017年應該是中國科技司法的元年。這也不奇怪，因為人工智能即將迎來爆發(fā)期，我們也是跟上世界潮流了，難怪《未來簡史》中文版出的這么快。

人工智能之于司法就是一個大風口。雷軍說：只要站在風口，豬也能飛起來。難怪很多奇奇怪怪的人也在談司法現(xiàn)代化，各種大數(shù)據(jù)，各種智能，各種術(shù)語，拿出各種炫酷圖表，各種看不懂……

風要起了。為避免以后的凌亂，有必要說幾句：

不要忘了，人才是互聯(lián)網(wǎng)的第一維度。這里的人，是每個人，至少是大多數(shù)人，而不是個別人。當你拿出各種數(shù)據(jù)說有用的時候，不要忘了你在說對誰有用。如果互聯(lián)網(wǎng)只是服務(wù)領(lǐng)導決策的工具，那它永遠做不大。

智慧司法的目的是為了節(jié)省人力，而不是費力、吃力，否則就是浪費司法資源，必須從服務(wù)的角度考慮問題。

智慧司法的背后是邏輯。必須要先想清楚，才能干明白。必須要有完整的解決方案，切忌盲目上馬，司法現(xiàn)代化要避免搞形象工程，否則同樣是勞民傷財。

智慧司法的目標應該是人的提升。很多算法路徑是為了實現(xiàn)傻瓜系統(tǒng)，力圖打造一鍵判決什么的。什么起訴書、判決書自動生成，證據(jù)材料自動審查判斷或者參考什么的。有些是不錯的，可以省卻一些重復勞動。但是這隱藏了兩個可怕的隱患：一是算法錯誤怎么辦；二是就算算法錯了你也不知道怎么錯的。即使是概率性的，比如說60%的相似案件都判了。但是我們不禁要問，這個相似的度有多大，如何判斷？這個數(shù)據(jù)樣本的采集是否具備代表性和科學性，由誰判斷？如果我們盲目相信數(shù)據(jù)，很容易被帶進溝里。當我們抽取掉案件的細節(jié)而進行歸類的時候，我們也抽取掉了案件的語境?？咳瞬蝗缈考?，在利用輔助辦案系統(tǒng)的時候，你要進一步提升自己的辦案能力和識別能力，才能判斷出哪些是人工智能的誤差，否則這個誤差就會轉(zhuǎn)變?yōu)樵┘馘e案，而且可能是批量的。這樣是不是更累？但是相比于省掉的重復勞動，還好吧。只是我們必須牢記一點，在機器進化的同時我們要先行加速進化，否則就會從依賴機器變成機器的奴隸。也正因此，開發(fā)辦案輔助型系統(tǒng)的同時，也要加速開發(fā)能力驅(qū)動型的系統(tǒng)，比如北京的出庭管理系統(tǒng)。

大數(shù)據(jù)不是萬能的，不要過高估計目前人工智能的能力，不要拜數(shù)據(jù)教。目前的人工智能還處于較低水平，遠沒有實現(xiàn)對自然語言的真正理解，更不要說司法應用。司法不僅要理解法，還要理解人。司法不是機械的法律要件適配，三段論判斷，它需要對現(xiàn)實生活的深刻洞察和人性的深度理解，才能做出符合法律精神的判斷。大數(shù)據(jù)能夠比較類似的案例，但是它一定會過濾掉那些不相似的、看似不重要的細節(jié)，而它們有可能至關(guān)重要。算法畢竟是人算出來的，算法設(shè)計者的局限性就是這個系統(tǒng)的局限性。而同時兼?zhèn)湄S富司法經(jīng)驗和高超技術(shù)研發(fā)能力的人幾乎沒有，如果兩類人互相配合，同樣可能會發(fā)生溝通、理解上的差異，因此系統(tǒng)很難完美，人工智能自我學習能力也有限。因此，不要不著邊際的提出系統(tǒng)開發(fā)需求，看起來高大上的系統(tǒng)可能存在非常嚴重的隱患。這個隱患由于帶有技術(shù)性，因而有著很大的迷惑性，將很難為外行察覺，但是結(jié)果將是災難性的。

智慧司法不僅是科技驅(qū)動司法，更是創(chuàng)新驅(qū)動司法，更是科學思維驅(qū)動公訴，是模式化的升級，而不僅僅是科技外掛。未來之法絕不僅僅是算法說了算，最終依靠的仍然是人。

編輯：黃靈 yeshzhwu@foxmail.com