李佳師

最近美國頻頻爆出對(duì)新技術(shù)應(yīng)用收緊的消息。先是在波士頓附近的薩默維爾市，議會(huì)于當(dāng)?shù)貢r(shí)間6月27日以11：O的投票通過了禁止該市相關(guān)機(jī)構(gòu)在公共場所使用面部識(shí)別技術(shù)，這是夸年5月舊金山出臺(tái)法令禁止警察和其他政府機(jī)構(gòu)使用人臉識(shí)別技術(shù)后，美國第二個(gè)禁止使用該技術(shù)的城市。緊接著7月2日下午，美國焱議院財(cái)政委員會(huì)向扎克伯格等Facebook高管致函，要求立刻停止數(shù)字貨幣，錢包項(xiàng)目Libra/Calibra的所有相關(guān)工作。美國對(duì)AI與區(qū)塊鏈等新技術(shù)的應(yīng)用采取更為審慎的態(tài)度，釋放什么信息？

未來學(xué)家凱文·凱利在1994年所寫的圖書《失控》中這樣寫到：機(jī)械與生命體之間的重疊在一年年增加，人造物表現(xiàn)得越來越像生命體，生命體變得越來越工程化?！爱?dāng)生命的力量釋放到我們所創(chuàng)造的機(jī)器中的同時(shí)，我們也喪失了對(duì)它的控制。之后我們所有的造物主都必須面對(duì)我們不再完全擁有我們最得意的創(chuàng)造物。人造的世界就像天然的世界一樣，很快具有自治力、適應(yīng)力和創(chuàng)造力，也隨著失去我們的控制?！眲P文·凱利表示，人造世界失去控制，依然是個(gè)美妙的結(jié)局。

凱文·凱利寫的是書，書里的世界失去控制，但如果說我們的創(chuàng)造物正脫離我們的控制，甚至顛覆我們的現(xiàn)實(shí)世界的時(shí)候，我們依然能夠說“這依然是美妙的結(jié)局”嗎？顯然不能。

就像美國眾議院財(cái)政委員會(huì)絡(luò)Facebook高管的信函中所言：“Facebook發(fā)布的白皮書對(duì)于Li-bra/Calibra項(xiàng)目的意圖、所扮演的角色、潛在用逢和安全性方面提供的信息極少，暴露出了項(xiàng)目存在大規(guī)模風(fēng)險(xiǎn)并且缺乏明確的監(jiān)管保護(hù)。如果這些產(chǎn)品和服務(wù)沒有得到充分監(jiān)管，甚至受到不當(dāng)管理，它會(huì)帶來危害美國和全球金融穩(wěn)定的系統(tǒng)性風(fēng)險(xiǎn)，引發(fā)金融海嘯?！泵恳淮谓鹑诤[、金融危機(jī)所引發(fā)的企業(yè)倒閉、經(jīng)濟(jì)衰退、經(jīng)濟(jì)蕭條，我們?nèi)詺v歷在目，我們不能夠因?yàn)閿?shù)字化推進(jìn)的莽撞，而讓壘球經(jīng)濟(jì)陷入泥潭。

人臉識(shí)別技術(shù)尚不完完成熟，如果在不成熟的時(shí)候被濫用，同時(shí)又缺乏監(jiān)管將會(huì)造成很大的風(fēng)險(xiǎn)。2018年7月，美國公民自由聯(lián)盟（ACLU）使用亞馬遜的Rekognition人臉識(shí)別產(chǎn)品將美國的國套535名議員與25000張警方公開的罪犯面部照片進(jìn)行匹配，該軟件錯(cuò)誤的將28名議員識(shí)別為罪犯，這事曾引發(fā)了巨大的爭議。2018年6月福布斯網(wǎng)站對(duì)亞馬遜面部識(shí)別產(chǎn)品“RekoRnition”進(jìn)行了一次測試，證明了任何人都可以使用極其廉價(jià)工具來追蹤他人的行蹤。

應(yīng)該說，舊金山是美國高科技企業(yè)匯聚的地區(qū)，是全球最頂尖AI技術(shù)的聚集區(qū)，照理說，這樣的城市更應(yīng)該對(duì)高科技的應(yīng)用持“樂觀”態(tài)度，他們的謹(jǐn)慎事實(shí)上給我們很多啟示，我們對(duì)科技的采用需要更綜合地進(jìn)行多維度考量。如果風(fēng)險(xiǎn)大于獲益。我們應(yīng)該放慢推進(jìn)的速度，尋求更可控的方式推進(jìn)。目前在美國不僅但是舊金山和薩默維爾市，正在有越來越多的城市考慮將禁止使用人臉識(shí)別技術(shù)。在歐洲，歐洲人工智能高級(jí)別專家組（HLEG）也在不久前發(fā)布報(bào)告。提議“歐洲應(yīng)該禁止AI進(jìn)行大規(guī)模監(jiān)視和社會(huì)信用評(píng)分”。呼吁“政府應(yīng)承諾只部署和采購值得信賴的人工智能系統(tǒng)，其設(shè)計(jì)宗旨是尊重法律和基本權(quán)利，符合倫理原則，社會(huì)技術(shù)健全?！?/p>

科技同樣存在兩面性?！爱?dāng)負(fù)責(zé)任地使用時(shí)，它可能是一個(gè)很好的公共安奎工具。但如果人臉識(shí)別溢用、缺乏監(jiān)督和技術(shù)的不成熟，就會(huì)造成很大的風(fēng)險(xiǎn)。”賽迪智庫產(chǎn)業(yè)政策研究所所長欒群表示，人工智能與其他技術(shù)不一樣。

應(yīng)用人工智能應(yīng)謹(jǐn)慎，但不應(yīng)誼“一刀切”。賽迪顧問人工智能研究中心分析師李振表示，美國這兩個(gè)城市考慮限制人臉識(shí)別軟件的使用范圍，是考慮到該軟件對(duì)區(qū)域內(nèi)居民個(gè)人隱私、種族歧視等問題的不是影響，這也是人工智能、物聯(lián)網(wǎng)以及大數(shù)據(jù)等產(chǎn)業(yè)發(fā)展本身所涉及的問題所在。但新技術(shù)應(yīng)用在倫理、法律等方面需要不斷改進(jìn)，不應(yīng)簡單粗暴地限制其使用，尤其在安防領(lǐng)域，人臉識(shí)別技術(shù)具有較強(qiáng)的技術(shù)優(yōu)勢，對(duì)維護(hù)社會(huì)穩(wěn)定具有重要作用。以人臉識(shí)別等技術(shù)為重要支撐點(diǎn)的人工智能產(chǎn)業(yè)是中國經(jīng)濟(jì)結(jié)構(gòu)轉(zhuǎn)型升級(jí)的良好發(fā)展契機(jī)，中國牢牢抓住本輪科技革命的發(fā)展機(jī)遇，積極布局，不應(yīng)簡單粗暴一刀切限制適用范圍，可在法律監(jiān)管等方面予以相應(yīng)措施進(jìn)行速步規(guī)范。

賽迪智庫政策法規(guī)所所長欒群認(rèn)為，人工智能的治理日益成為國際共識(shí)。美國人的權(quán)利和法律意識(shí)很強(qiáng)。以倫理的眼光看待人工智能和提出治理規(guī)范，歐盟卻走在了世界前列。2019年4月，歐盟發(fā)布《可信人工智能倫理準(zhǔn)則》，提出可信人工智能倫理的7個(gè)關(guān)鍵條件——人的能動(dòng)性與監(jiān)督能力、安全性、隱私數(shù)據(jù)管理、透明度、包容性、社會(huì)福祉和問責(zé)機(jī)制，以確保人工智能足夠安奎可靠。與此同時(shí)，很多機(jī)構(gòu)也發(fā)布有關(guān)人工智能原則。如IEEE凰提出的《合倫理設(shè)計(jì)的一般人工智能準(zhǔn)則》，日本也提出過《以人類為中心的人工智能的社會(huì)原則》等，這些倫理準(zhǔn)則表現(xiàn)出人類對(duì)人工智能技術(shù)發(fā)展的擔(dān)憂——要利用人工智能技術(shù)實(shí)現(xiàn)生產(chǎn)效率提高和社會(huì)進(jìn)步，但這一切都要建立在對(duì)風(fēng)險(xiǎn)的了解和預(yù)防的基礎(chǔ)上。目前，中國正在積極融入人工智能全球治理體系，對(duì)于人工智能的治理，下一步中國應(yīng)該實(shí)施國家規(guī)劃，凝聚倫理共識(shí)，擬定評(píng)價(jià)規(guī)則，履行社會(huì)責(zé)任，管好重點(diǎn)行業(yè)，讓所有主體行為都在可治的軌道內(nèi)運(yùn)行。