2020年度全球十大人工智能治理事件

當前，新一代人工智能技術在全球蓬勃興起，迅猛發(fā)展，與大數據、區(qū)塊鏈、5G等新技術相互融合、相互因應，為經濟社會發(fā)展尤其是數字經濟發(fā)展注入新動能，正在深刻改變社會生產生活方式。與此同時，如何在新技術變革浪潮中始終立于主動，實現(xiàn)人工智能等前沿科技領域有效治理，確保其持續(xù)健康發(fā)展，也隨之成為一個國際國內、社會各界都廣泛關注的重大現(xiàn)實問題、重大時代議題。

人工智能治理是復雜性、系統(tǒng)性很高的社會議題，涵蓋政策、技術、產業(yè)、法律、傳播、倫理、安全、國際關系、意識形態(tài)等諸多領域。與之相應，對國際國內人工智能治理標志性事件開展研究，也必然需要各界協(xié)同，共同推動。

1.AI成“監(jiān)工”：算法下外賣騎手挑戰(zhàn)交通規(guī)則，“助手”可能變“殺手”

案例描述：為提高配送效率，一些外賣平臺研究開發(fā)了實時智能配送系統(tǒng)。借助AI算法，平臺可以最優(yōu)化地安排訂單，也能給騎手規(guī)劃最合理的路線。但出于平臺、騎手和用戶三方效率最大化的目標，AI算法將所有時間壓縮到了極致，為了按時完成配送，騎手們只能用違法去挽回超時這件事。超速、闖紅燈、逆行……外賣騎手挑戰(zhàn)交通規(guī)則的舉動是一種逆算法，是騎手們長期在系統(tǒng)算法的控制之下做出的不得已的勞動實踐，而這種逆算法的直接后果則是——外賣員遭遇交通事故的數量急劇上升。同時，這也意味著，在很多人類勞動者和AI的協(xié)作專業(yè)工作中，人類將處在被管轄和被監(jiān)督之下。

點評：當AI算法嵌入到人類社會的方方面面，人類在不知不覺中已經作為一個數據被算法研究。AI技術的應用應有利于人類社會良性發(fā)展，需要運用法律和道德對AI技術的研發(fā)和應用進行約束，正確引導企業(yè)的價值觀。在人工智能普及的時代，也應充分保護勞動者的合法權益，人工智能算法的應用在追求效率和利益之外，不可忽略人性與理性，不能讓機器的冰冷碾壓人性的光輝。

2.人工智能可以翻譯大腦想法將大腦信號轉化為文本數據，“讀懂意識”讓隱私無處遁藏

案例描述：加州大學JosephMakin博士在《自然神經科學》雜志上發(fā)表了研究，其開發(fā)了一個系統(tǒng)，可以將大腦活動轉化為文本數據，單句錯詞僅3%。

實驗參與者被要求多次朗讀50個固定句子，研究者們跟蹤了他們講話時的神經活動。這些數據隨后被輸入到機器學習算法中，系統(tǒng)能將每個口述句子的大腦活動數據轉換為數字字符串。不過，由于通過腦機接口翻譯大腦想法的技術對人們的隱私構成了強大的威脅，因此也一直伴隨著不小的爭議。

點評：機器人實際上是人所創(chuàng)造出的客體，但在未來社會它可能會同人這個本體相脫離，成為本體的存在，而且反客為主，反過來束縛、支配、乃至壓抑人類。我們這些站在食物鏈頂端的人類會在不久的將來面臨前所未有的危機和挑戰(zhàn)，比如算法開始替代人類作出選擇，一些原來只有人類能做的工作將會被機器所取代。

3.全國首例：法院認定人工智能生成文章構成作品，擁有著作權

案例描述：2020年1月，廣東省深圳市南山區(qū)人民法院一審審結原告深圳市騰訊計算機系統(tǒng)有限公司訴被告上海盈某科技有限公司侵害著作權及不正當競爭糾紛一案，認定人工智能生成的文章構成作品。此案系全國首例認定人工智能生成的文章構成作品案件。該案明確了人工智能生成物的獨創(chuàng)性判斷步驟，并在如何看待人工智能生成物的創(chuàng)作過程以及相關人工智能使用人員的行為能否被認定為法律意義上的創(chuàng)作行為的問題上做出了探索，認定人工智能生成的文章構成作品，對于今后同類型案件的審理有一定的借鑒意義。

點評：隨著社會發(fā)展，未來人工智能在各行業(yè)的應用、人工智能的歸屬權、法律是否將其定義為一個法律主體，將是很重要的一個爭執(zhí)點。

4.歐美、韓國相繼出臺AI治理新規(guī)，嚴格限制、甚至禁用相關人工智能技術在某些場景的發(fā)展和應用

案例描述：歐盟委員會發(fā)布《人工智能白皮書》，希望通過不斷實現(xiàn)科學突破，維護歐盟的技術領先地位并確保新技術在尊重人權的基礎上，改善人們生活。當前歐洲采取了一致的方法來應對AI對人類和社會道德的影響，并思考了如何利用大數據進行創(chuàng)新。歐盟正在考慮禁止在公共場所使用人臉識別技術長達五年，以便有時間研究如何防止這種技術被濫用。歐盟委員會表示，在為期3至5年的禁令期間，“可以確定和制定評估這一技術的影響和可能的風險管理措施的健全方法”。歐盟文件稱，對于安全項目以及科技研發(fā)活動，禁令可能會有例外。該文件還建議，對人工智能的開發(fā)者和用戶都施加一些義務，歐盟國家的政府應該指定監(jiān)管機構來監(jiān)管新規(guī)則。

韓國科學技術信息通信部2020年11月27日與情報通信政策研究院（KISDI）共同發(fā)布“國家人工智能倫理標準”，提出理想的人工智能開發(fā)和運用方向，指出人工智能需以人為中心。在開發(fā)和運用人工智能的過程中，需遵守維護人的尊嚴、社會公益和技術合乎目的這3大原則。

此外，美國東海岸城市波士頓通過了禁止面部識別技術用于市政用途的投票。這是自2019年5月舊金山頒布此項禁令以來，采用此項禁令的第二大美國城市。該法令獲得一致通過，這條法令將阻止城市使用面部識別技術或獲得使用該技術進行監(jiān)視的軟件。此后，俄勒岡州波特蘭、緬因州波特蘭也均通過了類似禁令以限制該技術在政府部門的應用。

點評：人工智能治理的核心要素中基本價值觀、治理體系、參與者、治理對象以及效果評價五個方面至關重要。很多治理問題可以通過技術本身來解決，目前人工智能發(fā)展面臨的最大挑戰(zhàn)是：人工智能技術發(fā)展太快，而治理準則作為一種社會體系，其發(fā)展有其程序，又是緩慢的，因此，我們需要“敏捷治理”。人類應一同尋找人工智能共同的準則和規(guī)則，引導人工智能的健康發(fā)展，為人類造福。

5.AI向善，技術預警獨居老人水表及校園暴力行為

案例描述：“水表”和“老人安全”看似沒有關聯(lián)，但在上海市長寧區(qū)江蘇路街道“一網統(tǒng)管”平臺，隱藏背后的邏輯清晰可見——當獨居老人家中超過12小時用水不足0.01立方米時，系統(tǒng)會判斷老人家中有事，并及時向居委會預警。一個小小的設計，沒有像攝像頭那樣不得不關注老人過多的隱私，也無需大量的經濟和人力投入，就能實現(xiàn)對老年人的關愛，甚至關鍵時刻能挽救老人的生命。

北京某科技公司生產的校園暴力AI防控語音偵測設備，可以作為視頻監(jiān)控的彌補而出現(xiàn)在校園安全解決方案當中，為平安校園再添新色彩。該產品通過AI音頻識別，全天候監(jiān)控異常聲音，自動報警及聲光驅離等技術，重點勘察校園視頻監(jiān)控“死角”，在校園霸凌事件發(fā)生中及時干擾、阻止，制止校園暴力的發(fā)生。

點評：AI技術的落地應用，在一定程度上可有效提升人們生活的安全性，但也要考慮到無限的監(jiān)聽會引發(fā)隱私及對其他問題的擔憂。

6.美國科技巨頭依據自身道德判斷，加強企業(yè)自律及對人工智能技術的監(jiān)管

案例描述：據外媒消息，IBM將不再提供、開發(fā)或研究面部識別技術，并表示“IBM堅決反對并且不會容忍將任何面部識別技術用于大規(guī)模監(jiān)視、侵犯基本人權和自由或與我們的宗旨不符的任何行為?！贝送?，亞馬遜、微軟也均表態(tài)要支持種族平等，叫停人臉識別：亞馬遜聲明暫停向警方提供人臉識別技術一年時間；微軟也表態(tài)停止向警方銷售人臉識別軟件，直到有相關國家法律出臺。

歐盟有關方面和微軟、IBM等科技巨頭共同簽署了《人工智能倫理羅馬宣言》，討論如何規(guī)范人工智能的社會影響，這是歐盟推動全球數字經濟監(jiān)管新標準的最新舉措。與美國不同，在數字經濟和人工智能領域，歐盟采取的是先規(guī)范后發(fā)展的路徑?！度斯ぶ悄軅惱砹_馬宣言》指出，人工智能技術應尊重個人隱私，以可靠而無偏見的方式工作，考慮所有人的需求，并以透明方式運作。這些表述顯示歐盟擔憂人工智能的負面影響，認為人工智能系統(tǒng)尚處于研究階段，其做出的決定往往難以預測。

Google啟動了800多名員工的初始“技術道德”培訓，并還針對AI原則問題發(fā)現(xiàn)了新的培訓。Google最近發(fā)布了此培訓的一個版本，作為面向客戶的Cloud團隊的必修課程，已有5，000名Cloud員工參加了該培訓。這些員工提出了一些關鍵問題來發(fā)現(xiàn)潛在的道德問題，例如AI應用程序是否會導致經濟或教育上的排斥或造成身體、心理、社會或環(huán)境傷害。

點評：我們需要思考AI與企業(yè)治理的關系，AI倫理如何嵌入到商業(yè)運行之中。誰來做企業(yè)開發(fā)AI算法時的最后判斷者？我們應該從哪個環(huán)節(jié)切入，思考人工智能所導致的結果。

7.自動駕駛服務進入快車道，“無人車”行駛背后的權責歸屬引關注

案例描述：據不完全統(tǒng)計，我國有融資信息的無人駕駛相關企業(yè)超過70家，融資金額高達數百億元。此外，我國共有超過1.2萬件與“自動駕駛”或“無人駕駛”相關的專利，其中于2019年新申請的專利超過3000余件。2020年10月，百度官微發(fā)布，自動駕駛出租車服務在北京經濟技術開發(fā)區(qū)、海淀區(qū)、順義區(qū)等地全面開放，數十個自動駕駛出租車站點，不需要提前預約，直接下單就能免費試乘自動駕駛出租車服務。2020年6月，滴滴首次面向公眾開放了無人駕駛服務。目前中美兩地已有近400人的團隊，已獲得北京、上海、蘇州、美國加州等地路測資格。

點評：隨著當代人工智能技術的快速發(fā)展和廣泛應用，智能物聯(lián)網技術使得對“物的流動”的實時管理成為可能，極大地提高了效率、降低了人力成本。同時，智能物聯(lián)網技術也為城市管理水平的提高提供了一條可行的技術路徑，其核心是“感知化”“互聯(lián)化”和“智能化”，例如，城市交通管理、共享單車管理以及無人駕駛出租車管理等，將商業(yè)、運輸、通信、能源等城市運行的各個系統(tǒng)整合為“系統(tǒng)之系統(tǒng)”。

8.人工智能技術突破現(xiàn)有邊界，具備“自主意識”，可實現(xiàn)獨立研發(fā)、自我修復等功能

案例描述：美國麻省理工學院（MIT）科學家在最新一期《細胞》雜志撰文稱，他們新研制出的一種深度學習人工智能（AI），鑒定出一種全新抗生素。實驗室測試表明，這種抗生素能有效殺死多種世界上最麻煩的致病細菌，包括一些對所有已知抗生素耐藥的菌株。

美國佛蒙特大學計算機科學家和塔夫茨大學生物學家共同創(chuàng)造出100%使用青蛙DNA的可編程的活體機器人Xenobot，這種機器人的體長僅0.04英寸（約1毫米），能按照計算機程序設計的路線移動，還能負載一定的重量，攜帶藥物在人體內部移動。Xenobot具有自我修復功能，當科學家把它們進行切割時，機器人會自行愈合并繼續(xù)移動。佛蒙特大學表示，這些是“完全新的生命形式”?！八鼈兗炔皇莻鹘y(tǒng)的機器人，也不是已知的動物物種。它是一類新的人工制品：一種活的可編程生物。”

點評：人工智能不但能替代一些傳統(tǒng)工作，提升效率、促進企業(yè)發(fā)展，同時也可以做一些單靠人工無法進行的工作，并且為人類未來的幸福生活提供了新的可能性。但我們要注意它的強大性和不可解釋性也帶了一些風險。這個案例體現(xiàn)了新技術的可能性，但在技術早期探索時，我們也要做一個嵌入式倫理的研究與控制。

9.湖南岳陽警方破獲AI犯罪案，技術犯罪仍要懲罰人

案例描述：湖南省岳陽市岳陽樓公安分局聯(lián)合市局網技支隊破獲了一起利用人工智能語音機器人幫助網絡犯罪案，抓獲犯罪嫌疑人19人，查獲了大量作案電腦和手機，扣押涉案現(xiàn)金100余萬元，凍結涉案資金1000余萬元。該團伙利用“AI智能語音機器人”對非法獲取的大批量手機號碼進行撥打，通過“AI智能語音機器人”篩選后，將正在炒股或者有炒股意向的受害人拉入預先建立的虛假炒股微信群，進而實施詐騙。目前，包括黃某在內的12名主要犯罪嫌疑人已全部被公安機關依法刑事拘留，7人被依法治安拘留，相關案情正在進一步深挖之中。

點評：AI技術具有雙面性，一方面能大幅度減少人力成本，提高工作效率，另一方面也可能為不法分子利用。本例案件采用的技術并不復雜，主要是通過AI智能語音機器人來替代原來的真人詐騙犯，再用真假難辨的虛擬機器人進行智能分析和誘騙。我們需要提高AI應用的準入門檻，進行有效的身份鑒別。同時也要對AI技術的新進展進行持續(xù)的關注和跟蹤，以及對潛在的風險如AI偏見、AI換聲換臉等保持一定的警惕性，避免技術被不法分子所利用，危害社會發(fā)展。

10.人工智能首次控制美國軍用系統(tǒng)，或將開啟算法戰(zhàn)新時代

案例描述：2020年12月15日，美國空軍在加利福尼亞州首次成功使用人工智能副駕駛控制一架U2偵察機的雷達和傳感器等系統(tǒng)，這是人工智能首次控制美國軍用系統(tǒng)，將開啟算法戰(zhàn)的新時代。從三年前開始，美國空軍開始大步向數字化時代邁進。最終開發(fā)出軍用人工智能算法，組建了五角大樓第一批商業(yè)化開發(fā)團隊，編寫云代碼，甚至還建立了一個戰(zhàn)斗云網絡，通過該網絡，美軍以極高的機器響應速度擊落了一枚巡航導彈。

點評：算法戰(zhàn)的出現(xiàn)意味著人類軍事戰(zhàn)爭一個嶄新階段的來臨，也意味著數字化軍事戰(zhàn)爭的一種形態(tài)。在軍事戰(zhàn)爭中，武器，作為人類肢體和智力延伸的工具，一直是戰(zhàn)爭勝負的決定性變量。熱兵器對冷兵器的替代，是武器對人類肢體和體力的延伸；算法和無人機對人的肢體和體力的替代，則是武器對人類智力的延伸，是人類戰(zhàn)爭的第二次本質躍升，并將從此改變戰(zhàn)爭的諸多屬性！

（編輯/高緯時）