曾煒

著名物理學(xué)家史蒂芬·霍金認(rèn)為，強(qiáng)大的人工智能（AI）的崛起，要么是人類歷史上最好的事，要么是最糟的;是好是壞現(xiàn)在仍難以確定，但我們應(yīng)該竭盡所能，確保其未來發(fā)展對(duì)人類有利。由此可見，隨著人工智能的飛速發(fā)展，人類在享受技術(shù)革命帶來的前所未有技術(shù)紅利之時(shí)，也必須從政策、法律層面及時(shí)采取措施，以應(yīng)對(duì)這種高深莫測(cè)的技術(shù)背后可能蘊(yùn)含的巨大風(fēng)險(xiǎn)。

人工智能對(duì)國(guó)內(nèi)和國(guó)際社會(huì)的挑戰(zhàn)

AI的應(yīng)用能讓人類社會(huì)更有效、更好、更安全嗎？還是AI的應(yīng)用會(huì)成為毀滅人類的罪魁禍?zhǔn)祝可鲜鰡栴}的答案很大程度上取決于我們?nèi)绾卫眠@種強(qiáng)大的新興技術(shù)。特別是由于近些年AI技術(shù)突飛猛進(jìn)，人機(jī)交互的數(shù)量急劇增加，從而使得上述問題的討論變得更為熱烈。

面對(duì)人工智能可能對(duì)人類社會(huì)帶來的沖擊，特別是技術(shù)進(jìn)步帶來的法律真空，一些有識(shí)之士長(zhǎng)期以來一直呼吁各國(guó)在人工智能的監(jiān)管方面進(jìn)行合作。部分國(guó)家或地區(qū)已經(jīng)開始著手解決人工智能帶來的政策挑戰(zhàn)。加拿大、中國(guó)、日本、美國(guó)和歐盟各自推出了促進(jìn)人工智能發(fā)展和商業(yè)化的雄偉戰(zhàn)略，以便在即將到來的人工智能驅(qū)動(dòng)的全球經(jīng)濟(jì)時(shí)代仍然保持經(jīng)濟(jì)競(jìng)爭(zhēng)力。還有許多學(xué)術(shù)機(jī)構(gòu)或公私團(tuán)體支持政府推動(dòng)人工智能的研發(fā)和規(guī)制，例如國(guó)際人工智能與法律協(xié)會(huì)、人工智能伙伴關(guān)系、新西蘭人工智能論壇以及歐盟“機(jī)器人研發(fā)計(jì)劃”（SPARC）。在現(xiàn)實(shí)中，各國(guó)法院也面臨各種與人工智能相關(guān)的爭(zhēng)端，雖然法院的裁決在一定程度上有助于澄清與人工智能相關(guān)的法律灰色地帶，但也有一些裁決反映了部分法官完全缺乏AI專業(yè)知識(shí)，從而加劇了法律適用的混亂。因此無論是政策制定者，還是爭(zhēng)端裁決者，都有必要加強(qiáng)人工智能專業(yè)知識(shí)的素養(yǎng)。

簡(jiǎn)而言之，人工智能革命及其給社會(huì)帶來的挑戰(zhàn)都是非常真實(shí)的，各國(guó)政策制定者應(yīng)及時(shí)采取因應(yīng)措施。但是，各國(guó)應(yīng)謹(jǐn)慎采用純粹的國(guó)內(nèi)方法。首先，當(dāng)一個(gè)問題的監(jiān)管具有超越國(guó)界的外部性時(shí)，就像當(dāng)前人工智能的情況一樣，不同的國(guó)內(nèi)監(jiān)管方法往往可能會(huì)引發(fā)沖突，從而使受多個(gè)國(guó)家法律制度管轄問題的監(jiān)管變得困難重重。因此僅依靠一國(guó)的法律很難解決這種跨國(guó)性的問題，問題的跨國(guó)性質(zhì)與管理該問題的各國(guó)法律之間的差異給跨國(guó)監(jiān)管帶來了壓力。其次，跨國(guó)法律秩序的特點(diǎn)是一系列復(fù)雜的、多方向的進(jìn)程，這些進(jìn)程遵循自己的邏輯，并且毋庸置疑地會(huì)影響規(guī)范的權(quán)威性。最后，盡管法律規(guī)范的合法性主要來自社會(huì)的而非道德的根源，但在制定人工智能國(guó)內(nèi)或國(guó)際法律規(guī)則時(shí)，道德因素應(yīng)值得考慮并且將在塑造新的法律體系中發(fā)揮關(guān)鍵作用。

因此，各國(guó)在制定人工智能政策或法律時(shí)不應(yīng)各行其是，而應(yīng)該從國(guó)際監(jiān)管的層面進(jìn)行協(xié)調(diào)，以避免因分散的國(guó)內(nèi)監(jiān)管方法的不完善和碎片化而產(chǎn)生的風(fēng)險(xiǎn)。在此背景下，國(guó)際社會(huì)應(yīng)考慮成立一個(gè)新的政府間國(guó)際組織，我們可稱之為國(guó)際人工智能組織（IAIO），作為討論和參與人工智能國(guó)際標(biāo)準(zhǔn)制定活動(dòng)的國(guó)際論壇。IAIO不僅應(yīng)由各國(guó)政府組成，還應(yīng)廣泛吸收人工智能行業(yè)和學(xué)術(shù)組織等多元化利益相關(guān)者參與，這是由于人工智能不僅非常前沿，而且極其復(fù)雜，甚至在很大程度上尚屬于未知領(lǐng)域，而這些行業(yè)或組織的跨學(xué)科專業(yè)知識(shí)可以為政策制定者起草人工智能國(guó)際監(jiān)管制度時(shí)提供不可或缺的幫助。

人工智能國(guó)際監(jiān)管機(jī)制的基本框架

鑒于人工智能對(duì)人類社會(huì)影響的嚴(yán)重性和全球性，人工智能的監(jiān)管機(jī)制不應(yīng)限于單個(gè)國(guó)家內(nèi)部或少數(shù)國(guó)家之間，而應(yīng)建立一個(gè)面向世界上所有國(guó)家，而且至少涵括當(dāng)前主要國(guó)家在內(nèi)的國(guó)際監(jiān)管機(jī)制?？傮w而言，人工智能國(guó)際監(jiān)管機(jī)制應(yīng)重點(diǎn)考慮如下幾個(gè)方面的因素。

有約束力的承諾vs靈活的合作安排：如前所述，人工智能將從根本上改變整個(gè)人類社會(huì)。人工智能的國(guó)際監(jiān)管機(jī)制除了硬性的法律義務(wù)之外，必須銘記于心的是，當(dāng)前關(guān)于人工智能，以及人工智能與人類的相互作用的研究甚為粗淺，這意味著我們甚至無法掌握即將發(fā)生的變化的范圍和程度，更不用說它們將引發(fā)的問題的維度。人工智能帶來的問題可能以快速和目前難以想象的方式發(fā)生變化，基于過去的經(jīng)驗(yàn)，這種狀況并不完全有利于達(dá)成國(guó)際共識(shí)。因此，在考慮制定一個(gè)更具約束力的合作框架之前，國(guó)際監(jiān)管機(jī)制需要保持一定的靈活性以便熟悉當(dāng)前的問題，厘清差異并建立共同點(diǎn)。

國(guó)際規(guī)制vs國(guó)家自主權(quán)：人工智能技術(shù)的武器化和某些數(shù)據(jù)挖掘?qū)嵺`顯然與國(guó)家安全攸關(guān)，涉及特別敏感的國(guó)家主權(quán)領(lǐng)域。至少在構(gòu)建人工智能國(guó)際監(jiān)管的最初階段，國(guó)家在IAIO的權(quán)限方面可能會(huì)基于國(guó)家主權(quán)而踟躕不前。然而，從長(zhǎng)遠(yuǎn)來看，強(qiáng)有力的集體監(jiān)督和執(zhí)法機(jī)制可能是必不可少的，以便遏制對(duì)違法行為和機(jī)會(huì)主義行為的激勵(lì)。因此，具有約束力的立法、爭(zhēng)議解決和執(zhí)法權(quán)威的高度制度化的組織將更適合作為新的國(guó)際人工智能監(jiān)管機(jī)構(gòu)。然而，現(xiàn)實(shí)是，在IAIO的確切目的、成員資格、規(guī)范問題以及一般指導(dǎo)方針得到充分明確之前，這種高度制度化的國(guó)際監(jiān)管機(jī)制尚難以實(shí)現(xiàn)。

信息的分享vs信息的保密：歷史經(jīng)驗(yàn)表明，各國(guó)在分享重要技術(shù)的信息方面一般都很謹(jǐn)慎，鑒于人工智能技術(shù)的重要性，各國(guó)可能傾向于對(duì)人工智能信息的嚴(yán)密控制。但是，如果國(guó)際社會(huì)希望就硬性的法律承諾（例如關(guān)于人工智能應(yīng)用的條約）達(dá)成共識(shí)，各國(guó)可能需要提供更多的信息以確保條約的遵守。這再一次表明，在當(dāng)前人工智能監(jiān)管的國(guó)際機(jī)制應(yīng)保留更大的彈性，當(dāng)然，若假以時(shí)日，應(yīng)逐漸向更硬性和嚴(yán)密的國(guó)際監(jiān)管機(jī)制邁進(jìn)。

長(zhǎng)期低交易成本vs低締約成本：鑒于關(guān)于人工智能的國(guó)際討論才剛剛開始，各國(guó)可能會(huì)對(duì)這一具有高度影響領(lǐng)域的監(jiān)管產(chǎn)生不同的偏好，短期內(nèi)達(dá)成可行的國(guó)際共識(shí)的可能性相當(dāng)困難。然而至關(guān)重要的是，對(duì)于防止濫用人工智能應(yīng)用造成社會(huì)危害，并確保人工智能的興起有利于人類的福祉而言，迅速地監(jiān)管反應(yīng)勢(shì)在必行。因此，在當(dāng)下較為寬松的監(jiān)管機(jī)制和低組織化形式可能將降低締約成本，只有在擁有足夠的專業(yè)知識(shí)和政治共識(shí)、能更好地評(píng)估各種政策選擇潛在的影響時(shí)，才可能制定更加健全的監(jiān)管機(jī)制。

復(fù)雜的集中管理vs簡(jiǎn)單的功能管理：就IAIO管理的復(fù)雜程度而言，階段性的安排也值得考慮。在IAIO的初始階段，在確定組織宗旨、成員資格、需要監(jiān)管的問題，以及監(jiān)管的主要議程的初始階段，可能管理越簡(jiǎn)單越好。但是，隨著有法律約束力的監(jiān)管機(jī)制的出現(xiàn)，客觀上要求更強(qiáng)有力的監(jiān)管、爭(zhēng)端解決和執(zhí)行機(jī)制。

常規(guī)管理vs不確定性管理：鑒于人工智能的新穎性、極端復(fù)雜性、不可預(yù)見的演變以及在情況復(fù)雜的成員之間可能引發(fā)爭(zhēng)議的預(yù)期，IAIO應(yīng)明確其調(diào)整領(lǐng)域，而非對(duì)不確定的議題進(jìn)行管理。因此，國(guó)際社會(huì)需要時(shí)間和監(jiān)管機(jī)制的靈活性來建立共同的理念、利益、合作機(jī)制和解決方案，這些因素可以構(gòu)成未來更正式的合作安排的基礎(chǔ)。

總之，至少在最初階段，IAIO應(yīng)該從非正式的國(guó)際組織開始，以相對(duì)較低的組織形式，并采用柔性的軟法規(guī)定，如非約束性的建議、指南和標(biāo)準(zhǔn)，為各國(guó)在構(gòu)思和設(shè)計(jì)與AI相關(guān)的管理政策時(shí)提供參考。當(dāng)務(wù)之急是IAIO應(yīng)該在各國(guó)制定自己的、不同的AI政策之前盡早促進(jìn)國(guó)際社會(huì)在這一領(lǐng)域的國(guó)際合作，否則這些不同的政策很可能成為國(guó)際合作的巨大障礙。未來國(guó)際社會(huì)是否希望在某些領(lǐng)域采取更正式的合作，還有待觀察。值得強(qiáng)調(diào)的是，在IAIO建立監(jiān)管機(jī)制的過程中，應(yīng)廣泛吸收人工智能技術(shù)、法律、政治、倫理等領(lǐng)域的專家，以及來自公共部門、行業(yè)和學(xué)術(shù)界各種感興趣的利益相關(guān)者進(jìn)行定期地磋商，以確保充分考慮到所有相關(guān)的觀點(diǎn)和建議。

編輯：黃靈 ?yeshzhwu@foxmail.com