• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看

      ?

      生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的合規(guī)管理研究

      2024-01-17 07:41:19羅世杰賀國(guó)榮
      關(guān)鍵詞:風(fēng)險(xiǎn)治理合規(guī)管理

      羅世杰 賀國(guó)榮

      關(guān)鍵詞:生成式AI;算法訓(xùn)練風(fēng)險(xiǎn);風(fēng)險(xiǎn)治理;合規(guī)管理;算法合規(guī)

      中圖分類號(hào):TP18;D922.1 文獻(xiàn)標(biāo)志碼:A 文章編號(hào):1672-626X(2023)06-0106-10

      2022年底,OpenAI正式推出其研發(fā)的智能對(duì)話機(jī)器人ChatGPT,并迅速在全球范圍內(nèi)爆火。2023年4月,其再度推出GPT-4,并公布其將聯(lián)網(wǎng),意味著生成式AI技術(shù)再達(dá)高峰。生成式AI技術(shù)流程大致可以分為訓(xùn)練和生成兩個(gè)部分,通過學(xué)習(xí)大量數(shù)據(jù)并進(jìn)行模型訓(xùn)練,能夠自動(dòng)生成符合特定領(lǐng)域規(guī)律的全新內(nèi)容。生成式AI算法訓(xùn)練具有前所未有的獨(dú)特性——其訓(xùn)練過程自主性較強(qiáng)、訓(xùn)練結(jié)果可控性較低,訓(xùn)練階段的效果直接影響模型的優(yōu)劣,從而左右生成數(shù)據(jù)的質(zhì)量①。但生成式AI技術(shù)的研發(fā)與應(yīng)用也是一把雙刃劍:一方面,ChatGPT等一系列生成式大語言模型的研發(fā)與應(yīng)用意味著生成式AI技術(shù)達(dá)到領(lǐng)域前沿,其技術(shù)價(jià)值豐富、應(yīng)用場(chǎng)景廣泛,將大力促進(jìn)經(jīng)濟(jì)和社會(huì)發(fā)展;另一方面,其崛起也引發(fā)諸多負(fù)外部性,既包括知識(shí)產(chǎn)權(quán)歸屬、商業(yè)秘密保護(hù)、數(shù)據(jù)與算法安全等法律問題,還包括就業(yè)替代、人類主權(quán)失范等倫理問題。

      在此背景下,我國(guó)已展開相關(guān)立法活動(dòng):2023年6月,《人工智能法草案》預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議;同年7月,出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》(以下簡(jiǎn)稱《服務(wù)辦法》)。這說明我國(guó)即將進(jìn)入人工智能強(qiáng)監(jiān)管時(shí)代,而生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的防范與規(guī)制也一躍成為全新且熱潮的法律課題。

      一、生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的類型化梳理

      在生成式AI技術(shù)不斷升級(jí)并被廣泛應(yīng)用背景下,作為其核心的算法模型訓(xùn)練是法律風(fēng)險(xiǎn)密集的環(huán)節(jié)。生成式AI算法訓(xùn)練以數(shù)據(jù)、算法、算力以及算法標(biāo)注等重要元素為基礎(chǔ),其訓(xùn)練全過程(計(jì)劃、過程與結(jié)果)可能引發(fā)各類風(fēng)險(xiǎn)。以GPT-4為例說明,生成式AI算法訓(xùn)練引發(fā)的風(fēng)險(xiǎn)包括如下幾類:

      (一)生成式AI 算法訓(xùn)練的數(shù)據(jù)合法性與質(zhì)量風(fēng)險(xiǎn)

      其一,生成式AI算法訓(xùn)練的數(shù)據(jù)獲取途徑合法性問題。一方面,在生成式AI算法訓(xùn)練過程中,易出現(xiàn)數(shù)據(jù)獲取途徑不透明問題。目前GPT-4算法模型仍系“算法黑箱”,OpenAI沒有向外界披露其所使用數(shù)據(jù)的來源。且隨著GPT-4的訓(xùn)練數(shù)據(jù)庫(kù)聯(lián)網(wǎng),其違法違規(guī)抓取互聯(lián)網(wǎng)信息以獲得訓(xùn)練數(shù)據(jù)的風(fēng)險(xiǎn)增大。另一方面,生成式AI算法訓(xùn)練易引發(fā)違法抓取個(gè)人數(shù)據(jù)問題。在個(gè)人數(shù)據(jù)安全層面,生成式AI可能未經(jīng)用戶同意就進(jìn)行大量抓取。此外,GPT-4的“預(yù)學(xué)習(xí)”無需人工介入、標(biāo)注和監(jiān)督,導(dǎo)致GPT-4在獲取預(yù)訓(xùn)練數(shù)據(jù)的效率上很難受人的干預(yù)和調(diào)控,因而違法抓取個(gè)人數(shù)據(jù)的情況無可避免[1]。

      其二,生成式AI算法訓(xùn)練階段生成的數(shù)據(jù)合法性與質(zhì)量問題。一方面,算法訓(xùn)練生成的數(shù)據(jù)遭遇極大合法性挑戰(zhàn)。由于用于算法訓(xùn)練的數(shù)據(jù)可能不準(zhǔn)確或存在傾向性,故難以保證其合法性,導(dǎo)致生成的數(shù)據(jù)也極有可能具有“毒性”[2]。易言之,GPT-4的算法訓(xùn)練所需數(shù)據(jù)量極大,而該部分?jǐn)?shù)據(jù)通常涉及隱私、權(quán)屬、公平競(jìng)爭(zhēng)等問題,很可能違背相關(guān)法律和倫理規(guī)范。若對(duì)所獲數(shù)據(jù)內(nèi)容的合法性和合規(guī)性不予置評(píng)和糾正,基于其進(jìn)行的算法訓(xùn)練也會(huì)類似“蝴蝶效應(yīng)”繼續(xù)生成不合法數(shù)據(jù)。另一方面,“毒樹之果”②效應(yīng)蔓延至生成式AI算法訓(xùn)練過程中的數(shù)據(jù)質(zhì)量方面,用低質(zhì)量數(shù)據(jù)生成低質(zhì)量數(shù)據(jù)的情況無可避免。同時(shí),也有可能本不屬于低質(zhì)量的數(shù)據(jù)在訓(xùn)練過程中被“污染”變成低質(zhì)量數(shù)據(jù)。

      其三,生成式AI算法訓(xùn)練所涉數(shù)據(jù)的泄露與濫用問題。一方面,生成式AI在算法訓(xùn)練過程中,極易遭受數(shù)據(jù)泄露問題,這種數(shù)據(jù)泄露可能系人為,也可能系算法訓(xùn)練技術(shù)本身問題。且隨著愈來愈多領(lǐng)域?qū)ι墒紸I加以應(yīng)用,尤其在算法訓(xùn)練的過程中,數(shù)據(jù)泄露成為一大隱患。因?yàn)閿?shù)據(jù)作為重要生產(chǎn)要素,一旦泄露將給企業(yè)、行業(yè)帶來重大損失。另一方面,生成式算法訓(xùn)練所需數(shù)據(jù)面臨被濫用問題。由于生成式AI的算法訓(xùn)練過程具有強(qiáng)大的模仿與生成能力,不法分子可能利用其整合與生成虛假信息,引發(fā)社會(huì)安全與經(jīng)濟(jì)效益問題。且即使是零碎信息,GPT-4也可能將其與其他類型數(shù)據(jù)拼合在一起進(jìn)行挖掘分析,從而推斷出關(guān)系國(guó)家安全、公共安全、個(gè)人和組織合法權(quán)益的信息[3]。從而可能影響到國(guó)家、社會(huì)和個(gè)人利益安全。

      (二)生成式AI 算法訓(xùn)練的偏差(錯(cuò)誤)、歧視與偏見風(fēng)險(xiǎn)

      生成式AI算法訓(xùn)練在“預(yù)學(xué)習(xí)”時(shí)沒有過濾機(jī)制和人工監(jiān)管,導(dǎo)致其在算法訓(xùn)練過程中,可能生成虛假或不良信息,也可能產(chǎn)生算法歧視、偏見風(fēng)險(xiǎn)。

      其一,生成式AI算法訓(xùn)練引發(fā)信息鏈條式虛假或低質(zhì)量的潛在風(fēng)險(xiǎn)。一方面,如前文所述,GPT-4模型在“預(yù)學(xué)習(xí)”時(shí)沒有人工監(jiān)督,獲取的數(shù)據(jù)未經(jīng)過實(shí)質(zhì)性篩查和挑選,數(shù)據(jù)在源頭處即存在內(nèi)容不合法(規(guī))、虛假或錯(cuò)誤問題,從而影響模型訓(xùn)練結(jié)果的正確性和中立性。另一方面,盡管OpenAI在開發(fā)GPT-4時(shí)已經(jīng)極力避免輸出帶有偏離社會(huì)價(jià)值觀導(dǎo)向的內(nèi)容,但在GPT-4算法訓(xùn)練過程中,其可能遭遇惡意“投毒”,導(dǎo)致訓(xùn)練出的算法模型遭到污染,也會(huì)誘使其通過訓(xùn)練得到的語言模型輸出不良或虛假數(shù)據(jù),形成連環(huán)效應(yīng)[4]。此外,在生成式AI算法訓(xùn)練場(chǎng)景中,算法標(biāo)注是實(shí)現(xiàn)大規(guī)模訓(xùn)練數(shù)據(jù)機(jī)器學(xué)習(xí)的關(guān)鍵所在。所謂“算法標(biāo)注”,即對(duì)生成式AI原始數(shù)據(jù)集進(jìn)行標(biāo)注、分類、分析和清洗,以助力訓(xùn)練機(jī)器學(xué)習(xí)算法和人工智能模型[5]。而在生成式AI算法標(biāo)注場(chǎng)域中,存在標(biāo)注內(nèi)容不合規(guī)、標(biāo)注規(guī)則本身違法或標(biāo)注人員不符要求等風(fēng)險(xiǎn),從而導(dǎo)致算法訓(xùn)練過程與結(jié)果出現(xiàn)內(nèi)容與價(jià)值偏移。

      其二,在生成式AI算法訓(xùn)練的動(dòng)態(tài)風(fēng)險(xiǎn)場(chǎng)域下,算法歧視和偏見風(fēng)險(xiǎn)亦暗潮涌動(dòng)。有學(xué)者認(rèn)為,在生成式AI時(shí)代,算法歧視存在朝“無意識(shí)”轉(zhuǎn)變的可能性甚至是趨勢(shì)[6]。而本文討論的算法歧視與偏見風(fēng)險(xiǎn)主要指被訓(xùn)練出來的生成式AI算法模型帶有對(duì)國(guó)別、種族、職業(yè)、年齡、性別甚至是數(shù)字窮富差距的甄別與擇“強(qiáng)”傾斜[7]。這種歧視與偏見一方面來自于生成式AI算法訓(xùn)練標(biāo)注者的歧視因素,另一方面則來自于生成式AI本身的技術(shù)中立性異化[8]。生成式AI的算法訓(xùn)練本質(zhì)是利用算法對(duì)大量的數(shù)據(jù)進(jìn)行處理,但生成式AI算法模型本身還不能對(duì)數(shù)據(jù)進(jìn)行查證與甄別,常常可能生成看似準(zhǔn)確但本質(zhì)錯(cuò)誤的誤導(dǎo)性內(nèi)容。而且,生成式AI算法訓(xùn)練技術(shù)本身無法完全避免社會(huì)偏見和價(jià)值觀傾向,從而可能固化社會(huì)偏見和歧視[2]。

      (三)生成式AI 算法訓(xùn)練易觸碰反壟斷紅線

      其一,生成式AI技術(shù)層面的壟斷。GPT-4的發(fā)布在各個(gè)領(lǐng)域引起了巨大的轟動(dòng)。在某些領(lǐng)域,其已經(jīng)顯露絕對(duì)優(yōu)勢(shì),或者說“AI霸權(quán)”。OpenAI為維護(hù)其已經(jīng)占據(jù)的優(yōu)勢(shì)地位,繼續(xù)研發(fā)升級(jí)模型算法和優(yōu)化性能,從而進(jìn)一步鞏固其領(lǐng)先地位,擴(kuò)大“雪球效應(yīng)”,以此實(shí)現(xiàn)技術(shù)市場(chǎng)壟斷。正如美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)下屬的競(jìng)爭(zhēng)局表示③,生成式AI依賴于一系列必要的投入。如果一家公司或少數(shù)幾家公司控制著這些重要投入中的一種或幾種,他們也許能夠利用控制權(quán)來抑制或扭曲生成式AI技術(shù)市場(chǎng)的競(jìng)爭(zhēng),控制整個(gè)生成式AI技術(shù)市場(chǎng)的進(jìn)入與退出。

      其二,算法訓(xùn)練過程中的數(shù)據(jù)壟斷。盡管數(shù)據(jù)系非競(jìng)爭(zhēng)性產(chǎn)物,但在其釋放經(jīng)濟(jì)價(jià)值的過程中,具有較高效益的數(shù)據(jù)作為稀缺資源必然造成競(jìng)爭(zhēng)現(xiàn)場(chǎng)。在生成式AI算法訓(xùn)練所涉及的數(shù)據(jù)獲取、訓(xùn)練或輸出等環(huán)節(jié),競(jìng)爭(zhēng)壁壘都有出現(xiàn)的可能性,形成數(shù)據(jù)壟斷[9]。即生成式AI算法訓(xùn)練需要海量數(shù)據(jù),如果該數(shù)據(jù)來自于一個(gè)特定的數(shù)據(jù)集中,那么可能會(huì)存在壟斷風(fēng)險(xiǎn),包括數(shù)據(jù)集中和數(shù)據(jù)共享中的壟斷風(fēng)險(xiǎn)。

      二、生成式AI算法訓(xùn)練風(fēng)險(xiǎn)引入合規(guī)管理的必要性證成

      生成式AI算法訓(xùn)練風(fēng)險(xiǎn)被認(rèn)為是生成式AI企業(yè)算法訓(xùn)練活動(dòng)產(chǎn)生的顯著負(fù)外部性,對(duì)涉及的數(shù)據(jù)與算法安全、數(shù)字經(jīng)濟(jì)以及相關(guān)法律制度造成沖擊。從法學(xué)角度上看,負(fù)外部性是一個(gè)法律主體在享受權(quán)利時(shí)將相對(duì)應(yīng)應(yīng)當(dāng)承擔(dān)的義務(wù)和責(zé)任施加給其他主體[10]。為應(yīng)對(duì)這一負(fù)外部性,學(xué)者們已提出了一定的對(duì)策建議,有的基于風(fēng)險(xiǎn)治理視角的路徑,提出通過對(duì)生成式AI進(jìn)行風(fēng)險(xiǎn)定級(jí)進(jìn)而監(jiān)管其算法模型[11];有的基于主體治理視角的路徑,提出以生成式AI算法主體責(zé)任機(jī)制奠定我國(guó)生成式AI算法問責(zé)機(jī)制的運(yùn)作基礎(chǔ),具體包括備案、解釋以及問責(zé)[12~13];有的基于應(yīng)用治理視角的路徑,指出不以出臺(tái)生成式AI專門規(guī)制法為目的,而是在其具體應(yīng)用場(chǎng)域中以單行法律和法規(guī)的形式施以針對(duì)性治理等[14]。

      然而上述措施被單獨(dú)或空泛使用時(shí)可能遭遇事前防范不足、事后規(guī)制滯后的治理困境,且其均基于“硬法”規(guī)制視角,缺乏從法律主體自治角度提出“軟法”治理之策[15]?;诖?,本文擬從合規(guī)管理視角提出生成式AI企業(yè)算法訓(xùn)練合規(guī)管理,其蘊(yùn)含的依法治理和包容治理相結(jié)合的法律治理功能可以實(shí)現(xiàn)生成式AI算法訓(xùn)練法律風(fēng)險(xiǎn)治理之目標(biāo),促進(jìn)生成式AI算法模型訓(xùn)練的良性發(fā)展。

      (一)生成式AI 算法訓(xùn)練風(fēng)險(xiǎn)的依法治理

      當(dāng)?shù)貢r(shí)間2023年6月14日,歐洲議會(huì)投票通過了《人工智能法案》,對(duì)ChatGPT等生成式AI工具提出了新的算法訓(xùn)練透明度、安全性等要求[16],相關(guān)企業(yè)應(yīng)依法合規(guī)進(jìn)行算法訓(xùn)練,算是打開了生成式AI算法訓(xùn)練依法治理之路。這對(duì)我國(guó)生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的依法治理具有重要參考意義。生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的產(chǎn)生直接影響生成式AI技術(shù)的健康發(fā)展,因此有必要在實(shí)現(xiàn)算法向善治理的目標(biāo)基底上尋求依法治理路徑,對(duì)算法訓(xùn)練風(fēng)險(xiǎn)進(jìn)行約束與防范[17]。具體到生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的依法治理,不僅要確立法律在生成式AI研發(fā)、生產(chǎn)、運(yùn)用中的權(quán)威性,而且要提升其研發(fā)、生產(chǎn)、運(yùn)用企業(yè)及其員工按照人工智能相關(guān)法律規(guī)范行事的行為習(xí)慣[18]。

      企業(yè)出于防范法律風(fēng)險(xiǎn)的目的自主選擇合規(guī)之路,按理說沒有必要再將建立合規(guī)計(jì)劃和實(shí)施合規(guī)管理作為企業(yè)法律義務(wù)[19]。但是,在依法治理生成式AI算法訓(xùn)練風(fēng)險(xiǎn)過程中,法律規(guī)范的行為規(guī)范功能必不可少。當(dāng)前算法訓(xùn)練風(fēng)險(xiǎn)治理的法律路徑主要有兩種,即“硬法”和“軟法”治理。本文所討論的生成式AI算法訓(xùn)練合規(guī)管理,即屬于“硬法”與“軟法”協(xié)調(diào)治理的范疇。具言之,一是算法訓(xùn)練風(fēng)險(xiǎn)的“硬法”治理,“硬法”視角下的生成式AI算法訓(xùn)練風(fēng)險(xiǎn)治理主要體現(xiàn)為行為規(guī)制與法律權(quán)利義務(wù)的配置。“硬法”路徑在功能定位上側(cè)重于制裁與懲罰,主要通過命令來強(qiáng)迫算法訓(xùn)練主體作出某種行為選擇,其大多表現(xiàn)為剛性的強(qiáng)行性規(guī)范,內(nèi)容具有明確性和穩(wěn)定性[20]。“硬法”規(guī)范可以給生成式AI算法訓(xùn)練主體的算法訓(xùn)練合規(guī)管理提出依法建設(shè)要求,使其實(shí)施得到強(qiáng)制性保障。二是算法訓(xùn)練風(fēng)險(xiǎn)的“軟法”治理,即那些效力結(jié)構(gòu)未必完整、不需要依靠國(guó)家強(qiáng)制力才能保障實(shí)施,但是能夠產(chǎn)生實(shí)際治理效益的法律規(guī)范?!败浄ā笨梢詾樯墒紸I企業(yè)實(shí)現(xiàn)算法訓(xùn)練合規(guī)管理提供目標(biāo)清晰、操作性強(qiáng)的具體指引,使其合規(guī)建設(shè)實(shí)現(xiàn)“硬法”與“軟法”依據(jù)的雙重滿足。故而在當(dāng)前積極推進(jìn)企業(yè)合規(guī)背景下,要發(fā)揮法律規(guī)范對(duì)生成式AI企業(yè)及其員工算法訓(xùn)練行為的指引功能,離不開企業(yè)合規(guī)管理體系的構(gòu)建。

      (二)生成式AI 算法訓(xùn)練風(fēng)險(xiǎn)的包容治理

      《服務(wù)辦法》第3條明確規(guī)定:“國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管?!边@一規(guī)定明確我國(guó)對(duì)生成式AI的治理模式是“包容性法律治理”。包容性治理包括“包容”和“治理”兩個(gè)關(guān)鍵內(nèi)核[21]。社會(huì)治理角度的包容性治理指通過制度的安排,能夠確保所有公民平等參與政策的制定,并享有平等分配資源權(quán)利的過程[22]。延伸到法律治理領(lǐng)域,就包容性治理主體而言,是指不故意排斥法律治理的主體,廣泛吸收多元個(gè)體參與法律治理機(jī)制。換言之,多元主體的合作共治是包容治理在社會(huì)治理層面的必然要求。故在生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的治理維度,包容治理就要求積極引入社會(huì)、企業(yè)等多方主體參與,形成政府領(lǐng)導(dǎo)下的多元主體包容共治格局。其包括以下三個(gè)方面:

      一是生成式AI企業(yè)自治。以算法訓(xùn)練合規(guī)管理為依托,參考美國(guó)對(duì)生成式AI算法訓(xùn)練遵循相對(duì)寬松的治理策略,其并沒有一味地出臺(tái)嚴(yán)密的法案來對(duì)生成式AI的算法訓(xùn)練活動(dòng)進(jìn)行規(guī)制和限制,而是采取基于“市場(chǎng)自由”的治理路徑[23]。即基于生成式AI企業(yè)具有“市場(chǎng)自由”,美國(guó)政府并不要求其進(jìn)行算法訓(xùn)練設(shè)計(jì)時(shí)必須引入或刪除某種設(shè)計(jì)要素或訓(xùn)練數(shù)據(jù),也不要求作為“人的集合”的生成式AI企業(yè)進(jìn)行算法訓(xùn)練內(nèi)容聯(lián)網(wǎng)審查。二是行政監(jiān)管。當(dāng)生成式AI企業(yè)在算法訓(xùn)練合規(guī)義務(wù)履行階段出現(xiàn)或可能出現(xiàn)合規(guī)風(fēng)險(xiǎn)時(shí),需要介入其“看門人”的角色,對(duì)義務(wù)主體進(jìn)行專門監(jiān)管,促使其算法訓(xùn)練活動(dòng)回歸合規(guī)與合法軌道[24]。即在生成式AI監(jiān)管的法律框架下,行政監(jiān)管部門應(yīng)當(dāng)承擔(dān)起生成式AI企業(yè)算法訓(xùn)練合規(guī)管理義務(wù)履行的監(jiān)管角色。三是社會(huì)參與監(jiān)督。公眾參與對(duì)實(shí)現(xiàn)算法訓(xùn)練合規(guī)的功能和作用不言而喻。社會(huì)大眾是生成式AI算法訓(xùn)練活動(dòng)的受眾和成本與利益的承擔(dān)者,擁有對(duì)義務(wù)主體的算法訓(xùn)練合規(guī)管理過程與效果的監(jiān)督、討論、意見反饋等權(quán)利。

      三、生成式AI算法訓(xùn)練合規(guī)管理的法律依據(jù)

      目的是一切法律規(guī)范的締造者[25]。如僅將生成式AI算法訓(xùn)練合規(guī)管理作為實(shí)驗(yàn)室工具,即生成式AI企業(yè)關(guān)于正確進(jìn)行算法訓(xùn)練的內(nèi)部指引和規(guī)定,但并不作為法律客體呈現(xiàn),也就無所謂構(gòu)建其法律體系。然而,本文系出于生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的依法治理和合法治理需求,并對(duì)其合規(guī)管理的依法建設(shè)進(jìn)行證成和構(gòu)建,故有必要認(rèn)識(shí)到:此處的合規(guī)管理,并不是企業(yè)“自?shī)首詷贰钡墓ぞ?,即并非只是用來?duì)企業(yè)成員進(jìn)行內(nèi)部約束的手段。其是被用于算法訓(xùn)練風(fēng)險(xiǎn)治理、帶有法律色彩的工具,應(yīng)當(dāng)被賦予法律涵義——合規(guī)法律義務(wù)以及不履行合規(guī)義務(wù)的法律責(zé)任。即應(yīng)在現(xiàn)有生成式AI算法訓(xùn)練合規(guī)管理的法律依據(jù)體系中剖析出其義務(wù)主體及具體的合規(guī)監(jiān)管要求。

      (一)生成式AI 算法訓(xùn)練合規(guī)管理的法律制度體系

      生成式AI算法訓(xùn)練合規(guī)管理的“規(guī)”不僅包括企業(yè)內(nèi)部管理規(guī)定,更應(yīng)涵蓋法律法規(guī)和其他規(guī)范性文件的相關(guān)規(guī)定。我國(guó)目前生成式AI算法訓(xùn)練風(fēng)險(xiǎn)治理的相關(guān)法律依據(jù)還較少,僅零星見于《服務(wù)辦法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)反壟斷法》《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律以及一些專門規(guī)制算法的監(jiān)管法規(guī)如《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的具體條文中。

      而在生成式AI算法訓(xùn)練合規(guī)管理的企業(yè)方案構(gòu)建和具體實(shí)施上,我國(guó)已經(jīng)發(fā)布的《中央企業(yè)合規(guī)管理指引(試行)》《個(gè)人信息保護(hù)合規(guī)審計(jì)管理辦法》《企業(yè)知識(shí)產(chǎn)權(quán)合規(guī)標(biāo)準(zhǔn)指引(試行)》《企業(yè)境外經(jīng)營(yíng)合規(guī)管理指引》《中央企業(yè)合規(guī)管理辦法》《經(jīng)營(yíng)者反壟斷合規(guī)指南》《合規(guī)管理體系要求及使用指南》等文件,能夠?yàn)槠涮峁┲匾獏⒖肌?/p>

      (二)生成式AI 算法訓(xùn)練合規(guī)管理的法定義務(wù)主體

      確定生成式AI算法訓(xùn)練合規(guī)管理的法定義務(wù)主體具有不可或缺的作用。生成式AI算法訓(xùn)練合規(guī)管理的法定義務(wù)主體范疇可根據(jù)以上生成式AI算法訓(xùn)練相關(guān)法律法規(guī)來確定?!斗?wù)辦法》給我國(guó)生成式AI的合規(guī)主體指明了大致方向和基本定義,即“利用生成式人工智能算法提供聊天和文本、圖像、聲音生成等服務(wù)的組織”,但是生成式AI算法訓(xùn)練合規(guī)管理的義務(wù)主體應(yīng)在此輪廓下進(jìn)行以下兩方面的辨析:

      其一,將義務(wù)主體中的“服務(wù)提供者”范疇限縮到“提供生成式AI算法訓(xùn)練活動(dòng)的供應(yīng)商和第三方服務(wù)機(jī)構(gòu)”。其中,供應(yīng)商是進(jìn)行生成式人工智能算法訓(xùn)練活動(dòng)的最主要提供者,需要對(duì)算法訓(xùn)練的質(zhì)量和可靠性負(fù)責(zé)。在算法訓(xùn)練過程中,供應(yīng)商需要確保算法的準(zhǔn)確性和效率,同時(shí)也需要遵守相關(guān)的法律法規(guī)和標(biāo)準(zhǔn),以確保算法的訓(xùn)練過程和行為符合監(jiān)管要求;而第三方服務(wù)機(jī)構(gòu)是協(xié)助供應(yīng)商進(jìn)行算法訓(xùn)練的服務(wù)提供商。這些服務(wù)機(jī)構(gòu)需遵守算法訓(xùn)練領(lǐng)域相關(guān)的法律法規(guī)和標(biāo)準(zhǔn),以確保其算法訓(xùn)練活動(dòng)符合監(jiān)管要求。

      其二,借鑒美國(guó)2022年《算法責(zé)任法案》將“個(gè)人”納入算法責(zé)任主體的做法和規(guī)定④,應(yīng)將“從事生成式AI算法訓(xùn)練活動(dòng)的個(gè)人”也納入義務(wù)主體的范圍。即雖然在法律的制度和實(shí)施層面,認(rèn)為企業(yè)主體才是對(duì)外承擔(dān)算法訓(xùn)練合規(guī)責(zé)任主體,但是在算法訓(xùn)練合規(guī)具體實(shí)踐中,企業(yè)主體內(nèi)部須對(duì)“從事生成式AI算法訓(xùn)練活動(dòng)”的個(gè)人進(jìn)行合規(guī)義務(wù)的“分配”與“監(jiān)督”,納入企業(yè)內(nèi)部合規(guī)管理機(jī)制,相關(guān)個(gè)人實(shí)際上也將對(duì)生成式AI算法企業(yè)合規(guī)風(fēng)險(xiǎn)承擔(dān)責(zé)任和不利后果。當(dāng)然,將“從事生成式AI算法訓(xùn)練活動(dòng)的個(gè)人”納入義務(wù)主體的基礎(chǔ)在于法律法規(guī)的明文規(guī)定或者企業(yè)內(nèi)部算法訓(xùn)練合規(guī)的管理制度與細(xì)則的明確規(guī)定。所以為更好地對(duì)生成式AI算法訓(xùn)練風(fēng)險(xiǎn)進(jìn)行治理,需要進(jìn)一步出臺(tái)相關(guān)合規(guī)監(jiān)管法規(guī);生成式AI也應(yīng)當(dāng)盡快確立算法訓(xùn)練合規(guī)管理制度和細(xì)則,以確定個(gè)人義務(wù)主體。

      (三)生成式AI 算法訓(xùn)練合規(guī)管理的法律監(jiān)管要求

      相比域外生成式AI算法訓(xùn)練的治理行動(dòng),我國(guó)走在了前列,如《服務(wù)辦法》的迅速出臺(tái)。本文特對(duì)《服務(wù)辦法》中生成式AI算法訓(xùn)練的相關(guān)監(jiān)管規(guī)定進(jìn)行共性梳理與要點(diǎn)分析,結(jié)合域外相關(guān)制度經(jīng)驗(yàn),探討生成式AI企業(yè)算法訓(xùn)練合規(guī)管理依法建設(shè)的法律監(jiān)管要求。

      其一,算法訓(xùn)練的數(shù)據(jù)合規(guī)建設(shè)要求。生成式AI企業(yè)應(yīng)當(dāng)對(duì)算法訓(xùn)練階段所涉及被獲取、整合、訓(xùn)練、輸出的全部數(shù)據(jù)的合法性與安全性負(fù)責(zé)并做好合規(guī)建設(shè)。具體應(yīng)滿足以下要求:符合算法訓(xùn)練活動(dòng)安全相關(guān)法律法規(guī)的要求;不含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容;數(shù)據(jù)包含個(gè)人信息的,應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、法規(guī)規(guī)定的其他情形;保證算法訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性。

      其二,算法訓(xùn)練的人工標(biāo)注合規(guī)建設(shè)要求。對(duì)算法訓(xùn)練中體現(xiàn)人類偏好的人工標(biāo)注的要求和約束必不可少。當(dāng)算法訓(xùn)練中采用人工標(biāo)注時(shí),生成式AI企業(yè)應(yīng)當(dāng)制定清晰、具體、可操作的標(biāo)注規(guī)則,對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn),并抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性。

      其三,算法訓(xùn)練的行為標(biāo)準(zhǔn)合規(guī)建設(shè)要求。為更好地對(duì)生成式AI企業(yè)的算法訓(xùn)練合規(guī)管理標(biāo)準(zhǔn)提出要求,應(yīng)當(dāng)從糾偏與歸正兩個(gè)方面對(duì)其進(jìn)行展開,即生成式AI企業(yè)應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制以實(shí)現(xiàn)算法訓(xùn)練行為糾偏,應(yīng)通過算法模型優(yōu)化訓(xùn)練來作出算法訓(xùn)練行為歸正。

      四、生成式AI算法訓(xùn)練合規(guī)管理的依法建設(shè)

      當(dāng)前學(xué)界對(duì)于企業(yè)合規(guī)作用機(jī)理的探討主要分為“外部應(yīng)對(duì)”和“內(nèi)生驅(qū)動(dòng)”[26]。無論是由“外部應(yīng)對(duì)”走向“內(nèi)生驅(qū)動(dòng)”,還是以“內(nèi)生驅(qū)動(dòng)”配合“外部應(yīng)對(duì)”,具體到生成式AI算法訓(xùn)練合規(guī)管理領(lǐng)域,都應(yīng)從“內(nèi)外有別”轉(zhuǎn)至“內(nèi)外協(xié)調(diào)”思路,即應(yīng)力求在企業(yè)自行依法建設(shè)內(nèi)部合規(guī)體系的同時(shí),兼顧其與外部行政監(jiān)管與激勵(lì)的協(xié)調(diào)。故而要求生成式AI企業(yè)必須建立內(nèi)涵豐富、體系完整且適應(yīng)自身需求的制度程序并探索出能夠促進(jìn)該體系有效實(shí)施的合規(guī)措施與舉動(dòng)[27]。同時(shí)國(guó)家和政府層面還應(yīng)配合和保障生成式AI企業(yè)實(shí)施算法訓(xùn)練合規(guī)管理,即探索出一條內(nèi)外雙面向、完備的算法訓(xùn)練合規(guī)管理的依法建設(shè)進(jìn)路。

      (一)生成式AI 算法訓(xùn)練合規(guī)管理的企業(yè)實(shí)施

      1. 生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的實(shí)施原則

      企業(yè)合規(guī)管理,既要合行業(yè)之規(guī)、企業(yè)之規(guī),又要合法律之規(guī)以及道德之規(guī)。生成式AI企業(yè)如何準(zhǔn)確、有效實(shí)施算法訓(xùn)練合規(guī)管理呢?即生成式AI企業(yè)在被施加算法訓(xùn)練合規(guī)管理的法定義務(wù)后,必須依法建設(shè)算法訓(xùn)練風(fēng)險(xiǎn)的合規(guī)管理實(shí)施體系與機(jī)制。生成式AI企業(yè)在具體實(shí)施算法訓(xùn)練合規(guī)管理方案前,應(yīng)確定合規(guī)管理的實(shí)施原則。這套實(shí)施原則來源于前述法律對(duì)于算法訓(xùn)練合規(guī)管理的監(jiān)管要求以及生成式AI企業(yè)自身在算法訓(xùn)練合規(guī)管理中的實(shí)際需求。

      生成式AI算法訓(xùn)練合規(guī)管理的實(shí)施原則主要包括三個(gè)方面。一是生成式AI算法訓(xùn)練計(jì)劃合規(guī)管理,要求生成式AI算法訓(xùn)練主體在訓(xùn)練模型設(shè)計(jì)與計(jì)劃之初就應(yīng)合理地預(yù)測(cè)和預(yù)防風(fēng)險(xiǎn)。具體包括:生成式AI企業(yè)算法訓(xùn)練計(jì)劃的事前審查與批準(zhǔn);向公眾提供服務(wù)前應(yīng)做好事前審批合規(guī)建設(shè)以及應(yīng)提供可以影響用戶信任、選擇的必要信息。二是生成式AI算法訓(xùn)練過程合規(guī)管理,要求生成式AI算法訓(xùn)練主體在算法訓(xùn)練過程中對(duì)風(fēng)險(xiǎn)進(jìn)行把控與控制。生成式AI企業(yè)應(yīng)確定好在算法訓(xùn)練過程中本企業(yè)以及具體崗位的合規(guī)義務(wù)及履行標(biāo)準(zhǔn),如對(duì)算法訓(xùn)練的重點(diǎn)環(huán)節(jié)進(jìn)行分類,然后對(duì)每個(gè)階段的崗位合規(guī)義務(wù)、合規(guī)義務(wù)來源、合規(guī)風(fēng)險(xiǎn)描述以及風(fēng)險(xiǎn)后果和應(yīng)對(duì)措施進(jìn)行安排,并按部就班根據(jù)標(biāo)準(zhǔn)完成。三是生成式AI算法訓(xùn)練結(jié)果合規(guī)管理,要求生成式AI算法訓(xùn)練主體對(duì)算法訓(xùn)練結(jié)果的風(fēng)險(xiǎn)承擔(dān)責(zé)任,采取合規(guī)措施盡量減小損害與算法訓(xùn)練的負(fù)外部性。生成式AI企業(yè)應(yīng)對(duì)算法訓(xùn)練結(jié)果負(fù)責(zé),對(duì)其進(jìn)行合規(guī)化評(píng)價(jià)和處置。具體包括:實(shí)名認(rèn)證與算法防沉迷合規(guī);后端處理合規(guī);通過模型算法優(yōu)化訓(xùn)練等方式防止再次生成以及暫停或者終止服務(wù),等等。

      2. 生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的實(shí)施方案

      其一,構(gòu)建算法訓(xùn)練合規(guī)管理基礎(chǔ)性平臺(tái)?;A(chǔ)性合規(guī)平臺(tái)的構(gòu)建是生成式AI企業(yè)實(shí)施算法訓(xùn)練合規(guī)管理的基礎(chǔ),其主要包括算法訓(xùn)練基礎(chǔ)性合規(guī)要素和專門性合規(guī)要素兩個(gè)方面內(nèi)容的確立。首先是算法訓(xùn)練基礎(chǔ)性合規(guī)要素的構(gòu)建。一個(gè)企業(yè)構(gòu)建任何一項(xiàng)合規(guī)計(jì)劃,都應(yīng)引入必要的基礎(chǔ)性合規(guī)要素[28]。生成式AI企業(yè)的算法訓(xùn)練合規(guī)管理計(jì)劃也應(yīng)當(dāng)在建立起合規(guī)管理基礎(chǔ)性平臺(tái)的前提下,展開專項(xiàng)合規(guī)管理和內(nèi)部監(jiān)督。而這里所述的基礎(chǔ)性平臺(tái),應(yīng)當(dāng)將與生成式AI算法訓(xùn)練合規(guī)管理相關(guān)的制度型要素建立起來,并使之在合規(guī)管理中得到實(shí)際的運(yùn)作和生效,有力防范違法違規(guī)的算法訓(xùn)練行為[29]。基礎(chǔ)性合規(guī)要素在生成式AI算法訓(xùn)練合規(guī)管理體系中可以發(fā)揮合規(guī)管理制度平臺(tái)的作用,幫助生成式AI企業(yè)確立算法訓(xùn)練合規(guī)管理理念和基本準(zhǔn)則,并配置預(yù)防算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)、監(jiān)控算法訓(xùn)練合規(guī)管理和應(yīng)對(duì)算法訓(xùn)練違規(guī)行為的相應(yīng)管理程序。然后是算法訓(xùn)練專門性合規(guī)要素的確定。當(dāng)生成式AI企業(yè)確定了基礎(chǔ)性合規(guī)要素之后,還需要確定算法訓(xùn)練專門性合規(guī)要素。即生成式AI企業(yè)針對(duì)特殊的算法訓(xùn)練合規(guī)風(fēng)險(xiǎn),為防止發(fā)生特定的違法違規(guī)事件而建立的專門性合規(guī)管理制度,其處于核心性和保障性地位,包括算法訓(xùn)練合規(guī)政策、算法訓(xùn)練培訓(xùn)內(nèi)容、算法訓(xùn)練崗位合規(guī)手冊(cè)和職責(zé)安排以及算法訓(xùn)練合規(guī)持續(xù)改進(jìn)機(jī)制等在內(nèi)的各項(xiàng)要素。在算法訓(xùn)練合規(guī)管理體系中引入專門性算法訓(xùn)練合規(guī)要素,可促使生成式AI企業(yè)在因算法訓(xùn)練不合規(guī)而受到相應(yīng)約束或者制裁后,進(jìn)一步完善算法訓(xùn)練合規(guī)管理,預(yù)防相應(yīng)特定約束或者制裁的再次發(fā)生。

      其二,對(duì)算法訓(xùn)練全流程合規(guī)風(fēng)險(xiǎn)的處理。生成式AI企業(yè)在進(jìn)行算法訓(xùn)練的過程中,應(yīng)及時(shí)、全面地識(shí)別可能出現(xiàn)的各項(xiàng)合規(guī)風(fēng)險(xiǎn)并盡可能作出合規(guī)預(yù)防與處置。最保險(xiǎn)和全面的措施,即在生成式AI企業(yè)內(nèi)部構(gòu)建算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)處理機(jī)制。首先是算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)識(shí)別環(huán)節(jié)。合規(guī)風(fēng)險(xiǎn)識(shí)別是生成式AI企業(yè)算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)預(yù)防與治理的邏輯起點(diǎn)。這一環(huán)節(jié)主要是查找與識(shí)別在算法訓(xùn)練鏈條中可能出現(xiàn)的合規(guī)風(fēng)險(xiǎn),經(jīng)由事前調(diào)查只做出客觀的判斷,履行提示注意義務(wù),而不作進(jìn)一步的價(jià)值評(píng)價(jià)。需要特別注意的是,該環(huán)節(jié)識(shí)別的應(yīng)為具體、客觀存在且具備重要性的算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)。其次是算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)評(píng)估環(huán)節(jié)。風(fēng)險(xiǎn)評(píng)估是生成式AI企業(yè)算法訓(xùn)練合規(guī)體系功能得以實(shí)現(xiàn)的核心部分。如果說生成式AI企業(yè)內(nèi)部算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)的識(shí)別環(huán)節(jié)是“一兜子”操作,那么評(píng)估環(huán)節(jié)就是將“一兜子”里的風(fēng)險(xiǎn)進(jìn)行“篩選”,將對(duì)企業(yè)內(nèi)部有重大影響和對(duì)外部具有顯著負(fù)外部性的算法訓(xùn)練風(fēng)險(xiǎn)挑選出來,以進(jìn)行下一環(huán)節(jié)的風(fēng)險(xiǎn)處置。最后是算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)應(yīng)對(duì)環(huán)節(jié)。風(fēng)險(xiǎn)應(yīng)對(duì)環(huán)節(jié)是生成式AI企業(yè)算法訓(xùn)練內(nèi)部合規(guī)治理機(jī)制運(yùn)行的后置保障。這一環(huán)節(jié)是生成式AI企業(yè)把握前述被識(shí)別與評(píng)價(jià)的重要風(fēng)險(xiǎn),采取可行度高的調(diào)節(jié)舉措,建立生成式AI算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)處置機(jī)制。

      (二)生成式AI 算法訓(xùn)練合規(guī)管理的行政監(jiān)管

      相較于對(duì)內(nèi)面向的生成式AI企業(yè)自主履行算法訓(xùn)練合規(guī)義務(wù),對(duì)外面向的行政機(jī)制可以充分發(fā)揮其監(jiān)管(約束)與激勵(lì)功能,一方面以提高成本或增加責(zé)任的方式促使企業(yè)實(shí)施算法訓(xùn)練合規(guī)管理,另一方面以增大效益或減輕責(zé)任的方式激勵(lì)企業(yè)建設(shè)算法訓(xùn)練合規(guī)管理。行政監(jiān)管具體包括以下措施:

      1. 生成式AI企業(yè)算法訓(xùn)練的專門備案

      算法備案制度是“有效市場(chǎng)與有為政府相結(jié)合”的治理原則在互聯(lián)網(wǎng)和算法領(lǐng)域的拓展和創(chuàng)新,是在數(shù)字法治的實(shí)踐背景下推進(jìn)算法治理的一項(xiàng)重要舉措[30]。算法訓(xùn)練專項(xiàng)備案環(huán)節(jié)系針對(duì)算法訓(xùn)練計(jì)劃和實(shí)施過程而言:生成式AI企業(yè)在算法訓(xùn)練合規(guī)管理的計(jì)劃和過程中,需要對(duì)外配合行政監(jiān)管程序、進(jìn)行算法訓(xùn)練計(jì)劃與過程中相關(guān)信息的報(bào)備與披露。

      其一,首次備案。當(dāng)生成式AI企業(yè)設(shè)計(jì)完成算法訓(xùn)練計(jì)劃時(shí),即應(yīng)進(jìn)入備案程序,此為首次備案。首次備案主要應(yīng)考慮其范圍和內(nèi)容。范圍方面,要考慮的因素包括是否具有備案的必要性、是否具有備案的可操作性以及一般追責(zé)方式是否能夠滿足相關(guān)的維權(quán)需求。內(nèi)容方面,本文認(rèn)為除已有的算法主體信息、算法信息、產(chǎn)品及功能信息等三項(xiàng)算法備案通用信息以外,還應(yīng)包括一些算法訓(xùn)練特定內(nèi)容,如算法訓(xùn)練合規(guī)管理計(jì)劃的整體方案、方案實(shí)施步驟以及方案安全評(píng)估情況信息,生成式AI企業(yè)內(nèi)部算法訓(xùn)練合規(guī)實(shí)施的關(guān)鍵環(huán)節(jié)等。

      其二,變更備案。生成式AI企業(yè)在算法訓(xùn)練過程中,若算法訓(xùn)練實(shí)施與計(jì)劃方案有重大變化時(shí),應(yīng)將變化后的方案以及與原方案出入較大的對(duì)比信息提交備案。而這種“重大變化”應(yīng)在首次備案時(shí),就已經(jīng)一同上傳備案系統(tǒng)并通過備案主管部門的審核。若備案主管部門認(rèn)為生成式AI企業(yè)實(shí)施算法訓(xùn)練過程中實(shí)際系“重大變化”但未記載于首次備案記錄中的,可自行決定是否要求生成式AI企業(yè)進(jìn)行變更備案。

      2. 生成式AI企業(yè)算法訓(xùn)練的專項(xiàng)審計(jì)

      存在重大風(fēng)險(xiǎn)甚至可能影響國(guó)家安全的項(xiàng)目,都可以納入審計(jì)范疇,域外有此先例,如英國(guó)、荷蘭最高審計(jì)機(jī)關(guān)均對(duì)政府部門的模型算法進(jìn)行審計(jì)[31]。我國(guó)已開始有這方面的行動(dòng),2023年8月3日,國(guó)家互聯(lián)網(wǎng)信息辦公室就《個(gè)人信息保護(hù)合規(guī)審計(jì)管理辦法(征求意見稿)》公開征求意見,首次正式提出“個(gè)人信息保護(hù)合規(guī)審計(jì)”,也為我國(guó)算法訓(xùn)練合規(guī)審計(jì)的設(shè)立提供思路與參考。有鑒于此,需要從以下兩個(gè)方面展開對(duì)其算法訓(xùn)練合規(guī)專項(xiàng)審計(jì)項(xiàng)目的設(shè)立。

      其一,內(nèi)部審計(jì)。這是針對(duì)企業(yè)內(nèi)部而言,即生成式AI企業(yè)自行開展算法訓(xùn)練合規(guī)審計(jì),根據(jù)實(shí)際情況,由其內(nèi)部機(jī)構(gòu)或委托專業(yè)機(jī)構(gòu)展開。其可以深入算法訓(xùn)練的整個(gè)運(yùn)行過程,訪問、審查算法訓(xùn)練的數(shù)據(jù),測(cè)試算法訓(xùn)練過程,審查算法訓(xùn)練的數(shù)據(jù)參與集、參數(shù)信息等重要信息以及整合外部審計(jì)無法得到的算法訓(xùn)練過程中的細(xì)節(jié),從而精確地對(duì)算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)進(jìn)行識(shí)別與把控。

      其二,外部審計(jì)。這是針對(duì)企業(yè)外部而言,包括國(guó)家審計(jì)和社會(huì)審計(jì)。國(guó)家審計(jì),即履行生成式AI算法訓(xùn)練合規(guī)監(jiān)管職責(zé)的部門在履行職責(zé)過程中,發(fā)現(xiàn)生成式AI算法訓(xùn)練活動(dòng)存在較大風(fēng)險(xiǎn)或者發(fā)生安全事件的,可以要求生成式AI企業(yè)委任專業(yè)機(jī)構(gòu)對(duì)其算法訓(xùn)練活動(dòng)進(jìn)行合規(guī)審計(jì)。而社會(huì)審計(jì),是社會(huì)類審計(jì)機(jī)構(gòu)“參與式審計(jì)”生成式AI企業(yè)算法訓(xùn)練合規(guī)建設(shè)與管理情況[32]。相比內(nèi)部審計(jì)和國(guó)家審計(jì),其更具變通性,系前兩者的有益拓展與補(bǔ)償,能夠有效監(jiān)督生成式AI企業(yè)履行算法訓(xùn)練合規(guī)義務(wù),形成合規(guī)審計(jì)合力。

      (三)生成式AI 算法訓(xùn)練合規(guī)管理的行政激勵(lì)

      有學(xué)者認(rèn)為,企業(yè)如果能夠建立優(yōu)良的合規(guī)管理機(jī)制,更加可能與行政機(jī)關(guān)達(dá)成行政和解協(xié)議[33]。因?yàn)榧ぐl(fā)企業(yè)內(nèi)部驅(qū)動(dòng)力是促使算法訓(xùn)練合規(guī)管理依法建設(shè)和落實(shí)的關(guān)鍵。故而目前針對(duì)生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的行政執(zhí)法需要由主動(dòng)執(zhí)法向被動(dòng)執(zhí)法轉(zhuǎn)變,這就需要在行政執(zhí)法環(huán)節(jié),通過與生成式AI企業(yè)達(dá)成行政和解協(xié)議或者給予其行政處罰減免等方式來推動(dòng)其實(shí)施算法訓(xùn)練合規(guī)管理[34]。

      其一,與生成式AI企業(yè)達(dá)成行政和解協(xié)議來促使其履行算法訓(xùn)練合規(guī)管理義務(wù)。在美國(guó),行政和解協(xié)議的使用更加常見,例如美國(guó)證券交易委員會(huì)(SEC)對(duì)企業(yè)涉嫌違法違規(guī)的案件,95%都是以行政和解的方式處理的[35]。具體到算法訓(xùn)練合規(guī)管理的行政領(lǐng)域而言,國(guó)家行政監(jiān)管部門起草生成式AI算法訓(xùn)練行政合規(guī)指南,在允許監(jiān)管部門與生成式AI企業(yè)達(dá)成行政和解協(xié)議的前提下,企業(yè)按照和解協(xié)議內(nèi)容自行完成算法訓(xùn)練合規(guī)管理義務(wù)的積極履行或者對(duì)違規(guī)行為進(jìn)行整改,然后就可以根據(jù)和解協(xié)議不再對(duì)其行政處置。

      其二,給予生成式AI企業(yè)行政處罰減免以激勵(lì)其實(shí)施算法訓(xùn)練合規(guī)管理?,F(xiàn)行法律應(yīng)當(dāng)在已有的行政和解基礎(chǔ)上,進(jìn)一步增設(shè)算法訓(xùn)練合規(guī)激勵(lì)的“軟法”條款,明確將生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的實(shí)施作為行政免予處罰的依據(jù),建立相應(yīng)的附條件免予處罰制度[36]。

      五、結(jié)論與啟示

      隨著生成式AI的迅猛發(fā)展,其未來應(yīng)用場(chǎng)景充滿無限的可能,不僅改變?nèi)藗兊纳罘绞胶退季S模式,而且將對(duì)技術(shù)躍遷和人類社會(huì)產(chǎn)生巨大影響。目前已有部分行業(yè)著手進(jìn)行生成式AI在各個(gè)場(chǎng)景的研發(fā)與應(yīng)用,如生成式AI金融服務(wù)、生成式AI醫(yī)療客服和生成式AI監(jiān)管科技等。但是技術(shù)的的開發(fā)與使用始終伴有風(fēng)險(xiǎn),需要對(duì)其進(jìn)行善治。我國(guó)雖然針對(duì)生成式AI技術(shù)的應(yīng)用專門出臺(tái)了《服務(wù)辦法》,但是總體持包容性法律治理的態(tài)度,支持治理主體、治理方式和治理結(jié)果的包容性和多元化。本文立足生成式AI算法訓(xùn)練的內(nèi)發(fā)性與自主性,并結(jié)合合規(guī)依法建設(shè)的經(jīng)驗(yàn),從現(xiàn)實(shí)需求與理論層面證成了生成式AI算法訓(xùn)練風(fēng)險(xiǎn)引入合規(guī)管理的必要性、合理性與可行性。但當(dāng)前我國(guó)存在對(duì)其制度供給不足的困境,故需要結(jié)合法律解釋的功能,將生成式AI算法訓(xùn)練合規(guī)管理的法律依據(jù)進(jìn)行梳理:不僅將生成式AI算法訓(xùn)練合規(guī)作為一種法定義務(wù)進(jìn)行考察,并且將目前生成式AI算法訓(xùn)練合規(guī)管理相關(guān)法律體系以及全面監(jiān)管要求進(jìn)行特別地整理與說明。據(jù)此構(gòu)建生成式AI企業(yè)內(nèi)外雙重面向的算法訓(xùn)練合規(guī)管理的依法建設(shè)機(jī)制,即包括生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的實(shí)施方案以及其外部合規(guī)監(jiān)管與激勵(lì)。誠(chéng)然,現(xiàn)階段我們正在逐漸走向強(qiáng)人工智能時(shí)代,且技術(shù)將持續(xù)不斷地發(fā)展。不論是“人工智能法”的出臺(tái),還是本文所述算法訓(xùn)練合規(guī)管理的依法建設(shè),都不會(huì)是生成式AI算法訓(xùn)練風(fēng)險(xiǎn)治理的終點(diǎn),而只是該征程的階段性成果,亟需更多法律化手段的出現(xiàn),以實(shí)現(xiàn)對(duì)人工智能風(fēng)險(xiǎn)的防范與治理。

      猜你喜歡
      風(fēng)險(xiǎn)治理合規(guī)管理
      江蘇省中小企業(yè)技術(shù)創(chuàng)新風(fēng)險(xiǎn)社會(huì)分?jǐn)傊贫葘?shí)踐研究
      山西文化旅游產(chǎn)業(yè)集群風(fēng)險(xiǎn)治理研究
      關(guān)于對(duì)大連地區(qū)保險(xiǎn)公司合規(guī)經(jīng)營(yíng)的幾點(diǎn)思考
      互聯(lián)網(wǎng)金融分析
      試論縣級(jí)農(nóng)村信用合作聯(lián)社合規(guī)風(fēng)險(xiǎn)管理的難點(diǎn)及對(duì)策
      我國(guó)城市商業(yè)銀行合規(guī)管理中存在的主要問題
      金融服務(wù)外包風(fēng)險(xiǎn)治理機(jī)制及管理框架構(gòu)建
      五河县| 鄂托克前旗| 佛山市| 贵定县| 靖江市| 祁东县| 凤山市| 钟山县| 保靖县| 镇宁| 岚皋县| 霍城县| 子洲县| 玛沁县| 渭源县| 乐至县| 通山县| 东莞市| 蒙自县| 阳新县| 鸡东县| 吉木乃县| 始兴县| 噶尔县| 惠来县| 钦州市| 余庆县| 兰考县| 临沭县| 定远县| 景宁| 兴安县| 福州市| 彰化县| 合肥市| 黎平县| 鄂尔多斯市| 周口市| 鄂托克前旗| 海伦市| 韶关市|