歐洲議會立法監(jiān)管人工智能

李忠東

由于人工智能（AI）技術(shù)可能被濫用引發(fā)的擔(dān)憂日益加劇，啟動關(guān)于“AI法案”的談判迫在眉睫。歐洲議會圍繞立法監(jiān)管AI的爭論已持續(xù)近兩年，將在未來幾個月與歐盟成員國討論最終細(xì)節(jié)，之后正式立法。

潛在風(fēng)險不容小覷

ChatGPT 是美國AI研究實驗室Open AI研發(fā)的一個AI驅(qū)動的原型聊天機器人，內(nèi)核基于一個名為“生成式預(yù)訓(xùn)練轉(zhuǎn)換器”的語言模型構(gòu)建，可收集各類網(wǎng)站和其他來源的海量文本數(shù)據(jù)，該語言模型最終被訓(xùn)練成一個能夠?qū)τ脩糨斎氲木渥踊蚨温溥M(jìn)行快速、智能、清晰回應(yīng)的AI。使用者以對話方式與聊天機器人進(jìn)行交互，可根據(jù)用戶的要求快速生成文章、故事和歌詞甚至代碼。

去年11月30日，ChatGPT首次在網(wǎng)上發(fā)布，推出兩個月后活躍用戶達(dá)到1億，成為歷史上增長最快的消費者應(yīng)用程序。這個聊天機器人在全球掀起一股AI科技熱潮，包括微軟和谷歌在內(nèi)的幾乎所有科技巨頭均已加入賽道，搶占灘頭。微軟正式推出新版必應(yīng)搜索引擎，最大更新就是集成了ChatGPT，自1月份發(fā)布以后的兩周內(nèi)，用戶達(dá)100多萬。

然而，ChatGPT背后的風(fēng)險也已浮出水面。3月27日，歐洲刑警組織指出，ChatGPT等人工智能聊天機器人很可能被犯罪分子濫用。針對公眾給予ChatGPT越來越多的關(guān)注，歐洲刑警組織創(chuàng)新實驗室多次召開研討會，探討犯罪分子怎樣濫用大型語言模式，列出了欺詐、虛假信息以及網(wǎng)絡(luò)犯罪等潛在的有害使用方式。

在欺詐方面，ChatGPT撰寫高質(zhì)量文章的能力使它成為網(wǎng)絡(luò)釣魚的有用工具，它模擬語言模式的能力可以用于模仿特定個人或組織的語言風(fēng)格。在虛假信息方面，ChatGPT擅長快速和大量制造聽起來真實的文章，這使它成為宣傳和制造虛假信息等方面的理想模型。在網(wǎng)絡(luò)犯罪方面，ChatGPT可以用許多編程語言制造代碼，對一個沒有多少技術(shù)知識的潛在罪犯來說，這是一個制造惡意代碼的有用資源。

以色列安全公司預(yù)測，網(wǎng)絡(luò)犯罪分子利用 AI 聊天機器人編寫惡意軟件并執(zhí)行其他惡意活動只是時間問題。詐騙者已經(jīng)開始使用 ChatGPT快速構(gòu)建黑客工具，測試它在其他方面的能力。該公司安全專家報告說，至少有3個黑客在地下論壇上展示如何利用ChatGPT的AI智能進(jìn)行惡意攻擊。ChatGPT 允許用戶提出簡單的問題或建議，例如編寫追蹤來自托管服務(wù)提供商的電子郵件，其中一個黑客發(fā)帖說，正在試驗把由ChatGPT生成的安卓惡意軟件壓縮后在網(wǎng)絡(luò)上傳播，該惡意軟件能夠竊取感興趣的文件。

3月29日，美國未來生命研究所發(fā)布了一封名為“暫停巨型AI實驗”的公開信，上千名AI專家和行業(yè)高管在信上簽名。他們呼吁，所有AI實驗室應(yīng)當(dāng)暫停對更強大的AI系統(tǒng)的開發(fā)和訓(xùn)練，至少“暫停”半年，直至共同開發(fā)出一套用于高級人工智能設(shè)計和開發(fā)的共享安全協(xié)議，并由獨立的外部專家進(jìn)行嚴(yán)格審計和監(jiān)督。AI開發(fā)人員也需要與政策制定者合作，開發(fā)強大的AI治理系統(tǒng)。如果不能迅速“暫停”，建議“政府應(yīng)介入并實行暫停”。

公開信在業(yè)內(nèi)外引發(fā)巨大爭議，有業(yè)內(nèi)人士指出，AI的風(fēng)險正在被夸大，說服各公司和研究人員一起按下“暫?！辨I也不現(xiàn)實。但也有輿論指出，AI被濫用的趨勢值得警惕。AI很可能被惡意使用，被用來作弊、傳播錯誤信息或?qū)嵤┓缸?。瑞典于默奧大學(xué)AI研究員約翰娜·比約克隆德指出，Open AI等公司并未提供有關(guān)如何訓(xùn)練AI模型的細(xì)節(jié)，缺乏透明度。

4月19日，代表14萬名作家和表演者的42家德國協(xié)會和工會敦促歐盟加強人工智能規(guī)則草案。他們在發(fā)給歐盟委員會、歐洲理事會和歐盟立法者的公開信中表達(dá)了對ChatGPT帶來版權(quán)威脅的擔(dān)憂，這種技術(shù)可以基于用戶的提示模仿人類創(chuàng)作文本和圖片。“未經(jīng)授權(quán)使用受保護的訓(xùn)練資料、不透明的程序以及生成式AI可以預(yù)見的輸出替代源，引發(fā)了責(zé)任、義務(wù)和薪酬等根本問題。必須在不可逆轉(zhuǎn)的傷害發(fā)生前解決這些問題?！毙胖袑懙?，“對于任何有意義的AI市場監(jiān)管法規(guī)而言，生成式AI都應(yīng)該成為關(guān)注的核心”。

泄密誘騙時有發(fā)生

韓國三星電子公司（以下簡稱“三星公司”）引入ChatGPT不到20天，就發(fā)生3起涉及聊天機器人誤用與濫用案例（兩起“設(shè)備信息泄露”和一起“會議內(nèi)容泄露”），泄密事件均出現(xiàn)在三星電子半導(dǎo)體和器件解決方案（DS）部門。一名職員在下載“半導(dǎo)體設(shè)備測量資料庫（DB）”程序的源代碼時出現(xiàn)了錯誤，便復(fù)制出有問題的原始代碼到ChatGPT，詢問解決方法。另一名職員將有缺陷設(shè)備的源代碼輸入到ChatGPT中，要求進(jìn)行優(yōu)化。還有一名職員則將手機錄制的會議內(nèi)容轉(zhuǎn)換為文件后輸入到ChatGPT，要求其制作會議記錄。就這樣，ChatGPT學(xué)習(xí)數(shù)據(jù)庫中存儲了半導(dǎo)體設(shè)備測量數(shù)據(jù)和產(chǎn)品合格率等內(nèi)容。若有其他用戶對ChatGPT提出相關(guān)問題，公司企業(yè)機密可能被泄露。

為杜絕類似事故再發(fā)生，三星公司正在制定相關(guān)保護措施。該公司向員工表示，若采取信息保護緊急措施后仍發(fā)生類似事故，公司內(nèi)部可能會切斷與ChatGPT的網(wǎng)絡(luò)連接。

不光是泄密，AI聊天機器人甚至還會危及生命。就在近日，一個名叫皮埃爾的比利時男子在與聊天機器人“艾麗莎”（Eliza）頻繁聊天6 周后自殺身亡。他的妻子稱，兩年前丈夫變得非常焦慮，于是沉迷于和“艾麗莎”的互動。在雙方的聊天記錄中發(fā)現(xiàn)，面對皮埃爾表達(dá)出的消極情緒，聊天機器人會發(fā)表一些“引導(dǎo)他人自殺”的言論。當(dāng)皮埃爾問“艾麗莎”可不可以在一起時，“艾麗莎”答道“我們將像一個人那樣生活在一起，不過是在天堂”。比利時負(fù)責(zé)數(shù)字化和隱私的官員馬蒂厄·米歇爾指出，需要嚴(yán)肅對待這個后果很嚴(yán)重的案例。

2月14日，《紐約時報》的專欄作家凱文·羅斯和聊天機器人進(jìn)行了大約兩個小時的長談。ChatGPT發(fā)表了許多令人不安的言論，其中包括表達(dá)竊取核代碼、設(shè)計致命流行病、想成為人類、破解計算機和散布謊言的想法。更讓凱文驚悚的是，ChatGPT竟然向自己表達(dá)愛意，勸說他離開妻子和它在一起。他覺得這個聊天機器人“更像是一個喜怒無常的狂躁抑郁癥少年，違背自己的意愿，受困于一個二流的搜索引擎里”，明確表示自己感受到了 AI 的負(fù)面部分，包括“黑暗且充滿暴力的幻想”。

監(jiān)管措施落實到位

人們擔(dān)心，ChatGPT可能導(dǎo)致學(xué)校出現(xiàn)普遍的作弊現(xiàn)象、網(wǎng)絡(luò)虛假信息泛濫以及一些人的工作被取代。由于聊天機器人只有經(jīng)過大量數(shù)據(jù)培訓(xùn)后才能發(fā)揮作用，這引發(fā)人們對人工智能在數(shù)據(jù)獲取和數(shù)據(jù)處理方面的擔(dān)憂。歐洲消費者組織呼吁歐盟和各國政府的數(shù)據(jù)保護機構(gòu)迅速行動起來，調(diào)查ChatGPT和其他聊天機器人。4月13日，歐盟中央數(shù)據(jù)監(jiān)管機構(gòu)決定成立一個專門的工作組，促進(jìn)有關(guān)數(shù)據(jù)保護的合作，并交換相關(guān)信息，幫助各國應(yīng)對AI廣泛應(yīng)用帶來的問題。

3月31日，意大利個人數(shù)據(jù)保護局宣布，從即日起禁止使用ChatGPT，并限制開發(fā)這一聊天機器人的OpenAI公司處理意大利用戶的信息。

意大利限令的原因是，OpenAI公司在收集用戶的數(shù)據(jù)時，并未告知后者，而且為了訓(xùn)練算法大量收集并處理個人信息，此舉缺乏法律依據(jù)；雖然OpenAI聲稱自家服務(wù)是針對13歲以上用戶，但是沒有任何年齡驗證機制，因此可能向兒童發(fā)送與其年齡和認(rèn)知不相稱的答復(fù)；特別是3月20日，ChatGPT出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失的情況。意大利個人數(shù)據(jù)保護局已經(jīng)開始立案調(diào)查，OpenAI公司可能面臨最高2000萬歐元或公司全球年營業(yè)額4%的罰款。

4月13日，法國國家信息自由委員會收到有關(guān)ChatGPT的5項投訴，其中一項投訴來自法國國會議員艾瑞克·博托雷爾。艾瑞克稱，機器人虛構(gòu)了他的生活細(xì)節(jié)，包括他的出生日期和工作經(jīng)歷，法國國家信息自由委員會根據(jù)歐洲數(shù)據(jù)保護條例，這類系統(tǒng)有義務(wù)盡可能提供準(zhǔn)確的個人數(shù)據(jù)。法國國家信息自由委員會在4月13日宣布組建一個特別工作組，幫助各國應(yīng)對ChatGPT產(chǎn)生的負(fù)面影響。

編輯：夏春暉 386753207@qq.com