ChatGPT緣何突然被禁

朱之林

3月份，ChatGPT引發(fā)的浪潮沖擊世界，風(fēng)頭無(wú)兩，已經(jīng)不需贅言。

英偉達(dá)CEO黃仁勛贊嘆說(shuō)，ChatGPT的出現(xiàn)，是AI界的“iPhone時(shí)刻”，勢(shì)必改變我們的現(xiàn)實(shí)生活。這一次變革中，獲益最多的無(wú)疑是開(kāi)發(fā)公司OpenAI，以及聯(lián)手OpenAI的微軟。

3月24日，OpenAI CEO奧特曼還在“深情”發(fā)推，“祝GPT-4十天生日快樂(lè)！”像對(duì)自己的孩子似的，甚至等不到“滿月”慶祝。

但他當(dāng)時(shí)不會(huì)想到，在“這個(gè)孩子”出生當(dāng)月，就會(huì)遭遇禁令。

當(dāng)?shù)貢r(shí)間3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，將暫時(shí)封鎖意大利境內(nèi)訪問(wèn)ChatGPT的途徑，同時(shí)，審查OpenAI在最近一次網(wǎng)絡(luò)安全事件中收集的個(gè)人信息等問(wèn)題。

突如其來(lái)的監(jiān)管動(dòng)作，讓意大利成為全球第一個(gè)因隱私考慮，禁用ChatGPT的國(guó)家。

幾小時(shí)后，奧特曼委屈巴巴地回應(yīng)：“我們當(dāng)然遵從意大利政府，并已停止在意大利使用ChatGPT。盡管我們認(rèn)為遵守了所有的隱私法?！?/p>

人工智能與“人的智能”，終于狹路相逢了。

在這全球第一張對(duì)ChatGPT的禁令中，意大利個(gè)人數(shù)據(jù)保護(hù)局列出了3項(xiàng)指控。

一是3月20日ChatGPT平臺(tái)出現(xiàn)了用戶對(duì)話數(shù)據(jù)和付款服務(wù)支付信息丟失。

二是平臺(tái)沒(méi)有就收集處理用戶信息進(jìn)行告知。

三是由于無(wú)法驗(yàn)證用戶的年齡，ChatGPT“讓未成年人接觸到與發(fā)育程度和意識(shí)相比，絕對(duì)不合適的答案”。

北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院法學(xué)教授吳沈括告訴南風(fēng)窗，第一個(gè)情況，通俗來(lái)講便是發(fā)生了數(shù)據(jù)泄露。

“而數(shù)據(jù)泄露，是意大利個(gè)人信息保護(hù)法等法律法規(guī)中非常重要的非法場(chǎng)景?！奔词箍萍脊臼潞髮?duì)此解釋說(shuō)明，也不見(jiàn)得能產(chǎn)生抗辯效力。

“因?yàn)樗鼪](méi)有及時(shí)在數(shù)據(jù)泄露時(shí)對(duì)外通告?！眳巧蚶ㄕf(shuō)。

當(dāng)時(shí)，OpenAI的通告晚了5天。3月25日，該公司發(fā)布道歉聲明，稱3月20日ChatGPT出現(xiàn)漏洞，臨時(shí)下線。約有1.2%的ChatGPT Plus用戶數(shù)據(jù)被泄露。

“在ChatGPT下線前的幾個(gè)小時(shí)，一些用戶有可能看到另一在線用戶的姓名、郵箱地址、付款地址、信用卡號(hào)后4位等。完整的信用卡號(hào)碼在任何時(shí)候都沒(méi)暴露?！?OpenAI對(duì)外表示，公司隨后修復(fù)了這一漏洞。

僅僅以一次漏洞為契機(jī)，就禁用全球流行的AI工具，意大利是不是太過(guò)責(zé)難？

吳沈括介紹，發(fā)出禁令的意大利個(gè)人數(shù)據(jù)保護(hù)局，并不隸屬政府機(jī)關(guān)，“這是一個(gè)獨(dú)立的數(shù)據(jù)保護(hù)機(jī)關(guān)，由議會(huì)任命”。

而對(duì)于個(gè)人數(shù)據(jù)保護(hù)，意大利向來(lái)嚴(yán)格，“它有一個(gè)比較嚴(yán)格的傳統(tǒng)，而且敢于執(zhí)法?！北热?，只有在意大利，谷歌的高管受過(guò)刑事處罰，“在其他國(guó)家都沒(méi)有碰到過(guò)這一級(jí)別的處罰”。

不過(guò)，全球首張“禁令”并非沒(méi)有回旋余地。意大利個(gè)人數(shù)據(jù)保護(hù)局給了OpenAI 20天時(shí)間，要求說(shuō)明它將如何解決上述隱患。

否則，意大利將對(duì)OpenAI處以 2000 萬(wàn)歐元（2170 萬(wàn)美元）或高達(dá)年收入4% 的罰款。

吳沈括解釋?zhuān)@一處罰辦法依據(jù)歐洲議會(huì)2016年通過(guò)的《一般數(shù)據(jù)保護(hù)條例》的明文規(guī)定?！疤貏e是4%年?duì)I業(yè)額這一條處罰。邏輯就是公司沒(méi)有遵守、貫徹、實(shí)現(xiàn)監(jiān)管的要求?！?/p>

需要注意的是，意大利的這次出手，只是一個(gè)首發(fā)信號(hào)。

“意大利在歐洲的數(shù)據(jù)保護(hù)環(huán)境當(dāng)中，具有非常大的權(quán)重。無(wú)論是它的監(jiān)管機(jī)制、監(jiān)管政策，還是重要人物，意大利都（在歐洲）占據(jù)非常高的比重，包括在歐盟決策層，有非常多的意大利的權(quán)威人士和高層官員存在?！眳巧蚶ū硎?。

這意味著，對(duì)ChatGPT一類(lèi)工具的高密度、高強(qiáng)度監(jiān)管措施，可能正在路上。

近一周，已有多個(gè)第三方機(jī)構(gòu)在呼吁，禁用ChatGPT。歐洲消費(fèi)者權(quán)益聯(lián)盟（BEUC）呼吁，歐盟和其他政府機(jī)構(gòu)要徹查ChatGPT和類(lèi)似的聊天機(jī)器人。

從數(shù)據(jù)保護(hù)角度而言，ChatGPT的底層技術(shù)天然與其存在矛盾。

GPT背后是大語(yǔ)言模型。OpenAI 官方曾披露，GPT-3有1750億參數(shù)，該大模型使用的是互聯(lián)網(wǎng)的文本數(shù)據(jù)庫(kù)。

這其中，共計(jì)有高達(dá) 570GB 的數(shù)據(jù)，來(lái)源包括書(shū)籍、網(wǎng)絡(luò)文本、維基百科、個(gè)人問(wèn)答等。更精確地說(shuō)，系統(tǒng)輸入了 3000 億個(gè)單詞，訓(xùn)練這一人工智能模型。

放在強(qiáng)調(diào)個(gè)人數(shù)據(jù)保護(hù)和“被遺忘權(quán)”的歐洲，數(shù)據(jù)量驚人的GPT模型是一種天然僭越。

吳沈括分析：“GhatGPT的運(yùn)行邏輯，在本質(zhì)上跟《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，簡(jiǎn)稱GDPR）的以當(dāng)事人知情同意控制權(quán)為核心的數(shù)據(jù)保護(hù)思路，很不一樣?！?/p>

一個(gè)在社交媒體流行的觀點(diǎn)是，OpenAI根本沒(méi)想過(guò)為從互聯(lián)網(wǎng)上抓取的數(shù)據(jù)付費(fèi)。掌握數(shù)據(jù)的個(gè)人、網(wǎng)站所有者和公司沒(méi)有獲得收入，也不知道數(shù)據(jù)被采用了。但OpenAI利用這些數(shù)據(jù)，成長(zhǎng)為比2021年估值高一倍多的巨頭。

全球監(jiān)管層面臨的矛盾十分相似：ChatGPT橫空出世，帶動(dòng)AI大模型的發(fā)展，而人類(lèi)的各項(xiàng)政策法規(guī)都無(wú)法跟上。

即使走在數(shù)據(jù)保護(hù)全球最前沿的歐洲，歐盟也還在制定世界上第一部人工智能的法規(guī)，距離法案生效還需要數(shù)年。

一個(gè)在社交媒體流行的觀點(diǎn)是，OpenAI根本沒(méi)想過(guò)為從互聯(lián)網(wǎng)上抓取的數(shù)據(jù)付費(fèi)。掌握數(shù)據(jù)的個(gè)人、網(wǎng)站所有者和公司沒(méi)有獲得收入，也不知道數(shù)據(jù)被采用了。

技術(shù)發(fā)展與政府監(jiān)管之間，“相愛(ài)相殺”的關(guān)系并不奇怪。

對(duì)于ChatGPT的討論中，反常的一幕是，對(duì)ChatGPT前所未有的抵制竟同時(shí)出現(xiàn)在科技圈。

4月初，一封多位知名人物簽署的聯(lián)名信備受矚目。

在曝光但尚未證實(shí)的名單中，包括馬斯克、圖靈獎(jiǎng)得主Yoshua Bengio、Stability AI首席執(zhí)行官Emad Mostaque、紐約大學(xué)教授馬庫(kù)斯，以及《人類(lèi)簡(jiǎn)史》作者Yuval Noah Harari。

他們表示，目前具有和人類(lèi)競(jìng)爭(zhēng)智能的AI系統(tǒng)，可能對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。因此，“應(yīng)停用6個(gè)月，停止再發(fā)展出GPT-5的大模型”。

在他們看來(lái)，GPT-4展現(xiàn)出的能力表明，當(dāng)下的AI不再風(fēng)險(xiǎn)可控了。比起各大巨頭相繼押注大模型，科技公司現(xiàn)階段更該聯(lián)合政府，開(kāi)發(fā)強(qiáng)大的AI管理系統(tǒng)。

“系統(tǒng)至少應(yīng)該包括：專(zhuān)門(mén)負(fù)責(zé)監(jiān)管AI的機(jī)構(gòu)；出處和水印系統(tǒng)，從而幫助區(qū)分真實(shí)與生成的內(nèi)容，跟蹤數(shù)據(jù)泄露；強(qiáng)大的認(rèn)證系統(tǒng)；在AI造成傷害后，明確誰(shuí)該承擔(dān)責(zé)任……”

暫停開(kāi)發(fā)GPT-4之后的AI，這聽(tīng)上去是無(wú)稽之談，卻成為科技圈對(duì)AI爆炸性發(fā)展真切的焦慮。技術(shù)的潘多拉魔盒一旦掀開(kāi)，現(xiàn)在的人們開(kāi)始擔(dān)心再也無(wú)法合起來(lái)。

“我們必須捫心自問(wèn)，”聯(lián)名信上寫(xiě)道，“是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道？是否應(yīng)該讓所有工作都變得自動(dòng)化？是否應(yīng)該發(fā)展可能某一天會(huì)超越我們、淘汰我們、取代我們的人工智能？是否應(yīng)該冒險(xiǎn)失去對(duì)人類(lèi)文明的控制？”

回到意大利禁用ChatGPT的事件中，曾在意大利生活8年的吳沈括表示，根據(jù)他對(duì)當(dāng)?shù)厝诵拍畹牧私?，出現(xiàn)這張禁令毫不奇怪。

“意大利有一句很流行的話，是說(shuō)，以消滅人類(lèi)為目標(biāo)的人工智能，不應(yīng)該被研發(fā)出來(lái)?！眳巧蚶ǚ治稣f(shuō)，在意大利人的判斷當(dāng)中，這個(gè)問(wèn)題具有最高度的嚴(yán)重性，需要有強(qiáng)力的介入、強(qiáng)力的監(jiān)管態(tài)度。

因此，意大利監(jiān)管部門(mén)的做法，不能簡(jiǎn)單歸結(jié)為“因噎廢食”。

“當(dāng)一個(gè)高強(qiáng)度的監(jiān)管禁令提出之后，后續(xù)自然就伴隨著一個(gè)高密度的游說(shuō)過(guò)程。”吳沈括解釋說(shuō)，在這個(gè)游說(shuō)過(guò)程中，監(jiān)管意圖將得到更多的實(shí)現(xiàn)，它會(huì)形成一個(gè)博弈的過(guò)程。最終，建構(gòu)一個(gè)可持續(xù)的、各方受益的良性循環(huán)的生態(tài)。

◎ 來(lái)源|南風(fēng)窗