誰來制定元宇宙?zhèn)惱?/h1>
2022-10-09 16:34:22約什·恩茨明格馬克·埃斯波西托謝慈銘
南風(fēng)窗 2022年20期
約什·恩茨明格 馬克·埃斯波西托 謝慈銘
“元宇宙”還沒有到來，當(dāng)它到來時(shí)，它不會(huì)是任何一家公司控制的單一域。臉書想在更名為Meta時(shí)創(chuàng)造這樣的印象，但它的品牌重塑，遇到了微軟和Roblox的重大投資。所有人都在設(shè)法決定，如何用虛擬現(xiàn)實(shí)和數(shù)字身份組織更多的日常生活—從工作和醫(yī)療保健到購物、游戲和其他娛樂形式。
元宇宙并不是一個(gè)新概念。這個(gè)詞是由科幻小說家尼爾·斯蒂芬森在他1992年的著作《雪崩》中創(chuàng)造的。該書描繪了一個(gè)超資本主義反烏托邦，人類集體選擇在虛擬環(huán)境中生活。到目前為止，在現(xiàn)實(shí)世界中，這種體驗(yàn)同樣是反烏托邦的。大多數(shù)沉浸式數(shù)字環(huán)境的實(shí)驗(yàn)，都立即被欺凌、騷擾、數(shù)字性侵犯以及與平臺(tái)“快速行動(dòng)，打破常規(guī)”有關(guān)的其他濫用行為破壞。
這一切都不足為奇。新技術(shù)的倫理總是落后于創(chuàng)新本身。這就是為什么獨(dú)立各方應(yīng)該盡早提供治理模型—在自利的公司為了自己的利潤(rùn)率而這么做之前。
人工智能倫理學(xué)的演變?cè)谶@里具有指導(dǎo)意義。2012年AI圖像識(shí)別取得重大突破后，倫理學(xué)家和活動(dòng)家發(fā)表（并重新發(fā)表）關(guān)于在有偏見的數(shù)據(jù)集上訓(xùn)練AI的危險(xiǎn)性的研究。人們開發(fā)了一種新語言，將我們想要維護(hù)的價(jià)值觀，融入新AI應(yīng)用程序的設(shè)計(jì)。
第一波回應(yīng)旨在讓公眾關(guān)注與AI相關(guān)的倫理問題。但很快它就因行業(yè)內(nèi)重新推動(dòng)自我監(jiān)管而黯然失色。AI開發(fā)人員引入了用于進(jìn)行內(nèi)部和第三方評(píng)估的技術(shù)工具包，希望以此減輕公眾的擔(dān)憂。并沒有，因?yàn)榇蠖鄶?shù)追求AI開發(fā)的公司的商業(yè)模式，與公眾希望其堅(jiān)持的道德標(biāo)準(zhǔn)存在公開沖突。舉個(gè)最常見的例子，推特和臉書不會(huì)有效部署AI來應(yīng)對(duì)平臺(tái)上的各種濫用行為，因?yàn)檫@樣做會(huì)破壞“參與度”，從而破壞利潤(rùn)。
最近，企業(yè)顧問和各種項(xiàng)目已經(jīng)將AI道德專業(yè)化。在科技巨頭從事AI工作的人，將被迫考慮一些問題，例如一項(xiàng)功能是否應(yīng)該默認(rèn)選擇加入或退出；將任務(wù)委托給AI是否合適；用于訓(xùn)練AI應(yīng)用程序的數(shù)據(jù)是否可信。為此，許多科技公司建立了所謂的獨(dú)立道德委員會(huì)。然而，在內(nèi)部研究人員因?yàn)閷?duì)某些AI模型的倫理和社會(huì)影響表示擔(dān)憂而引人注目地離職后，這種治理形式的可靠性受到了質(zhì)疑。
為元宇宙建立健全的道德基礎(chǔ)，要求我們?cè)谛袠I(yè)自律成為常態(tài)之前，更進(jìn)一步。我們還必須注意元宇宙已經(jīng)與AI不同了。AI基本上以企業(yè)內(nèi)部運(yùn)營(yíng)為中心，但元宇宙絕對(duì)是以消費(fèi)者為中心，這意味著它會(huì)帶來大多數(shù)人尚未考慮的各種行為風(fēng)險(xiǎn)。
正如電信監(jiān)管（特別是1996年美國(guó)《通信規(guī)范法案》第230條）為社交媒體提供治理模式一樣，社交媒體監(jiān)管將成為虛擬世界的默認(rèn)治理模式。這應(yīng)該讓我們所有人擔(dān)心。盡管我們可以很容易地預(yù)見到沉浸式數(shù)字環(huán)境中將會(huì)發(fā)生的許多濫用行為，但我們對(duì)社交媒體的經(jīng)驗(yàn)表明，我們可能會(huì)低估它們將達(dá)到的絕對(duì)規(guī)模以及它們將產(chǎn)生的連鎖反應(yīng)。
與其重蹈過去15年的覆轍，不如高估風(fēng)險(xiǎn)。完全數(shù)字化的環(huán)境，為更詳盡的數(shù)據(jù)收集創(chuàng)造了潛力，包括個(gè)人生物特征數(shù)據(jù)。由于沒有人真正確切地知道人們將如何應(yīng)對(duì)這些環(huán)境，因此，有強(qiáng)烈的理由在允許更廣泛部署之前使用監(jiān)管沙箱。
預(yù)測(cè)元宇宙的道德挑戰(zhàn)仍然是可能的，但時(shí)鐘在滴答作響。如果沒有有效的獨(dú)立監(jiān)督，這個(gè)新的數(shù)字領(lǐng)域幾乎肯定會(huì)流氓化，重現(xiàn)AI和社交媒體的所有濫用和不公正現(xiàn)象，以及其他我們尚未預(yù)見到的濫用和不公。元宇宙正義聯(lián)盟可能是我們最大的希望。
猜你喜歡
《心之死》的趣味與倫理焦慮英美文學(xué)研究論叢(2022年1期)2022-10-26 06:30:34 神奇的機(jī)器翻譯系統(tǒng)瘋狂英語·新悅讀(2021年2期)2021-03-02 07:03:44 宇宙第一群百家講壇(2020年4期)2020-08-03 02:01:25 護(hù)生眼中的倫理修養(yǎng)活力(2019年19期)2020-01-06 07:37:00 這宇宙課堂內(nèi)外(高中版)(2017年1期)2017-03-22 08:45:17 醫(yī)改莫忘構(gòu)建倫理新機(jī)制中國(guó)衛(wèi)生(2014年6期)2014-11-10 02:30:52 宇宙最初的大爆炸科普童話·百科探秘(2014年1期)2014-01-13 09:13:11 婚姻家庭法的倫理性及其立法延展中國(guó)現(xiàn)當(dāng)代社會(huì)文化學(xué)術(shù)沙龍輯錄(2013年0期)2013-10-24 02:55:20
約什·恩茨明格 馬克·埃斯波西托 謝慈銘
“元宇宙”還沒有到來，當(dāng)它到來時(shí)，它不會(huì)是任何一家公司控制的單一域。臉書想在更名為Meta時(shí)創(chuàng)造這樣的印象，但它的品牌重塑，遇到了微軟和Roblox的重大投資。所有人都在設(shè)法決定，如何用虛擬現(xiàn)實(shí)和數(shù)字身份組織更多的日常生活—從工作和醫(yī)療保健到購物、游戲和其他娛樂形式。
元宇宙并不是一個(gè)新概念。這個(gè)詞是由科幻小說家尼爾·斯蒂芬森在他1992年的著作《雪崩》中創(chuàng)造的。該書描繪了一個(gè)超資本主義反烏托邦，人類集體選擇在虛擬環(huán)境中生活。到目前為止，在現(xiàn)實(shí)世界中，這種體驗(yàn)同樣是反烏托邦的。大多數(shù)沉浸式數(shù)字環(huán)境的實(shí)驗(yàn)，都立即被欺凌、騷擾、數(shù)字性侵犯以及與平臺(tái)“快速行動(dòng)，打破常規(guī)”有關(guān)的其他濫用行為破壞。
這一切都不足為奇。新技術(shù)的倫理總是落后于創(chuàng)新本身。這就是為什么獨(dú)立各方應(yīng)該盡早提供治理模型—在自利的公司為了自己的利潤(rùn)率而這么做之前。
人工智能倫理學(xué)的演變?cè)谶@里具有指導(dǎo)意義。2012年AI圖像識(shí)別取得重大突破后，倫理學(xué)家和活動(dòng)家發(fā)表（并重新發(fā)表）關(guān)于在有偏見的數(shù)據(jù)集上訓(xùn)練AI的危險(xiǎn)性的研究。人們開發(fā)了一種新語言，將我們想要維護(hù)的價(jià)值觀，融入新AI應(yīng)用程序的設(shè)計(jì)。
第一波回應(yīng)旨在讓公眾關(guān)注與AI相關(guān)的倫理問題。但很快它就因行業(yè)內(nèi)重新推動(dòng)自我監(jiān)管而黯然失色。AI開發(fā)人員引入了用于進(jìn)行內(nèi)部和第三方評(píng)估的技術(shù)工具包，希望以此減輕公眾的擔(dān)憂。并沒有，因?yàn)榇蠖鄶?shù)追求AI開發(fā)的公司的商業(yè)模式，與公眾希望其堅(jiān)持的道德標(biāo)準(zhǔn)存在公開沖突。舉個(gè)最常見的例子，推特和臉書不會(huì)有效部署AI來應(yīng)對(duì)平臺(tái)上的各種濫用行為，因?yàn)檫@樣做會(huì)破壞“參與度”，從而破壞利潤(rùn)。
最近，企業(yè)顧問和各種項(xiàng)目已經(jīng)將AI道德專業(yè)化。在科技巨頭從事AI工作的人，將被迫考慮一些問題，例如一項(xiàng)功能是否應(yīng)該默認(rèn)選擇加入或退出；將任務(wù)委托給AI是否合適；用于訓(xùn)練AI應(yīng)用程序的數(shù)據(jù)是否可信。為此，許多科技公司建立了所謂的獨(dú)立道德委員會(huì)。然而，在內(nèi)部研究人員因?yàn)閷?duì)某些AI模型的倫理和社會(huì)影響表示擔(dān)憂而引人注目地離職后，這種治理形式的可靠性受到了質(zhì)疑。
為元宇宙建立健全的道德基礎(chǔ)，要求我們?cè)谛袠I(yè)自律成為常態(tài)之前，更進(jìn)一步。我們還必須注意元宇宙已經(jīng)與AI不同了。AI基本上以企業(yè)內(nèi)部運(yùn)營(yíng)為中心，但元宇宙絕對(duì)是以消費(fèi)者為中心，這意味著它會(huì)帶來大多數(shù)人尚未考慮的各種行為風(fēng)險(xiǎn)。
正如電信監(jiān)管（特別是1996年美國(guó)《通信規(guī)范法案》第230條）為社交媒體提供治理模式一樣，社交媒體監(jiān)管將成為虛擬世界的默認(rèn)治理模式。這應(yīng)該讓我們所有人擔(dān)心。盡管我們可以很容易地預(yù)見到沉浸式數(shù)字環(huán)境中將會(huì)發(fā)生的許多濫用行為，但我們對(duì)社交媒體的經(jīng)驗(yàn)表明，我們可能會(huì)低估它們將達(dá)到的絕對(duì)規(guī)模以及它們將產(chǎn)生的連鎖反應(yīng)。
與其重蹈過去15年的覆轍，不如高估風(fēng)險(xiǎn)。完全數(shù)字化的環(huán)境，為更詳盡的數(shù)據(jù)收集創(chuàng)造了潛力，包括個(gè)人生物特征數(shù)據(jù)。由于沒有人真正確切地知道人們將如何應(yīng)對(duì)這些環(huán)境，因此，有強(qiáng)烈的理由在允許更廣泛部署之前使用監(jiān)管沙箱。
預(yù)測(cè)元宇宙的道德挑戰(zhàn)仍然是可能的，但時(shí)鐘在滴答作響。如果沒有有效的獨(dú)立監(jiān)督，這個(gè)新的數(shù)字領(lǐng)域幾乎肯定會(huì)流氓化，重現(xiàn)AI和社交媒體的所有濫用和不公正現(xiàn)象，以及其他我們尚未預(yù)見到的濫用和不公。元宇宙正義聯(lián)盟可能是我們最大的希望。
猜你喜歡
英美文學(xué)研究論叢(2022年1期)2022-10-26 06:30:34
瘋狂英語·新悅讀(2021年2期)2021-03-02 07:03:44
百家講壇(2020年4期)2020-08-03 02:01:25
活力(2019年19期)2020-01-06 07:37:00
課堂內(nèi)外(高中版)(2017年1期)2017-03-22 08:45:17
中國(guó)衛(wèi)生(2014年6期)2014-11-10 02:30:52
科普童話·百科探秘(2014年1期)2014-01-13 09:13:11
中國(guó)現(xiàn)當(dāng)代社會(huì)文化學(xué)術(shù)沙龍輯錄(2013年0期)2013-10-24 02:55:20
