維克多·加拉茲

硅谷領(lǐng)導(dǎo)人告訴我們，第四次工業(yè)革命將帶來難以言狀的好處。他們說，這場革命已經(jīng)開始，并且在加速前進(jìn)，其動(dòng)力來自人工智能和其他技術(shù)。他們并且警告說，我們?nèi)绻s不上這趟潮流，我們只能望塵興嘆。

這場劇變—它也反映了機(jī)器人、生物和納米技術(shù)、5G和物聯(lián)網(wǎng)（IoT）的影響—是一場通用的革命。其領(lǐng)導(dǎo)人及他們的支持者承諾，它將幫助社會(huì)應(yīng)對(duì)氣候變化，解決貧困和不平等問題，以及阻止生物多樣性的急劇喪失。

革命可能會(huì)這樣展開，也可能不會(huì)。

我的工作越來越關(guān)注兩個(gè)世界的碰撞。技術(shù)圈（technosphere）包括人類創(chuàng)造的東西，估計(jì)相當(dāng)于30萬億噸，或地球表面每平方米50公斤。生物圈是覆蓋在地球表面的薄層，也是生命茁壯成長之處，人類在這里享受了1萬年的相對(duì)穩(wěn)定的氣候。

我第一次對(duì)這一關(guān)系感興趣，是在探索半自動(dòng)化全球疾病控制預(yù)警系統(tǒng)成長的時(shí)候。這讓我深刻體會(huì)到技術(shù)對(duì)人、組織和機(jī)器行為的影響。技術(shù)圈就在我們身邊。但是關(guān)于技術(shù)圈的設(shè)計(jì)和方向的決定，必須反映社會(huì)目標(biāo)和地球的狀態(tài)。因此，建設(shè)一個(gè)更可持續(xù)的未來需要我們重新思考一些關(guān)于技術(shù)，特別是人工智能作用的根深蒂固的假設(shè)。

最大的當(dāng)務(wù)之急，可能是擴(kuò)大主流“人工智能解決氣候變化”的敘事。該敘事關(guān)注使用人工智能來預(yù)測氣候，或使用人工智能優(yōu)化能源系統(tǒng)或交通流。但氣候系統(tǒng)與生物圈及海洋和農(nóng)業(yè)生態(tài)系統(tǒng)，有著根本性的聯(lián)系。要想負(fù)責(zé)任地開發(fā)和部署人工智能以應(yīng)對(duì)緊迫的可持續(xù)性挑戰(zhàn)，就必須接受氣候系統(tǒng)與活生生的地球的這種聯(lián)系。

對(duì)于構(gòu)建地球和人類的長期韌性而言，界定人工智能在優(yōu)化和效率方面的貢獻(xiàn)，就是在緣木求魚。韌性—從沖擊中恢復(fù)和適應(yīng)不斷變化的條件的能力—需要多樣性和冗余性。一個(gè)城市如果只有一條高速公路通過，就很容易因?yàn)樵馐苌胶楸l(fā)或恐怖襲擊而陷入癱瘓。擁有多條出路的城市，韌性就更好。

經(jīng)“產(chǎn)出（比如特定作物的產(chǎn)量）最大化”優(yōu)化的系統(tǒng)，容易受到?jīng)_擊和環(huán)境變化的影響。利用預(yù)測分析和自動(dòng)化“優(yōu)化農(nóng)田以獲得最高產(chǎn)量”是一項(xiàng)誘人的策略，但它可能加速當(dāng)?shù)厣鷳B(tài)知識(shí)的損失，擴(kuò)大現(xiàn)有的不平等，以及為了應(yīng)對(duì)商業(yè)壓力而增加對(duì)單一作物的依賴。

人工智能幫助應(yīng)對(duì)氣候挑戰(zhàn)的潛力不在于“優(yōu)化”系統(tǒng)，而在于提高人們成為生物圈管理者的能力。但在引導(dǎo)智能機(jī)器促進(jìn)生物圈管理方面，存在兩大風(fēng)險(xiǎn)。

第一個(gè)是炒作。隨著地球和氣候系統(tǒng)壓力的增加，我們對(duì)于人工智能方案幫助“解決”極其復(fù)雜的社會(huì)、經(jīng)濟(jì)和環(huán)境挑戰(zhàn)的希望也日益提高。鑒于我們對(duì)技術(shù)演化的了解，我們對(duì)人工智能是否真的（以及對(duì)誰）提供巨大氣候益處的了解有限?，F(xiàn)有的評(píng)估往往非常樂觀。隨著人工智能技術(shù)逐漸演化和擴(kuò)散，所有主張都必須經(jīng)過嚴(yán)格和獨(dú)立的測試。

第二個(gè)風(fēng)險(xiǎn)是加速。人工智能系統(tǒng)以及物聯(lián)網(wǎng)、5G和機(jī)器人等相關(guān)技術(shù)的部署，很可能導(dǎo)致生物圈韌性的更快喪失，以及支撐這些技術(shù)的化石燃料和原材料開采的增加。例如，石油和天然氣公司正日益尋求通過數(shù)字化來削減成本。據(jù)估計(jì)，未來5年，化石燃料行業(yè)的數(shù)字服務(wù)市場將增長500%，每年為石油生產(chǎn)商省約1500億美元。

數(shù)字化、自動(dòng)化和人工智能在提高可持續(xù)性和優(yōu)化開發(fā)方面有著尚未利用的潛力?？沙掷m(xù)地開展第四次工業(yè)革命，我們需要從現(xiàn)在開始更好、更強(qiáng)地引導(dǎo)其中的技術(shù)。