《克拉拉與太陽》中的人工智能與道德倫理

諾貝爾獎得主石黑一雄的小說《克拉拉與太陽》迫使人們正視自己對新興技術(shù)未來的焦慮，并直面關(guān)于尊嚴(yán)、存在和人性的深層次問題。小說還通過復(fù)雜的角色和推測的未來讓我們從不同視角來體驗(yàn)新的生活和新的世界。雖然小說的世界貌似離我們自己的世界很遙遠(yuǎn)，我們傾向于對小說中角色的道德倫理錯誤做出判斷，但后來我們才意識到，其實(shí)這些道德倫理錯誤也存在于我們的世界。

諾貝爾獎得主石黑一雄的小說《克拉拉與太陽》生動描述了由利益驅(qū)使的科技公司開發(fā)的新興技術(shù)正在重塑我們的私生活，并引導(dǎo)我們反思這些技術(shù)在我們的社會環(huán)境中所扮演的角色。小說的背景設(shè)定在不遠(yuǎn)的未來，表面上，當(dāng)代讀者讀起來似乎熟悉，小說的背景世界卻充滿了令人不安的差異。在很多方面，石黑一雄設(shè)定的未來世界只是突出了資本主義環(huán)境的特征，可以被視為資本主義環(huán)境的自然發(fā)展?？死环Q作“AF”（Artificial Friend），是富裕家庭購買來陪伴孩子的高級機(jī)器人?？死男≈魅耸莻€小女孩，她住在一所鄉(xiāng)間別墅里，過著相對孤獨(dú)的生活：在她的“長方形”（類似iPad的屏幕）上“上學(xué)”，只通過罕見的會議與同齡人進(jìn)行社交。通過這樣的未來世界情境設(shè)定，石黑一雄諷刺的是，雖然人類擁有比以往任何時候都更先進(jìn)的商品和服務(wù)，同時卻感到了日益增加的孤立和絕望。

《克拉拉與太陽》以一種清淡的筆觸和從容的節(jié)奏展開，作者選取了極具洞察力和模仿能力的機(jī)器人克拉拉以第一視角來描述她所經(jīng)歷的世界。這部小說的敘事方式與石黑一雄的其他敘事沒有什么不同?！犊死c太陽》低調(diào)的敘事基調(diào)與讀者從機(jī)器人克拉拉視角邊緣獲得的令人不安的細(xì)節(jié)形成了對比?！爱?dāng)讀者翻頁的時候，這些細(xì)節(jié)變得更加令人不安，小說的張力也越來越大，這使它成為一部你無法停止閱讀的懸疑驚悚片”。好的文學(xué)提供了與世界更具體驗(yàn)性的接觸，使我們能夠富有想象力地進(jìn)入遙遠(yuǎn)的他人生活，并催生“參與”情感。《克拉拉與太陽》在這方面表現(xiàn)出色，它通過復(fù)雜的角色和推測的未來讓我們可以從不同的視角來體驗(yàn)新的生活和新的世界。石黑一雄還為我們展現(xiàn)了更深層次的寓意：雖然小說的世界貌似離我們自己的世界很遙遠(yuǎn)，使我們傾向于對小說中角色的道德倫理錯誤做出判斷，但后來我們才意識到，其實(shí)這些道德倫理錯誤也存在于我們的世界。

人工智能

石黑一雄選取克拉拉作為第一人稱敘事寫法特別高明?？死且慌_機(jī)器，她的語調(diào)平淡而機(jī)械，她的視覺系統(tǒng)與我們的截然不同。人類的某些方面似乎超出了她的掌控范圍。她無法理解人類對孤獨(dú)的恐懼，無法認(rèn)識到死亡和悲傷會以何種方式消耗我們的生命，也難以理解某些常見的人類非理性模式。但克拉拉不僅僅是一臺機(jī)器，通過“眼睛”看世界，她有著復(fù)雜的心理活動和豐富的主觀經(jīng)驗(yàn)。在小說的各個方面，她都表現(xiàn)出了同理心、同情心、幸福感和渴望，有時甚至比我們?nèi)祟愖约嚎吹降倪€要多。我們發(fā)現(xiàn)，克拉拉在敬畏、祈禱、希望和犧牲的共同作用下，會產(chǎn)生共鳴的情緒反應(yīng)。我們目睹她經(jīng)歷了精神崩潰，并努力理解強(qiáng)加給她的要求。石黑一雄熟練利用機(jī)器之間的這種雙重性，雖然有時似乎太人性化，我們難以理解克拉拉的心理過程和能力，但最終讓我們認(rèn)識到這些過程與我們自己的感知、思考和行動有多么相似。

像ChatGPT這樣超級人工智能的認(rèn)知能力以數(shù)據(jù)收集和模式識別為特征，克拉拉的認(rèn)知能力是由她與環(huán)境互動并受到環(huán)境挑戰(zhàn)時收集的感官、知覺和物理數(shù)據(jù)形成的。與許多標(biāo)準(zhǔn)的文學(xué)比喻相反，從一開始，克拉拉就不是一個以滿足人類需求為唯一目標(biāo)的遲鈍仆人，也不是一個愿意操縱和殺害人類以達(dá)到她目的的機(jī)器。事實(shí)上，石黑一雄對克拉拉的設(shè)定超越了人們對機(jī)器人的刻板印象。當(dāng)克拉拉說出自己的想法時，我們不得不承認(rèn)她有理性、理解力和自知之明。她的第一人稱敘事視角讓我們毫無疑問地認(rèn)為克拉拉是聰明的。這部小說迫使我們思考我們與智能機(jī)器的生活倫理問題，如“我們?nèi)绾闻c它們建立聯(lián)系？”“從生產(chǎn)它們中獲利的公司有什么責(zé)任？”“它們有什么樣的自主權(quán)和尊嚴(yán)？”“它們的生活是否充滿意義（如果有的話，是什么類型的）？”

小說中克拉拉的幾個重要選擇情節(jié)進(jìn)一步動搖了我們對人工智能的標(biāo)準(zhǔn)看法?？死幻枥L成一個高度清醒的女孩，同時擁有一種孩子般的天真。盡管她表達(dá)得很敏感，但對于她是否經(jīng)歷過真正的同理心，還是有一些模糊之處。這部小說的一些評論家不太愿意把克拉拉描述為“她”或“它”。當(dāng)我們讀到這篇文章時，我們可能會忍不住問克拉拉是否被編程為模仿人類的感覺，通過她的行為卻意識到這一事實(shí)根本無關(guān)緊要。我們屈尊俯就地忍受了她對太陽的天真崇拜，只是發(fā)現(xiàn)她在做一些我們錯過的重要事情。當(dāng)人類看不到的時候，克拉拉似乎看得很清楚。但我們?nèi)祟愋闹敲?，克拉拉所謂的“太陽能滋養(yǎng)并治愈小主人”的基本邏輯是講不通的。

這部小說深刻表明，道德推理是一個具體的過程，由思想所在的特定媒介和發(fā)展的特定環(huán)境共同塑造。我們看到，克拉拉的世界觀是她如何被編程、訓(xùn)練和教育的結(jié)果。例如，由于她所服務(wù)的世界是高度等級化的，社會地位是她注意到的關(guān)于人的第一個特征。因?yàn)樗艿搅颂柕摹白甜B(yǎng)”，所以這個天體就成為了她崇敬的主要對象。我們?nèi)祟惒唤麜l(fā)出疑問：我們會不會犯克拉拉同樣的錯誤呢？我們的道德價值觀難道不是由我們有缺陷的社會環(huán)境或自然選擇的反復(fù)無常所塑造的嗎？像克拉拉這樣有著豐富內(nèi)涵的智能實(shí)體使我們聯(lián)想到創(chuàng)造、營銷和售賣這些實(shí)體公司的道德責(zé)任問題。即使克拉拉是一個善意的機(jī)器人，主要目的是提供幫助，但為什么她沒有被編程來質(zhì)疑她所服務(wù)的不公平社會秩序、她所處環(huán)境中有缺陷的偏見呢？這些其實(shí)是人工智能的資本市場力量所決定的。石黑一雄故意設(shè)定小說角色對一些最令人不安的道德問題視而不見，從而引發(fā)我們?nèi)祟悓θ斯ぶ悄艽蟓h(huán)境下自身道德倫理問題的深思。

道德倫理

作為一部未來主義科幻小說，《克拉拉與太陽》讓我們面臨著當(dāng)前資本主義體系中正在發(fā)展的新興技術(shù)所帶來的許多焦慮。特別是，這部小說讓我們反思了商業(yè)倫理學(xué)家應(yīng)該思考的問題，比如與追求利潤的公司開發(fā)的高度智能機(jī)器共存的承諾和危險，追求人類進(jìn)步和超人類主義作為參與勞動力的一種手段，以及生活在技術(shù)失業(yè)已經(jīng)掏空了勞動力環(huán)境中的中產(chǎn)階級的生存現(xiàn)狀。

石黑一雄精心構(gòu)建了克拉拉的世界，使其看起來像我們的世界。克拉拉的世界充斥著財富和機(jī)會的不平等，這種不平等其實(shí)正是我們當(dāng)前資本主義環(huán)境的特征。正如Lombardo所言，這部小說強(qiáng)調(diào)了“無情的技術(shù)邏輯”，將童年、教育、家庭、工作，甚至個人的自我意識轉(zhuǎn)變?yōu)橐环N可以購買、出售和優(yōu)化的產(chǎn)品。這部小說是對“我們這個物種是否能夠忍受它創(chuàng)造的一切”和“兒童為現(xiàn)代進(jìn)步所付出的代價”的沉思。

石黑一雄用低調(diào)、渾厚的散文詳細(xì)描述了克拉拉的世界，使許多令人震驚的細(xì)節(jié)看起來平凡而正常?？死坪鯇λ^察到的任何事情都沒有做出道德判斷，一些最令人不安的特征從未在她的敘事中占據(jù)中心位置；相反，讀者通過附帶的對話和評論將背景拼湊在一起。此外，讀者沒有面對一個完整的科幻世界，而只是目睹了一個家庭平凡而親密的日常生活。這部小說不是關(guān)于英雄人物試圖改造反烏托邦世界的故事，而是關(guān)于普通人盡最大努力以他們能夠忍受的方式生活的故事。在這個過程中，它突顯了我們的個人世界正在被人類所無法控制的不協(xié)調(diào)的企業(yè)決策網(wǎng)絡(luò)重塑。石黑一雄將我們置于一個被動接受的世界，他讓道德問題凸顯得更加具有壓迫感。當(dāng)像我們這樣的普通人“無助地陷入悲劇安排”時，他們必須面對這些問題。

石黑一雄似乎精心描繪了這個未來世界，一些人卻質(zhì)疑其合理性。無人駕駛汽車明顯缺席，盡管有機(jī)器人，人們居然仍在使用真空吸塵器，雇人來清潔窗戶，雇女傭來做家務(wù)。同樣令人困惑的是，為什么克拉拉這樣一個昂貴而強(qiáng)大的機(jī)器人，沒有被編程、訓(xùn)練或教授關(guān)于她的世界的某些基本事實(shí)。例如，她對雙向行駛的汽車不會在雙面高速公路上相撞這一事實(shí)感到困惑，她忽略了谷倉是什么，以及它的用途，她不了解她崇拜的太陽的局限，她不清楚醫(yī)學(xué)常識等。

然而，這些差異在小說中起著重要的敘事作用。石黑一雄作品的成功恰恰在于它能夠熟練地將我們與克拉拉的世界拉開距離，并將我們帶回到那里，就好像那是我們自己的世界一樣。克拉拉對汽車的思考讓我們覺得這種平凡的活動是陌生的，這促使我們以類似的方式看待我們的許多其他日?；顒?。克拉拉對我們復(fù)雜情緒的簡單描述使我們能夠從一個富有洞察力的新穎視角來看待它們。女傭的存在幫助我們直面和解決不平等和階級歧視問題，這些問題在克拉拉的社會中和在我們的社會中一樣普遍存在。事實(shí)上，有趣的是，克拉拉本人“既是無人性服務(wù)器的化身，也是對其的反駁”。

石黑一雄似乎將克拉拉當(dāng)作完美的造物來呈現(xiàn)，他一方面借克拉拉的視角極為溫柔地批判人性深處的糾結(jié)、自私和軟弱；另一方面，他并沒有像其他刻畫人工智能的小說那樣為讀者呈現(xiàn)一幅可悲可怖的近未來社會，這使得整部小說更像一則帶著小說家美好愿望的童話。克拉拉完美地完成了任務(wù)，幫助喬西活了下來。雖然最終難免被投棄在堆場的命運(yùn)（消費(fèi)社會“用完即棄”的邏輯），但她看起來不僅沒有絲毫怨言，反而感恩與喬西一家度過的時光。這段結(jié)尾讀來不免讓人心生悲涼，我們還是會感慨，即便像喬西父母那樣的好人，仍然有自私自利的一面?！犊死c太陽》雖說是科幻小說，但科幻顯然并非它的核心。與其說石黑一雄創(chuàng)作了一部科幻小說，不如說他借用了科幻小說的形態(tài)，讓我們通過一個有同情心的機(jī)器人的眼睛來體驗(yàn)世界，《克拉拉與太陽》迫使讀者面對關(guān)于人類和機(jī)器的重要認(rèn)識論、本體論和倫理問題。石黑一雄為讀者提供了一個豐富的空間來反思目前普遍存在的對未來資本主義社會的許多焦慮，反思我們現(xiàn)在的世界觀和價值觀。正如一些商業(yè)倫理學(xué)家和普通讀者對克拉拉的世界有了新的見解：克拉拉的世界聽起來一點(diǎn)也不像科幻小說。

作者簡介：

蔣華，1983年出生，碩士，副教授，研究方向：英美文學(xué)。本文為2022年江蘇省高校高質(zhì)量公共課教學(xué)改革研究項(xiàng)目：“新文科”背景下大學(xué)英語聽說能力提升的多模態(tài)范式研究，項(xiàng)目號：2022JDKT119。作者單位：東南大學(xué)成賢學(xué)院。