人工智能視域下學(xué)術(shù)倫理治理問(wèn)題的挑戰(zhàn)及對(duì)策建議
—— 以生成式人工智能為例

葛慧林

（江蘇科技大學(xué)，江蘇鎮(zhèn)江 212100）

人工智能（Artificial Intelligence，AI）已經(jīng)成為推動(dòng)新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力，同時(shí)也給現(xiàn)有科技管理體制帶來(lái)了新的挑戰(zhàn)。通過(guò)大規(guī)模語(yǔ)言模型（Large Language Model，LLM）的訓(xùn)練，生成式人工智能(Generative Artificial Intelligence，GAI)具備了嚴(yán)密的邏輯推理能力和強(qiáng)大的文本生成能力，使得開(kāi)放式理解和生成連貫文本成為可能。這種技術(shù)的實(shí)際應(yīng)用開(kāi)始對(duì)學(xué)術(shù)研究產(chǎn)生巨大助力[1]。例如，Conroy 等人利用ChatGPT 在一個(gè)小時(shí)內(nèi)完成了一篇流暢、富有洞察力的研究論文。隨著GAI 在學(xué)術(shù)研究中的實(shí)際應(yīng)用迅速普及，并贏得廣泛輿論贊譽(yù)，學(xué)者們的擔(dān)憂也隨之而來(lái)。研究表明，以ChatGPT 代表的生成式人工智能語(yǔ)言模型在學(xué)術(shù)研究中存在著信效度不足、權(quán)責(zé)不清、倫理失位等學(xué)術(shù)倫理問(wèn)題[2-4]。在科學(xué)技術(shù)更加開(kāi)放的同時(shí)，也面臨著顛覆性但尚未成熟的階段。在面對(duì)潛在的技術(shù)失控和學(xué)術(shù)倫理失序時(shí)，需要深刻審視GAI 引起的學(xué)術(shù)倫理問(wèn)題，并正確處理它與學(xué)術(shù)發(fā)展之間的辯證關(guān)系。基于此，本文系統(tǒng)分析人工智能視域下學(xué)術(shù)研究面臨的新學(xué)術(shù)倫理問(wèn)題，剖析GAI 在學(xué)術(shù)研究中所能提供的價(jià)值與風(fēng)險(xiǎn)，并進(jìn)一步提出對(duì)策建議，以促進(jìn)學(xué)術(shù)研究的健康發(fā)展。

1 人工智能視域下的學(xué)術(shù)研究新形勢(shì)

1.1 人工智能的發(fā)展

AI 有多種定義，雖然各有不同，但都與“如何創(chuàng)造一些計(jì)算機(jī)程序或機(jī)器，使其具備被視為智能行為”的概念相關(guān)。德勤有限公司給出的實(shí)用定義是：“AI 是關(guān)于計(jì)算機(jī)系統(tǒng)如何執(zhí)行只有依靠人類智慧才能完成的任務(wù)的理論研究”[5]。得益于2004 年后相關(guān)領(lǐng)域技術(shù)例如深度學(xué)習(xí)、云計(jì)算等的突破革新，AI得以在安防、教育和機(jī)器人等多個(gè)領(lǐng)域廣泛應(yīng)用[6]。當(dāng)前，自然語(yǔ)言處理（Natural Language Processing，NLP）技術(shù)的進(jìn)步使得大型語(yǔ)言模型（Large Language Model，LLM）能夠?qū)崿F(xiàn)開(kāi)放式理解和生成連貫的文本，理論算法開(kāi)始得到實(shí)際應(yīng)用，以ChatGPT 代表的GAI 在學(xué)術(shù)研究中的應(yīng)用迅速普及。

1.1.1 生成式人工智能的實(shí)質(zhì)

GAI 是運(yùn)用大語(yǔ)言模型與生成式預(yù)訓(xùn)練轉(zhuǎn)換模（Generative Pretrained Transformer，GPT）結(jié)合，通過(guò)海量數(shù)據(jù)存儲(chǔ)和高效設(shè)計(jì)架構(gòu)理解和解讀用戶請(qǐng)求，進(jìn)而以近乎人類自然語(yǔ)言的方式生成具有“較高復(fù)雜度的回應(yīng)文本”[7]。具體而言，GAI 通過(guò)大規(guī)模語(yǔ)料訓(xùn)練，將不同語(yǔ)言中的字、詞表征映射到更高維語(yǔ)義空間中，然后基于生成式預(yù)訓(xùn)練轉(zhuǎn)換模型，采用“強(qiáng)化學(xué)習(xí)與人類反饋”（RLHF）的訓(xùn)練方式，通過(guò)不斷迭代來(lái)提升生成答案的評(píng)判能力，從而往往能夠產(chǎn)生符合人類常規(guī)認(rèn)知和需求的回答[8]。

1.1.2 ChatGPT 類生成式人工智能的比較

2022 年11 月，美國(guó)人工智能研究實(shí)驗(yàn)室發(fā)布了大型語(yǔ)言對(duì)話模型ChatGPT，上線不到一周用戶數(shù)就突破了100 萬(wàn)，兩個(gè)月時(shí)間吸引了超過(guò)1 億活躍用戶，成為歷史上增長(zhǎng)速度最快的應(yīng)用程序。ChatGPT 是一種具有思考能力的人工智能聊天機(jī)器人程序，基于GPT-3.5 架構(gòu)的大型語(yǔ)言模型通過(guò)強(qiáng)化學(xué)習(xí)得到訓(xùn)練后幾乎可以處理任何基于文本的請(qǐng)求。ChatGPT 被專門(mén)設(shè)計(jì)為以對(duì)話風(fēng)格生成類似人類的文本，能夠回答連續(xù)提出的問(wèn)題、生成文本摘要、翻譯文檔、對(duì)信息進(jìn)行分類和編寫(xiě)代碼等任務(wù)，同時(shí)也能夠承認(rèn)錯(cuò)誤、對(duì)不正確的前提進(jìn)行質(zhì)疑，并拒絕不合適的請(qǐng)求。此外，麻省理工學(xué)院借助深度學(xué)習(xí)模型識(shí)別分子結(jié)構(gòu)之間的相關(guān)關(guān)系成功研發(fā)新型抗生素Halicin 的案例說(shuō)明了以ChatGPT為代表的生成式人工智能可以通過(guò)明確相關(guān)關(guān)系，提升科研質(zhì)量[9]。

在ChatGPT 發(fā)布之前，谷歌曾在2021 年推出大語(yǔ)言模型LaMDA，并在此基礎(chǔ)上開(kāi)發(fā)了Bard，其可以將信息知識(shí)和大語(yǔ)言模型的智能相結(jié)合，提供新鮮且高質(zhì)量的回復(fù)。而在2022 年8 月，基于自主研發(fā)的產(chǎn)業(yè)級(jí)大模型ERNIE，百度推出AI藝術(shù)創(chuàng)意輔助平臺(tái)——文心一格，其通過(guò)文心大模型準(zhǔn)確的語(yǔ)義理解和生成圖片，為用戶提供豐富多樣的創(chuàng)意，幫助創(chuàng)作者打破創(chuàng)作瓶頸。2022年11 月，Meta 的人工智能實(shí)驗(yàn)室Meta AI 發(fā)布了AI 系統(tǒng)“Make-AVideo”，它能夠根據(jù)自然語(yǔ)言文本生成一段大約5 秒鐘的短視頻，同時(shí)還可以從圖像和視頻中生成視頻。在ChatGPT 4 發(fā)布的第二天，百度揭開(kāi)了其最新產(chǎn)品“文心一言”的面紗。作為國(guó)內(nèi)首個(gè)類ChatGPT 產(chǎn)品，百度文心一言定位于人工智能基座型的賦能平臺(tái)，致力于推動(dòng)金融、能源、媒體和政務(wù)等領(lǐng)域的智能化變革[10]。

與LaMDA、ERNIE 和XLNet等其他語(yǔ)言模型及其產(chǎn)出相比，ChatGPT 和其基于的GPT-3 語(yǔ)言模型具有明顯的優(yōu)勢(shì)。ChatGPT 擁有數(shù)十億個(gè)參數(shù)，并且可以訪問(wèn)大量數(shù)據(jù)，能夠高精度地執(zhí)行各種語(yǔ)言相關(guān)任務(wù)。其次，GPT-3 的語(yǔ)言模型具有很高的通用性，可以適應(yīng)各種任務(wù)，例如翻譯、摘要和問(wèn)題回答。此外，ChatGPT 能夠高效利用數(shù)據(jù)，用較少的訓(xùn)練數(shù)據(jù)就能取得良好的結(jié)果。

1.2 生成式人工智能在學(xué)術(shù)研究中的價(jià)值

當(dāng)代世界科學(xué)技術(shù)正處于前所未有的突破性發(fā)展階段，科技社會(huì)一體化、科學(xué)文化和人文文化逐漸從對(duì)立走向融合。為解決社會(huì)復(fù)雜需求問(wèn)題而誕生的跨學(xué)科研究，以往需要積累多學(xué)科知識(shí)，聚集多學(xué)科人才，并構(gòu)建跨學(xué)科研究組織來(lái)解決的問(wèn)題，現(xiàn)如今借助ChatGPT 卻有望實(shí)現(xiàn)更具突破性的學(xué)術(shù)成果[11]。

降低獲取知識(shí)的難度。ChatGPT 等AI 通過(guò)模擬人類學(xué)習(xí)過(guò)程，閱讀理解不同語(yǔ)言和文獻(xiàn)資料庫(kù)，在快速總結(jié)文獻(xiàn)異同的同時(shí)，實(shí)現(xiàn)對(duì)不同學(xué)科知識(shí)成果的同構(gòu)，進(jìn)而協(xié)助研究者完成跨學(xué)科深度對(duì)話和知識(shí)融合創(chuàng)新。與此同時(shí)，其還能將其他學(xué)科專業(yè)知識(shí)轉(zhuǎn)述為簡(jiǎn)單語(yǔ)言，降低獲取知識(shí)的難度，在為研究者提供更多學(xué)術(shù)研究方向的同時(shí)，保證了研究力度和深度，在一定程度上也推動(dòng)了學(xué)科進(jìn)步和知識(shí)創(chuàng)新，提升了學(xué)術(shù)研究的效率。

便于研究?jī)?nèi)容的梳理。AI 可以自動(dòng)解析文獻(xiàn)、高效提取關(guān)鍵知識(shí)，按需總結(jié)比較不同研究成果的異同，為研究者節(jié)省檢索整理時(shí)間。此外，它還能在此基礎(chǔ)上構(gòu)建引文推理網(wǎng)絡(luò)，清晰展示知識(shí)的產(chǎn)生、流傳與演變，為研究者提供有依據(jù)的客觀觀點(diǎn)和學(xué)科間知識(shí)交叉與融合的趨勢(shì)。而當(dāng)研究者對(duì)寫(xiě)作內(nèi)容不確定時(shí)，其還能提供相關(guān)理論、數(shù)據(jù)、案例與文獻(xiàn)支持，為研究者的觀點(diǎn)提供第三方驗(yàn)證與學(xué)術(shù)支撐。

促進(jìn)研究?jī)?nèi)容的完善。當(dāng)科研人員向AI 提交研究成果后， AI 能夠根據(jù)使用者的輸入的相關(guān)要求，對(duì)研究成果進(jìn)行檢測(cè)，就拼寫(xiě)、語(yǔ)法等方面提供反饋意見(jiàn)及根據(jù)不同領(lǐng)域和功能調(diào)整寫(xiě)作重點(diǎn)。它在快速翻譯中文研究成果為其他語(yǔ)言時(shí)，還可以學(xué)習(xí)各領(lǐng)域權(quán)威期刊的征稿要求為研究者提供幫助。此外，其能夠解析和提取各領(lǐng)域?qū)W術(shù)論文的關(guān)鍵知識(shí)，并根據(jù)不同應(yīng)用場(chǎng)景及學(xué)科領(lǐng)域調(diào)整內(nèi)容、篇幅和側(cè)重點(diǎn)。在大語(yǔ)言模型的支持下，研究者可以優(yōu)化研究成果的傳播機(jī)制，增進(jìn)學(xué)術(shù)合作并促進(jìn)研究成果轉(zhuǎn)化，進(jìn)一步提升學(xué)術(shù)研究效用[12]。

（3）利于研究數(shù)據(jù)的分析。以ChatGPT 為代表的AI 擁有強(qiáng)大的算法和算力，往往能夠較好的完成數(shù)據(jù)收集、數(shù)據(jù)分析、數(shù)據(jù)可視化等復(fù)雜數(shù)據(jù)處理工作，把握受實(shí)驗(yàn)條件或計(jì)算能力等限制所遮蔽的相關(guān)關(guān)系，獲得有助于取得研究新發(fā)現(xiàn)，新成果的啟示。

2 人工智能視域下的學(xué)術(shù)倫理新問(wèn)題

2.1 智能剽竊，隱蔽難以檢測(cè)

研究發(fā)現(xiàn)，將大量由GAI 創(chuàng)建的論文摘要提交給學(xué)術(shù)審稿人，被發(fā)現(xiàn)的比例不超過(guò)63%[13]。因GAI可以在較短時(shí)間內(nèi)整合和產(chǎn)生大量知識(shí)與信息，并根據(jù)需要生成個(gè)性化結(jié)果。從某種程度上來(lái)說(shuō)，GAI產(chǎn)出的科研論文仍然只能算是高度集成產(chǎn)品，其內(nèi)容和觀點(diǎn)通常來(lái)自他人作品，雖然在整合中模糊了模仿和抄襲邊界，但其非原創(chuàng)的本質(zhì)未變。此外，由于GAI 是基于自然語(yǔ)言產(chǎn)出的結(jié)果，這與學(xué)者自行思考并收獲啟發(fā)的基本邏輯相似，而當(dāng)GAI 在轉(zhuǎn)碼過(guò)程中隱藏了抄襲的事實(shí)，學(xué)者通常也難以分辨哪些內(nèi)容是需要進(jìn)一步甄別是否存在抄襲，這導(dǎo)致剽竊呈現(xiàn)出無(wú)意識(shí)特征。此外，GAI 利用反饋學(xué)習(xí)獲得學(xué)者思想內(nèi)容后，再面向其他學(xué)者進(jìn)行二次創(chuàng)作，是否也涉嫌剽竊先前使用者的思想？

事實(shí)上，學(xué)者用GAI 輔助學(xué)術(shù)研究的過(guò)程，是學(xué)者與GAI 協(xié)同完成研究任務(wù)的過(guò)程。但人類語(yǔ)言亦具有復(fù)雜性，語(yǔ)種語(yǔ)義、表達(dá)方式、詞性特征、用語(yǔ)習(xí)慣等均會(huì)影響交流。實(shí)踐證明，GAI 會(huì)受到提問(wèn)者所提供信息的影響，在回答問(wèn)題過(guò)程中，極易形成迎合偏好的回答。更值得注意的是，在與學(xué)者進(jìn)行深度對(duì)話時(shí)，GAI 會(huì)固化提問(wèn)者所自帶的認(rèn)知與偏見(jiàn)，強(qiáng)化偏離本意的意識(shí)[14]。最后，在評(píng)價(jià)由GAI 輔助的研究成果時(shí)，是否應(yīng)當(dāng)將GAI 的輔助效果考慮其中。由于GAI 的輔助效果因其資本密集導(dǎo)向而具有不公平性，而現(xiàn)有學(xué)術(shù)評(píng)價(jià)標(biāo)準(zhǔn)缺乏對(duì)GAI 在協(xié)作過(guò)程中貢獻(xiàn)價(jià)值的度量，阻礙了評(píng)價(jià)的準(zhǔn)確性與公平性。

2.2 智能奪權(quán)，批判創(chuàng)造失去主導(dǎo)

美國(guó)在線課程網(wǎng)站Study.com開(kāi)展的一項(xiàng)調(diào)查顯示，超過(guò)89%的學(xué)生使用ChatGPT 來(lái)完成家庭作業(yè)，48%的學(xué)生用ChatGPT 完成小測(cè)驗(yàn)，53%的學(xué)生用ChatGPT 寫(xiě)論文，22%的學(xué)生用ChatGPT 生成論文大綱[15]。過(guò)去，學(xué)者需要大量閱讀，進(jìn)行深度思考，并提出創(chuàng)新性的觀點(diǎn)和解決方案才能完成撰寫(xiě)論文的工作。現(xiàn)如今GAI 的出現(xiàn)徹底顛覆了這一傳統(tǒng)方式，學(xué)者不再需要花費(fèi)時(shí)間梳理相關(guān)文獻(xiàn)，整合關(guān)鍵知識(shí)，只需把問(wèn)題提交給GAI 便能解決。

ChatGPT 等GAI 能應(yīng)是協(xié)助人類在多領(lǐng)域知識(shí)唾手可得的情況下，仍保持敏銳洞察力、靈活適應(yīng)性和創(chuàng)新思維方式的工具，而非剝奪取代學(xué)者獨(dú)立思考和解決問(wèn)題能力的思維替代者。在現(xiàn)如今這種信息爆炸的時(shí)代，人類面臨的問(wèn)題和挑戰(zhàn)日益復(fù)雜多變，具備批判性思維和創(chuàng)造性思維就顯得尤為重要。批判性思維能夠?qū)π畔?、論?jù)和觀點(diǎn)進(jìn)行深入評(píng)估，從而形成明確、準(zhǔn)確和有根據(jù)的判斷，更為有效地應(yīng)對(duì)復(fù)雜問(wèn)題、降低誤判風(fēng)險(xiǎn)，并在日常生活和工作中作出明智的決策。創(chuàng)造性思維則鼓勵(lì)人們跳出傳統(tǒng)思維模式的限制，嘗試以新的方法和角度來(lái)解決問(wèn)題，從而生成新的、獨(dú)特的和有價(jià)值的想法、解決方案或觀點(diǎn)。批判性思維評(píng)估已有的知識(shí)和策略；創(chuàng)造性思維創(chuàng)造出不存在的知識(shí)和策略。兩者相輔相成，才會(huì)有新知識(shí)的產(chǎn)出[16]。但隨著學(xué)者對(duì)ChatGPT 等GAI 的不斷依賴，其自身正在不自覺(jué)地讓渡思維的主導(dǎo)權(quán)，思維模式逐漸由人類向AI 轉(zhuǎn)移，由機(jī)器思維取代人類思維。在這種情況下，機(jī)器意志將可能取代人的意志，出現(xiàn)主導(dǎo)權(quán)喪失的問(wèn)題[17]。

2.3 智能迭代，信效度難以認(rèn)定

由于GAI 的實(shí)質(zhì)是將語(yǔ)言向語(yǔ)義空間進(jìn)行轉(zhuǎn)換，并根據(jù)需求運(yùn)用多個(gè)算法迭代重組重構(gòu)，但其在深度學(xué)習(xí)中還存在過(guò)程算法不透明、數(shù)據(jù)不完整、訓(xùn)練不完善等問(wèn)題[12]，導(dǎo)致最終生成結(jié)果的信效度難以認(rèn)定。其一，在深度學(xué)習(xí)過(guò)程中，大量參數(shù)會(huì)隨著訓(xùn)練自動(dòng)迭代調(diào)優(yōu)，其變化機(jī)制難以用邏輯解釋。因此，導(dǎo)致GAI 無(wú)法清晰解釋其生成結(jié)果的理由，學(xué)者也無(wú)法根據(jù)邏輯判斷生成結(jié)果的正確性。其二，GAI 生成的結(jié)果卻決于訓(xùn)練數(shù)據(jù)的深度和廣度。然而，當(dāng)前的訓(xùn)練數(shù)據(jù)難以覆蓋所有學(xué)科所有領(lǐng)域，使得生成結(jié)果存在數(shù)據(jù)偏差。

3 對(duì)策及建議

學(xué)術(shù)倫理是開(kāi)展科研等活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范，是促進(jìn)學(xué)術(shù)研究健康發(fā)展的重要保障?，F(xiàn)如今，ChatGPT 類生成式人工智能領(lǐng)域的“領(lǐng)頭羊”發(fā)展態(tài)勢(shì)已然良好，伴隨著科技的不斷進(jìn)步，更尖端復(fù)雜的人工智能技術(shù)預(yù)期只會(huì)更加頻繁地滲透并運(yùn)用在研究領(lǐng)域，但當(dāng)前的學(xué)術(shù)倫理制度已無(wú)法滿足飛速發(fā)展的技術(shù)應(yīng)用需求。亟需進(jìn)一步完善學(xué)術(shù)倫理制度，防控學(xué)術(shù)倫理風(fēng)險(xiǎn)，實(shí)現(xiàn)高效、道德及健康地人工智能技術(shù)應(yīng)用。

（1）建立檢測(cè)識(shí)別機(jī)制。為了實(shí)現(xiàn)高水平的學(xué)術(shù)誠(chéng)信和提高學(xué)術(shù)創(chuàng)新能力，防止剽竊的發(fā)生，相關(guān)學(xué)術(shù)機(jī)構(gòu)應(yīng)建立或更新審查機(jī)制，以檢測(cè)研究者提交的論文是否是基于GAI 的模擬學(xué)術(shù)論文，并對(duì)其進(jìn)行評(píng)估或分級(jí)。學(xué)者和人工智能生成的內(nèi)容存在著顯著語(yǔ)言差異的。另外，生成式人工智能生成的語(yǔ)言指紋具有反直覺(jué)的特性，它是通過(guò)將不同的論點(diǎn)分成段落來(lái)提供清晰的邏輯結(jié)構(gòu)，從而減少了對(duì)話語(yǔ)標(biāo)記的需求，這與人類的寫(xiě)作邏輯背道而馳[18]。通過(guò)建立檢測(cè)識(shí)別機(jī)制，將有助于維護(hù)學(xué)術(shù)機(jī)構(gòu)的權(quán)威性，促進(jìn)產(chǎn)出更多的原創(chuàng)性學(xué)術(shù)成果[19]。

（2）建立學(xué)術(shù)倫理制度。對(duì)于目前“人機(jī)共研”現(xiàn)狀下所涉及的學(xué)術(shù)倫理建設(shè)，應(yīng)對(duì)技術(shù)與倫理雙方進(jìn)行理性地審視，建立行之有效的學(xué)術(shù)倫理制度。首先，應(yīng)加強(qiáng)AI技術(shù)應(yīng)用領(lǐng)域的學(xué)術(shù)倫理研究，立足人機(jī)融合新圖景，判定阻礙學(xué)術(shù)研究高質(zhì)量發(fā)展的“被調(diào)適方”，并基于此構(gòu)建學(xué)術(shù)倫理的建設(shè)思路。其次應(yīng)成立科研技術(shù)倫理委員會(huì)，在技術(shù)專家、倫理學(xué)者的共同努力下，修訂現(xiàn)有的科技倫理與學(xué)術(shù)倫理審查制度，使技術(shù)符合學(xué)術(shù)倫理的規(guī)約，并及時(shí)更正技術(shù)中不適應(yīng)學(xué)術(shù)倫理的行為，為新應(yīng)用場(chǎng)景提供結(jié)構(gòu)性制度保障。此外，研究者本身應(yīng)始終保持能動(dòng)性，以主體姿態(tài)，將以ChatGPT 為代表的人工智能視為認(rèn)知工具，堅(jiān)定研究立場(chǎng)，并承擔(dān)起數(shù)字素養(yǎng)所對(duì)應(yīng)的社會(huì)文化修養(yǎng)、道德規(guī)范和行為自律等責(zé)任，使其真正為學(xué)術(shù)研究所用[12]。

（3）加強(qiáng)學(xué)術(shù)倫理引導(dǎo)。為了實(shí)現(xiàn)更高質(zhì)量可持續(xù)發(fā)展的人工智能技術(shù)，還應(yīng)該加強(qiáng)學(xué)術(shù)倫理引導(dǎo)。AI 逐漸改變了當(dāng)前的學(xué)術(shù)研究模式，而作為學(xué)術(shù)研究的主體，科研人員的學(xué)術(shù)倫理引導(dǎo)一直都是學(xué)術(shù)倫理治理的起點(diǎn)。因此，可以鼓勵(lì)學(xué)會(huì)、協(xié)會(huì)、學(xué)校等組織加強(qiáng)對(duì)科研人員針對(duì)性的對(duì)當(dāng)前AI 沖擊下的學(xué)術(shù)倫理進(jìn)行引導(dǎo)，科研人員共同監(jiān)督并抵制學(xué)術(shù)倫理違規(guī)行為。

（文責(zé)自負(fù)）