ChatGPT：擁抱還是禁用

一凡

ChatGPT是什么

ChatGPT是一個(gè)生成式AI軟件，即內(nèi)容生成器，它無法憑空生成或制造產(chǎn)品，而是通過人類向它提供的材料、信息、文獻(xiàn)、文體等進(jìn)行深度學(xué)習(xí)，模擬人類做出回答。因此，本質(zhì)上，它是一個(gè)自然語言處理流程，每次處理用戶的需求都有一些基本的步聚。

首先，ChatGPT會(huì)進(jìn)行語言識(shí)別。ChatGPT是一款面向世界各國的AI軟件，因此要先識(shí)別用戶使用的語言，才能進(jìn)行回應(yīng)。隨后，要進(jìn)行情感分析處理，ChatGPT會(huì)對(duì)用戶輸入的信息進(jìn)行多維度分析，如果不符合國際主流認(rèn)可的社會(huì)倫理，它會(huì)自動(dòng)拒絕回答相關(guān)問題。此后，ChatGPT會(huì)提取提問的信息，包括用戶輸入的關(guān)鍵信息以及與問題相關(guān)的人名、地名、行業(yè)和專業(yè)術(shù)語等。

接下來，要進(jìn)行修正和文本分類。修正是對(duì)用戶輸入的信息予以審核和糾錯(cuò)，如修改錯(cuò)別字；文本分類是對(duì)用戶輸入的信息進(jìn)行分類，根據(jù)分類結(jié)果，使用相關(guān)搜索軟件獲取信息。更重要的是下一步，即全文搜索處理。ChatGPT基于“自然語言+搜索引擎”的架構(gòu)，因此，需要從用戶輸入的信息中進(jìn)一步提取關(guān)鍵特征，去搜索相關(guān)索引，得到想要的答案。

最后，ChatGPT會(huì)生成文本。它會(huì)從搜索得到的多種結(jié)果中選擇最符合用戶需求的那個(gè)，生成對(duì)應(yīng)的文本內(nèi)容。當(dāng)然，這個(gè)文本內(nèi)容的答案還要進(jìn)一步轉(zhuǎn)換成適合問答的形式，如用戶熟悉的自然對(duì)話形式。如果用戶需要論文或調(diào)查報(bào)告等其他文本，ChatGPT則會(huì)轉(zhuǎn)換為該類文章的格式和風(fēng)格，甚至?xí)谐鰠⒖嘉墨I(xiàn)和致謝。

現(xiàn)在，之所以ChatGPT被認(rèn)為是非常強(qiáng)大和“神奇”的AI軟件系統(tǒng)，一是有萬億級(jí)的數(shù)據(jù)投入；二是利用了自然語言處理技術(shù)（NLP）跨越式的發(fā)展，即“大模型”的上下文學(xué)習(xí)。通過向大模型“喂入”一個(gè)提示（prompt），并選擇性地加入少量任務(wù)的樣板，大模型就可以預(yù)測下一詞的形式，自動(dòng)生成相關(guān)答案。

因此，ChatGPT對(duì)自然語言的理解已經(jīng)開始接近人類。它處理句子時(shí)，會(huì)通過訓(xùn)練參數(shù)“理解”句子中哪些詞之間存在關(guān)系，哪些詞是同義詞或反義詞。這說明，ChatGPT已經(jīng)深入?yún)⑴c到人類自然語言體系中。

由于這些原因，ChatGPT不僅能與人們實(shí)時(shí)聊天，還能幫助人甚至替代人做很多事情。例如，它可以幫助用戶寫各類文字材料，包括報(bào)告、論文，各種題材的文章、詩歌；它還可以在短時(shí)間內(nèi)提供大量信息、回答大量問題，既快又準(zhǔn)又好。不過，也有一些ChatGPT生成的文本質(zhì)量并不盡如人意，需要修改、補(bǔ)充和潤色。

ChatGPT引發(fā)的憂慮

由于ChatGPT擁有一系列強(qiáng)大的功能，文化、教育和科技界人士紛紛對(duì)此表示擔(dān)憂。首先，ChatGPT的強(qiáng)大、豐富、快速和簡便可能會(huì)使相當(dāng)多的人失業(yè)，包括中學(xué)老師、大學(xué)老師、作家、詩人、記者等；其次，ChatGPT的廣泛應(yīng)用可能助長更多人（如大學(xué)生和教師）偷懶耍滑、作弊剽竊。

據(jù)說，現(xiàn)在有89%的美國大學(xué)生使用ChatGPT完成作業(yè)，而且成績不錯(cuò)。美國北密歇根大學(xué)哲學(xué)教授奧曼在2023年1月底評(píng)出了一篇“全班最好的論文”，這篇論文探討了有關(guān)罩袍禁令的道德問題，教授認(rèn)為該論文段落簡潔、用例恰當(dāng)、論據(jù)嚴(yán)謹(jǐn)。不過，在奧曼教授的追問下，提交論文的學(xué)生承認(rèn)自己是利用ChatGPT完成的論文。

美國明尼蘇達(dá)大學(xué)法學(xué)院和賓夕法尼亞大學(xué)沃頓商學(xué)院的教授測試ChatGPT“應(yīng)考”不同課程的考試題目，結(jié)果它在法學(xué)院的4個(gè)學(xué)科考試中獲得C+；在商學(xué)院的MBA學(xué)科考試中獲得B～B-的成績，這些成績算是中等或良好。更令人震驚的是，在美國最難考的美國醫(yī)師執(zhí)照考試中，ChatGPT取得的成績非常接近通過標(biāo)準(zhǔn)。對(duì)于人類學(xué)生而言，要通過美國醫(yī)師執(zhí)照考試，一般需要在醫(yī)學(xué)院學(xué)習(xí)五年并有兩年以上的臨床實(shí)習(xí)經(jīng)歷。

此情此景令教育界憂心忡忡。2023年1月27日，法國一流大學(xué)巴黎政治學(xué)院向全體師生發(fā)送電子郵件，宣布禁止使用ChatGPT，以防欺詐和抄襲。具體要求為，禁止學(xué)生使用該軟件制作任何書面作業(yè)或演講稿；只能在有特定課程目的或在課程導(dǎo)師的監(jiān)督下，學(xué)生才可借助ChatGPT完成學(xué)習(xí)任務(wù)。如被發(fā)現(xiàn)未按規(guī)定使用ChatGPT，學(xué)生將面臨被開除的處罰。

美國的華盛頓大學(xué)和佛蒙特大學(xué)正著手修訂其學(xué)術(shù)誠信政策，將“AI生成”納入“剽竊”的范圍內(nèi)。美國紐約州的水牛城大學(xué)和南卡羅來納州的弗曼大學(xué)表示，計(jì)劃在必修課程中加入有關(guān)針對(duì)AI工具的討論，強(qiáng)化新生對(duì)學(xué)術(shù)誠信等概念的認(rèn)識(shí)。

如果說ChatGPT的出現(xiàn)是與互聯(lián)網(wǎng)和個(gè)人電腦的誕生并駕齊驅(qū)的里程碑及信息時(shí)代的重要分水嶺，那么對(duì)待它的態(tài)度和行為，也將成為信息時(shí)代的另一個(gè)分水嶺。

ChatGPT來了，禁用它還是擁抱它呢？

ChatGPT該被禁止嗎

與其禁止，不如擁抱。在這個(gè)分水嶺上，我們應(yīng)當(dāng)思考如何有效地使用ChatGPT，利用其長處，避免其短處，不能抱得太緊，也不能棄之不用，甚至禁用。

要擁抱ChatGPT，首先應(yīng)當(dāng)了解和評(píng)估它在人類科研、教育和文化中的作用。ChatGPT的最大作用不是創(chuàng)新，而是能提供某一領(lǐng)域內(nèi)極為豐富的基礎(chǔ)知識(shí)和研究現(xiàn)狀，讓人們知道哪些知識(shí)和成果已經(jīng)被創(chuàng)造和生產(chǎn)，哪些是需要繼續(xù)努力探索和解決的問題。

正是在這個(gè)基礎(chǔ)上，ChatGPT可能會(huì)淘汰一批人，清理學(xué)術(shù)泡沫。這對(duì)于文科類的學(xué)術(shù)研究影響極大。一般而言，文科的論文有比較類似的格式，如都有題目、摘要、目錄、正文、參考文獻(xiàn)、致謝，在內(nèi)容安排上也有不少相似之處，如基本都按照問題提出、文獻(xiàn)綜述、本文觀點(diǎn)、論據(jù)羅列、討論、結(jié)論等順序安排內(nèi)容。

ChatGPT可以寫出大量的、在內(nèi)容上看起來并不雷同的文章，因?yàn)樗?jīng)過深度學(xué)習(xí)，掌握了海量的數(shù)據(jù)、案例、人物、故事和大量的寫作方式和風(fēng)格。因此，如果讓ChatGPT寫文章，可以替代大量的文科論文以及少部分理工科論文。這也正是讓相當(dāng)多的人擔(dān)憂的地方。

盡管ChatGPT可以模擬生成很多文章，但很難替代那些有創(chuàng)意或有全新觀點(diǎn)的文章，更無法替代那些需要實(shí)驗(yàn)數(shù)據(jù)才能完成的理工科論文。因此，ChatGPT在學(xué)術(shù)上的重要作用是，可以檢驗(yàn)出什么是有價(jià)值的、社會(huì)需要的、有創(chuàng)新的真學(xué)術(shù)、好文章。

其次，ChatGPT可以把更多的教育工作者解放出來，甚至創(chuàng)造出更好的教育效果?？鬃釉唬骸皩W(xué)而不厭，誨人不倦。”后半句其實(shí)是針對(duì)教育者（師長）的。相當(dāng)多的教師對(duì)于好學(xué)、聰明的學(xué)生是既喜歡又樂于施教的，但是對(duì)于那些反應(yīng)有些慢、理解力有些差的學(xué)生就會(huì)顯得不耐煩。在學(xué)生多次請(qǐng)教而又不理解學(xué)習(xí)中的問題時(shí)，教師就會(huì)失去耐心，甚至不愿繼續(xù)指導(dǎo)學(xué)生。

這是一個(gè)人性的弱點(diǎn)，但是ChatGPT完全可以解決這個(gè)問題。只要有手機(jī)或電腦，就可以拜ChatGPT為師，有不懂的地方可以反復(fù)請(qǐng)教ChatGPT，它絕不會(huì)不耐煩，也不會(huì)推脫沒時(shí)間，更不會(huì)嘲笑學(xué)生。無論是通識(shí)教育中的問題，還是專業(yè)課程的內(nèi)容，ChatGPT都能做到反復(fù)解釋，不厭其煩。

ChatGPT在教育中還有其他優(yōu)勢，比如，可以幫助教師節(jié)省備課時(shí)間；它有時(shí)會(huì)提供錯(cuò)誤答案，可以成為學(xué)生批判性思維訓(xùn)練的素材。教師還可以利用ChatGPT培養(yǎng)學(xué)生對(duì)信息的分辨、思考和查證能力。

制定規(guī)則，合理使用

不過，緊密擁抱ChatGPT也有弊病，如讓學(xué)生養(yǎng)成對(duì)AI工具的依賴，助長抄襲作弊等陋習(xí)；作業(yè)和論文無法反映學(xué)生真正的知識(shí)水平；難以培養(yǎng)學(xué)生的批判性思維和解決問題的能力。

然而，這些情況主要出現(xiàn)在學(xué)生完成作業(yè)和寫論文的過程中。因此，在教育領(lǐng)域使用ChatGPT，應(yīng)當(dāng)制定一些規(guī)則。如在閉卷考試中不準(zhǔn)帶手機(jī)、不準(zhǔn)帶參考書和紙質(zhì)資料、不準(zhǔn)用電腦，自然也不能使用ChatGPT。對(duì)于完成日常的學(xué)科作業(yè)、期末論文、畢業(yè)論文，則不應(yīng)禁止學(xué)生借助ChatGPT答疑解惑、查找資料。如果能熟練使用ChatGPT，學(xué)生可以快速了解某一項(xiàng)研究進(jìn)展到了什么階段，有哪些成果，需要從哪些地方入手。這對(duì)理工科學(xué)生和文科學(xué)生來說差別不大。但是，對(duì)于可能用ChatGPT生成論文的文科而言，采取一定的審核方法區(qū)分人工論文和AI論文是很有必要的。

上文提到的發(fā)現(xiàn)學(xué)生用ChatGPT寫論文的奧曼教授也調(diào)整了他的教學(xué)計(jì)劃。他要求學(xué)生在課堂上只能使用帶有監(jiān)控和限制功能的瀏覽器撰寫論文初稿，而且要求學(xué)生對(duì)后來的每一次修改做出合理解釋。奧曼教授還表示，未來可能不再讓學(xué)生寫論文，而以其他方式考核學(xué)生的學(xué)習(xí)成績。同時(shí)，奧曼教授認(rèn)為，學(xué)生使用ChatGPT完成論文是違紀(jì)的，使用AI生成的論文會(huì)成為紀(jì)律處分的證據(jù)，但如何定義“AI剽竊”則是一個(gè)新難題。

其實(shí)，ChatGPT的設(shè)計(jì)者也注意到了這個(gè)問題。2023年2月1日，OpenAI公司推出一款A(yù)I文本分類器，用于輔助辨別文本的作者是人類還是AI軟件。這實(shí)際上是以AI對(duì)付AI。該軟件評(píng)估文本后會(huì)給出5種分類：非常不可能、不太可能、不清楚、可能、非?？赡?，是AI生成。但是，使用這種AI文本分類器有一些限制，要求至少輸入1000個(gè)字符，大約150～250個(gè)單詞。

不過，這種檢測工具目前只有26%的準(zhǔn)確率，而且在檢測大于1000個(gè)字符的英文文本時(shí)效果更好，檢測其他語言時(shí)表現(xiàn)要差得多，有時(shí)還會(huì)把人和AI搞混。如知名AI專家拉斯卡用莎士比亞的《麥克白》第一頁的內(nèi)容做測試，發(fā)現(xiàn)AI文本分類器將其誤判為“很可能是AI生成的”。

這意味著，以AI對(duì)付AI還需要改進(jìn)。美國普林斯頓大學(xué)計(jì)算機(jī)科學(xué)專業(yè)的加拿大華裔學(xué)生愛德華·田研發(fā)了一款名為GPTZero的程序，可檢測文本內(nèi)容是否由ChatGPT生成。GPTZero于2023年1月2日問世，利用兩個(gè)指標(biāo)衡量某段文本是否由AI生成，即困惑度和突發(fā)性。困惑度用于衡量文本的復(fù)雜性，困惑度越高，越有可能是人寫的；突發(fā)性用于衡量文本句式結(jié)構(gòu)的變化程度，AI生成的句子更統(tǒng)一，而人類更傾向混合使用長短句。

總之，人們應(yīng)當(dāng)擁抱和利用ChatGPT，充分利用ChatGPT的長處，限制其短處。ChatGPT既無法產(chǎn)生獨(dú)特的想法和創(chuàng)意，也無法提供人類在人際交往中獲得的情緒體驗(yàn)，如傾聽、理解和關(guān)愛，而且ChatGPT還會(huì)犯各種錯(cuò)誤，更不能進(jìn)行全面的思考和分析。我們沒有理由過度擔(dān)心ChatGPT ，因?yàn)樗推渌F(xiàn)有的AI軟件無法完全替代人類。