生成式人工智能及潛在司法應用場景

肖鳳

主持人

曹曉燁：上海市楊浦區(qū)人民檢察院黨組成員、副檢察長

隨著科技的發(fā)展，數(shù)字化正在改變我們的生活，也在改變司法工作的方式。如何運用ChatGPT這類新技術，服務司法工作，助力國家治理現(xiàn)代化？上海市人民檢察院、同濟大學人工智能社會治理協(xié)同創(chuàng)新中心、百度智能云、科大訊飛相關專家積極建言獻策。

追根溯源：ChatGPT的原理和發(fā)展歷程

曹曉燁：風靡全球的AI技術正式拉開第四次科技浪潮大幕。我們見證了ChatGPT風靡全球的結(jié)果，但對其原理和發(fā)展歷程卻不是非常了解，請各位嘉賓為我們介紹一下。

陳吉棟：ChatGPT實質(zhì)是人工智能程序，其工作原理是先給它提供一個龐大的語料庫（通常是直接從互聯(lián)網(wǎng)上爬?。屇Ｐ屯ㄟ^上千億個參數(shù)對這些文本進行打散、標記、學習，構(gòu)建起一個復雜的預測模型。從2018年起，OpenAI就開始發(fā)布GPT，每一代GPT模型的參數(shù)量都在爆發(fā)式增長，堪稱“越大越好”。2022年11月發(fā)布的ChatGPT，參數(shù)量超過1750億。今年3月15日發(fā)布的GPT-4，與ChatGPT所用的模型相比，其回答準確性不僅大幅提高，還具備更高水平的識圖能力。

崔世鵬：ChatGPT底層依賴的是語言大模型、大數(shù)據(jù)、大算力、強算法，以及基于人類反饋的強化學習技術等。從其本身的概念范疇來講，它更多的是人工智能領域下基于大模型的深度學習應用。前面陳教授也提到ChatGPT的學習訓練參數(shù)規(guī)模已達千億級別，它還可以基于指令學習的方式，主動自我學習、適應輸入。同時，基于其強化學習的人類反饋，訓練這個模型的開發(fā)團隊基于人工調(diào)參的模式（人工標注訓練的過程）將人工評價的機制訓練成獎勵模型，再基于這個獎勵模型進一步訓練、優(yōu)化ChatGPT模型。ChatGPT更多的是文本類的基于大模型的應用。而GPT-4是一個跨模態(tài)大模型，結(jié)合了文本和圖像的能力，然后在此基礎上給上層應用提供相應的模型服務。

孔維駿：關于ChatGPT技術，其主要具備以下特性：第一是信息的全量記憶。ChatGPT在對話過程中會記憶上下文信息，不斷積累的前段信息記憶會在后續(xù)處理過程中輔助結(jié)果生成。第二是具備一定程度復雜邏輯的推理能力。第三是多風格生成。ChatGPT在文本生成的過程中，風格是多變、多元的。第四是它能夠進化，比如問ChatGPT一個問題，它回答錯了，糾正之后，下次再問，它就能正確回答。

曹曉燁：剛剛各位嘉賓談到了ChatGPT的諸多特點，也可以說諸多優(yōu)點，那么實踐運用中，其是否存在一定的不足？

丁琪：ChatGPT雖然具有一定的推理能力，但其知識（數(shù)據(jù)）主要是基于訓練時的數(shù)據(jù)供給，因此，ChatGPT只能基于訓練時所擁有的數(shù)據(jù)集進行回答。例如它不會像蘋果的Siri那樣回答今天天氣如何等。

陳漫卿：剛才各位專家介紹ChatGPT模型的訓練需要大量數(shù)據(jù)，這就會導致在ChatGPT未經(jīng)大量語料訓練的領域缺乏“人類常識”和引申能力，甚至會一本正經(jīng)地胡說八道。

嘉賓

崔世鵬：百度智能云政務產(chǎn)品檢法負責人

孔維駿：科大訊飛司法業(yè)務部總監(jiān)

陳吉棟：同濟大學副教授、上海市人工智能社會治理協(xié)同創(chuàng)新中心研究員

丁琪：上海市人民檢察院檢察官

陳漫卿：上海市人民檢察院檢察官

趨勢探討：ChatGPT技術的發(fā)展

曹曉燁：隨著人工智能技術的發(fā)展，ChatGPT這類技術的發(fā)展趨勢是怎樣的，是否會對我們的工作、生活以及對司法工作帶來顛覆性影響？

崔世鵬：相關數(shù)據(jù)顯示，2020年中國人工智能行業(yè)市場規(guī)模約為1858億元，預計2023年將達約5298億元。業(yè)界預計未來幾年ChatGPT的市場份額將迅速增長。國家科技部也表示，將在今后幾年加大對人工智能行業(yè)技術的支持。由此可見，ChatGPT的發(fā)展前景非?？捎^。隨著技術的發(fā)展，ChatGPT的應用場景，包括但不限于智能客服、智能對話等。如智能客服方面，ChatGPT技術可以自動生成新的語言，幫助用戶更好地理解相關信息，用戶因此可以更加便捷地獲得服務。由此可知，ChatGPT主要是起到輔助作用，其在司法場景的運用亦是如此。司法人員可以運用ChatGPT輔助查詢、類案推送以及簡單的歸納整理案件材料。

孔維駿：ChatGPT的出現(xiàn)標志著人工智能技術的發(fā)展取得了從量變到質(zhì)變的飛躍，甚至會對人類社會帶來顛覆性影響。但這種顛覆性影響并不是說能夠完全取代人類的工作，正如剛才崔世鵬專家所說，更多的是起到輔助作用。在司法工作領域，簡單重復性的工作可以由人工智能技術代替或輔助。如有了語音識別的人工智能輔助之后，書記員的工作從全程錄入變成了修改完善庭審記錄，工作效率大大提高。但在專業(yè)性強、復雜場景下的工作，ChatGPT則很難做到和人類一樣，更多的還是提供輔助判斷和數(shù)據(jù)推送等。

陳漫卿：有媒體認為，軟件技術類、新聞媒體類、法律工作類、客服人員的工作將更容易被ChatGPT搶走。但我認為，這種觀點過于絕對。技術的發(fā)展雖然賦予人工智能“智慧”，但也只是人類智慧的初級階段，不具備復雜的腦力勞動能力。上述工作中簡單的重復類工作可能被“搶走”，但復雜專業(yè)性強的工作應該“搶不走”，或者說要“搶走”還有很長的路要走。

陳吉棟：在未來哪些工作可能會被以ChatGPT為代表的人工智能取代呢？首當其沖就是大規(guī)模重復性勞動。對于ChatGPT是否會取代司法人員的工作，我持否定態(tài)度。原因在于，法律是上層建筑，沒有哪個國家會允許人工智能來辦案，最多只是輔助作用。

場景展望：ChatGPT這類技術的潛在司法應用

曹曉燁：面對席卷而來的ChatGPT浪潮，大家預見的是強人工智能時代的未來將至。就司法領域而言，2023年1月30日美國哥倫比亞法院在裁判中使用了ChatGPT輔助辦案的文本生成功能來增加說理依據(jù)，在裁判文書中，ChatGPT給出了具體的法律條款、適用情形以及憲法法院判例等。從中可見，以ChatGPT為代表的大型語言模型在輔助司法工作中有發(fā)揮的空間。結(jié)合我國司法實踐來看，ChatGPT這類技術可以有哪些潛在場景應用，想聽聽各位嘉賓的觀點。

孔維駿：ChatGPT這類人工智能技術在司法領域的應用主要涉及語音、認知等技術領域，面向數(shù)據(jù)處理、智能分析等場景提供智能化服務，主要包括以下幾個方面：一是提供全流程智能輔助辦案應用，構(gòu)建智能審查、量刑預測、文書生成、自動編目、筆錄生成等業(yè)務能力，通過智能化技術輔助辦案人員的常規(guī)工作。二是提供全方位司法監(jiān)督管理應用，建設視頻自動巡查、案件裁判偏離預警、案件智能核查等監(jiān)督能力，及時發(fā)現(xiàn)和解決問題，加強司法工作流程的規(guī)范化。三是提供司法大數(shù)據(jù)深度挖掘應用，在海量的法律文本中搜索和推薦相關案例、法規(guī)和法律文獻等信息，探索司法規(guī)律和趨勢，為司法改革和法律制定提供數(shù)據(jù)支持。

丁琪：美國哥倫比亞法院在判案時首次使用ChatGPT作為輔助工具，標志著ChatGPT首次對司法審判產(chǎn)生助力。確實，目前ChatGPT已經(jīng)表現(xiàn)出很強的歸納能力，但它是否能夠?qū)⒁粋€復雜案件中的爭議焦點提煉出來，是否能夠?qū)@些法律適用問題進行歸納，是否能夠比較準確地定罪量刑，還有待進一步考察、驗證。

陳吉棟：法律的適用并非簡單地引用法條，不同的案件中需要結(jié)合具體案情進行分析與調(diào)整，甚至有的案件存在多種罪名競合的情況。因此，在實際辦案中，需要歸納出焦點問題并進行全面分析，最終得出正確的判定。傳統(tǒng)人工智能工具或者搜索引擎并無此種功能。而ChatGPT因其具有的推理能力則可以結(jié)合案件事實加以分析，并給出在不同情形下應當考慮的法律認定因素。其給出的建議具有一定參考價值，可以起到輔助作用。

崔世鵬：百度從底層自研的昆侖芯片到國內(nèi)首個深度學習框架，從文心1.0開始到今年3月16日發(fā)布的文心3.0（文心一言），表明了在大模型的領域具備完整的開發(fā)能力。百度當前的搜索引擎也用到了大模型的能力。為此，不管是當前還是未來，ChatGPT這類技術可以有效助力法律檢索，得益于龐大的預訓練數(shù)據(jù)庫。ChatGPT這類技術雖然并非專為信息檢索用途研發(fā)，但借助合理的提問方式，其往往能夠給出比傳統(tǒng)信息檢索范式的搜索引擎更加精準而全面的回答。在司法領域，司法人員對法律相關文獻資料的檢索有著龐大的日常需求。通過合理的提問設置，ChatGPT這類技術能夠為使用者提供大量文獻與相關資料，幫助用戶快速了解相關信息。

陳漫卿：實踐中，司法人員辦案主要是對案件的審查，包括證據(jù)審查、法律適用等，在偵查、檢察、審判等不同環(huán)節(jié)上對司法人員的工作要求是一致的。ChatGPT出來以后，基于它具有深度的閱讀理解能力、能夠進化以及具有一定的歸納推理能力等，可以運用ChatGPT這類技術輔助司法辦案。比如在日常的環(huán)節(jié)中借助ChatGPT這類技術快速地從案情中提取出相應的內(nèi)容，幫助辦案人員減少機械性、煩瑣性的工作。像上海檢察機關《全流程全息在線辦案綜合平臺總體規(guī)劃》中關于全息助手的應用場景完全可運用ChatGPT這類技術研發(fā)替代場景?？梢赃\用ChatGPT這類技術通過對海量的法律法規(guī)、歷史案件、辦案規(guī)則、專家意見等進行反饋式學習，讓司法人員在辦案過程中隨時獲取最貼切最實用的信息，形成案件定性的具體指引、輔助構(gòu)建法律監(jiān)督模型等。

曹曉燁：感謝各位嘉賓的精彩分享。今天我們圍繞ChatGPT技術原理及潛在司法應用場景進行了深入討論和展望，我們期待以ChatGPT技術為代表的人工智能技術能夠更好賦能檢察履職、經(jīng)濟社會發(fā)展和“數(shù)字中國”建設。

（聲明：本內(nèi)容僅代表嘉賓觀點，不代表本刊立場）

編輯：夏春暉 386753207@qq.com