大語言功能模型在機器翻譯任務中的應用情況分析

楊樂雨

【摘? 要】 隨著時代的迅速發(fā)展，各領域的技術水平都在不斷提高。大語言模型作為人工智能領域的重點研究對象，因其獨特的優(yōu)勢在發(fā)展過程中備受關注。大語言模型不僅具備理解生成文本的能力，還能對文本進行深入的分析與推理。未來，大語言模型的發(fā)展速度將會不斷加快，其應用范圍也將進一步拓寬。文章對大語言模型進行了概述，闡述了大語言模型的應用優(yōu)勢和發(fā)展現狀，并對當前熱門的大語言模型的性能進行了對比分析，以期加速大語言模型的發(fā)展。

【關鍵詞】 機器翻譯；大語言模型；性能分析

隨著技術的飛速進步，當前市場上涌現出眾多大語言模型，它們各具優(yōu)勢，性能多樣。合理應用大語言模型不僅能提升翻譯質量，還能提高各項評價指標。然而，從當前使用效果來看，各個模型都存在一些需要優(yōu)化和完善的地方。為了更加科學合理地評估大語言模型的性能，可以考慮從生成質量、使用性能以及安全合規(guī)等多個維度進行深入分析與評估。

一、大語言模型概述

大語言模型（Large Language Model，簡稱LLM）是一種基于深度學習技術構建的語言理解和生成模型。它最大的特點是通過訓練大量文本數據，生成具有正確語義和語法連貫性的文本，具有強大的遷移理解能力?；谧⒁饬C制的序列模型，大語言模型能夠全面捕捉文本的上下文，并在各種自然語言處理任務中進行應用，例如目前較為常見的系統(tǒng)、文本翻譯以及情感分析等。

大語言模型領域的研究在國內外得到快速發(fā)展。2022年11月，ChatGPT問世，以對話模式為主，能夠響應各種請求，也能拒絕不合理的請求；2023年2月，谷歌官宣了Bard；同年3月，多模態(tài)模型GPT-4推出，該產品具備閱讀文字、圖像識別以及文本生成功能。國內在大語言模型領域的研究也取得了顯著進步。2023年2月，復旦大學推出國內首個對話式大語言模型MOSS；同年3月，清華大學唐杰團隊發(fā)布基于千億參數大模型的對話機器人ChatGLM；2023年5月，科大訊飛推出了火認知大模型。這些研究成果有效推進了大語言模型領域的發(fā)展。

二、機器翻譯的工作原理

機器翻譯（Machine Translation，簡稱MT）是將一種自然語言（源語言）轉換為另一種自然語言（目標語言）的技術。其基本工作原理可以分為兩個階段：語言分析階段和翻譯階段。

語言分析階段：在這個階段，輸入的源語言文本首先會被解析成更小的語言單位，如詞匯、短語和句子。這一步通常涉及詞法分析、句法分析和語義分析等任務。語言分析的目標是理解輸入文本的結構和意義，為接下來的翻譯階段做好準備。

翻譯階段：在翻譯階段，分析后的語言單位被轉換成目標語言的對應單位。這個過程通常包括兩個子任務：詞匯翻譯和句子翻譯。詞匯翻譯是將源語言的詞匯映射為目標語言的詞匯，這需要一個詞匯庫（如詞典）來輔助進行轉換。句子翻譯則需要將源語言的句子結構轉換為目標語言的句子結構，這可能涉及句子的重排、成分添加或刪除等操作。

三、機器翻譯的評估指標

機器翻譯質量的評價指標很多，常見的有如下幾種：

BLEU（Bilingual Evaluation Understudy）指標：BLEU是當前最廣泛使用的一種自動評估指標，它通過比較機器翻譯結果與參考翻譯的相似度來評價翻譯質量。BLEU指標的取值范圍是0-1，值越接近1，表示翻譯質量越好。

NIST（National Institute of Standards and Technology）評價指標：NIST評價指標與BLEU類似，是通過比較機器翻譯結果與多個參考翻譯的相似度來評價翻譯質量。不同的是，NIST 采用了一種加權平均的方法，對不同參考翻譯的相似度進行加權計算。

TER（Translation Edit Rate）指標：TER指標是一種基于編輯距離的評估方法，它通過計算機器翻譯結果與參考翻譯之間的編輯距離來評價翻譯質量。編輯距離越小，表示翻譯質量越好。

METEOR（Metric for Evaluation of Translation with Explicit ORdering）指標：METEOR指標綜合考慮了詞匯、句子結構和語義三個方面的因素，通過計算機器翻譯結果與參考翻譯之間的相似度來評價翻譯質量。

J.44（Joshi-44）指標：J.44指標是一種基于統(tǒng)計的方法，它通過計算機器翻譯結果與參考翻譯之間的統(tǒng)計相似度來評價翻譯質量。

以上指標均是專門針對機器翻譯任務的評估指標，其中BLEU側重于詞匯和語法方面的評估，而NIST、TER、METEOR和J.44則采用了編輯距離或統(tǒng)計方法來評價翻譯質量。

隨著技術的不斷發(fā)展進步，研究者逐步引入了基于預訓練語言模型的評估方法，它們綜合考慮了詞匯、語法和語義等方面的因素，適用于評價各種NLG任務，比較典型的就是BERTScore和GPTScore評估。

BERTScore評估是一種基于預訓練BERT模型的評估方法，它通過計算生成文本與參考文本在詞向量空間中的相似度來評價翻譯質量。BERTScore 綜合考慮了詞匯、語法和語義三個方面的因素。

GPTScore評估是另一種基于預訓練GPT模型的評估方法，它通過計算生成文本與參考文本在GPT模型生成的詞向量空間中的相似度來評價翻譯質量。與BERTScore類似，GPTScore也綜合考慮了詞匯、語法和語義等方面的因素。

在實際應用中，可以根據具體任務和需求選擇合適的評估指標。對于多種任務和場景的評估，可以考慮使用BERTScore或GPTScore這類綜合性的評估指標。而對于專門針對機器翻譯任務的評估，可以考慮使用BLEU、NIST、TER、METEOR或J.44等專門針對翻譯任務的指標。

四、人工智能在機器翻譯中的應用

近年來，隨著人工智能技術的發(fā)展，機器翻譯領域出現了許多新的方法和模型。其中，神經機器翻譯（Neural Machine Translation，簡稱NMT）模型取得了顯著的進展。與傳統(tǒng)的基于規(guī)則和統(tǒng)計的機器翻譯方法不同，神經機器翻譯采用深度神經網絡（如循環(huán)神經網絡、長短時記憶網絡等）作為模型結構，通過端到端的學習實現源語言到目標語言的映射。

在神經機器翻譯模型中，輸入的源語言文本首先被編碼成一個連續(xù)的向量表示，然后通過解碼器進行解碼，生成目標語言的文本。為了提高翻譯質量，神經機器翻譯模型通常需要大量的訓練數據和高質量的平行語料庫（包含源語言和目標語言對應文本的數據集）。

在實際應用中，機器翻譯系統(tǒng)還需要進行一些額外的優(yōu)化，如錯誤處理、譯文評估和用戶反饋等。這些優(yōu)化可以幫助提高翻譯質量，滿足不同場景和應用的需求?？傊?，機器翻譯工作原理可以概括為通過分析輸入語言的結構和意義，然后將其轉換為目標語言的對應結構。

五、機器翻譯任務中大語言模型應用的優(yōu)勢

大語言模型在機器翻譯領域具有顯著的優(yōu)勢，主要體現在以下幾個方面：

更準確的翻譯質量：大語言模型具有強大的語言理解能力和豐富的知識儲備，能夠有效提高機器翻譯的準確性和質量。在許多自然語言處理任務中，大語言模型已經取得了顯著的進展，如GPT-3等。

變長序列處理能力：大語言模型可以處理變長的序列輸入，適用于自然語言這種通常是變長的序列數據，這使大語言模型在機器翻譯任務中具有很強的適應性。

編碼器－解碼器結構：在機器翻譯中，大語言模型通常采用編碼器－解碼器結構。編碼器將源語言句子轉換為一個向量表示，并將其輸入到解碼器中，解碼器根據向量表示生成目標語言句子，這種結構有助于提高翻譯的準確性和流暢度。

多語言處理能力：大語言模型在大規(guī)模多語言翻譯數據上進行訓練，因此具備較強的多語言處理能力，這使機器翻譯系統(tǒng)可以同時處理多個不同語言之間的翻譯任務，提高了系統(tǒng)的效率和靈活性。

跨語言資源共享：大語言模型可以實現不同語言之間的知識共享，幫助低資源語言的機器翻譯系統(tǒng)。這種跨語言資源共享能力有助于解決低資源語言雙語數據稀少或缺失的問題。

六、機器翻譯任務中大語言模型應用的不足

盡管大語言模型（LLM）在機器翻譯領域具有很多優(yōu)勢，但仍然存在一些不足之處，主要包括以下幾點：

數據依賴性：大語言模型需要大量的高質量訓練數據，但在某些低資源語言中，可能難以獲得足夠多的有效數據，這可能導致模型在某些特定任務或語言上的性能不佳。

計算資源需求：大語言模型通常需要大量的計算資源進行訓練，這對許多個人或小型組織來說可能是一個限制因素。此外，隨著模型規(guī)模的增長，計算資源需求也會相應增加，可能導致訓練過程變得漫長或難以負擔。

無法解決歧義問題：由于自然語言中的歧義現象，大語言模型可能會在某些情況下生成不準確或模糊的翻譯。盡管模型可以捕捉到一定程度的歧義消除，但仍然無法完全解決這一問題。

語言風格和詞匯限制：大語言模型可能受到訓練數據中的語言風格和詞匯限制的影響。如果模型在訓練數據中沒有接觸過特定的語言風格或詞匯，那么在實際應用中可能會出現翻譯質量下降的情況。

七、機器翻譯任務中大語言模型未來發(fā)展建議

伴隨大語言模型技術的快速發(fā)展，機器翻譯領域的發(fā)展速度也會不斷加快。大語言模型技術的應用能夠有效提高機器翻譯的質量和準確性，但目前機器翻譯領域在發(fā)展過程中仍面臨著許多挑戰(zhàn)，例如多義詞、歧義詞、語言文化差異等，這些問題都需要進一步進行解決，筆者就這些問題提出如下發(fā)展建議：

一是不斷強化跨語言遷移學習，在發(fā)揮本土語料優(yōu)勢的同時，最大程度減少語言偏向，注重提高模型在非母語語言上的理解能力。二是擴大訓練數據范圍，充分利用互聯網大數據資源，采用教科書、文學以及多領域的數據進行補充訓練，通過該種方式進一步對模型知識面進行擴展。三是對敏感錯誤信息進行精準過濾，需要標注更多真實的例子，開發(fā)漸進和語境化的過濾方式。

八、結語

大語言模型技術的發(fā)展給機器翻譯帶來了全新的發(fā)展機遇，在未來發(fā)展過程中，機器翻譯有著更多的可能性。機器翻譯會逐漸與人類翻譯進行結合，翻譯質量在提升的同時，隱私安全及合規(guī)性均能得到保證。通過對多種大語言模型的性能進行分析，能夠明確不同產品的優(yōu)劣勢，在選用時可以揚長避短，充分發(fā)揮產品的優(yōu)勢。

■ 參考文獻：■

［1］ 郭利敏，付雅明. 以大語言模型構建智慧圖書館：框架和未來［J/OL］. 圖書館雜志：1-11［2023-10-14］. http：//kns.cnki.net/kcms/detail/31.1108.G2.20231011.1616.006.html.

［2］ 張宏玲，沈立力，韓春磊，等. 大語言模型對圖書館數字人文工作的挑戰(zhàn)及應對思考［J/OL］. 圖書館雜志，1-11. http：//kns.cnki.net/kcms/detail/31.1108.G2.20231011.1556.004.html.

［3］ 李源，馬新宇，楊國利，等. 面向知識圖譜和大語言模型的因果關系推斷綜述［J/OL］. 計算機科學與探索，1-20. http：//kns.cnki.net/kcms/detail/11.5602.TP.20231011.1107.002.html.

［4］ 嚴豫，楊笛，尹德春. 融合大語言模型知識的對比提示情感分析方法［J/OL］. 情報雜志，1-9. http：//kns.cnki.net/kcms/detail/ 61.1167.g3.20230803.0748.008.html.

［5］ 王敏. 基于循環(huán)神經網絡的漢語語言模型效率與性能的優(yōu)化與實現［D］. 重慶：重慶郵電大學，2017.

［6］ 高俊濤，林煜熙，姚建民. 基于語言模型的機器翻譯評價方法及其性能評價方法研究［J］. 中國科技信息，2008（20）：108+111.