李夢(mèng)楠 汪明艷

摘? 要：為了進(jìn)一步了解情感分析方向的發(fā)展趨勢(shì)，通過對(duì)基于機(jī)器學(xué)習(xí)的情感分析文獻(xiàn)的整理與分析，首先對(duì)國(guó)內(nèi)外基于機(jī)器學(xué)習(xí)的情感分析方法進(jìn)行了梳理，介紹了相關(guān)方法的基本原理及算法改進(jìn);其次列舉了幾種方法在電子商務(wù)、餐館評(píng)價(jià)和災(zāi)害管理中的實(shí)際應(yīng)用，對(duì)當(dāng)前情感分析應(yīng)用中存在的主要困難進(jìn)行探討，對(duì)相關(guān)方法處理能力進(jìn)行評(píng)價(jià);最后得出了上下游任務(wù)結(jié)合的處理方法值得深入研究的結(jié)論，給出了對(duì)情感分析未來(lái)研究趨勢(shì)的展望，提出了相關(guān)方法改進(jìn)的挑戰(zhàn)。

關(guān)鍵詞：情感分析;機(jī)器學(xué)習(xí);BERT;支持向量機(jī);卷積神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào)：TP391.1? ? ?文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：2096-1472（2021）-09-21-03

Abstract： In order to further understand the development trend of sentiment analysis， this paper proposes first to sort out sentiment analysis methods of machine learning at home and abroad， after sorting and analyzing sentiment analysis literature. Basic principles and algorithm improvement are introduced， followed by the practical application of several methods in e-commerce， restaurant evaluation and disaster management. Difficulties in the current sentiment analysis application are discussed and the processing ability of related methods is evaluated. Finally， it is concluded that the processing method of combining upstream and downstream tasks is worthy of in-depth study， and the prospect of the future research trend of sentiment analysis and the challenges of related method improvement are given.

Keywords： sentiment analysis; machine learning; BERT; support vector machine; convolutional neural network

1? ?引言（Introduction）

用戶在論壇、微博、新聞上分享他們的觀點(diǎn)或意見，這些被認(rèn)為是公眾意見的重要來(lái)源。在此背景下，情感分析研究應(yīng)運(yùn)而生，其目的是分析用戶情感。情感分析數(shù)據(jù)是不同應(yīng)用領(lǐng)域的相關(guān)信息來(lái)源，例如在電子商務(wù)領(lǐng)域，產(chǎn)品評(píng)論是用自然語(yǔ)言寫成的，口語(yǔ)化評(píng)論更容易閱讀，但機(jī)器分辨情感極性并不容易;面對(duì)突如其來(lái)的災(zāi)害，災(zāi)民會(huì)通過社交媒體表達(dá)情感[1]，救援組織或政府機(jī)構(gòu)可以通過對(duì)相關(guān)區(qū)域社交媒體的分析了解災(zāi)害的破壞程度。因此，情感分析是一個(gè)需要不同技術(shù)組合來(lái)進(jìn)行管理的任務(wù)。

學(xué)者對(duì)基于深度學(xué)習(xí)的情感分析進(jìn)行了研究，利用機(jī)器學(xué)習(xí)方法進(jìn)行了多方面的探索。機(jī)器學(xué)習(xí)模型可以靈活地表示復(fù)雜關(guān)系，能夠估計(jì)后驗(yàn)概率，執(zhí)行時(shí)間較短，即使在有噪聲數(shù)據(jù)的情況下，也具備良好的性能。因此，機(jī)器學(xué)習(xí)方法在情感分析中得到了廣泛的應(yīng)用。

本文根據(jù)機(jī)器學(xué)習(xí)算法在自然語(yǔ)言處理中的使用，以情感分析視角介紹相關(guān)方法的應(yīng)用和部分算法改進(jìn)策略，對(duì)情感分析的三個(gè)重要研究領(lǐng)域進(jìn)行述評(píng)，探討了現(xiàn)有研究的成果和存在的不足，提出了未來(lái)的發(fā)展方向和研究挑戰(zhàn)。

2? 情感分析研究方法（Research methods of sentiment analysis）

2.1? ?卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network， CNN）目前已經(jīng)成為一種常用的機(jī)器學(xué)習(xí)模型而被許多學(xué)者使用。卷積神經(jīng)網(wǎng)絡(luò)的特點(diǎn)是模型的非線性特點(diǎn)和區(qū)域?qū)W習(xí)嵌入的能力，它由嵌入層、卷積層、池化層和輸出層組成。在嵌入層中，每段文字被嵌入在單詞級(jí)，并被表示成一個(gè)矩陣。在卷積層中，過濾器的寬度固定在單詞向量的維數(shù)以捕獲相鄰單詞之間的關(guān)系。在池化層中，通過max-over-time池化操作提取每個(gè)特征映射對(duì)應(yīng)的最大值。在輸出層中，提取特征并在全連通層中，該層在輸出上具有概率分布。特殊情況時(shí)，深度的卷積神經(jīng)網(wǎng)絡(luò)可能超過四層：輸入層、兩個(gè)卷積層、兩個(gè)最大池化層和通過Softmax分類器輸出的全連接層。楊銳等[2]研究了基于卷積神經(jīng)網(wǎng)絡(luò)的文本分類方法。ZHANG等[3]的研究表明，對(duì)于文本分類，基于字符的深度卷積神經(jīng)網(wǎng)絡(luò)表現(xiàn)良好。卷積神經(jīng)網(wǎng)絡(luò)模型被應(yīng)用于許多任務(wù)中。卷積神經(jīng)網(wǎng)絡(luò)可以在文本中提取局部n-gram特征，但有可能無(wú)法捕捉到長(zhǎng)距離依賴性，而長(zhǎng)短期記憶網(wǎng)絡(luò)（Long Short-Term Memory， LSTM）則可以通過對(duì)文本進(jìn)行順序建模來(lái)解決這一問題。卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)通常與基于序列或樹狀結(jié)構(gòu)的模型結(jié)合。實(shí)驗(yàn)表明，卷積神經(jīng)網(wǎng)絡(luò)是一種可以克服以神經(jīng)網(wǎng)絡(luò)高計(jì)算量為代價(jià)的替代方法，但與其他方法相比，它需要更多的訓(xùn)練時(shí)間。

2.2? ?循環(huán)神經(jīng)網(wǎng)絡(luò)

由于循環(huán)神經(jīng)網(wǎng)絡(luò)能夠在相對(duì)靈活的計(jì)算中捕獲信息，在供應(yīng)鏈管理中得到了廣泛的應(yīng)用。與卷積神經(jīng)網(wǎng)絡(luò)相比，循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network， RNN）模型有兩個(gè)重要的特點(diǎn)。首先，卷積神經(jīng)網(wǎng)絡(luò)在每一層都有不同的參數(shù)，但循環(huán)神經(jīng)網(wǎng)絡(luò)在每一層都是相同的參數(shù)。在循環(huán)神經(jīng)網(wǎng)絡(luò)中，一個(gè)階段的輸出依賴于前一個(gè)階段，需要占用很大內(nèi)存。因此，循環(huán)神經(jīng)網(wǎng)絡(luò)在處理順序信息方面比卷積神經(jīng)網(wǎng)絡(luò)更有優(yōu)勢(shì)。循環(huán)神經(jīng)網(wǎng)絡(luò)可以利用這個(gè)優(yōu)勢(shì)將一個(gè)任意長(zhǎng)度的序列映射到一個(gè)固定長(zhǎng)度的向量。由于梯度限制，簡(jiǎn)單的循環(huán)神經(jīng)網(wǎng)絡(luò)在其反向傳播過程中的訓(xùn)練相對(duì)困難，主要有兩個(gè)問題：梯度消失問題（即梯度數(shù)值接近于零）和爆炸性梯度問題，這可能會(huì)導(dǎo)致在學(xué)習(xí)過程中出現(xiàn)不穩(wěn)定的情況。另外，循環(huán)神經(jīng)網(wǎng)絡(luò)模型還有一些其他的擴(kuò)展，如雙向循環(huán)神經(jīng)網(wǎng)絡(luò)[4]。循環(huán)神經(jīng)網(wǎng)絡(luò)包含一個(gè)前向?qū)雍秃笙驅(qū)樱员銖那懊婧秃竺娴牧钆浦袑W(xué)習(xí)信息。循環(huán)神經(jīng)網(wǎng)絡(luò)處理文檔級(jí)情感分類，情感分類要求先建立句子表示，然后將其聚合成文檔表示，從而獲得層次表示。此外，在GRAVES等[5]學(xué)者的研究中，長(zhǎng)短期記憶網(wǎng)絡(luò)與循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)合產(chǎn)生了雙向長(zhǎng)短期記憶網(wǎng)絡(luò)（BLSTM），可以訪問所有輸入方向上的上下文及更多的信息。MIAO等[6]提出了一種基于BLSTM和wavenet的語(yǔ)音轉(zhuǎn)換方法，以提高語(yǔ)音質(zhì)量。因此，BLSTM也可以考慮句子間和句子內(nèi)的聯(lián)系。

2.3? ?遞歸神經(jīng)網(wǎng)絡(luò)

遞歸神經(jīng)網(wǎng)絡(luò)（Recursive Neural Network， RNN）是循環(huán)神經(jīng)網(wǎng)絡(luò)的一種推廣，它在有向無(wú)環(huán)網(wǎng)絡(luò)上遞歸地應(yīng)用相同的權(quán)值集，但輸入段是樹狀結(jié)構(gòu)。卷積神經(jīng)網(wǎng)絡(luò)模型是由語(yǔ)言驅(qū)動(dòng)的，因?yàn)樗鼈兲剿髁藰錉罱Y(jié)構(gòu)，并嘗試學(xué)習(xí)復(fù)雜的組合語(yǔ)義。而遞歸神經(jīng)網(wǎng)絡(luò)的樹狀結(jié)構(gòu)包括選區(qū)樹和依賴樹。一方面，在選區(qū)樹中，葉節(jié)點(diǎn)表示單詞，內(nèi)部節(jié)點(diǎn)表示短語(yǔ)，根節(jié)點(diǎn)表示整個(gè)句子。另一方面，在依賴樹中，每個(gè)節(jié)點(diǎn)都可以表示一個(gè)單詞，該單詞與其他具有依賴連接的節(jié)點(diǎn)相連接。在遞歸神經(jīng)網(wǎng)絡(luò)中，每個(gè)節(jié)點(diǎn)的向量表示是從它的所有子節(jié)點(diǎn)使用一個(gè)權(quán)重矩陣計(jì)算出來(lái)的。REN等[7]提出了由兩個(gè)虛擬單向遞歸神經(jīng)網(wǎng)絡(luò)組成一種新的混合參數(shù)遞歸神經(jīng)網(wǎng)絡(luò)算法。

2.4? ?支持向量機(jī)

支持向量機(jī)（Support Vector Machine， SVM）作為能夠有效分析數(shù)據(jù)的監(jiān)督學(xué)習(xí)模型，是一種基于統(tǒng)計(jì)學(xué)習(xí)理論的新型機(jī)器學(xué)習(xí)方法，用于與機(jī)器學(xué)習(xí)算法相關(guān)的回歸分析和分類的應(yīng)用，近年來(lái)在機(jī)器學(xué)習(xí)領(lǐng)域，憑借其優(yōu)秀的學(xué)習(xí)性能逐漸成為研究熱點(diǎn)。支持向量機(jī)可以對(duì)一些常用的情感表達(dá)進(jìn)行分類。評(píng)估是根據(jù)測(cè)量的準(zhǔn)確度、精密度和召回率設(shè)置的。一種改進(jìn)的情緒分析方法與先進(jìn)的預(yù)處理被證明可以提供更好的結(jié)果。CAI等[8]提出了一個(gè)三層情感詞典，它可以將情感詞與對(duì)應(yīng)的實(shí)體和方面聯(lián)系在一起，減少情感詞的多重含義。該模型從情緒動(dòng)態(tài)特征的描述和計(jì)算出發(fā)，更全面地預(yù)測(cè)了描述情緒演化的過程特征。在未來(lái)，我們可以使用混合其他模型的分類技術(shù)以提高準(zhǔn)確性。

2.5? ?基于變換器的雙向編碼器表征技術(shù)

基于變換器的雙向編碼器表征技術(shù)（Bidirectional Encoder Representation from Transformer，BERT）是一種基于神經(jīng)網(wǎng)絡(luò)的自然語(yǔ)言預(yù)處理技術(shù)。BERT模型可以通過輸入層和輸出層進(jìn)行適當(dāng)?shù)奈⒄{(diào)，以在各種文本分析任務(wù)中創(chuàng)建模型。BERT的核心是采用transformer技術(shù)，它非常適用于基于編碼-解碼模型和注意力機(jī)制的自然語(yǔ)言處理任務(wù)。相較于支持向量機(jī)模型，BERT可以在數(shù)據(jù)量較大時(shí)有更加出色的表現(xiàn)，處理性能會(huì)顯著提升。例如，當(dāng)前新冠肺炎疫情已演變?yōu)槿蛐粤餍屑膊　９残l(wèi)生問題不僅與公眾的預(yù)防感染有關(guān)，還與經(jīng)歷疫情的公眾心理狀況有關(guān)。因此，分析產(chǎn)生負(fù)面情緒的社交媒體數(shù)據(jù)有助于了解公眾在新冠肺炎疫情期間的經(jīng)歷，并為預(yù)防其他疾病提供借鑒。WANG等[9]分析了疫情期間情緒隨時(shí)間的演變及微博中與負(fù)面情緒相關(guān)的主題。實(shí)驗(yàn)表明，BERT具備更優(yōu)異的特征提取能力，可以提升情感分類的性能和穩(wěn)定性，加快收斂的速度?？梢岳肂ERT對(duì)相同文本的三種語(yǔ)言進(jìn)行情感分析，李妍慧等[10]為處理多語(yǔ)種文本的情感分析問題提供了有效的解決方案。

3? 情感分析研究領(lǐng)域（Research field of sentiment analysis）

3.1? ?電商用戶評(píng)論情感分析

網(wǎng)上購(gòu)物已成為公眾消費(fèi)的主要方式。對(duì)電子商務(wù)平臺(tái)上的大量用戶評(píng)論進(jìn)行情感分析有助于電商改進(jìn)產(chǎn)品以提高用戶的整體滿意度。對(duì)于潛在消費(fèi)者來(lái)說(shuō)，閱讀產(chǎn)品評(píng)論來(lái)決定是否購(gòu)買該產(chǎn)品可以降低選擇難度[11]。因此，產(chǎn)品評(píng)論分類也是情感分析研究的領(lǐng)域之一。榮飛瓊等學(xué)者[12]針對(duì)在線產(chǎn)品銷售的決策需求，結(jié)合各行業(yè)在線產(chǎn)品的銷量影響因素及卷積神經(jīng)網(wǎng)絡(luò)算法優(yōu)勢(shì)，構(gòu)建了適用于在線產(chǎn)品的銷量預(yù)測(cè)模型。通過建立一個(gè)四層卷積神經(jīng)網(wǎng)絡(luò)模型，嵌入矩陣和其他權(quán)重，完成單詞的嵌入和特征提取以改善情感分析的效果。洪文興等[13]對(duì)攜程網(wǎng)和京東的五種商品及亞馬孫的四種商品的評(píng)論數(shù)據(jù)進(jìn)行分析，依靠卷積神經(jīng)網(wǎng)絡(luò)抽取特征向量，通過對(duì)公共特征空間進(jìn)行重構(gòu)來(lái)進(jìn)行領(lǐng)域自適應(yīng)，使其在情感分類問題上取得了不錯(cuò)的表現(xiàn)。為了提高產(chǎn)品評(píng)論情感分析的準(zhǔn)確性，YANG等[14]結(jié)合GRU模型、注意力機(jī)制、情感詞典和卷積神經(jīng)網(wǎng)絡(luò)模型的優(yōu)點(diǎn)，建立了SLCABG模型。但情感類別只有正負(fù)兩類，對(duì)要求情感類別細(xì)化的領(lǐng)域并不適用，還需要繼續(xù)提升情感的細(xì)粒度分析。

3.2? ?消費(fèi)者餐館點(diǎn)評(píng)情感分析

消費(fèi)者在前往陌生城市時(shí)，往往會(huì)在互聯(lián)網(wǎng)平臺(tái)尋找分布美食的區(qū)域，諸如Yelp、大眾點(diǎn)評(píng)網(wǎng)等平臺(tái)提供了這樣的餐館評(píng)價(jià)服務(wù)。用戶可以在享用美食后對(duì)該餐館的味道、消費(fèi)額、環(huán)境等進(jìn)行分?jǐn)?shù)或星級(jí)的評(píng)價(jià)，陌生消費(fèi)者也可以通過這樣的評(píng)價(jià)確定該餐館是否符合自身選擇條件以進(jìn)行消費(fèi)。從餐館運(yùn)營(yíng)者角度來(lái)看，可以積累更多的優(yōu)質(zhì)評(píng)價(jià)有助于吸引消費(fèi)者群體聚集，并提升餐館的整體形象和營(yíng)業(yè)收入。ZHAO等[15]提出了關(guān)系嵌入和子樹嵌入兩種句法表示方法，以捕獲潛在的語(yǔ)義特征。采用遞歸神經(jīng)網(wǎng)絡(luò)對(duì)子樹嵌入進(jìn)行建模，然后將子樹嵌入和詞嵌入相結(jié)合，作為句法路徑中每個(gè)詞的增強(qiáng)詞表示;采用卷積神經(jīng)網(wǎng)絡(luò)對(duì)兩種類型的語(yǔ)法表示進(jìn)行整合，從評(píng)論中提取情感搭配，在酒店、餐廳等服務(wù)領(lǐng)域取得了較好的表現(xiàn)。

3.3? ?災(zāi)害地區(qū)社交媒體情感分析

社交媒體憑借其使用的低門檻成為災(zāi)害信息聚集的可靠平臺(tái)。部分災(zāi)害地區(qū)的民眾可能會(huì)通過在社交媒體發(fā)布信息來(lái)尋求幫助，表達(dá)情感。對(duì)災(zāi)害地區(qū)民眾的情感掌握有助于政府或救援組織、機(jī)構(gòu)有效地、快速地提出應(yīng)對(duì)策略，以減小損失。因此，對(duì)災(zāi)害地區(qū)的社交媒體進(jìn)行情感分析有助于災(zāi)害發(fā)生過程中的應(yīng)急管理。一個(gè)經(jīng)歷災(zāi)害的城市應(yīng)該解決各種形式的救災(zāi)資源分配不平等的問題，而豐富、準(zhǔn)確、及時(shí)的態(tài)勢(shì)感知可以幫助救援組織減少不必要的資源消耗。

例如，有學(xué)者利用地理標(biāo)記的Twitter數(shù)據(jù)，通過采用情緒分析、卷積神經(jīng)網(wǎng)絡(luò)模型和LDA主題模型來(lái)反映颶風(fēng)佛羅倫薩的態(tài)勢(shì)感知，以此研究社區(qū)公平在颶風(fēng)事件中對(duì)態(tài)勢(shì)感知的影響。福島核電站泄漏期間，人們的情緒狀態(tài)引起了HASEGAWA等[16]學(xué)者的關(guān)注。通過使用推文中包含的區(qū)域標(biāo)識(shí)符（名詞、專有名詞、地名、郵政編碼、電話號(hào)碼）按地區(qū)進(jìn)行分類，然后從單個(gè)推文中包含的詞語(yǔ)（積極或消極）的語(yǔ)義取向來(lái)分析民眾對(duì)這些地區(qū)的感受。結(jié)果表明，關(guān)于輻射的推文數(shù)量總體上減少了，人們對(duì)輻射的感覺呈積極的趨勢(shì)。然而，人們對(duì)福島縣的負(fù)面情緒卻變得更加極端。與福島縣無(wú)關(guān)的原創(chuàng)和轉(zhuǎn)發(fā)推文趨于正面情緒，而與福島縣有關(guān)的原創(chuàng)和轉(zhuǎn)發(fā)推文趨于負(fù)面情緒。但有地理標(biāo)簽的推文只占目標(biāo)數(shù)據(jù)的0.25%，因此，需要更全面的數(shù)據(jù)來(lái)提升研究質(zhì)量。此外，由于Twitter用戶居住地的年齡構(gòu)成和地域存在偏差，用戶不一定具有代表性。GRUEBNER等[17]利用Twitter提取、分析了2012 年桑迪颶風(fēng)之前、之中和之后負(fù)面情緒數(shù)據(jù)，評(píng)估紐約市人口普查區(qū)域的負(fù)面情感隨地理位置的變化。他們使用了一種名為“在情感可視化中提取簡(jiǎn)短信息的意義”（EMOTIVE）的高級(jí)情緒分析方法對(duì)推文進(jìn)行分析。結(jié)果顯示，包括恐懼、憤怒和悲傷在內(nèi)的負(fù)面情緒集中在紐約市的一些社區(qū)，并隨著時(shí)間的推移持續(xù)存在，在斯塔頓島最為突出。但這只是針對(duì)紐約市的研究，國(guó)際化大都市的分析數(shù)據(jù)可能并不適用于中小型城市或鄉(xiāng)村。

4? ?挑戰(zhàn)與未來(lái)工作（Challenges and future work）

隨著更多學(xué)者深入情感分析領(lǐng)域進(jìn)行研究，機(jī)器學(xué)習(xí)方法在其中的應(yīng)用也得到相應(yīng)發(fā)展，使用相關(guān)方法的精確度和速度在情感分析領(lǐng)域應(yīng)用前景巨大。但當(dāng)前也存在一些困難，這些困難為今后該領(lǐng)域的工作提供了潛在的研究?jī)r(jià)值。

（1）樣本的多樣性會(huì)導(dǎo)致數(shù)據(jù)處理的精確度無(wú)法維持，不同語(yǔ)言的數(shù)據(jù)集可能會(huì)使相同的方法表現(xiàn)出差異。

（2）單一算法的數(shù)據(jù)分析無(wú)法做到絕對(duì)理想的效果，如何將不同算法結(jié)合以提高處理效率是未來(lái)情感分析領(lǐng)域的重點(diǎn)研究?jī)?nèi)容。

（3）隨著BERT模型的逐步應(yīng)用，下游任務(wù)模型和預(yù)訓(xùn)練模型的結(jié)合會(huì)提高處理速度，諸如XLnet模型也對(duì)BERT進(jìn)行了改進(jìn)，未來(lái)上下游任務(wù)結(jié)合的處理算法是值得深入研究的課題。

5? ?結(jié)論（Conclusion）

本文對(duì)基于機(jī)器學(xué)習(xí)的情感分析方法與實(shí)際應(yīng)用進(jìn)行了綜述，回顧了現(xiàn)有情感分析問題所采用的機(jī)器學(xué)習(xí)方法、模型及部分相關(guān)算法的改進(jìn)與優(yōu)化，比較詳細(xì)地記錄了不同方法在情感分析中的實(shí)際應(yīng)用，總結(jié)了自然語(yǔ)言處理在情感分析應(yīng)用中存在的困難及后續(xù)可能的研究方向。隨著技術(shù)的不斷發(fā)展，情感分析領(lǐng)域會(huì)吸引更多的學(xué)者深入研究，用于上下游的機(jī)器學(xué)習(xí)方法會(huì)提高情感分析的精確度和穩(wěn)健性，逐漸成為商業(yè)機(jī)構(gòu)、政府等的重要分析工具。因此，機(jī)器學(xué)習(xí)方法在情感分析方向具有重要的研究意義。

參考文獻(xiàn)（References）

[1] FAN C， WU F， MOSTAFAVI A. A hybrid machine learning pipeline for automated mapping of events and locations from social media in disasters[J]. IEEE Access， 2020， 8：10478-10490.

[2] 楊銳，陳偉，何濤，等.融合主題信息的卷積神經(jīng)網(wǎng)絡(luò)文本分類方法研究[J].現(xiàn)代情報(bào)，2020，40（04）：42-49.

[3] ZHANG X， ZHAO J， LECUN Y. Character-level convolutional networks for text classification[J]. Advances in Neural Information Processing Systems， 2015， 1（9）：649-657.

[4] 范昊，李鵬飛.基于FastText字向量與雙向GRU循環(huán)神經(jīng)網(wǎng)絡(luò)的短文本情感分析研究——以微博評(píng)論文本為例[J].情報(bào)科學(xué)，2021，39（04）：15-22.

[5] GRAVES A， SCHMIDUBER J. Framewise phoneme classification with bidirectional LSTM and other neural network architectures[J]. Neural Networks， 2005， 18（5）：602-610.

[6] MIAO X， ZHANG X， SUN M， et al. A blstm and wavenet-based voice conversion method with waveform collapse suppression by post-processing[J]. IEEE Access， 2019， 7：54321-54329.

[7] REN H Q， WANG W Q， QU X W， et al. A new hybrid-parameter recurrent neural network for online handwritten Chinese character recognition[J]. Pattern Recognition Letters， 2019， 128（6）：400-406.

[8] CAI Y， YANG K， HUANG D P， et al. A hybrid model for opinion mining based on domain sentiment dictionary[J]. International Journal of Machine Learning and Cybernetics， 2019， 10（8）：2131-2142.

[9] WANG T， LU K， CHOW K P， et al. COVID-19 sensing： Negative sentiment analysis on social media in China via Bert Model[J]. IEEE Access， 2020， 8：138162-138169.

[10] 李妍慧，鄭超美，王煒立，等.一種混合語(yǔ)種文本的多維度多情感分析方法[J].計(jì)算機(jī)工程，2020，46（12）：113-119.

[11] 劉麗娜，齊佳音，齊宏偉，等.在線評(píng)論中離散情感的分布研究[J].情報(bào)科學(xué)，2017，35（08）：121-128.

[12] 榮飛瓊，郭夢(mèng)飛.基于卷積神經(jīng)網(wǎng)絡(luò)的在線產(chǎn)品銷量預(yù)測(cè)分析研究[J].西北民族大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2019（02）：15-26.

[13] 洪文興，杞堅(jiān)瑋，王瑋瑋，等.基于公共特征空間的自適應(yīng)情感分類[J].天津大學(xué)學(xué)報(bào)（自然科學(xué)與工程技術(shù)版），2019，52（06）：631-637.

[14] YANG L， LI Y， WANG J， et al. Sentiment analysis for E-commerce product reviews in Chinese based on sentiment lexicon and deep learning[J]. IEEE Access， 2020， 8：1.

[15] ZHAO Y Y， QIN B， LIU T. Encoding syntactic representations with a neural network for sentiment collocation extraction[J]. Science China（Information Sciences）， 2017， 60（11）：7-18.

[16] HASEGAWA S， SUZUKI T， YAGAHARA A， et al. Changing emotions about Fukushima related to the Fukushima nuclear power station accident-how rumors determined people's attitudes： Social media sentiment analysis[J]. Journal of Medical Internet Research， 2020， 22（9）：1-31.

[17] GRUEBNER O， LOWE S R， SYKORA M， et al. Spatio-temporal distribution of negative emotions in New York City after a natural disaster as seen in social media[J]. International Journal of Environmental Research and Public Health， 2018， 15（10）：2275-2297.

作者簡(jiǎn)介：

李夢(mèng)楠（1991-），男，碩士生.研究領(lǐng)域：自然語(yǔ)言處理.

汪明艷（1975-），女，博士，教授.研究領(lǐng)域：數(shù)據(jù)分析，輿論治理，電子商務(wù).本文通訊作者.