基于堆疊式LSTM與熵值法的蘋果價格組合預(yù)測模型研究*

王曉蕾，張艷，柳平增，溫孚江，鄭勇，王剛

(1. 山東農(nóng)業(yè)大學(xué)信息科學(xué)與工程學(xué)院，山東泰安，271000； 2. 山東省現(xiàn)代農(nóng)業(yè)農(nóng)村發(fā)展研究中心，濟南市，250100；3. 德州市陵城區(qū)農(nóng)業(yè)農(nóng)村局，山東德州，253500)

0 引言

我國是世界上最大的蘋果生產(chǎn)國和消費國，蘋果已成為部分農(nóng)民增收致富的支柱產(chǎn)業(yè)，受供求、季節(jié)和自然災(zāi)害等因素的影響，蘋果市場價格波動愈發(fā)顯著，價格波動直接影響著蘋果產(chǎn)業(yè)從業(yè)者的收益。開展蘋果市場價格的短期預(yù)測，對果農(nóng)規(guī)避市場風(fēng)險，以及對穩(wěn)定農(nóng)業(yè)生產(chǎn)、平衡物價水平、保障消費者福利水平至關(guān)重要，也是制定農(nóng)業(yè)產(chǎn)業(yè)政策、維護市場健康發(fā)展的重要依據(jù)。

從農(nóng)產(chǎn)品價格預(yù)測方面來看，學(xué)者們主要從兩個方面進行了探討：一是基于傳統(tǒng)的時間序列、神經(jīng)網(wǎng)絡(luò)以及機器學(xué)習(xí)等單個模型進行預(yù)測；二是使用組合模型進行農(nóng)產(chǎn)品價格預(yù)測。單模型方面，早期的農(nóng)產(chǎn)品價格預(yù)測方法主要為時間序列預(yù)測，因ARIMA能較好的擬合時間序列，因此多采用ARIMA系列模型進行價格預(yù)測[1-3]。ARIMA模型未能完全提取季節(jié)因素特征，利用季節(jié)分解方法剔除季節(jié)因素后[4]，再利用非平穩(wěn)時間序列模型進行預(yù)測分析能得到更好的預(yù)測結(jié)果[5]；神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)以及可靈活考慮多輸入因素等特點[6-8]，能充分考慮影響價格的種植面積、產(chǎn)量及自然災(zāi)害因素，近幾年被廣泛應(yīng)用于農(nóng)產(chǎn)品價格預(yù)測[9]。組合模型方面，與神經(jīng)網(wǎng)絡(luò)中的各類模型相結(jié)合的組合模型，在價格預(yù)測模型中扮演著越來越重要的角色[10-13]。利用神經(jīng)網(wǎng)絡(luò)能提取更深層次的序列特征等優(yōu)點，整合其他機器學(xué)習(xí)模型等預(yù)測特點[14-15]，能夠滿足對預(yù)測精度進一步提高的要求[16-17]。價格預(yù)測模型方面，部分學(xué)者從兩方面對LSTM神經(jīng)網(wǎng)絡(luò)模型開展了研究，一是使用LSTM模型對價格時序進行預(yù)測[18-19]，利用改進和優(yōu)化后的LSTM來提高預(yù)測精度[20-22]；二是采用與LSTM相結(jié)合的組合模型進行價格預(yù)測也能達到很好的效果[23-24]，其中LSTM-BP與LSTM-RNN組合模式被廣泛應(yīng)用于趨勢預(yù)測、特征信息融合及語義分類等[25]。

綜上研究結(jié)果發(fā)現(xiàn)，與神經(jīng)網(wǎng)絡(luò)相結(jié)合的組合模型在農(nóng)產(chǎn)品價格預(yù)測方面具有顯著性優(yōu)勢，且價格的空間傳導(dǎo)效應(yīng)對價格波動產(chǎn)生明顯的影響。本文擬采用基尼系數(shù)與Granger因果關(guān)系檢驗分析蘋果價格空間傳導(dǎo)效應(yīng)，并利用空間Markov鏈分析蘋果價格的空間動態(tài)演進。為提高蘋果價格的預(yù)測精度，采用熵值法客觀提取價格空間傳導(dǎo)效應(yīng)特征信息，與改進后的堆疊式多層LSTM相結(jié)合來預(yù)測蘋果價格。最后，基于堆疊式多層LSTM對蘋果價格進行預(yù)測，并分析驗證預(yù)測結(jié)果的準(zhǔn)確性。

1 數(shù)據(jù)來源與研究方法

1.1 數(shù)據(jù)來源

本研究使用的數(shù)據(jù)源自中華人民共和國商務(wù)部創(chuàng)辦的全國農(nóng)產(chǎn)品商務(wù)信息公共服務(wù)平臺，選取全國共99個農(nóng)產(chǎn)品批發(fā)市場蘋果價格，利用各省農(nóng)產(chǎn)品市場的富士蘋果日均價格進行空間傳導(dǎo)效應(yīng)分析，并預(yù)測山東富士蘋果日均市場價格，單位為元/kg，選取區(qū)間為2014-01-01至2020-12-31。

1.2 研究方法

1.2.1 地區(qū)差距

采用基尼系數(shù)對全國各省蘋果價格的地區(qū)差距進行分析，基尼系數(shù)(GINI)[26]的定義如式(1)所示。

(1)

式中：k——區(qū)域劃分?jǐn)?shù)；

nj——j區(qū)域內(nèi)省份數(shù)；

nh——h區(qū)域內(nèi)省份數(shù)；

yji——j區(qū)域內(nèi)i省份的蘋果價格；

yhr——h區(qū)域內(nèi)r省份的蘋果價格；

μ——全國各省份蘋果價格平均值；

n——省份數(shù)。

1.2.2 Granger因果關(guān)系

為驗證蘋果價格的空間傳導(dǎo)特征，采用Granger因果關(guān)系檢驗進行分析。Granger因果關(guān)系檢驗多被用于驗證經(jīng)濟變量時間平穩(wěn)序列之間的因果關(guān)系，其原理是假設(shè)一個省份蘋果價格序列Xt的變化能夠?qū)е铝硪粋€省份蘋果價格序列Yt的變化，且Xt的變化發(fā)生在Yt之前，則稱Xt是Yt的Granger因，Yt是Xt的Granger果；反之亦然。對Granger因果關(guān)系檢驗進行估計如式(2)所示。

(2)

式中：α、β——被估計參數(shù)；

ε——殘差序列；

θ——滯后階數(shù)。

1.2.3 空間Markov鏈

空間Markov鏈方法是將“空間滯后”這一概念引入Markov分析過程中所得到的，如式(3)所示。利用該模型可以考察相鄰省份的蘋果價格對本省份蘋果價格狀態(tài)轉(zhuǎn)移的影響。其具體方法是通過設(shè)定空間權(quán)重矩陣，把N×N的轉(zhuǎn)移概率矩陣分解為N×N×N的轉(zhuǎn)移概率矩陣，從而狀態(tài)轉(zhuǎn)移概率Pij表示為某省份由a時期的i類型轉(zhuǎn)移到a+1時期的j類型的概率，以此揭示空間效應(yīng)對蘋果價格動態(tài)演進的影響。

P{Xa=j|Xa-1=i,Xa-2=ia-2, …,X0=i0}=

P{Xa=j|Xa-1=i}=Pij

(3)

式中：Pij——狀態(tài)轉(zhuǎn)移概率；

i，j——狀態(tài)；

X——隨機變量。

1.2.4 熵值法

熵值法是一種客觀賦權(quán)方法，它通過計算多個特征的信息熵，根據(jù)各項特征信息的相對變化程度對蘋果價格整體的影響來決定各項系數(shù)的權(quán)重，例如，相對變化程度大的特征項具有較大的權(quán)重。指標(biāo)的信息熵值與權(quán)重分別如式(4)、式(5)所示。

(4)

(5)

式中：ej——第j項指標(biāo)的熵值；

m——地區(qū)數(shù)；

Yij——第i個地區(qū)的第j個指標(biāo)的數(shù)值；

Wj——指標(biāo)權(quán)重。

1.2.5 長短期記憶模型

長短期記憶模型LSTM是一種時間遞歸神經(jīng)網(wǎng)絡(luò)，能解決RNN的梯度消失和梯度爆炸問題，能夠用來預(yù)測特征間隔長、延遲長、具有滯后空間效應(yīng)的蘋果價格數(shù)據(jù)。LSTM的核心思想是門控邏輯，內(nèi)部結(jié)構(gòu)如圖1所示。LSTM由遺忘門、輸入門和輸出門組成，其中遺忘門通過sigmoid函數(shù)取舍，決定對前一時刻狀態(tài)的遺忘程度，如式(6)所示，其中，ft介于0與1之間。

ft=σ(Uf×Xt+Wf×ht-1+bf)

(6)

式中：σ——sigmoid函數(shù)；

U、W——變量的權(quán)重；

Xt——輸入變量；

h——輸出變量；

b——截距項。

輸出門首先利用激活函數(shù)和激勵函數(shù)篩選、保存輸入變量并創(chuàng)建新向量，通過舊細胞狀態(tài)與新變量更新細胞狀態(tài)。如式(7)所示，其中，it取值為0或1。

it=σ(Ui×Xt+Wi×ht-1+bi)

(7)

tanh——正切激勵函數(shù)；

ct-1——舊細胞狀態(tài)值；

ct——新細胞狀態(tài)值；

ft——遺忘程度。

式(8)中輸出門根據(jù)激活函數(shù)確定輸出變量，并利用激勵函數(shù)處理細胞狀態(tài)。

ot=σ(Uo×Xt+Wo×ht-1+bo)

ht=ot×tanh(ct)

(8)

式中：ot——輸出門激活函數(shù)；

h——輸出變量。

LSTM是由記憶塊而不是神經(jīng)元組成的，通過一個存儲單元和三個控制門使得LSTM能夠更好地選擇數(shù)據(jù)并學(xué)習(xí)，對時間間隔長的有效歷史信息形成記憶。隨著信息量的增加，LSTM模型能夠有效地學(xué)習(xí)預(yù)測已實現(xiàn)的價格波動所需的特征，讓價格數(shù)據(jù)中的關(guān)鍵信息進行有效的更新和傳遞，能更好地捕捉蘋果市場價格波動規(guī)律，從而提高對蘋果市場價格的預(yù)測準(zhǔn)確性。

圖1 LSTM模型結(jié)構(gòu)Fig. 1 LSTM model structure

2 空間傳導(dǎo)效應(yīng)分析

2.1 蘋果價格地區(qū)差距

供求關(guān)系是影響蘋果價格波動的重要因素，因供需關(guān)系而引起的蘋果價格地區(qū)差距會造成地區(qū)內(nèi)蘋果市場供求失衡，利用基尼系數(shù)公式求解所得到的2014—2020年全國蘋果價格季度均值的基尼系數(shù)值，以此來分析全國各省份的蘋果價格地區(qū)差距，如圖2所示，各地區(qū)蘋果價格存在著較為明顯的地區(qū)差距。首先，在2014年第一季度到2016年第二季度的地區(qū)差距呈現(xiàn)波動上升趨勢，隨后，2016年第三季度到2019年第一季度地區(qū)差距呈現(xiàn)波動下降趨勢，從2019年第一季度到2019年第三季度地區(qū)差距持續(xù)升高，并且2019年第四季度地區(qū)差距達到階段高點為0.46，之后到2020年第四季度地區(qū)差距降低并在0.4上下波動，但在此階段地區(qū)差距仍然存在。

圖2 2014—2020年全國蘋果價格季度均值及地區(qū)差距Fig. 2 National apple price quarterly average and regional gap from 2014 to 2020

2.2 蘋果價格的Granger因果關(guān)系

為分析山東省蘋果價格波動因素，對山東與山東近鄰省市之間的蘋果價格空間傳導(dǎo)效應(yīng)進行分析，根據(jù)表1可得，山東、北京、江蘇、河北4個城市蘋果價格序列同階單整，因此可進行Granger因果關(guān)系檢驗。設(shè)置VAR模型最大滯后期為4，如表2所示。根據(jù)VAR最優(yōu)滯后階數(shù)選取準(zhǔn)則，選取最優(yōu)滯后期為3，即傳導(dǎo)周期為15 d。

根據(jù)Granger因果關(guān)系檢驗得知(見表3)，在1%顯著性水平下，山東是引起北京、江蘇和河北蘋果價格變化的原因，并且存在北京與山東的雙向Granger因果關(guān)系，山東多以傳導(dǎo)源存在。各省蘋果價格之間存在多個Granger因果關(guān)系，因此可以說明，蘋果價格存在空間傳導(dǎo)效應(yīng)。

表1 各變量一階差分的ADF檢驗結(jié)果Tab. 1 ADF test results of the first-order difference of each variable

表2 VAR最優(yōu)滯后階數(shù)確定Tab. 2 VAR optimal lag order is determined and established

表3 蘋果價格Granger因果關(guān)系檢驗結(jié)果Tab. 3 Apple price Granger causality test results

2.3 蘋果價格的動態(tài)演進

運用空間Markov鏈分析各地區(qū)蘋果價格的空間動態(tài)演進，并對周邊地區(qū)的蘋果價格是否會影響本地區(qū)的蘋果價格水平轉(zhuǎn)移情況作出判斷，基于表4所示的卡方檢驗的顯著性檢驗結(jié)果，P值都小于0.01，當(dāng)時長為1年(T1)、2年(T2)、3年(T3)、4年(T4)及5年(T5)后，Q統(tǒng)計值均在1%的水平下顯著，表明空間因素對各地區(qū)蘋果價格的轉(zhuǎn)移產(chǎn)生顯著影響。

表4 空間轉(zhuǎn)移概率顯著度結(jié)果Tab. 4 Significance result of spatial transition probability

表5揭示了空間因素對蘋果價格的動態(tài)演進的影響，在地理權(quán)重下，以蘋果價格高水平地區(qū)為例，當(dāng)其相鄰地區(qū)為高水平時，1年后該地區(qū)保持平穩(wěn)轉(zhuǎn)移概率為84%，5年后該地區(qū)保持平穩(wěn)轉(zhuǎn)移概率仍超過58%。

表5 蘋果價格的空間Markov轉(zhuǎn)移概率Tab. 5 Space Markov transition probability of apple price %

上述研究結(jié)果表明空間因素對蘋果價格的影響較明顯。在周圍地區(qū)蘋果價格較高的情況下，高水平地區(qū)降低自身蘋果價格的難度較大，而與中、低水平地區(qū)為鄰，促進本地區(qū)蘋果價格的降低。此外，隨時間推移，在不同水平“鄰居”的影響下，蘋果價格發(fā)生轉(zhuǎn)移的概率總體上有所增加。

2.4 空間傳導(dǎo)效應(yīng)信息熵

利用熵值模型對價格空間傳導(dǎo)多個特征進行信息熵擬合，包括基尼系數(shù)、Granger因果關(guān)系、以及空間Markov鏈系數(shù)，其中，因北京與山東存在雙向Granger因果關(guān)系，熵值法中Granger因果關(guān)系值利用北京農(nóng)產(chǎn)品市場富士蘋果日均價格表示，得到如圖3所示的信息熵序列。

圖3 空間傳導(dǎo)效應(yīng)信息熵Fig. 3 Information entropy of spatial conduction effect

3 試驗方案與結(jié)果分析

3.1 試驗方案

1) LSTM模型。本文分別收集預(yù)測日的前25、50、100 d的蘋果價格數(shù)據(jù)來預(yù)測價格，根據(jù)訓(xùn)練結(jié)果發(fā)現(xiàn)，選取50個蘋果價格數(shù)據(jù)來預(yù)測下一日的價格預(yù)測效果較好，因此在后續(xù)試驗中收集預(yù)測日的前50個數(shù)據(jù)進行試驗。LSTM模型使用了五個隱藏層，其中，三個LSTM層以及兩個全連接層，三個LSTM層的隱藏節(jié)點數(shù)分別為20、15和10，兩個全連接層包含的隱藏節(jié)點數(shù)分別是5和1。為了防止過擬合，在三個LSTM層中加入了dropout函數(shù)，分別設(shè)置為0.3、0.8、0.8。本文將10%樣本數(shù)據(jù)設(shè)為驗證區(qū)間。

2) 加入信息熵。將空間效應(yīng)的三項特征序列進行信息熵擬合，三項特征序列分別為基尼系數(shù)(GINI)、Granger因果關(guān)系、以及空間Markov鏈，將信息熵代替三項空間效應(yīng)特征序列作為輸入向量，結(jié)合LSTM對蘋果價格進行預(yù)測。

3) 堆疊式LSTM。利用LSTM對空間傳導(dǎo)特征提取后的信息熵進行預(yù)測，將預(yù)測的信息熵作為輸入變量，并加入價格序列后利用LSTM模型預(yù)測蘋果價格。利用LSTM預(yù)測信息熵后，再次結(jié)合LSTM進行預(yù)測的過程形成堆疊式LSTM(如圖4)，對比LSTM與組合模型預(yù)測蘋果價格的精度。

圖4 堆疊式LSTM與熵值法組合預(yù)測流程Fig. 4 Stacked LSTM and entropy methodcombined forecasting process

4) 堆疊式多層LSTM。對神經(jīng)網(wǎng)絡(luò)的最優(yōu)隱含層進行試驗，得出預(yù)測蘋果價格序列的最優(yōu)神經(jīng)網(wǎng)絡(luò)層。

5) 模型預(yù)測性能對比。對比分析組合模型以及優(yōu)化模型的預(yù)測性能。

本文使用均方誤差(MSE)、平均絕對值誤差(MAE)，與將兩種誤差通過異方差調(diào)整后的HMSE、HMAE，以上四種損失函數(shù)來評估模型的預(yù)測精度，如式(9)中所示。

(9)

RVt——真實值；

T——樣本數(shù)量。

3.2 試驗結(jié)果與分析

根據(jù)損失函數(shù)值評估模型預(yù)測性能，結(jié)果如表6所示。

1) LSTM模型。比較LSTM預(yù)測結(jié)果的損失函數(shù)發(fā)現(xiàn)，損失函數(shù)MAE為0.609 4，說明神經(jīng)網(wǎng)絡(luò)模型對蘋果價格波動有良好的預(yù)測性能。

2) 加入信息熵。利用熵值模型對價格空間傳導(dǎo)效應(yīng)的三個特征項進行信息熵擬合，并結(jié)合LSTM進行預(yù)測，根據(jù)表6的預(yù)測結(jié)果發(fā)現(xiàn)，組合模型的預(yù)測性能優(yōu)于LSTM模型，因捕捉到蘋果價格的空間傳導(dǎo)效應(yīng)等特征信息，LSTM- 熵對比LSTM的損失函數(shù)HMAE從0.101 6降低到0.092 3，如圖5所示三種模型部分預(yù)測值以及真實值的對比情況。

3) 堆疊式LSTM。堆疊式LSTM的預(yù)測損失函數(shù)MAE為0.508 7，在輸入向量加入價格空間傳導(dǎo)效應(yīng)的基礎(chǔ)上，改進的LSTM模型對蘋果價格預(yù)測發(fā)揮了良好的作用。

4) 堆疊式多層LSTM。為尋找神經(jīng)網(wǎng)絡(luò)的最優(yōu)隱含層，改變神經(jīng)網(wǎng)絡(luò)隱含層數(shù)對蘋果價格序列進行預(yù)測，不同神經(jīng)網(wǎng)絡(luò)隱含層的預(yù)測結(jié)果的損失函數(shù)值如表7所示。針對蘋果價格樣本數(shù)據(jù)，在神經(jīng)網(wǎng)絡(luò)隱含層為4時，損失函數(shù)達到最低。

5) 模型預(yù)測性能對比。對比分析組合模型以及優(yōu)化的組合模型的預(yù)測性能，加入價格空間傳導(dǎo)效應(yīng)的組合模型預(yù)測精度提高，利用堆疊式多層- 墑進行預(yù)測的損失函數(shù)比其他組合模型的損失函數(shù)低。以上結(jié)論證明，加入蘋果價格的空間傳導(dǎo)效應(yīng)特征有助于提高預(yù)測精度，并且優(yōu)化后的組合模型預(yù)測能力更強。

表6 模型損失函數(shù)比較Tab. 6 Model loss function comparison

圖5 LSTM與組合模型預(yù)測結(jié)果截取Fig. 5 Prediction results snippet of single model andcombined model

表7 不同隱含層數(shù)損失函數(shù)對比Tab. 7 Comparison of loss functions withdifferent hidden layers

4 蘋果價格預(yù)測分析

根據(jù)上述對蘋果價格組合模型預(yù)測方法的研究，堆疊式多層LSTM與價格空間傳導(dǎo)效應(yīng)的熵值模型結(jié)合的組合模型預(yù)測精度較高?；诖?，利用優(yōu)化后的組合模型預(yù)測2021年1月1—31日的蘋果價格，驗證組合模型的預(yù)測能力。通過組合模型預(yù)測31 d蘋果價格的損失函數(shù)MAE為0.448 8。從圖6預(yù)測結(jié)果中可以發(fā)現(xiàn)，堆疊式多層LSTM- 墑組合模型預(yù)測數(shù)值在真實值附近波動，預(yù)測趨勢與真實價格數(shù)據(jù)波動趨勢相符，這進一步驗證了基于堆疊式多層LSTM與熵值模型的組合模型對蘋果價格預(yù)測的有效性。

圖6 堆疊式多層LSTM-墑預(yù)測31 d蘋果價格對比Fig. 6 Stacked multi-layer LSTM-E forecast31-day apple price comparison

5 結(jié)論

通過對蘋果價格空間傳導(dǎo)效應(yīng)分析發(fā)現(xiàn)，蘋果價格空間傳導(dǎo)效應(yīng)是引起蘋果價格波動不可忽略的因素。利用基尼系數(shù)、Granger因果關(guān)系以及空間Markov鏈獲取了蘋果價格的地區(qū)差距、時空傳導(dǎo)關(guān)系以及動態(tài)演進方向等多個價格空間傳導(dǎo)特征，并利用熵值法客觀提取多個特征的信息熵，結(jié)合改進的堆疊式多層LSTM模型的自身學(xué)習(xí)數(shù)據(jù)特征的特性，本文提出了一種堆疊式多層LSTM與熵值模型相結(jié)合的新方法。試驗分析表明，(1)蘋果價格存在較為明顯的空間傳導(dǎo)效應(yīng)，各地區(qū)的蘋果價格存在地區(qū)差距和Granger因果關(guān)系。(2)加入價格空間傳導(dǎo)效應(yīng)的堆疊式多層LSTM與熵值法相結(jié)合的組合模型預(yù)測精度提高，對比LSTM預(yù)測結(jié)果MAE的0.609 4，組合模型MAE為0.494 8，精度提高18.81%，在蘋果價格預(yù)測方面發(fā)揮了良好的作用。

本文在現(xiàn)有價格預(yù)測基礎(chǔ)上，增加輸入向量，考慮價格空間傳導(dǎo)效應(yīng)特征，優(yōu)化LSTM神經(jīng)網(wǎng)絡(luò)模型，進一步提高了價格的預(yù)測精度。由于價格數(shù)據(jù)受多種因素影響，如蘋果的種植面積、國家政策、進出口貿(mào)易、蘋果替代水果的價格變動等，眾多因素共同對蘋果價格波動產(chǎn)生影響，下一步的工作將增加影響因素的輸入維度，進一步提高蘋果價格預(yù)測精度，并增強預(yù)測模型的穩(wěn)定性。