謝貴才,段 磊,蔣為鵬,肖 珊,徐一凡

(四川大學(xué) 計(jì)算機(jī)學(xué)院,四川 成都 610065)

隨著2018 年國(guó)家發(fā)布《智慧校園總體框架》標(biāo)準(zhǔn),集校園工作、學(xué)習(xí)和生活于一體的高校智慧校園正在逐漸成型.其中,基于數(shù)據(jù)分析、人工智能等信息技術(shù)支撐的校園公共區(qū)域人流量預(yù)測(cè)作為其重要組成部分,具有如下意義.

(1)校園公共區(qū)域人流量預(yù)測(cè),對(duì)于維護(hù)學(xué)校安全,維持各區(qū)域的正常運(yùn)營(yíng)有重大意義,尤其是在面對(duì)疫情等突發(fā)事件時(shí),預(yù)估和掌握校園公共區(qū)域的人員流動(dòng)情況,可以輔助人流量控制和執(zhí)行消毒工作;

(2)對(duì)于學(xué)生而言,進(jìn)行校園公共區(qū)域人流量預(yù)測(cè)可以有助于學(xué)生提前計(jì)劃和安排時(shí)間,避開(kāi)人流高峰期前往圖書(shū)館、食堂等區(qū)域,既保證了公共資源的有效利用,也降低了公共區(qū)域的管理難度.

校園公共區(qū)域人流量預(yù)測(cè)包含多種場(chǎng)景應(yīng)用.以食堂為例,預(yù)測(cè)其人流量可避免人群擁擠,減少聚集隱患,同時(shí)優(yōu)化供餐服務(wù),減少食材浪費(fèi).以往食堂人流量預(yù)測(cè)由食堂管理人員根據(jù)平時(shí)積累的經(jīng)驗(yàn)完成,即管理人員利用所在食堂的食材采購(gòu)歷史記錄和消費(fèi)人次兩種類型數(shù)據(jù),以同時(shí)段就餐人數(shù)或消費(fèi)金額均值對(duì)食堂人流量進(jìn)行估計(jì).現(xiàn)有的估計(jì)方式不僅工作量巨大,而且由于參考數(shù)據(jù)有限,容易出現(xiàn)錯(cuò)誤的預(yù)估人流量,不具有參考意義.圖1 展示了某高校A食堂和B食堂在2019 年6 月23 日～7 月6 日期間的人流量分布情況(橫軸表示時(shí)間,縱軸表示食堂人流量).

Fig.1 Pedestrian volume distributions of canteen A and canteen B圖1 某高校A 食堂和B 食堂人流量分布情況

從技術(shù)上講,校園公共區(qū)域的人流量預(yù)測(cè)問(wèn)題具有如下挑戰(zhàn).

? 挑戰(zhàn)1:師生前往公共區(qū)域的行為具有不確定性,即師生選擇在何時(shí)到何地是不確定事件,只與個(gè)人鄰近時(shí)序片段的心理狀態(tài)或所面臨的環(huán)境事件等因素有關(guān),這為區(qū)域人流量預(yù)測(cè)問(wèn)題增加了不確定性.由圖1 可知,第1 周(week 1)人流量高峰遠(yuǎn)高于第2 周(week 2)的人流量高峰,其原因是后一周正逢期末考試周;

? 挑戰(zhàn)2:校園公共區(qū)域人流量與學(xué)校教學(xué)安排直接相關(guān).學(xué)校教學(xué)安排以5 個(gè)工作日為一個(gè)教學(xué)周執(zhí)行教學(xué)計(jì)劃,因此在非工作日、法定節(jié)假日以及學(xué)?？荚嚨葧r(shí)間的人流量分布與工作日期間的差異較大,如圖1 中A食堂工作日與非工作日的人流量分布差異;

? 挑戰(zhàn)3:不同類型的公共區(qū)域人流量之間具有相關(guān)性,即:對(duì)于相對(duì)封閉的校園環(huán)境而言,校園中的總?cè)肆髁孔兓鶉@某一常數(shù)上下波動(dòng),因此,處于同一時(shí)刻的一個(gè)區(qū)域人流量變化會(huì)影響到其他區(qū)域的人流量.

目前,智慧校園的建設(shè)為校園公共區(qū)域人流量預(yù)測(cè)提供了良好的數(shù)據(jù)基礎(chǔ),將與人流量相關(guān)的屬性數(shù)據(jù)預(yù)測(cè)(如校園食堂人流量預(yù)測(cè)關(guān)注就餐人數(shù)以及消費(fèi)記錄)當(dāng)作是時(shí)序預(yù)測(cè)問(wèn)題.目前,已有很多學(xué)者在時(shí)序預(yù)測(cè)問(wèn)題上進(jìn)行了大量的研究[1?4].早期的時(shí)序預(yù)測(cè)模型只能針對(duì)相對(duì)平穩(wěn)且呈線性變化的數(shù)據(jù)進(jìn)行預(yù)測(cè)[1,5],很難與校園公共區(qū)域這類數(shù)據(jù)相適應(yīng).傳統(tǒng)機(jī)器學(xué)習(xí)方法雖然可以對(duì)復(fù)雜的關(guān)系進(jìn)行建模,卻無(wú)法有效捕獲校園公共區(qū)域人流量數(shù)據(jù)中的短時(shí)依賴和長(zhǎng)時(shí)周期模式,并且這類方法很大程度上需要依賴于特征工程.近年來(lái),深度學(xué)習(xí)技術(shù)在時(shí)序任務(wù)上得到越來(lái)越多的關(guān)注.其中,卷積神經(jīng)網(wǎng)絡(luò)模型被用于從序列中提取平移不變的局部模式特征進(jìn)行動(dòng)作識(shí)別[6,7],而循環(huán)神經(jīng)網(wǎng)絡(luò)也被用于捕獲時(shí)序任務(wù)的時(shí)間規(guī)律[2,8].但將神經(jīng)網(wǎng)絡(luò)模型融合到校園區(qū)域人流量數(shù)據(jù)中,同時(shí)捕獲不同尺度的時(shí)序模式和變量局部依賴性,目前仍在探索之中.

為應(yīng)對(duì)上文提到的挑戰(zhàn),本文提出一種基于深度學(xué)習(xí)的多尺度時(shí)序卷積網(wǎng)絡(luò)MSCNN(multi-scale temporal patterns convolution neural networks)模型.該模型通過(guò)短時(shí)模式組件捕獲區(qū)域人流量序列的短時(shí)依賴時(shí)序模式(挑戰(zhàn)1、挑戰(zhàn)3),提出長(zhǎng)時(shí)模式組件來(lái)捕獲長(zhǎng)時(shí)周期時(shí)序模式(挑戰(zhàn)2、挑戰(zhàn)3),設(shè)計(jì)一種融合組件對(duì)不同卷積運(yùn)算輸出結(jié)果進(jìn)行特征融合和重標(biāo)定來(lái)得到最終的預(yù)測(cè)結(jié)果.本文的主要貢獻(xiàn)概括如下:

(1)考慮校園公共區(qū)域人流量數(shù)據(jù)的短時(shí)依賴、長(zhǎng)時(shí)周期時(shí)序模式特征和變量空間的局部依賴關(guān)系,并分別利用短時(shí)模式組件和長(zhǎng)時(shí)模式組件分別建模獲取這些特征;

(2)提出一種融合多尺度時(shí)序模式特征的融合組件,并對(duì)融合的結(jié)果進(jìn)行重標(biāo)定實(shí)現(xiàn)對(duì)校園公共區(qū)域任一時(shí)段人流量進(jìn)行預(yù)測(cè);

(3)在真實(shí)校園人流量監(jiān)測(cè)數(shù)據(jù)集和公開(kāi)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),驗(yàn)證本文模型的有效性和執(zhí)行效率都優(yōu)于現(xiàn)有的預(yù)測(cè)方法.

本文第1 節(jié)介紹國(guó)內(nèi)外關(guān)于時(shí)序預(yù)測(cè)問(wèn)題以及校園數(shù)據(jù)預(yù)測(cè)的應(yīng)用研究.第2 節(jié)對(duì)校園公共區(qū)域人流量預(yù)測(cè)問(wèn)題及文中使用的符號(hào)進(jìn)行了定義.第3 節(jié)詳述MSCNN 模型的結(jié)構(gòu)設(shè)計(jì).第4 節(jié)在真實(shí)校園數(shù)據(jù)集和公開(kāi)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)驗(yàn)證與分析.第5 節(jié)總結(jié)全文并對(duì)未來(lái)工作進(jìn)行展望.

1 相關(guān)工作

1.1 時(shí)序預(yù)測(cè)

校園公共區(qū)域人流量預(yù)測(cè)是一個(gè)典型的時(shí)序預(yù)測(cè)問(wèn)題.現(xiàn)有的時(shí)序預(yù)測(cè)方法主要分為基于統(tǒng)計(jì)學(xué)的方法和基于深度學(xué)習(xí)的方法.

基于統(tǒng)計(jì)學(xué)的方法包括回歸模型和非參數(shù)模型.差分滑動(dòng)平均自回歸模型ARIMA[1,9]利用統(tǒng)計(jì)模型對(duì)數(shù)據(jù)序列進(jìn)行描述和預(yù)測(cè),可適用于各種指數(shù)平滑技術(shù),且具有足夠的靈活性,如自回歸模型(AR)、移動(dòng)平均模型(MA)和滑動(dòng)平均自回歸模型(ARMA)都是其延伸.向量自回歸模型(VAR)[1]是單變量自回歸模型推廣到多變量場(chǎng)景的體現(xiàn),可將預(yù)測(cè)場(chǎng)景中的每一個(gè)變量作為所有變量的滯后值函數(shù)構(gòu)造模型.此外,時(shí)序預(yù)測(cè)問(wèn)題還可以視為具有時(shí)間變化參數(shù)的標(biāo)準(zhǔn)回歸問(wèn)題,如線性支持向量回歸(SVR)將時(shí)變參數(shù)當(dāng)作是回歸損失函數(shù)的超參數(shù)進(jìn)行學(xué)習(xí).但這類方法無(wú)法捕捉變量之間的非線性依賴關(guān)系,不適用于校園公共區(qū)域人流量預(yù)測(cè).高斯過(guò)程模型(GP)[10]是一種在連續(xù)域上模擬分布的非參數(shù)模型,它可以作為貝葉斯推理的函數(shù)先驗(yàn)來(lái)處理非線性空間的關(guān)系.但由于其計(jì)算過(guò)程中涉及到矩陣求逆運(yùn)算,增加了模型預(yù)測(cè)的計(jì)算復(fù)雜度.

近年來(lái),基于深度學(xué)習(xí)的方法被廣泛應(yīng)用在多個(gè)領(lǐng)域的研究任務(wù)中,包括時(shí)序預(yù)測(cè)任務(wù).文獻(xiàn)[3,4]將ARIMA 模型和多層感知機(jī)MLP 相結(jié)合,提出一個(gè)混合模型用于時(shí)序預(yù)測(cè).文獻(xiàn)[6]利用卷積神經(jīng)網(wǎng)絡(luò)CNN,從輸入序列數(shù)據(jù)中提取平移不變的局部模式作為特征,從而進(jìn)行動(dòng)作序列分類.Dasgupta 等人[2]對(duì)傳統(tǒng)的動(dòng)態(tài)玻爾茲曼機(jī)(DyBM)和循環(huán)神經(jīng)網(wǎng)絡(luò)RNN 進(jìn)行結(jié)合,捕捉時(shí)間序列中的依賴關(guān)系,實(shí)現(xiàn)對(duì)多元時(shí)序數(shù)據(jù)的預(yù)測(cè).長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)LSTM[11]及門(mén)控循環(huán)單元GRU 是循環(huán)神經(jīng)網(wǎng)絡(luò)RNN[8]的重要變體,具有額外的記憶控制門(mén)和記憶單元,可以存儲(chǔ)歷史信息,在時(shí)序數(shù)據(jù)分析中得到了廣泛應(yīng)用.Lai 等人[12]設(shè)計(jì)了LSTNet 模型進(jìn)行多變量時(shí)序預(yù)測(cè),該模型利用CNN 和GRU 獲取變量之間的短時(shí)局部依賴性和長(zhǎng)時(shí)時(shí)序趨勢(shì)模式,并使用自回歸組件來(lái)解決神經(jīng)網(wǎng)絡(luò)模型的尺度不敏感問(wèn)題,在多變量時(shí)序預(yù)測(cè)任務(wù)上取得了前沿的結(jié)果.Shih 等人[13]基于LSTM 和CNN模型提出了TPA-LSTM 方法,該方法利用LSTM 獲取時(shí)序數(shù)據(jù)的時(shí)間相關(guān)性,并利用多個(gè)步驟結(jié)合CNN 模型獲取變量間的注意力分?jǐn)?shù)來(lái)進(jìn)行多變量預(yù)測(cè).但GRU 和LSTM 的網(wǎng)絡(luò)結(jié)構(gòu)天然存在梯度消失的問(wèn)題,對(duì)于長(zhǎng)期時(shí)序趨勢(shì)模式的捕獲能力有限,并且會(huì)產(chǎn)生較高的計(jì)算代價(jià).

1.2 校園數(shù)據(jù)挖掘

校園數(shù)據(jù)挖掘近年來(lái)受到廣泛的研究關(guān)注.目前,校園數(shù)據(jù)挖掘主要關(guān)注于學(xué)生的學(xué)習(xí)表現(xiàn),從而提高學(xué)生學(xué)習(xí)質(zhì)量,完善教育管理.例如:Li 等人[14]提出了一個(gè)基于深度學(xué)習(xí)的順序預(yù)測(cè)框架SPDN,利用學(xué)生網(wǎng)課的在線學(xué)習(xí)記錄和校園網(wǎng)網(wǎng)絡(luò)日志預(yù)測(cè)學(xué)生的學(xué)習(xí)成績(jī);Zhang 等人[15]借助學(xué)生校園卡行為數(shù)據(jù)對(duì)學(xué)生的學(xué)業(yè)表現(xiàn)進(jìn)行預(yù)測(cè),并根據(jù)預(yù)測(cè)結(jié)果進(jìn)行學(xué)業(yè)預(yù)警;Zhang 等人[16]結(jié)合學(xué)生基本信息,如年齡、所屬專業(yè)、學(xué)業(yè)評(píng)估考試分?jǐn)?shù)及每學(xué)期平均績(jī)點(diǎn)等數(shù)據(jù),對(duì)學(xué)生的輟學(xué)風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè).除了學(xué)生的學(xué)習(xí)過(guò)程,學(xué)生的興趣愛(ài)好預(yù)測(cè)也引起了研究者的注意:Peng 等人[17]試圖通過(guò)學(xué)生的校園消費(fèi)記錄和軌跡信息,對(duì)大學(xué)生的網(wǎng)絡(luò)成癮水平進(jìn)行估計(jì),從而預(yù)測(cè)學(xué)生的網(wǎng)絡(luò)成癮傾向;Hang 等人[18]對(duì)教育簽到數(shù)據(jù)進(jìn)行分析,在學(xué)生的校園WiFi 訪問(wèn)日志的數(shù)據(jù)基礎(chǔ)上,用異構(gòu)圖對(duì)學(xué)生、興趣點(diǎn)和活動(dòng)之間的相似性進(jìn)行編碼,用來(lái)預(yù)測(cè)學(xué)生的興趣點(diǎn);Wei 等人[19]提出了一個(gè)基于改進(jìn)的Harris-Hawks 優(yōu)化器預(yù)測(cè)模型,并且利用學(xué)生基本信息以及校園創(chuàng)新創(chuàng)業(yè)實(shí)踐等數(shù)據(jù)對(duì)學(xué)生的創(chuàng)業(yè)興趣進(jìn)行預(yù)測(cè).現(xiàn)有的校園數(shù)據(jù)預(yù)測(cè)工作大都是將學(xué)生作為研究對(duì)象,聚焦教育研究與教學(xué)實(shí)踐相關(guān)的問(wèn)題.但是,將學(xué)校作為研究對(duì)象,對(duì)學(xué)校公共區(qū)域進(jìn)行人流量預(yù)測(cè)以維護(hù)校園安全,提升校園管理水平的研究工作尚處于起步階段.

校園公共區(qū)域人流量預(yù)測(cè)研究問(wèn)題的核心在于如何有效捕獲人流量序列中的短時(shí)依賴和長(zhǎng)時(shí)周期時(shí)序模式,并考慮多區(qū)域之間的相互依賴關(guān)系.由于校園會(huì)存在多個(gè)類型相同的公共區(qū)域,如不同校區(qū)的圖書(shū)館、多個(gè)教學(xué)樓或食堂,而利用基于統(tǒng)計(jì)學(xué)的研究往往不能針對(duì)多個(gè)時(shí)序變量同時(shí)進(jìn)行預(yù)測(cè),因此無(wú)法被直接應(yīng)用于校園公共區(qū)域人流量預(yù)測(cè).并且,校園區(qū)域人流量變化具有的短時(shí)依賴和長(zhǎng)時(shí)周期時(shí)序特性都是人流量預(yù)測(cè)的重要依據(jù),現(xiàn)有基于深度學(xué)習(xí)的方法無(wú)法直接對(duì)區(qū)域人流量數(shù)據(jù)的多尺度模式同時(shí)進(jìn)行考慮,預(yù)測(cè)結(jié)果不夠準(zhǔn)確.因此,需要一種模型能夠同時(shí)融合校園多區(qū)域人流量數(shù)據(jù)的多尺度時(shí)序模式進(jìn)行人流量預(yù)測(cè).

2 問(wèn)題定義

校園人流量序列是反映校園特定區(qū)域人流量變化的時(shí)間序列.用表示第d個(gè)區(qū)域在t時(shí)段的人流量,fd=(xd1,xd2,…,xdT)∈?T表示校園某區(qū)域在歷史T個(gè)時(shí)段內(nèi)的人流量序列,(f1,f2,…,fD)∈?T×D表示校園D個(gè)區(qū)域在T個(gè)時(shí)段的所有人流量序列.

定義(區(qū)域人流量預(yù)測(cè)).給定待預(yù)測(cè)區(qū)域個(gè)數(shù)D,表示這D個(gè)區(qū)域在t時(shí)刻的人流量,令F=(X1,X2,…,XT)∈?T×D為輸入歷史人流量序列,預(yù)測(cè)T+h時(shí)段D個(gè)待預(yù)測(cè)區(qū)域人流量:

其中,h表示目標(biāo)時(shí)段距離當(dāng)前時(shí)段T的時(shí)延.

對(duì)于不同的數(shù)據(jù)集,h值代表的含義取決于特定任務(wù)的實(shí)際需求.例如:對(duì)于高校食堂人流量預(yù)測(cè),輸入人流量序列F=(X1,X2,…,XT)∈?T×D的時(shí)間度量單位為小時(shí).設(shè)XT∈?D為D個(gè)食堂中午12:00～13:00 時(shí)段的人流量,h=6 表示預(yù)測(cè)6 小時(shí)后D個(gè)食堂18:00～19:00 時(shí)段內(nèi)的就餐人數(shù).表1 列出了本文中主要使用的符號(hào)定義.

Table 1 Symbol notation表1 符號(hào)表示

3 基于深度學(xué)習(xí)的多尺度時(shí)序模式卷積網(wǎng)絡(luò)

校園公共區(qū)域人流量預(yù)測(cè)會(huì)受到不同尺度的時(shí)序模式影響,呈現(xiàn)出不同的數(shù)據(jù)表征.例如,預(yù)測(cè)校園某公共區(qū)域2019 年7 月20 日下午17:30～18:00 時(shí)段的人流量,與預(yù)測(cè)時(shí)段直接相鄰的時(shí)段(如7 月20 日17:00～17:30)、對(duì)應(yīng)1 天前的相同時(shí)段(如7 月19 日17:30～18:00)以及1 周前的相同時(shí)段(7 月13 日17:30～18:00)的人流量數(shù)據(jù)均能提供有用信息,而當(dāng)日上午07:00～07:30 的人流量數(shù)據(jù)提供的信息會(huì)少很多.為了得到充分的時(shí)序信息,同時(shí)減少不相關(guān)歷史信息帶來(lái)的影響,我們?cè)O(shè)計(jì)短時(shí)模式組件(第3.1 節(jié))和長(zhǎng)時(shí)模式組件(第3.2 節(jié))分別捕獲區(qū)域人流量數(shù)據(jù)的多尺度模式特征,并利用融合組件(第3.3 節(jié))對(duì)獲取的特征進(jìn)行融合學(xué)習(xí)和重標(biāo)定,以提升對(duì)預(yù)測(cè)目標(biāo)有益的特征并抑制用處不大的特征.MSCNN 的總體架構(gòu)如圖2 所示.

Fig.2 Architecture of MSCNN圖2 MSCNN 模型架構(gòu)圖

3.1 短時(shí)模式組件

短時(shí)模式組件主要捕獲短時(shí)時(shí)序片段FS=(XT?S+1,XT?S+2,…,XT)∈?S×D的模式特征,即與預(yù)測(cè)時(shí)段直接相鄰的一段歷史時(shí)間序列片段.直觀地,校園公共區(qū)域人數(shù)的聚集和分散是逐漸形成的,一個(gè)區(qū)域上一時(shí)段的人流量會(huì)對(duì)下一時(shí)段的人流量產(chǎn)生很大的影響.例如:某食堂的就餐人數(shù)達(dá)到上限,會(huì)使大部分人選擇更換食堂就餐,從而致使食堂下一時(shí)段的就餐人數(shù)減少.在MSCNN 模型中,采用CNN 卷積運(yùn)算來(lái)捕獲這種短時(shí)時(shí)序片段模式和不同區(qū)域間存在的局部依賴關(guān)系.

CNN 卷積核的大小反映了一個(gè)單元的狀態(tài)由多大范圍內(nèi)的鄰近單元狀態(tài)所決定.對(duì)于短時(shí)模式組件,其網(wǎng)絡(luò)結(jié)構(gòu)如圖3 所示.

Fig.3 Structure of the short-term pattern component圖3 短時(shí)模式組件結(jié)構(gòu)

可以發(fā)現(xiàn),短時(shí)時(shí)序片段在輸入空間中表現(xiàn)為相鄰的單元.設(shè)置K個(gè)大小為6×D的卷積核對(duì)短時(shí)時(shí)序片段FS進(jìn)行卷積操作,可以捕獲到短時(shí)行為時(shí)序模式和變量之間的局部依賴性.其中,用第k層卷積核對(duì)FS進(jìn)行卷積操作:

3.2 長(zhǎng)時(shí)模式組件

長(zhǎng)時(shí)模式組件主要捕獲長(zhǎng)時(shí)周期的時(shí)序片段FL=(XT-L+1,XT-L+2,…,XT)∈?L×D的模式特征,即與預(yù)測(cè)時(shí)段具有相同時(shí)序片段或相同星期屬性的片段組成.以校園食堂場(chǎng)景為例,由于受到食堂營(yíng)業(yè)時(shí)間、固定的教學(xué)作息規(guī)律等因素影響,食堂流量數(shù)據(jù)存在明顯的周期性,如每周星期三的食堂人流量變化情況與歷史星期三的人流量變化類似.對(duì)此,長(zhǎng)時(shí)模式組件的目的就是要捕獲食堂流量數(shù)據(jù)中不同間隔時(shí)段中含有周期或相似性的長(zhǎng)時(shí)周期模式.同樣地,長(zhǎng)時(shí)模式組件也考慮了不同食堂之間相互依賴影響的因素.

與短時(shí)模式組件相同,利用卷積操作來(lái)捕獲上述提到的特征.不同的是:為了捕獲長(zhǎng)時(shí)周期模式,我們基于Dilated 卷積設(shè)置了skip 卷積運(yùn)算來(lái)實(shí)現(xiàn)該目標(biāo),網(wǎng)絡(luò)結(jié)構(gòu)如圖4 所示.

Fig.4 Structure of the long-term pattern component圖4 長(zhǎng)時(shí)模式組件結(jié)構(gòu)

設(shè)置K個(gè)卷積核對(duì)長(zhǎng)時(shí)周期的時(shí)序片段FL進(jìn)行卷積操作,與普通卷積不同的是,skip 卷積操作是對(duì)于選定的FL片段執(zhí)行跳躍skip 個(gè)單元進(jìn)行運(yùn)算.此外,MSCNN 模型設(shè)置3 種不同維度的skip 卷積核分別捕獲不同的長(zhǎng)時(shí)周期模式特征.詳細(xì)如下.

? 2-skip 片段:選定與預(yù)測(cè)時(shí)段間隔skip 的每2 個(gè)時(shí)段形成的片段:

此時(shí),卷積核大小為2×D.則可以得到卷積輸出

? 3-skip 片段:通過(guò)選定與預(yù)測(cè)時(shí)段間隔skip 的每3 個(gè)時(shí)段形成的片段:

令卷積核大小為3×D,可以得到卷積輸出為

? 5-skip 片段:選定與預(yù)測(cè)時(shí)段間隔skip 的每5 個(gè)時(shí)段形成的片段:

設(shè)置卷積核大小為5×D,那么得到卷積輸出

與公式(1)中的參數(shù)描述相同,3 種不同維度的skip 卷積輸出,與短時(shí)模式組件輸出具有類似可學(xué)習(xí)的權(quán)重和偏置參數(shù).為保證執(zhí)行skip 卷積時(shí)能對(duì)原始數(shù)據(jù)空間的所有序列單元進(jìn)行卷積計(jì)算,對(duì)長(zhǎng)時(shí)模式組件的輸入序列FL進(jìn)行向下zero-padding 操作,經(jīng)過(guò)K個(gè)卷積核后,分別得到維度為K×Q2×1,K×Q3×1 和K×Q4×1 的3 種輸出結(jié)果.

3.3 融合組件

融合組件由兩個(gè)子件組成,其中,一個(gè)子件用于將短時(shí)模式和長(zhǎng)時(shí)模式組件捕獲到的特征進(jìn)行融合,另一個(gè)子件用于特征的重標(biāo)定以便預(yù)測(cè)到更加準(zhǔn)確的結(jié)果.該組件的核心依賴于 SENet(squeeze and exicitation network)[20]模型對(duì)不同的特征維度上的信息進(jìn)行聚合.圖5 展示了融合組件的具體結(jié)構(gòu)和運(yùn)算過(guò)程.

Fig.5 Structure of the fusion component圖5 融合組件結(jié)構(gòu)

(1)多尺度時(shí)序模式特征融合

為了將短時(shí)模式和長(zhǎng)時(shí)模式組件獲取的多尺度時(shí)序模式特征信息融合,以便進(jìn)行后一步分析.由于卷積核不同的設(shè)置,輸出的結(jié)果維度不同,即Qj≠Q(mào)j(i≠j,i,j∈{1,2,3,4}).對(duì)于不同大小和類別的卷積核映射得到的4 個(gè)不同維度的卷積輸出,由于其卷積核個(gè)數(shù)始終為K,因此可以通過(guò)Global Average Pooling 保留全局有用信息得到4個(gè)維度相同的K×1×1 采樣結(jié)果,直接進(jìn)行拼接后可得到K×4×1 的特征融合結(jié)果.

(2)多尺度時(shí)序模式特征重標(biāo)定

通過(guò)卷積運(yùn)算捕獲的多尺度時(shí)序模式特征可以視作是局部感受野在空間(變量空間)和特征維度(不同尺度模式)的信息聚合,其輸出結(jié)果可以理解為不同變量在不同特征空間上信息的聚合.因此,基于SENet 組件對(duì)卷積映射的時(shí)序模式特征進(jìn)行重新標(biāo)定,獲取不同時(shí)序長(zhǎng)度和待預(yù)測(cè)時(shí)段的新模式特征.具體的實(shí)現(xiàn)方法見(jiàn)圖5所示的Squeeze 和Excitation 流程.

對(duì)于融合的K×4×1 多模式時(shí)序特征,首先進(jìn)行Squeeze 操作,對(duì)空間維度進(jìn)行特征壓縮得到K×1×1 的一維實(shí)數(shù),表示在特征通道上的空間特征全局分布;其次是Excitation 操作,即通過(guò)兩個(gè)全連接層分別對(duì)空間特征通道間的相關(guān)性進(jìn)行學(xué)習(xí)生成權(quán)重,即與融合結(jié)果具有相同維度的重標(biāo)定權(quán)重,表示不同特征通道的重要性.需要注意的是:經(jīng)過(guò)第一個(gè)全連接層時(shí),將通道壓縮比例設(shè)定為16;最后通過(guò)權(quán)重更新對(duì)融合結(jié)果進(jìn)行重標(biāo)定,得到與原始特征具有相同維度K×4×1 的特征映射更新結(jié)果.

對(duì)于融合得到的特征,采用傳統(tǒng)CNN 對(duì)序列數(shù)據(jù)進(jìn)行預(yù)測(cè)的結(jié)構(gòu),經(jīng)過(guò)全連接層后可以得到預(yù)測(cè)目標(biāo),全連接模塊同樣使用RELU 作為激活函數(shù).在該網(wǎng)絡(luò)結(jié)構(gòu)中,選擇預(yù)測(cè)任務(wù)常用的平方誤差作為損失函數(shù),如下式所示:

其中,||?||F表示矩陣范數(shù),h為第2 節(jié)提到的目標(biāo)時(shí)段距離當(dāng)前時(shí)段的時(shí)延.

4 實(shí)驗(yàn)與分析

4.1 實(shí)驗(yàn)環(huán)境設(shè)置

4.1.1 實(shí)驗(yàn)數(shù)據(jù)集

本文選取的真實(shí)校園數(shù)據(jù)來(lái)源于某高校,使用該校2019 年3 月3 日～7 月20 日春季學(xué)期期間某校區(qū)的全校師生校園一卡通數(shù)據(jù).該校區(qū)日常管理較為嚴(yán)格,校外人員無(wú)法隨意進(jìn)出該校區(qū),該校區(qū)學(xué)生在校內(nèi)的所有消費(fèi)可通過(guò)校園一卡通完成.出于數(shù)據(jù)隱私保護(hù)的角度,所選數(shù)據(jù)集無(wú)法直接公開(kāi),因此本文選擇了1 個(gè)與真實(shí)校園數(shù)據(jù)同樣具有周期性表現(xiàn)的時(shí)序數(shù)據(jù)集進(jìn)行有效性驗(yàn)證.數(shù)據(jù)集詳細(xì)介紹如下.

? Canteen-Dining:該高校2019 年春季學(xué)期某校區(qū)全校師生的校園一卡通消費(fèi)數(shù)據(jù),以每30 分鐘為時(shí)間間隔統(tǒng)計(jì)全校師生在21 個(gè)食堂的人流量記錄,其中,同一時(shí)段的同一校園卡ID 視為單人記錄,序列長(zhǎng)度為6 720.實(shí)驗(yàn)中,將前12 個(gè)教學(xué)周為訓(xùn)練集,中間4 個(gè)教學(xué)周為驗(yàn)證集,后4 個(gè)教學(xué)周為測(cè)試集;

? Canteen-Consumption:該高校2019 年春季學(xué)期某校區(qū)21 個(gè)食堂的流水記錄,即各個(gè)食堂每間隔半小時(shí)的消費(fèi)總金額.基于各食堂消費(fèi)水平,可側(cè)面反映出食堂的消費(fèi)人數(shù).訓(xùn)練集、驗(yàn)證集和測(cè)試集的劃分與上一個(gè)數(shù)據(jù)集相同;

? Solar-Energy(https://www.nrel.gov/grid/solar-power-data.html):Alabama 州級(jí)2006 年太陽(yáng)能生產(chǎn)記錄,包含137 個(gè)光伏發(fā)電廠每間隔10 分鐘讀取的太陽(yáng)能發(fā)電數(shù)據(jù).序列長(zhǎng)度為52 560.其中,前219 天作為訓(xùn)練集,中間73 天作為驗(yàn)證集,后73 天作為測(cè)試集.

為了顯示時(shí)序數(shù)據(jù)集中的短時(shí)或者長(zhǎng)時(shí)周期重復(fù)模式特征,通過(guò)繪制自相關(guān)圖對(duì)一個(gè)時(shí)序信號(hào)Xt與其自身在不同時(shí)刻的互相關(guān)程度進(jìn)行表示,記為R(τ):

其中,μ和σ分別表示時(shí)序信號(hào)Xt的均值和標(biāo)準(zhǔn)差.在計(jì)算時(shí),使用無(wú)偏估計(jì)量來(lái)得到自相關(guān)系數(shù).為便于觀察,我們從數(shù)據(jù)集中隨機(jī)選擇3 個(gè)變量進(jìn)行展示,數(shù)據(jù)集所有變量的自相關(guān)圖可在模型源碼鏈接(https://github.com/striver314/MSCNN)中查看.

如圖6 所示,實(shí)驗(yàn)所選用的3 個(gè)數(shù)據(jù)集均存在較高自相關(guān)性的重復(fù)模式.進(jìn)一步地,從圖6(a)、圖6(b)中可觀察到,校園真實(shí)數(shù)據(jù)集的短時(shí)重復(fù)模式(每間隔24 小時(shí))和長(zhǎng)時(shí)重復(fù)模式(每間隔7 天);從圖6(c)中可看出,公開(kāi)數(shù)據(jù)集的重復(fù)模式是每間隔24 小時(shí)1 次.

Fig.6 Autocorrelation analysis w.r.t time lag on three datasets圖6 3 個(gè)數(shù)據(jù)集隨時(shí)間滯后的自相關(guān)分析

4.1.2 模型參數(shù)設(shè)置

本文的實(shí)驗(yàn)環(huán)境為Intel(R)Xeon(R)CPU E5-2698 v3@2.30GHz,并基于Pytorch 1.5.1 框架,使用Python 3.7來(lái)實(shí)現(xiàn)MSCNN 模型.其中,短時(shí)模式和長(zhǎng)時(shí)模式組件中均使用100(K=100)個(gè)相同大小的卷積核,并保證卷積核沿空間軸維度始終為D.此時(shí),融合組件中Excitation 操作的結(jié)果取整為100/16=6.由于輸入數(shù)據(jù)的長(zhǎng)度會(huì)對(duì)實(shí)驗(yàn)結(jié)果產(chǎn)生影響,實(shí)驗(yàn)中設(shè)定與基準(zhǔn)方法LSTNet-Skip[12]相同的序列長(zhǎng)度24×7 作為預(yù)測(cè)序列窗口長(zhǎng)度.每次實(shí)驗(yàn)均執(zhí)行50 個(gè)Epoch 得到預(yù)測(cè)結(jié)果.

由于校園真實(shí)數(shù)據(jù)的私密性,我們只將實(shí)驗(yàn)采用的公開(kāi)數(shù)據(jù)集以及MSCNN 模型源碼均存放于https://github.com/striver314/MSCNN.

4.1.3 基準(zhǔn)方法

本文選取相關(guān)工作中提到的7 種時(shí)序預(yù)測(cè)方法與MSCNN 模型進(jìn)行比較.

? HA:歷史均值法,使用預(yù)測(cè)序列窗口長(zhǎng)度的歷史序列的平均值作為預(yù)測(cè)目標(biāo)的值;

? AR:標(biāo)準(zhǔn)自回歸模型,相當(dāng)于一維的向量自回歸VAR 模型;

? LRidge:具有L2 正則化項(xiàng)的向量自回歸模型,被廣泛應(yīng)用在多變量時(shí)序預(yù)測(cè)問(wèn)題中;

? LSVR[21]:具有支持向量回歸目標(biāo)函數(shù)的向量自回歸模型;

? LSTM[8,11]:長(zhǎng)短時(shí)記憶網(wǎng)絡(luò),作為一種特殊的RNN,其時(shí)間記憶性能夠在一定程度上解決序列數(shù)據(jù)的時(shí)間依賴問(wèn)題;

? LSTNet-Skip[12]:帶有Skip RNN 層的LSTNet 模型,利用CNN 和GRU 分別捕獲短時(shí)局部依賴和長(zhǎng)時(shí)趨勢(shì)模式;

? TPA-LSTM[13]:帶有注意力機(jī)制的長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)模型,捕獲時(shí)序數(shù)據(jù)的時(shí)間相關(guān)性.

4.1.4 評(píng)價(jià)指標(biāo)

本文采用相對(duì)平方誤差(RSE)、經(jīng)驗(yàn)相關(guān)系數(shù)(CORR)以及預(yù)測(cè)準(zhǔn)確率(Accuracy@E)這3 種度量標(biāo)準(zhǔn)來(lái)評(píng)估模型的預(yù)測(cè)性能(其中,預(yù)測(cè)準(zhǔn)確率是同一時(shí)段內(nèi)觀測(cè)值與預(yù)測(cè)值的誤差絕對(duì)值在最大允許誤差E以內(nèi)的樣本數(shù)占所有測(cè)試樣本的比例.對(duì)于不同的數(shù)據(jù)集,最大允許誤差E的取值及表示含義有所不同).

? 相對(duì)平方誤差的計(jì)算公式如下所示:

? 經(jīng)驗(yàn)相關(guān)系數(shù)的計(jì)算公式如下所示:

? 預(yù)測(cè)準(zhǔn)確率的計(jì)算公式如下所示:

4.2 有效性實(shí)驗(yàn)

本文提出的MSCNN 模型在數(shù)據(jù)集Canteen-Dining,Canteen-Consumption 和Solar-Energy 上與第4.1.3 節(jié)中提到的7 種基準(zhǔn)方法進(jìn)行了比較.我們測(cè)試了這些模型在不同時(shí)間間隔h(即目標(biāo)時(shí)段距離當(dāng)前時(shí)段的時(shí)延)的預(yù)測(cè)精度.表2 記錄了h分別取3,6,12,24 時(shí),這些模型在Canteen-Dining 和Canteen-Consumption 數(shù)據(jù)集上未來(lái)1.5 小時(shí)～12 小時(shí)內(nèi)的預(yù)測(cè)結(jié)果,以及在Solar-Energy 數(shù)據(jù)集上未來(lái)30 分鐘～240 分鐘內(nèi)的預(yù)測(cè)結(jié)果.

表2 表明:隨著h逐漸增大時(shí),預(yù)測(cè)難度會(huì)增大,但本文提出的MSCNN 模型在多數(shù)情況下的RSE 和CORR兩種評(píng)價(jià)指標(biāo)中均取得更好的結(jié)果.特別地,在食堂就餐人數(shù)數(shù)據(jù)集Canteen-Dining 中,MSCNN 模型取得上述方法中最優(yōu)的結(jié)果,在h取3 預(yù)測(cè)未來(lái)1.5 小時(shí)內(nèi)的就餐人數(shù)時(shí),MSCNN 模型較LSTNet-Skip 模型提升了1.9%,較TPS-LSTM 模型提升了7.5%.為了進(jìn)一步驗(yàn)證模型預(yù)測(cè)性能的穩(wěn)定性,我們將上述方法在3 個(gè)數(shù)據(jù)集上的RSE 和CORR 指標(biāo)隨著h的變化通過(guò)圖7 和圖8 進(jìn)行展示.從整體情況來(lái)看,MSCNN 模型隨著h的增加,其預(yù)測(cè)結(jié)果在3 個(gè)數(shù)據(jù)集上的波動(dòng)程度與預(yù)測(cè)任務(wù)的難度波動(dòng)具有一致性,即預(yù)測(cè)結(jié)果隨著h的增大而降低.在2個(gè)真實(shí)校園數(shù)據(jù)集中,波動(dòng)程度最大的是TPA-LSTM 模型.而在公開(kāi)數(shù)據(jù)集上,MSCNN 模型和LSTNet-Skip 和TPA-LSTM 這3 種方法的整體預(yù)測(cè)結(jié)果相似,均遠(yuǎn)勝于其他時(shí)序預(yù)測(cè)方法.

Table 2 Experimental results (in RSE and CORR)of all methods on three datasets表2 所有方法在3 個(gè)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果(RSE 和CORR)

Fig.7 Performance (in RSE)of all methods on three datasets with different h圖7 所有方法在3 個(gè)數(shù)據(jù)集上隨著h 變化的實(shí)驗(yàn)結(jié)果(RSE)

Fig.8 Performance (in CORR)of all methods on three datasets with different h圖8 所有方法在3 個(gè)數(shù)據(jù)集上隨著h 變化的實(shí)驗(yàn)結(jié)果(CORR)

此外,考慮到模型的實(shí)際應(yīng)用場(chǎng)景需要準(zhǔn)確了解不同時(shí)段的人流量分布情況,結(jié)合最大允許誤差E選取的實(shí)際意義,我們以數(shù)據(jù)集Canteen-Dining 為例,最大允許誤差E表示某個(gè)食堂的人流量預(yù)測(cè)值的誤差極限值,計(jì)算LSTNet-Skip,TPA-LSTM 以及MSCNN 這3 種方法在h=3 的Accruacy@E指標(biāo),結(jié)果如表3 所示.可以發(fā)現(xiàn):在食堂人流量預(yù)測(cè)問(wèn)題中選取的5 個(gè)不同誤差的Accuracy@E指標(biāo),MSCNN 模型在4 個(gè)指標(biāo)中都取得了最優(yōu)的結(jié)果.

Table 3 Result of Accuracy@E (h=3)on Canteen-dining dataset表3 Canteen-dining 數(shù)據(jù)集的Accuracy@E(h=3)結(jié)果

同時(shí),為了證明MSCNN 模型在食堂人流量數(shù)據(jù)中對(duì)短時(shí)依賴和長(zhǎng)時(shí)周期的多尺度時(shí)序模式的捕獲能力,我們繪制了h=3 時(shí),單個(gè)食堂在未來(lái)一天內(nèi)預(yù)測(cè)值和真實(shí)值的對(duì)比結(jié)果,如圖9 所示.其中,圖9(a)為L(zhǎng)STNet-skip模型的對(duì)比結(jié)果,圖9(b)為MSCNN 模型的對(duì)比結(jié)果.可以明顯看出:MSCNN 模型可以更加準(zhǔn)確地預(yù)測(cè)到每天不同時(shí)段的人流量分布情況,而LSTNet-skip 模型在人流量高峰期的預(yù)測(cè)值與觀測(cè)值有較大的誤差,進(jìn)一步驗(yàn)證了MSCNN 模型可以更為準(zhǔn)確地捕獲到多尺度時(shí)序模式特征.

Fig.9 Predicted data (h=3)of LSTNet and MSCNN vs.obsvered data on Canteen-dining dataset圖9 LSTNet-Skip 和MSCNN 在數(shù)據(jù)集Canteen-dining 上,單個(gè)食堂的預(yù)測(cè)值(h=3)與觀測(cè)值對(duì)比情況

綜上,分析實(shí)驗(yàn)結(jié)果可得到如下3 點(diǎn)結(jié)論.

(1)對(duì)比MSCNN 和HA 結(jié)果發(fā)現(xiàn):MSCNN 模型的效果明顯優(yōu)于僅根據(jù)歷史時(shí)序片段的均值進(jìn)行估計(jì)的模型HA.這是由于人流量預(yù)測(cè)是一個(gè)復(fù)雜非線性且受綜合因素影響的問(wèn)題,從另一個(gè)方面也說(shuō)明了依靠經(jīng)驗(yàn)進(jìn)行預(yù)測(cè)會(huì)產(chǎn)生較大的誤差;

(2)對(duì)比MSCNN,AR,LRidge 和LSVR 模型可以發(fā)現(xiàn):與這些基于統(tǒng)計(jì)學(xué)的模型相比,MSCNN 模型可以取得更加穩(wěn)定且準(zhǔn)確的預(yù)測(cè)結(jié)果.這是因?yàn)槠渌Ｐ蛯?duì)于非線性數(shù)據(jù)無(wú)法很好地?cái)M合,并且在多變量時(shí)序預(yù)測(cè)場(chǎng)景下,這些模型未考慮變量之間的依賴性;

(3)對(duì)比MSCNN,LSTM,LSTNet-Skip 和TPA-LSTM 模型可以發(fā)現(xiàn):MSCNN 模型要優(yōu)于現(xiàn)有基于神經(jīng)網(wǎng)絡(luò)方法的相關(guān)模型,主要體現(xiàn)在模型預(yù)測(cè)性能的穩(wěn)定性、預(yù)測(cè)誤差以及與真實(shí)數(shù)據(jù)的擬合效果等多個(gè)方面.這是由于MSCNN 模型捕獲了多尺度時(shí)序模式特征,相較于只獲取單一時(shí)序模式的方法效果更好.

4.3 時(shí)間性能分析

表4 展示了上述4 種基于神經(jīng)網(wǎng)絡(luò)的方法(即MSCNN,LSTM,LSTNet-Skip,TPA-LSTM)在真實(shí)數(shù)據(jù)集上的模型訓(xùn)練時(shí)間和測(cè)試時(shí)間.所有模型的訓(xùn)練過(guò)程都在相同的實(shí)驗(yàn)環(huán)境和實(shí)驗(yàn)參數(shù)下完成.

Table 4 Comparison on training time and test time of four methods表4 4 種模型訓(xùn)練時(shí)間和預(yù)測(cè)時(shí)間對(duì)比

相較于與其他3 種基于LSTM 的模型(LSTM,LSTNet-skip,TPA-LSTM),僅在模型內(nèi)部使用CNN 結(jié)構(gòu)的MSCNN 模型在訓(xùn)練時(shí)間和測(cè)試時(shí)間上明顯少于另外3 種方法.隨著數(shù)據(jù)規(guī)模的增大,這樣的優(yōu)勢(shì)會(huì)逐漸擴(kuò)大.對(duì)于校園公共區(qū)域人流量預(yù)測(cè)和控制可以得到更好的應(yīng)用.

4.4 消融實(shí)驗(yàn)

為驗(yàn)證MSCNN 模型設(shè)計(jì)的有效性和合理性,我們使用真實(shí)校園數(shù)據(jù)集進(jìn)行消融實(shí)驗(yàn).每次對(duì)模型移除一個(gè)組件,并與MSCNN 模型進(jìn)行對(duì)比驗(yàn)證各組件的效率.將沒(méi)有不同組件的模型進(jìn)行命名用作實(shí)驗(yàn)區(qū)分.

? MSCNNw/oCNN:MSCNN 模型沒(méi)有短時(shí)模式組件捕獲短時(shí)依賴時(shí)序特征;

? MSCNNw/oSkip:MSCNN 模型沒(méi)有長(zhǎng)時(shí)模式組件捕獲長(zhǎng)時(shí)周期模式特征;

? MSCNNw/oSENet:MSCNN 模型沒(méi)有融合組件進(jìn)行多尺度時(shí)序模式特征重?cái)M定.

圖10 和圖11 分別展示了消融實(shí)驗(yàn)在不同真實(shí)數(shù)據(jù)集上,RSE 和CORR 指標(biāo)的結(jié)果.

Fig.10 Results (in RSE)of MSCNN in the ablation test on Canteen-dining and Canteen-consumption datasets圖10 MSCNN 模型在數(shù)據(jù)集Canteen-dining 和Canteen-consumption 上的消融實(shí)驗(yàn)結(jié)果(RSE)

Fig.11 Results (in CORR)of MSCNN in the ablation test on Canteen-dining and Canteen-consumption datasets圖11 MSCNN 模型在數(shù)據(jù)集Canteen-dining 和Canteen-consumption 上的消融實(shí)驗(yàn)結(jié)果(CORR)

可以看出:短時(shí)模式組件對(duì)實(shí)驗(yàn)結(jié)果影響最大,沒(méi)有短時(shí)模式組件的MSCNN 模型在兩個(gè)指標(biāo)上均取得最差結(jié)果.而沒(méi)有長(zhǎng)時(shí)模式組件的 MSCNN 模型在 RSE 指標(biāo)上取得更好的結(jié)果(h=3,6,12);但在h=24 時(shí),MSCNNw/oSkip 模型的結(jié)果較差.這意味著沒(méi)有長(zhǎng)時(shí)模式組件無(wú)法預(yù)測(cè)未來(lái)時(shí)長(zhǎng)較長(zhǎng)的結(jié)果.融合組件對(duì)實(shí)驗(yàn)結(jié)果的影響出現(xiàn)較大波動(dòng),對(duì)MSCNN 模型的效果提升所起到的作用較小.

5 總結(jié)

本文提出一種基于深度學(xué)習(xí)的多尺度時(shí)序卷積網(wǎng)絡(luò)MSCNN,以對(duì)校園公共區(qū)域人流量進(jìn)行預(yù)測(cè).MSCNN模型利用短時(shí)模式和長(zhǎng)時(shí)模式組件捕獲多尺度時(shí)序數(shù)據(jù)中的短時(shí)依賴、長(zhǎng)時(shí)周期模式和變量相互依賴特征,并利用融合組件對(duì)特征進(jìn)行融合和重標(biāo)定.在真實(shí)校園環(huán)境數(shù)據(jù)集上的實(shí)驗(yàn)表明:本文提出的MSCNN 模型的預(yù)測(cè)效果優(yōu)于其他已有的校園區(qū)域人流量數(shù)據(jù)預(yù)測(cè)方法,驗(yàn)證了該模型在捕獲多尺度時(shí)序模式方面的優(yōu)勢(shì).

下一步,我們將通過(guò)注意力機(jī)制等方法來(lái)優(yōu)化MSCNN 模型,并把校內(nèi)各公共區(qū)域之間的依賴關(guān)系考慮進(jìn)來(lái),以提升模型的預(yù)測(cè)精度.同時(shí)優(yōu)化MSCNN 模型中不同尺度模式特征的融合組件,拓寬應(yīng)用場(chǎng)景.