熊經緯,楊建國,徐 蘭
(東華大學 機械工程學院,上海 201620)
基于PSO-BP神經網絡的紗線質量預測
熊經緯,楊建國,徐蘭
(東華大學 機械工程學院,上海 201620)
針對復雜紡紗過程中成紗斷裂強度難以預測的問題,提出一種基于粒子群優(yōu)化算法(PSO)優(yōu)化BP神經網絡的成紗斷裂強度預測方法.該方法采用PSO優(yōu)化神經網絡的權值和閾值,用來提高神經網絡的收斂速度和獲得全局最優(yōu)解的能力.以紡紗車間大量現(xiàn)場質量檢測數(shù)據(jù)為對象,進行預測驗證,結果表明,PSO-BP神經網絡在預測相關性(預測值與實際值的一致性程度)上與傳統(tǒng)BP算法相比提高5.0%,與GA-BP算法相比提高4.6%,在預測精度上均要好于BP神經網絡與GA-BP神經網絡.
BP神經網絡;粒子群算法(PSO);紗線質量預測
多樣化及個性化需求使紡織工藝流程越來越復雜,因影響紗線生產的因素眾多,且因素之間相互作用,存在著復雜的多變量耦合關系,很難用傳統(tǒng)的方法對紡紗質量進行準確的預測.隨著智能計算技術的發(fā)展,近年來國內外出現(xiàn)了許多利用智能計算方法預測紡紗質量的研究[1],其中,人工神經網絡成為主導的預測方法之一.如文獻[2]采用人工神經網絡和線性回歸模型預測紗線拉伸性能,取得了良好的預測效果.文獻[3]分別采用自適應神經模糊推理系統(tǒng)和線性多元回歸方法預測氣流紡的成紗強度,通過比較2個模型的預測性能可知,自適應神經模糊推理系統(tǒng)比多元線性回歸模型有更好的預測能力 .文獻[4]采用具有全局尋優(yōu)功能的遺傳算法來優(yōu)化BP神經網絡的權值和閾值,優(yōu)化后的神經網絡模型具有良好的泛化能力和預測能力.文獻[5]提出了一種將模糊聚類技術與BP神經網絡相結合的日負荷特性曲線分類與短期負荷預測的方法,利用變學習速率和附加動量來改進BP算法并預測日負荷曲線,試驗證明該方法在實際應用中具備可行性.在傳統(tǒng)神經網絡結構方面,文獻[6]的研究表明,網絡包含一個隱層就可以實現(xiàn)任意連續(xù)函數(shù)的精確逼近映射.現(xiàn)有的預測模型在實際工程中取得了重要進展,但相當一部分模型存在易陷入局部最小值及收斂速度過慢等缺點,尤其對長流程、多擾動的復雜紡織加工過程而言,預測效果不佳.如何克服現(xiàn)有預測模型的不足,提高預測精度和加快收斂速度,是紡紗質量預測的瓶頸問題之一.
紗線生產是一個長流程的復雜動態(tài)加工過程,隨著生產的發(fā)展和科學技術的進步,新材料、新工藝和新設備的不斷涌現(xiàn),紡紗工藝的預測技術變得更為復雜.以成紗斷裂強度為例,其影響因素包含了纖維的平均長度、主體長度、品質長度、斷裂強度、線密度、馬克隆值、短絨率、基數(shù)、勻度、回潮率、含雜率、紗線的線密度、捻度、精梳共14個參數(shù).其中,精梳是工藝,本文中給予量化,以1表示精梳,以0表示普梳.本文采用粒子群優(yōu)化(PSO)算法對BP神經網絡進行優(yōu)化,并與現(xiàn)有的方法進行比較,結果表明PSO-BP算法具有更大的優(yōu)越性.
1.1BP神經網絡結構參數(shù)設定
本文采用毛紡生產加工過程中的纖維平均長度、主體長度、品質長度、斷裂強度、線密度、馬克隆值、短絨率等關鍵參數(shù)作為預測模型的輸入,成紗斷裂強度作為預測模型的輸出.由文獻[7]可知,3層BP神經網絡可以完成任意n維到m維的映射.選擇隱含層節(jié)點數(shù)k的經驗公式為
k=
(1)
式中:m為輸入神經元數(shù);n為輸出神經元數(shù).
1.2PSO-BP神經網絡算法設計
1.2.1PSO算法
在D維搜索空間中,包含S個粒子組成的種群X=(X1, X2,…, XS),于是第i個微粒在D維空間中的位置定義為Xi=(xi1, xi2,…, xiD),將Xi帶入適應度函數(shù)φ(Xi)中計算出適應度值粒子位置Fi.第i個微粒的當前速度為vi=(vi1, vi2,…, viD),其中,第i個微粒的個體極值pBest為Pi=(pi1, pi2,…, piD),整個種群的全局極值gBest為Pg=(pg1, pg2,…, pgD)[8-11].
在迭代尋優(yōu)過程中,微粒通過個體極值和全局極值來更新自身的速度和位置[12-13],即
(2)
(3)
式中:ω為慣性權重,用來調節(jié)對解空間的搜索范圍;d=1, 2,…,D;i=1, 2,…,S;k為當前迭代次數(shù);vid為微粒速度;c1,c2(非負常數(shù))為學習因子,通常取c1=c2=2;r1,r2為兩個相互獨立的隨機數(shù),取值范圍為(0, 1),以增加搜索隨機性.為降低粒子在迭代的過程中脫離搜索空間的概率,一般將其位置和速度限制在[-Xmax,Xmax]、 [-vmax,vmax][14].
1.2.2基于PSO優(yōu)化的BP神經網絡算法
PSO算法具有全局搜索能力強并且收斂速度快的優(yōu)點,若將其與BP神經網絡相結合,便能夠避免傳統(tǒng)神經網絡中因采用梯度下降法來更新權值,導致易陷入局部極小值和收斂速度慢的缺點[15-17].本文在PSO-BP神經網絡中,用Xi=(xi1, xi2,…, xiD)表示一組待優(yōu)化的參數(shù)值,向量中的每一維由網絡中的權值和閾值組成,其中向量維數(shù)D為BP網絡中所有權值和閾值的總和,由輸入為14個參數(shù),輸出為1個參數(shù),確定神經網絡結構為14-8-1,因此D=14×8+8+8×1+1=129.微粒的適應度函數(shù)如式(4)所示,即所有樣本的均方誤差.
(4)
式中:s為樣本個數(shù);c為網絡神經元的輸出個數(shù);tk, p為第p個樣本的第k個理想輸出值;Yk, p為第p個樣本的第k個實際輸出值.當適應度函數(shù)達到最小時搜索得到BP網絡最佳權值和閾值.
PSO-BP算法實現(xiàn)流程如圖1所示.
圖1 PSO-BP算法流程Fig.1 The flow chart of PSO-BP algorithm
2.1試驗數(shù)據(jù)的準備
已知某毛紗生產數(shù)據(jù),建立成紗斷裂強度預測模型,輸入為纖維平均長度、主體長度、品質長度、斷裂強度、線密度、馬克隆值、短絨率、基數(shù)、勻度、回潮率、含雜率、紗線線密度、捻度、精梳,輸出為成紗斷裂強度,選取數(shù)據(jù)集中的63組作為訓練集,剩余10組作為預測模型測試集.試驗工具采用數(shù)學處理軟件Matlab.
2.2預測模型參數(shù)的確定
由輸入、輸出神經元個數(shù),根據(jù)式(1)得出隱含層神經元個數(shù)為8.其他主要參數(shù)設置如表1所示.
表1 基于PSO-BP算法的成紗斷裂強度值預測模型主要參數(shù)Table 1 The main parameters of yarn breaking strength forecasting model based on PSO-BP algorithm
2.3數(shù)據(jù)的預處理
數(shù)據(jù)的預處理對預測質量有著重要的作用.通常的數(shù)據(jù)預處理方法有以下2種.
(1) min-max標準化.這種方法也稱為離散標準化,是對原始數(shù)據(jù)進行線性變換,使數(shù)據(jù)映射到[0,1]之間.歸一化處理轉換函數(shù)如式(6)所示.
(6)
式中:xmin為樣本的最小值;xmax為樣本的最大值.在輸出層要進行反歸一化處理,即換回實際的值如式(7)所示.
x=(xmax-xmin)xk+xmin
(7)
(2) Z-score標準化方法.這種方法是通過求出原始數(shù)據(jù)的均值(mean)和標準差(standard deviation)進行數(shù)據(jù)的標準化.經過處理的數(shù)據(jù)符合標準正態(tài)分布,即均值為0,標準差為1,其轉化函數(shù)如式(8)所示.
(8)
式中:μ為所有樣本數(shù)據(jù)的均值;σ為所有樣本數(shù)據(jù)的標準差.
由于數(shù)據(jù)經過第二種方法處理后映射在[-1, 1]之間,其中的數(shù)據(jù)必然有正有負,不符合實際的生產情況,故本文選擇第一種數(shù)據(jù)預處理方法.
2.4預測模型試驗結果分析
為比較預測的效果,本文同時采用BP神經網絡、GA-BP神經網絡對樣本進行訓練,預測結果如表2所示.
表2 測試樣本成紗斷裂強度預測結果Table 2 Prediction results of yarn breaking strength of samples
由表2可以得出,相比較BP神經網絡與GA-BP神經網絡,PSO-BP神經網絡的平均相對誤差最低,說明其具有更高的預測精度.PSO-BP神經網絡的最大相對誤差在3種模型中最低,說明PSO-BP神經網絡的預測穩(wěn)定性最好.為了進一步對比3種神經網絡的差別,引入相關系數(shù)R.為防止過擬合,神經網絡模型的訓練過程是自動將輸入的數(shù)據(jù)處理之后分為訓練數(shù)據(jù)、測試數(shù)據(jù)和預測數(shù)據(jù),默認的比例是70%,15%,15%.相關系數(shù)R是網絡在自行訓練的過程中為不斷擬合數(shù)據(jù)得出的一個衡量指標,R表示網絡輸出的權值與偏置在擬合效果中的好與差,其定義如式(9)所示.
(9)
式中:n為樣本的個數(shù);x與y分別為實測值與預測值.R值越大,表明預測值與實測值一致程度越好.現(xiàn)根據(jù)Matlab處理的試驗結果,數(shù)據(jù)的相關性分析如圖2所示,其中,橫坐標為目標值,縱坐標為網絡的輸出值,圓圈“O”表示數(shù)據(jù)坐標點,理想回歸直線由實線表示,最優(yōu)回歸直線由虛線表示.
由圖2可知,相比于BP神經網絡與GA-BP神經網絡,PSO-BP神經網絡預測精度分別提高了5.0%與4.6%.對比試驗表明,基于PSO算法優(yōu)化的BP神經網絡的成紗斷裂強度預測精度與預測值的相關程度要明顯高于單一的BP神經網絡預測模型.
(a) BP神經網絡
(b) PSO-BP神經網絡
(c) GA-BP神經網絡圖2 預測模型輸出相關性分析Fig.2 The correlation analysis of prediction model output
針對紡織加工過程中重要質量參數(shù)難以預測的問題,本文提出利用PSO-BP神經網絡算法來預測紡紗加工中的關鍵參數(shù),用PSO來優(yōu)化傳統(tǒng)BP神經網絡權值和閾值的選取.研究表明,PSO-BP神經網絡在收斂速度和預測精度穩(wěn)定性及相關性方面相比于傳統(tǒng)BP神經網絡有明顯的提高.研究結果對于紡織企業(yè)提前預知產品質量、降低投入成本有一定的借鑒作用.
[1] 陳俊杰,謝春萍, 郝海濤.人工神經網絡紗線質量預報模型的實用化[J].天津紡織科技,2005(4):9-12.
[2] MWASIAGI J I, HUANG X, WANG X. Performance of neural network algorithms during the prediction of yarn breaking elongation [J]. Fibers and Polymers, 2008, 9(1):80-86.
[3] YAO G, GUO J S, ZHOU Y Y, Prediction of rotor spun yarn strength using adaptive neurofuzzy inference system and linear multiple regression methods[J].Journal of Donghua University: English Edition, 2008, 25(1):48-52.
[4] 田亮,羅宇,王陽.基于遺傳算法優(yōu)化BP神經網絡的TIG焊縫尺寸預測模型[J].上海交通大學學報,2013,47(11):1690-1696.
[5] LI Z, ZHOU B X, LIN N. Classification of daily load characteristics curve and forecasting of short-term load based on fuzzy clustering and improved BP algorithm [J]. Power System Protection and Control, 2012, 40(3):56-60.
[6] ABBASI A A, VOSSOUGHI G R, AHMADIAN M T. Deformation prediction by a feed forward artificial neural network during mouse embryo micro manipulation [J]. Animal Cells and Systems, 2012, 16(2):121-126.
[7] 周開利, 康耀紅.神經網絡模型及其MATLAB仿真程序設計[M].北京:清華大學出版社,2005:20-35.
[8] 任斌,豐鎮(zhèn)平.改進遺傳算法與粒子群優(yōu)化算法及其對比分析[J].南京師范大學學報:工程技術版,2002,2(1):14-20.
[9] TANG Y, WANG Z D, FANG J A. Controller design for synchronization of an array of delayed neural networks using a controllable probabilistic PSO [J]. Information Sciences, 2011,181 (20):4715-4732.
[10] 莫思敏,曾建潮,謝麗萍.擴展的微粒群算法[J].控制理論與應用,2012,29(6):811-816.
[11] LEUNG F H F,LAM H K. Tuning of the structure and parameters of neural network using an improved genetic algorithm [J].IEEE Transactions on Neural Networks, 2013, 14(1):79-88.
[12] SOROUDI A, AFRASIAB M. Binary PSO-based dynamic multi-objective model for distributed generation planning under uncertainty [J].Renewable Power Generation, 2012,6(2):67-68.
[13] 李勇,吳敏,曹衛(wèi)華,等.基于粒度分布評估與優(yōu)化的制粒過程PSO-BP控制算法[J]. 自動化學報, 2012,38(6):1007-1016.
[14] CHEN W N, ZHANG J, LIN Y, et al. Particle swarm optimization with an aging leader and challengers [J]. IEEE Transaction on Evolutionary Computation, 2013, 17(2):241-258.
[15] RUBIO J, ANGELOV P, PACHECO J. Uniformly stable back propagation algorithm to train a feed forward neural network [J]. IEEE Transactions on Neural Networks, 2011, 22(3):356-366.
[16] ZHANG J R, ZHANG J, LOK T M. A hybrid particle swarm optimization-back-propagation algorithm for feed forward neural network training[J]. Applied Mathematics and Computation, 2007, 185(2):1026-1037.
[17] BECCALI M, CELLURA M, LO B V, et al. Forecasting daily urban electric load profiles using artificial neural networks [J]. Energy Conversion and Management, 2004, 45(18):2879-2900.
Combining the Particle Swarm Optimization with BP Neural Network for Yarn Quality Forecasting
XIONG Jing-wei, YANG Jian-guo, XU Lan
(College of Mechanical Engineering, Donghua University, Shanghai 201620, China)
In view of the predication difficulty of yarn breaking strength in the process of complex spinning, a prediction method based on particle swarm optimization (PSO) is put forward to optimize the yarn breaking strength of BP neural network. This method uses the PSO to optimize weights and threshold of neural network, improve convergence speed of neural network and obtain the ability of global optimal solution. A lot of field quality testing data in spinning workshop is taken as the objects to conduct the prediction verification. The results show that the prediction correlation (the degree of consistency between the actual values and estimated values) of PSO-BP neural network has been improved by 5.0% and 4.6% respectively compared with the traditional BP algorithm and GA-BP algorithm. Besides, it has higher prediction precision than BP neural network and GA-BP neural network.
BP neural network; particle swarm optimization (PSO); yarn quality prediction
1671-0444(2015)04-0498-05
2015-02-12
國家自然科學基金資助項目(51175077)
熊經緯(1989—),男,安徽合肥人,碩士研究生,研究方向為智能質量控制.E-mail:xiongjingwei2015@163.com
楊建國(聯(lián)系人),男,教授,E-mail:jgyangm@dhu.edu.cn
TS 103.2
A