高精度自適應(yīng)小波神經(jīng)網(wǎng)絡(luò)人工智能方法探索

趙曉罡

摘? ? 要：針對當(dāng)前人工智能方法存在的訓(xùn)練精度瓶頸問題和智能系統(tǒng)對高精度人工智能方法的迫切需求問題，結(jié)合小波分析和BP（back propagation）、RBF（radial basis function）神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)，提出了自適應(yīng)小波神經(jīng)網(wǎng)絡(luò)（adaptive wavelet neural network，AWNN）方法，將其應(yīng)用于智能視頻分析系統(tǒng)和智能控制系統(tǒng)，并驗(yàn)證了AWNN方法可以取得更好的收斂性、準(zhǔn)確性、精度等。通過對AWNN方法與經(jīng)典的神經(jīng)網(wǎng)絡(luò)進(jìn)行理論分析，并與計(jì)算機(jī)仿真進(jìn)行對比分析，驗(yàn)證了該方法可以提升經(jīng)典神經(jīng)網(wǎng)絡(luò)的速度和精度;進(jìn)而通過將AWNN方法植入真實(shí)的視頻分析系統(tǒng)進(jìn)行實(shí)驗(yàn)，驗(yàn)證了AWNN方法與現(xiàn)有的視頻分析技術(shù)相比具有更準(zhǔn)確的內(nèi)容分類能力;最終將AWNN方法與經(jīng)典控制方法相結(jié)合，通過與兩種現(xiàn)有的神經(jīng)網(wǎng)絡(luò)控制方法進(jìn)行對比分析，驗(yàn)證了AWNN控制方法具有更好的控制性能。

關(guān)鍵詞：高精度;自適應(yīng)小波神經(jīng)網(wǎng)絡(luò)人工智能;方法

1? 前言

經(jīng)典的人工智能方法主要可以分為兩大類：一是基于規(guī)則和推理技術(shù)的人工智能，例如專家系統(tǒng)、模糊邏輯、搜索方法、遺傳算法、群集智能和基于規(guī)則的機(jī)器學(xué)習(xí)方法;二是基于人腦原理的神經(jīng)網(wǎng)絡(luò)技術(shù)，例如前饋神經(jīng)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)、復(fù)合神經(jīng)網(wǎng)絡(luò)和基于神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)方法。

經(jīng)典的人工智能方法在知識的海量存儲和智能單元的處理能力（智能算法的局限性）兩個(gè)方面遇到了瓶頸，導(dǎo)致其智能在一些簡單的領(lǐng)域被有限地應(yīng)用。經(jīng)典的人工智能方法在學(xué)習(xí)知識的容量、精度和穩(wěn)定性三方面待提升。

2012年以來，微軟、蘋果、谷歌、百度等公司相繼在人工智能領(lǐng)域進(jìn)行了重量級戰(zhàn)略投資，開發(fā)了Cor-tana， Siri等人工智能系統(tǒng)，并發(fā)表了大量研究成果。2015～2016年，谷歌公司研究人員在“Nature”雜志發(fā)表多篇論文，展示了將深度人工智能方法應(yīng)用于計(jì)算機(jī)，從而實(shí)現(xiàn)對49項(xiàng)游戲的學(xué)習(xí)和操控。計(jì)算機(jī)通過實(shí)時(shí)在線學(xué)習(xí)，對半數(shù)以卜比賽的操控效果達(dá)到了與測試人員非常接近的水平，在部分比賽中超過測試人員。研究表示“該成果是世界卜第一個(gè)能面對不同任務(wù)進(jìn)行學(xué)習(xí)，對不同系統(tǒng)進(jìn)行控制并勝出的人工智能算法?！庇?jì)算機(jī)科學(xué)和IT領(lǐng)域開始向人工智能應(yīng)用領(lǐng)域深水區(qū)邁出步伐，對具有高性能的人工智能理論和應(yīng)用進(jìn)行研究成為計(jì)算機(jī)科學(xué)探索的前沿陣地。2016年3月，谷歌公司采用卜述理論研發(fā)的A1phaGo人工智能系統(tǒng)在圍棋項(xiàng)目人機(jī)對戰(zhàn)中，戰(zhàn)勝了世界圍棋冠軍李世石。

經(jīng)典的神經(jīng)網(wǎng)絡(luò)可以分為前向網(wǎng)絡(luò)和反饋網(wǎng)絡(luò)。其中應(yīng)用最廣泛的兩種神經(jīng)網(wǎng)絡(luò)模型是BP（ back propagation）神經(jīng)網(wǎng)絡(luò)和RBF 神經(jīng)網(wǎng)絡(luò)，還有很多基于這兩類模型的改進(jìn)模型。傳統(tǒng)的BP網(wǎng)絡(luò)算法采用基于誤差反向傳播的梯度算法，充分利用了多層前向網(wǎng)絡(luò)的結(jié)構(gòu)優(yōu)勢，算法相對成熟，具有很多應(yīng)用案例;RBF網(wǎng)絡(luò)利用差值法的研究成果，采用前饋的結(jié)構(gòu)，各有優(yōu)缺點(diǎn)。

BP神經(jīng)網(wǎng)絡(luò)模型的優(yōu)點(diǎn)是：（1）具有較強(qiáng)的非線性映射能力;（2）具有高度自學(xué)習(xí)和自適應(yīng)的能力;（3）具有良好的泛化能力，即對新鮮樣本的適應(yīng)能力;（4）具有一定的容錯(cuò)能力。

BP神經(jīng)網(wǎng)絡(luò)存在的缺點(diǎn)和問題是：（1）局部極小化影響精度;（2）算法收斂速度慢;（3）對訓(xùn)練樣本依賴。RBF神經(jīng)網(wǎng)絡(luò)[6]采用了與 BP神經(jīng)網(wǎng)絡(luò)不同的局部激勵函數(shù)，很大程度卜克服了BP神經(jīng)網(wǎng)絡(luò)的卜述缺點(diǎn)。RBF神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)是：（1）具有唯一最佳逼近的特性，無局部極小問題;（2）具有較強(qiáng)的輸人和輸出映射功能，在前向網(wǎng)絡(luò)中RBF網(wǎng)絡(luò)是完成映射功能的最優(yōu)網(wǎng)絡(luò);（3）學(xué)習(xí)過程收斂速度快。

RBF神經(jīng)網(wǎng)絡(luò)存在的問題是：（1）RBF隱含層節(jié)點(diǎn)的中心難以獲得;（2）隱含層節(jié)點(diǎn)數(shù)難以確認(rèn)。

小波分析被稱為數(shù)學(xué)顯微鏡，小波變換可以通過尺度伸縮和平移對信號進(jìn)行多尺度分析，能有效提取信號的局部信息，具有良好的函數(shù)逼近能力和模式分類能力。小波神經(jīng)網(wǎng)絡(luò)已被證明在逼近單變量函數(shù)時(shí)是漸近最優(yōu)的逼近器。

本文希望同時(shí)解決r述3個(gè)問題：BP神經(jīng)網(wǎng)絡(luò)陷人局部極小問題，RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程不穩(wěn)定問題，以及在神經(jīng)元規(guī)模有限的情況下訓(xùn)練精度瓶頸問題。試圖探索將卜述3種算法優(yōu)點(diǎn)相結(jié)合，從而克服彼此的缺陷，并引人對樣本的自適應(yīng)機(jī)制，構(gòu)建出自適應(yīng)小波神經(jīng)網(wǎng)絡(luò)方法。

本文首先驗(yàn)證了AWNN方法相對于經(jīng)典神經(jīng)網(wǎng)絡(luò)的性能提升;進(jìn)而應(yīng)用于智能視頻分析系統(tǒng)，在真實(shí)環(huán)境中驗(yàn)證了AWNN方法應(yīng)用相對于其他經(jīng)典神經(jīng)網(wǎng)絡(luò)應(yīng)用的性能提升;最后與經(jīng)典控制方法相結(jié)合，通過計(jì)算機(jī)仿真的方法驗(yàn)證了AWNN控制系統(tǒng)相對于其他經(jīng)典神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)的性能提升。

2? AWNN模型建立

AWNN設(shè)計(jì)原理如下：（1）BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中通過反向誤差傳播原理，可以獲得穩(wěn)定、快速、單調(diào)的誤差收斂效果;（2）RBF神經(jīng)網(wǎng)絡(luò)中隱含層神經(jīng)元采用基函數(shù)變換算法，相當(dāng)于增加了誤差調(diào)整維度，從而可以跳出陷人局部極小的情況;（3）小波變換算法的尺度變換算法具有極好的局部信息提取能力。

AWNN設(shè)計(jì)思路如下：采用BP神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)和RBF神經(jīng)網(wǎng)絡(luò)隱含層神經(jīng)元結(jié)構(gòu)，將小波尺度變換函數(shù)作為神經(jīng)網(wǎng)絡(luò)隱含層的活化函數(shù)習(xí)，并設(shè)計(jì)對樣本的自適應(yīng)機(jī)制。

自適應(yīng)小波神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)由5層組成：輸人層、自適應(yīng)層、小波函數(shù)計(jì)算層、輸出層、綜合層。

3? AWNN智能控制系統(tǒng)應(yīng)用研究

將AWNN應(yīng)用于智能控制實(shí)驗(yàn)，驗(yàn)證AWNN算法相對于BPNN，RBFNN算法可以使智能控制系統(tǒng)具有更好的特性。

神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)結(jié)構(gòu)圖。原理是在線整定器的神經(jīng)網(wǎng)絡(luò)根據(jù)系統(tǒng)輸出量和狀態(tài)量，采用梯度下降法向著輸出誤差最小的方向，前向計(jì)算出控制參數(shù)的更新值，新的控制參數(shù)使得在線整定器計(jì)算出最新的控制量。

在線整定器先后采用BPNN，RBFNN和AWNN算法與經(jīng)典控制方法相結(jié)合，從而構(gòu)成一組對比實(shí)驗(yàn)，即BPNN-PID ， RBFNN-PID和AWNN-PID神經(jīng)網(wǎng)絡(luò)智能控制算法對比實(shí)驗(yàn)，從而對AWNN算法在智能控制領(lǐng)域應(yīng)用得到的性能提升進(jìn)行驗(yàn)證。RBFNN-PID出現(xiàn)不收斂的情況。

（1）AWNN-PID方法在響應(yīng)快速性方面均優(yōu)于BPNN-PID ， RBFNN-PID方法存在不穩(wěn)定的情況，但具有最快的階躍響應(yīng)速度，且是唯一出現(xiàn)超調(diào)的算法;（2） AWNN-PID方法的平均穩(wěn)態(tài)誤差小于RBFNN-PID方法，BPNN-PID方法具有最小的穩(wěn)態(tài)誤差;（3）各算法在非線性系統(tǒng)應(yīng)用中，面對系統(tǒng)內(nèi)部和外部的動態(tài)波動和擾動，各算法具有自適應(yīng)跟蹤與恢復(fù)能力，其中AWNN算法具有快速響應(yīng)系統(tǒng)波動與波動后快速恢復(fù)能力，具有較好的魯棒性。

4 結(jié)束語

AWNN算法結(jié)合了小波變換、BPNN，RBFNN算法的優(yōu)點(diǎn)：繼承了BPNN的優(yōu)點(diǎn)，具有更好的快速收斂性;繼承了RBFNN的優(yōu)點(diǎn)，可以克服局部極小問題;繼承了小波分析的優(yōu)點(diǎn)，具有更高的分辨精度。對比實(shí)驗(yàn)驗(yàn)證了AWNN算法可以通過多次重新訓(xùn)練，更高概率地得到更高的精度。

當(dāng)BPNN， RBFNN，AWNN分別應(yīng)用于智能視頻監(jiān)控系統(tǒng)，均可實(shí)現(xiàn)對帶有標(biāo)準(zhǔn)數(shù)字的紙板進(jìn)行人侵檢測、處理、分析識別功能。通過對比實(shí)驗(yàn)，驗(yàn)證了AWNN算法在訓(xùn)練效率、訓(xùn)練成功率和精度方面具有更好的特性。特別是在高精度實(shí)驗(yàn)中，BPNN無法完成神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，RBFNN的訓(xùn)練成功率也無法達(dá)到AWNN的水平。AWNN算法和系統(tǒng)可以應(yīng)用到家居、提款機(jī)和博物館等智能監(jiān)控領(lǐng)域。

參考文獻(xiàn)：

[1] 代艷霞，王洪益，伍倪燕.自適應(yīng)因子神經(jīng)網(wǎng)絡(luò)的變壓器故障診斷研究[J].機(jī)械設(shè)計(jì)與制造，2017（7）：175～178.

[2] 薛國峰.基于小波分析和代理模型的結(jié)構(gòu)可靠性分析方法研究[D].哈爾濱工業(yè)大學(xué)，2017.

[3] 王超.炮控系統(tǒng)電動負(fù)載模擬器辨識與智能控制研究[D].南京理工大學(xué)，2017.