基于前饋型神經(jīng)網(wǎng)絡(luò)解變系數(shù)分?jǐn)?shù)階積分微分方程

楊劉盼,郭安祺,邵新平

(杭州電子科技大學(xué)理學(xué)院,浙江 杭州 310018)

0 引 言

分?jǐn)?shù)階積分微分方程是眾多物理現(xiàn)象的建模工具。但是,大多數(shù)情況下,求分?jǐn)?shù)階積分微分方程解析解非常困難?，F(xiàn)階段,對(duì)分?jǐn)?shù)階Volterra-Fredholm積分微分方程和分?jǐn)?shù)階Fredholm積分微分方程的數(shù)值解法主要有同倫分析法[1]、改進(jìn)的Laplace分解法[2]、Adomian分解法[3]、Legendre多項(xiàng)式近似法[4]等,這些方法的主要特點(diǎn)是將求解分?jǐn)?shù)階Volterra-Fredholm積分微分方程和分?jǐn)?shù)階Fredholm積分微分方程歸結(jié)為求解一個(gè)代數(shù)方程,大大降低了求解難度。此外,Bernstein多項(xiàng)式在數(shù)學(xué)的各個(gè)領(lǐng)域扮演著重要角色,在微積分方程和近似解中都會(huì)使用Bernstein多項(xiàng)式[5-7]。相較于Legendre多項(xiàng)式、Chebyshev多項(xiàng)式和Laguerre多項(xiàng)式等,Bernstein多項(xiàng)式構(gòu)造簡(jiǎn)單,且擁有成熟的逼近估計(jì)階理論[8]。隨著神經(jīng)網(wǎng)絡(luò)研究的不斷發(fā)展,計(jì)算技術(shù)的不斷提高,基函數(shù)神經(jīng)網(wǎng)絡(luò)的逼近功能成為求解微積分方程數(shù)值解的熱門算法之一。Jafarian等[9]提出一種基于神經(jīng)網(wǎng)絡(luò)和冪級(jí)數(shù)相結(jié)合的方法用于求解分?jǐn)?shù)階Fredholm積分微分方程,具有較高的計(jì)算精度;李娜等[10]提出一種基于函數(shù)逼近的Chebyshev神經(jīng)網(wǎng)絡(luò)求解非線性Fredholm積分方程的方法,與現(xiàn)有算法比較,Chebyshev神經(jīng)網(wǎng)絡(luò)誤差穩(wěn)定,更有效地逼近精確解。與數(shù)值求解方法相比,神經(jīng)網(wǎng)絡(luò)具有良好的泛化能力和較高的計(jì)算精度。本文提出一種基于Bernstein多項(xiàng)式的前饋型神經(jīng)網(wǎng)絡(luò)求解變系數(shù)分?jǐn)?shù)Fredholm積分微分方程的新方法,將Bernstein多項(xiàng)式的系數(shù)作為權(quán)重,構(gòu)造前饋型神經(jīng)網(wǎng)絡(luò),采用梯度下降法學(xué)習(xí)權(quán)重,得到近似解。

1 預(yù)備知識(shí)

本文求解的變系數(shù)分?jǐn)?shù)階Fredholm積分微分方程如下:

(1)

式中,初值條件uj(0)=bj,j=0,1,2,…,r-1,r-10,k(x,t)為區(qū)域0≤x,t≤1已知的核函數(shù),g(x)和ai(x)為x∈[0,1]上的已知函數(shù),u(x)為未知函數(shù),Dαi為Caputo分?jǐn)?shù)階微分算子[4]。

建立客史檔案，把握顧客需求。市場(chǎng)營(yíng)銷理論告訴我們，只有真正把握顧客的需求，才能提供令賓客滿意的服務(wù)，才能提高酒店的競(jìng)爭(zhēng)力。因此，酒店必須要建立起獨(dú)一無二的客史檔案。那么酒店該從哪些方面建立客史檔案呢？首先，酒店要從收集顧客資料著手，全程跟蹤，完整準(zhǔn)確的建立?？蜋n案；其次，要應(yīng)用計(jì)算機(jī)進(jìn)行數(shù)據(jù)技術(shù)開發(fā)，建立詳盡而細(xì)微的顧客需求檔案，最終建立顧客信息庫。

1.1 Bernstein多項(xiàng)式

設(shè)函數(shù)f∶[0,1]→R,對(duì)于n∈N+,定義f的n階Bernstein多項(xiàng)式[11]:

(2)

2.2.5 3組小鼠最大呼氣中期流速比較 對(duì)照組和脂多糖組在6、18、36 h后的最大呼氣中期流速比較，差異無統(tǒng)計(jì)學(xué)意義(P>0.05)。18、36 h后，甲強(qiáng)龍組最大呼氣中期流速較脂多糖組升高，差異有統(tǒng)計(jì)學(xué)意義(P<0.05)；6 h后，兩組最大呼氣中期流速比較，差異無統(tǒng)計(jì)學(xué)意義(P>0.05)。見圖2e。

1.2 Caputo分?jǐn)?shù)階導(dǎo)數(shù)

定義Caputo分?jǐn)?shù)階導(dǎo)數(shù)

(3)

特別地,對(duì)于冪函數(shù)xβ,β>0,有

(4)

2 分?jǐn)?shù)階微積分的Bernstein多項(xiàng)式矩陣運(yùn)算

對(duì)于變系數(shù)的分?jǐn)?shù)階Fredholm積分微分方程

根據(jù)病蟲害生長(zhǎng)所需的溫度、濕度條件，可以通過調(diào)節(jié)溫度、濕度、光照等條件創(chuàng)造不利于病蟲害發(fā)生的環(huán)境。以黃瓜霜霉病防治為例，若發(fā)病較重，可以進(jìn)行高溫悶棚，維持棚內(nèi)溫度45℃，持續(xù)2 h后再放風(fēng)，連續(xù)兩三次即可有效控制病害［5］。

(5)

任意函數(shù)u(x)∈C[0,1],都可用Bernstein多項(xiàng)式近似為:

世界欠了中國(guó)人一個(gè)諾貝爾獎(jiǎng)！世界更欠了趙忠堯一個(gè)諾貝爾獎(jiǎng)！可趙忠堯卻對(duì)此毫不在意，因?yàn)樗h(yuǎn)渡重洋不是為了學(xué)位，更不是為了拿諾獎(jiǎng)，而是為自己的國(guó)家和民族學(xué)到最前沿的科學(xué)和技術(shù)！

經(jīng)皮爾遜相關(guān)系數(shù)分析，喉源性咳嗽的局部病理改變與其中醫(yī)辨證分型有關(guān)，呈高度正相關(guān)，r=0.819，P＜0.05。

(6)

則式(5)表示為:

(7)

可得:

(8)

(9)

(10)

其中γ=α,β,k=0,1,2,…,n。由Caputo分?jǐn)?shù)階導(dǎo)數(shù)的定義,式(10)可轉(zhuǎn)化為如下矩陣形式:

(11)

(12)

運(yùn)用Bernstein配點(diǎn)法將式(7)轉(zhuǎn)化為矩陣形式。取m+1個(gè)配置點(diǎn),

1.1.2 儀器。U3000高效液相色譜儀(配置DAD檢測(cè)器，美國(guó)戴安公司)；MS205DU電子分析天平(瑞士METTLERROLEDD公司)；EXceed-AC-24超純水機(jī)(成都康寧實(shí)驗(yàn)專用純水設(shè)備)；GT SONIC-P3超聲波清洗儀(固特超聲股份有限公司)。

(13)

將式(11)、式(12)和式(13)代入式(7),得到:

GW=H

(14)

3 基于Bernstein多項(xiàng)式的前饋型神經(jīng)網(wǎng)絡(luò)

本文采用Bernstein函數(shù)擴(kuò)展塊作為神經(jīng)網(wǎng)絡(luò)的隱含層,wk=un(k/n)作為Bernstein函數(shù)擴(kuò)展塊到輸出層的權(quán)重,輸入向量x=(x0,x1,…,xm)進(jìn)入輸入層后,通過Bernstein函數(shù)擴(kuò)展塊到輸出層,進(jìn)行Bernstein多項(xiàng)式的展開,構(gòu)造了基于Bernstein多項(xiàng)式的前饋型神經(jīng)網(wǎng)絡(luò),其網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖1所示。

將損失函數(shù)轉(zhuǎn)化為矩陣形式,

羅瑞顯然有點(diǎn)著急了，結(jié)結(jié)巴巴地解釋：“我也沒想到她會(huì)那么激動(dòng)，我不是故意的。哎，警官大人，你不會(huì)懷疑我吧？！我可沒殺她！”

圖1 基于Bernstein多項(xiàng)式的前饋型神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)

證明動(dòng)量項(xiàng)可以在維持算法穩(wěn)定的前提下加速收斂,不妨取α=0,

在2018年4月的時(shí)候，我國(guó)落實(shí)了有關(guān)金融機(jī)構(gòu)管理業(yè)務(wù)的指導(dǎo)意見的條例，條例中要求商業(yè)銀行必須有效地提升對(duì)資產(chǎn)的管理能力，所以商業(yè)銀行相關(guān)的投資和風(fēng)險(xiǎn)管理能力如果能夠在市場(chǎng)中充分體現(xiàn)出來，就能大幅度提高商業(yè)銀行的綜合實(shí)力，零售網(wǎng)點(diǎn)的轉(zhuǎn)型的成果也能更加顯著。要想做好管理工作，就需要工作人員具有較高的專業(yè)技能水平和扎實(shí)的知識(shí)基礎(chǔ)，企業(yè)要吸收更多金融市場(chǎng)上的人才，還可以成立專業(yè)的工作團(tuán)隊(duì)，建設(shè)出一支高素養(yǎng)和高職業(yè)技能的工作隊(duì)伍。此外，還可以設(shè)立專門的資管公司，可以更好地進(jìn)行管理，提高管理的效率。

經(jīng)手術(shù)治療結(jié)合護(hù)理干預(yù)后,26例血管瘤患者的手術(shù)成功率達(dá)100%,1例出現(xiàn)并發(fā)癥,得到及時(shí)處理,護(hù)理滿意度達(dá)92.3%(24/26)。

(15)

將配置點(diǎn)xj作為神經(jīng)網(wǎng)絡(luò)的輸入向量,對(duì)權(quán)重W進(jìn)行學(xué)習(xí),在損失函數(shù)最小化的約束下,使得神經(jīng)網(wǎng)絡(luò)獲得較高的逼近精度。采用梯度下降法對(duì)式(14)進(jìn)行求解,并按以下規(guī)則對(duì)權(quán)重W進(jìn)行迭代更新,

(b)通過輸出向量計(jì)算神經(jīng)網(wǎng)絡(luò)的當(dāng)前誤差E;

W(i+1)=W(i)+ΔW(i)

(16)

(17)

式中,i為迭代次數(shù),α∈[0,1)為動(dòng)量項(xiàng)系數(shù),η為神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)率。

綜上所述,本文提出的基于Bernstein多項(xiàng)式的前饋型神經(jīng)網(wǎng)絡(luò)權(quán)重W學(xué)習(xí)算法流程如下。

(1)令α>0,η>0,設(shè)定目標(biāo)誤差Emax>0,隨機(jī)初始化權(quán)重W。

(c)利用損失函數(shù)和梯度下降法調(diào)整權(quán)重W。

(a)通過輸入向量和權(quán)重W計(jì)算神經(jīng)網(wǎng)絡(luò)的當(dāng)前輸出向量;

防錯(cuò)系統(tǒng)的運(yùn)用在國(guó)外發(fā)展得很成熟，不同的公司都有適合本公司生產(chǎn)特點(diǎn)的防錯(cuò)控制系統(tǒng)。國(guó)外的通用性防錯(cuò)系統(tǒng)價(jià)格昂貴，并且對(duì)于國(guó)內(nèi)大量的企業(yè)都不適用。目前國(guó)內(nèi)制造商在防錯(cuò)系統(tǒng)上處于剛剛起步階段，沒有成熟的防錯(cuò)控制系統(tǒng)[3]。

(4)如果E>Emax,將E設(shè)為0,返回步驟3,開始新的訓(xùn)練周期;如果E≤Emax,終止訓(xùn)練。

4 收斂性分析

取損失函數(shù)為

政治類課程的安排，目的是使學(xué)生提高政治意識(shí)，培養(yǎng)學(xué)生參政議政能力，了解和掌握國(guó)內(nèi)外政治經(jīng)濟(jì)發(fā)展動(dòng)態(tài)，深刻理解中國(guó)共產(chǎn)黨帶領(lǐng)全國(guó)人民從站起來、富起來到強(qiáng)起來的偉大歷程。調(diào)查結(jié)果顯示，大部分學(xué)生認(rèn)為政治課的學(xué)習(xí)效果多依賴于教師上課的方法與技巧，希望任課教師在課上能夠多講一些與歷史有關(guān)，與中共黨史有關(guān)的偉大事跡，以調(diào)動(dòng)學(xué)生課上學(xué)習(xí)的積極性，激發(fā)學(xué)生的愛國(guó)情懷。

劉麗芳披著睡衣坐在床頭，懷抱著一個(gè)毛茸茸的靠墊，眼神里寫滿了無辜與無助。彭偉民昨晚沒與她同床，睡在另一個(gè)房間，一大清早招呼也沒打就離開了家。劉麗芳不敢過問。一場(chǎng)突如其來的遭遇釀就了一個(gè)非常時(shí)期，非常時(shí)期的任何一句話都有可能導(dǎo)致戰(zhàn)爭(zhēng)。劉麗芳不敢冒這個(gè)險(xiǎn)。如果昨晚什么事情都沒發(fā)生，也許這個(gè)時(shí)候的她正在某家超市里逛著，說不定已經(jīng)選購(gòu)好了一大堆生活用品。

5 數(shù)值實(shí)例

通過求解2個(gè)變系數(shù)分?jǐn)?shù)階Fredholm積分微分方程來驗(yàn)證本文提出的基于Bernstein多項(xiàng)式構(gòu)造的前饋型神經(jīng)網(wǎng)絡(luò)求解變系數(shù)分?jǐn)?shù)階積分微分方程的可行性和有效性。

例1變系數(shù)分?jǐn)?shù)階Fredholm積分微分方程如下:

且u(0)=0,u(1)(0)=1,方程的精確解為u(x)=xex。Bernstein多項(xiàng)式階數(shù)n分別為7,8,9,10,11時(shí),采用本文提出的基于Bernstein多項(xiàng)式構(gòu)造的前饋型神經(jīng)網(wǎng)絡(luò)求解方程,得到數(shù)值解與精確解的誤差如表1所示。

表1 n=7,8,9,10,11時(shí),本文方法求得的數(shù)值解與精確解的誤差

從表1可以看出,隨著Bernstein多項(xiàng)式階數(shù)n的增大,數(shù)值解越來越逼近精確解,說明采用本文方法求解變系數(shù)分?jǐn)?shù)階積分微分方程的可行性和有效性。

例2變系數(shù)分?jǐn)?shù)階Fredholm積分微分方程如下:

且u(0)=0,u(1)(0)=0,u(2)(0)=2,方程的精確解為u(x)=x2。當(dāng)多項(xiàng)式階數(shù)n=7時(shí),分別采用Legendre多項(xiàng)式近似法[6]和本文提出的基于Bernstein多項(xiàng)式構(gòu)造前饋型神經(jīng)網(wǎng)絡(luò)的方法求解方程,得到數(shù)值解與精確解的誤差如表2所示。

表2 n=7時(shí),不同方法求得的數(shù)值解與精確解的誤差

從表2可以看出,與Legendre多項(xiàng)式近似法[6]相比,本文提出的基于Bernstein多項(xiàng)式的前饋型神經(jīng)網(wǎng)絡(luò)的逼近精度更高。

當(dāng)Bernstein多項(xiàng)式階數(shù)n=6時(shí),采用本文方法進(jìn)行求解,得到近似解與精確解、誤差函數(shù)與迭代次數(shù)的關(guān)系如圖2所示。

圖2 n=6時(shí),本文方法求得的近似解與精確解、誤差函數(shù)與迭代次數(shù)的關(guān)系

由圖2可以看出,采用本文方法求得的近似解擬合效果很好。同時(shí),當(dāng)Bernstein多項(xiàng)式階數(shù)n=6,迭代次數(shù)在50次內(nèi),誤差函數(shù)迅速下降,最后趨于穩(wěn)定,進(jìn)一步驗(yàn)證了本文方法的可行性與有效性。

6 結(jié)束語

本文提出一種基于Bernstein多項(xiàng)式的前饋型神經(jīng)網(wǎng)絡(luò)解變系數(shù)分?jǐn)?shù)階Fredholm積分微分方程的方法。運(yùn)用導(dǎo)數(shù)階導(dǎo)數(shù)的性質(zhì)和矩陣運(yùn)算,將求解方程轉(zhuǎn)化為Bernstein多項(xiàng)式空間上的矩陣形式,并將Bernstein多項(xiàng)式系數(shù)作為權(quán)重,構(gòu)造前饋型神經(jīng)網(wǎng)絡(luò),提高了逼近精度。目前,變系數(shù)分?jǐn)?shù)階積分微分方程的相關(guān)研究較少,今后將繼續(xù)深入研究此類問題,得到更有價(jià)值的方法用于求解變系數(shù)分?jǐn)?shù)階積分微分方程。