基于神經(jīng)網(wǎng)絡(luò)的反應(yīng)堆結(jié)構(gòu)材料性能預(yù)測(cè)方法研究＊

韓煦 白冰 李宗洋 賈麗霞 楊文 王學(xué)松

（1.中國(guó)原子能科學(xué)研究院，北京 102413；2.中核戰(zhàn)略規(guī)劃研究總院，北京 100048）

一、研究意義

核材料對(duì)核工業(yè)的可靠性和安全性有著關(guān)鍵的影響。新型核材料研發(fā)的重要性和迫切程度已經(jīng)得到了國(guó)家的重視，隨著四代先進(jìn)能源系統(tǒng)（先進(jìn)堆、超臨界水堆等）的提出和發(fā)展，嚴(yán)苛的服役環(huán)境急需性能更優(yōu)異且可靠性更高的材料[4-5]。神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺、自然語(yǔ)言處理、醫(yī)療診斷等領(lǐng)域的應(yīng)用表現(xiàn)優(yōu)秀[1]。神經(jīng)網(wǎng)絡(luò)作為基于統(tǒng)計(jì)學(xué)以及數(shù)學(xué)的計(jì)算機(jī)算法，在各個(gè)領(lǐng)域均展現(xiàn)了其強(qiáng)大的處理非線性問題的能力。伴隨著人工智能、大數(shù)據(jù)的發(fā)展得到了國(guó)家的高度重視，先后發(fā)布了《促進(jìn)大數(shù)據(jù)發(fā)展行動(dòng)綱要》[2]、《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃》[3]等文件。因此利用人工智能方法服務(wù)于新型核材料的研發(fā)具有重要的理論和現(xiàn)實(shí)意義。

二、研究?jī)?nèi)容

本文利用壓力容器鋼和包殼材料中元素成分、結(jié)構(gòu)、加工工藝、輻照條件及性能等數(shù)據(jù)。研究如何通過對(duì)神經(jīng)網(wǎng)絡(luò)算法模型進(jìn)行訓(xùn)練及參數(shù)調(diào)節(jié)，建立屬性間的關(guān)聯(lián)性，使神經(jīng)網(wǎng)絡(luò)模型可以獲得預(yù)測(cè)反應(yīng)堆結(jié)構(gòu)材料性能的能力。并將訓(xùn)練后獲得的預(yù)測(cè)能力與已知材料性能進(jìn)行比對(duì)，進(jìn)而實(shí)現(xiàn)將神經(jīng)網(wǎng)絡(luò)強(qiáng)大的計(jì)算和預(yù)測(cè)能力用于研發(fā)性能更為優(yōu)異的反應(yīng)堆結(jié)構(gòu)材料的研究工作中。

三、研究數(shù)據(jù)及預(yù)處理方法

1.數(shù)據(jù)集

本文分別學(xué)習(xí)了美國(guó)民用電力數(shù)據(jù)庫(kù)（NUREG）中壓力容器鋼以及國(guó)內(nèi)外文獻(xiàn)中包殼材料的相關(guān)數(shù)據(jù)。造成材料韌脆轉(zhuǎn)變的一項(xiàng)關(guān)鍵因素就是溫度，本數(shù)據(jù)集中數(shù)據(jù)是在275℃至290℃之間的常規(guī)反應(yīng)堆運(yùn)行溫度下收集的。

2.數(shù)據(jù)歸一化

本文中壓力容器鋼和包殼材料數(shù)據(jù)庫(kù)中的數(shù)據(jù)，各個(gè)屬性間的數(shù)值分布范圍均不同。直接將數(shù)據(jù)帶入算法中會(huì)出現(xiàn)個(gè)別屬性值變化對(duì)整體計(jì)算結(jié)果的影響遠(yuǎn)高于其他屬性變化的情況。因此需要對(duì)所有數(shù)據(jù)進(jìn)行歸一化處理。且在包殼材料中還有例如燒結(jié)方式等離散型數(shù)據(jù)，離散型數(shù)據(jù)需要賦值分類后再歸一化。本文采取了先將原始數(shù)據(jù)進(jìn)行零均值處理，再將處理后數(shù)據(jù)歸一化的方式幫助模型尋找最優(yōu)解。

四、研究方法

1.深度神經(jīng)網(wǎng)絡(luò)模型

神經(jīng)網(wǎng)絡(luò)有助于識(shí)別單/多維輸入和輸出數(shù)據(jù)之間的高度復(fù)雜的線性與非線性關(guān)系。本文使用前饋全連接神經(jīng)網(wǎng)絡(luò)。該網(wǎng)絡(luò)結(jié)構(gòu)為全連接神經(jīng)網(wǎng)絡(luò)的一種。其中隱藏層的數(shù)量N需要通過參數(shù)調(diào)整和網(wǎng)絡(luò)訓(xùn)練獲取，該網(wǎng)絡(luò)的最終輸出可表示為式1：

其中Wli、Wki、Wji為隱藏層的權(quán)重值，Wzi為輸出層的權(quán)重值。Rule和Tanh為隱藏層激活函數(shù)。bji為第一層隱藏層的偏置值，bki為第二隱藏層的偏置值，bli為第三層隱藏層的偏置值，bzi為輸出層的偏置值。

深度神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)的趨勢(shì)曲線不同（材料專業(yè)擬合曲線方法）深度神經(jīng)網(wǎng)絡(luò)可以在不進(jìn)行預(yù)先假設(shè)的情況下，來指定與檢測(cè)數(shù)據(jù)相關(guān)的映射關(guān)系。其中神經(jīng)網(wǎng)絡(luò)中最重要的兩項(xiàng)參數(shù)w和b是通過損失函數(shù)J(,y)來確定的。損失函數(shù)如下式2，其中為預(yù)測(cè)值，y為真實(shí)值。

神經(jīng)網(wǎng)絡(luò)如果一味追求誤差最小化，容易出現(xiàn)過擬合缺陷，通常需要使用較小的隨機(jī)值初始化權(quán)重方式或者在損失函數(shù)中增加L2型正則化公式進(jìn)行改善。本文在交叉熵的損失函數(shù)J（yi,aL(i)中增加了L2型的正則化范式，傳播方式如下式3：

其中m表示當(dāng)前層的數(shù)據(jù)個(gè)數(shù)，yi為數(shù)據(jù)集的真實(shí)值，為神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)值，為l層w權(quán)重參數(shù)的和，δ為常數(shù)是需要調(diào)整的超參數(shù)之一，δ存在一個(gè)中間值使得神經(jīng)網(wǎng)絡(luò)初始化權(quán)重?fù)碛羞m合的取值，這個(gè)值需要在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程中不斷調(diào)試。

接著從數(shù)據(jù)集中隨機(jī)抽取80%作為訓(xùn)練數(shù)據(jù)集，剩余20%為測(cè)試數(shù)據(jù)集。由于20%的數(shù)據(jù)是不帶入模型訓(xùn)練的，因此測(cè)試數(shù)據(jù)集的表現(xiàn)效果可以有效衡量模型的泛化能力。

本文中韌脆轉(zhuǎn)變溫度的網(wǎng)絡(luò)結(jié)構(gòu)模型采用主要成分含量銅、錳、鎳、硅、磷以及中子注量、中子注量率、運(yùn)行溫度作為輸入，韌脆轉(zhuǎn)變溫度為輸出。關(guān)于抗拉強(qiáng)度的預(yù)測(cè)使用鉻、三氧化二釔、鎢、鈦、鋁、燒結(jié)方式、燒結(jié)溫度、最終退火溫度、相結(jié)構(gòu)、測(cè)試溫度為輸入，抗拉強(qiáng)度為輸出。

2.模型的訓(xùn)練

神經(jīng)網(wǎng)絡(luò)算法中一項(xiàng)最重要的工作就是模型訓(xùn)練。本文在訓(xùn)練預(yù)測(cè)韌脆轉(zhuǎn)變溫度模型時(shí)當(dāng)單層神經(jīng)元個(gè)數(shù)在29以內(nèi)時(shí)，雖然方差值和偏差值均可以接受，但是無論真實(shí)值如何變化，預(yù)測(cè)值固定在該范圍的均值附近，這樣的結(jié)果顯然是不可靠的。同樣訓(xùn)練包殼材料模型時(shí)單隱層神經(jīng)元在15以內(nèi)時(shí)會(huì)出現(xiàn)這種情況。

這種情況可以通過增加神經(jīng)元的個(gè)數(shù)優(yōu)化網(wǎng)絡(luò)的輸出結(jié)果。但是隨著神經(jīng)元的不斷增加，網(wǎng)絡(luò)的計(jì)算復(fù)雜度也會(huì)隨著增高，相應(yīng)的計(jì)算資源占用增多，計(jì)算時(shí)間加長(zhǎng)。因此需要在不增加計(jì)算時(shí)間的情況下，選取合適的單隱層神經(jīng)元個(gè)數(shù)。當(dāng)單隱層神經(jīng)元為21時(shí)，均方差出現(xiàn)一個(gè)極值，隨后隨著神經(jīng)元的增加方差值會(huì)在51、52附近浮動(dòng)，即隨著計(jì)算量的增加，方差值也不會(huì)繼續(xù)減小。因此選取單隱層神經(jīng)元個(gè)數(shù)為21。同理為訓(xùn)練包殼材料時(shí)均方差隨著單隱層神經(jīng)元個(gè)數(shù)增加的變化情況，該模型選取單隱層神經(jīng)元個(gè)數(shù)為31。

五、神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)效果

最后本文使用訓(xùn)練后的韌脆轉(zhuǎn)變溫度以及包殼材料抗拉強(qiáng)度模型，分析了單成分與雙成分元素變化對(duì)預(yù)測(cè)結(jié)果的影響。其中對(duì)韌脆轉(zhuǎn)變溫度預(yù)測(cè)模型中，當(dāng)單、雙元素成分變化時(shí)，其余值保持固定值不變，固定值為（Cu：0.05；Mn：1.2；Ni：0.8；Si：0.2；P：0.007；溫 度554K；fluence=1E+19；flux=1E+11.），在針對(duì)包殼材料抗拉強(qiáng)度的分析中，單、雙元素成分含量變化時(shí)，其余成分保持固定值不變，固定值為（Cr：0.1；Y2O3：0.0035；W：0.028；Ti：0.0028；Al：0.0023；固化方式為HIP；燒結(jié)溫度1150℃；退火溫度750℃；相結(jié)構(gòu)F/M；測(cè)試溫度25℃）。

根據(jù)壓力容器鋼韌脆轉(zhuǎn)變溫度模型的單成分預(yù)測(cè)結(jié)果可知，Cu含量的改變引起了韌脆轉(zhuǎn)變溫度的急劇變化：當(dāng)Cu從0.04%變化至0.4%時(shí)，韌脆轉(zhuǎn)變溫度增加約100℃。同時(shí)隨著P元素含量的不斷增加，韌脆轉(zhuǎn)變溫度在不斷升高。這一規(guī)律符合Cu、P元素作為雜質(zhì)元素，含量越低對(duì)壓力容器鋼越有利的認(rèn)知規(guī)律。

在包殼材料抗拉強(qiáng)度模型的單成分變化預(yù)測(cè)結(jié)果中可知，Cr元素含量在0.089%-0.1%的范圍內(nèi)會(huì)出現(xiàn)一個(gè)抗拉強(qiáng)度的極值，Y2O3含量在0.0032%-0.0037%范圍內(nèi)出現(xiàn)一個(gè)抗拉強(qiáng)度的極值。這兩項(xiàng)極值范圍與當(dāng)前主流商業(yè)化應(yīng)用材料所處范圍相符合。

如圖1所示，預(yù)測(cè)Cu-Ni雙成分，當(dāng)Ni含量不變時(shí)，隨著Cu含量增加，脆化程度也不斷增加；當(dāng)Cu含量不變時(shí)，隨著Ni含量的增加脆化程度仍在增加；并且從圖像曲線來看圖中出現(xiàn)明顯的階梯狀（脆化的嚴(yán)重程度不斷集中于圖像的右上角部分），這表明脆化程度不僅與Cu含量有關(guān)，Ni含量的增加會(huì)對(duì)脆化形成促經(jīng)作用，因此Cu-Ni表現(xiàn)出明顯協(xié)同作用；Cu-P：變化趨勢(shì)與單個(gè)成分相同，P含量不變時(shí)，隨著Cu含量的增加，脆化程度不斷增加；Cu含量不變時(shí)，隨著P含量的增加脆化程度變化趨勢(shì)不明顯，因此二者協(xié)同影響較弱。

圖1 壓力容器鋼韌脆轉(zhuǎn)變溫度模型雙成分變化預(yù)測(cè)輸出

如圖2所示，包殼材料預(yù)測(cè)Y2O3-Ti雙成分性能時(shí)，添加Ti有利于包殼材料輻照硬化程度的降低；Y2O3-Al的雙成分預(yù)測(cè)變化趨勢(shì)顯示，在不斷添加Al時(shí)會(huì)加劇其輻照硬化。

圖2 包殼材料抗拉強(qiáng)度模型單成分變化預(yù)測(cè)輸出

結(jié)語(yǔ)

在單元素成分對(duì)預(yù)測(cè)結(jié)果影響的分析中，基于神經(jīng)網(wǎng)絡(luò)算法訓(xùn)練后獲得的兩個(gè)預(yù)測(cè)模型的結(jié)果均符合現(xiàn)有材料科學(xué)認(rèn)知規(guī)律的。因此可以在此基礎(chǔ)上深入研究，進(jìn)行壓力容器鋼和包殼材料的逆向設(shè)計(jì)，獲得抗輻照性能和力學(xué)性能更為優(yōu)異的材料。在新型核材料研發(fā)方面神經(jīng)網(wǎng)絡(luò)方法可以提供全新、高效的研究方法，是一種有效縮短新材料研發(fā)周期的計(jì)算方式，同時(shí)在后續(xù)的研究中可通過該方法深入分析更多元素協(xié)同作用對(duì)最終預(yù)測(cè)結(jié)果的影響，并對(duì)相關(guān)預(yù)測(cè)結(jié)果進(jìn)行試驗(yàn)分析驗(yàn)證，為快速、高效研發(fā)性能優(yōu)異反應(yīng)堆結(jié)構(gòu)材料提供技術(shù)支撐。

致謝

感謝國(guó)防科工局“穩(wěn)定基礎(chǔ)科研計(jì)劃”的資助。感謝中國(guó)原子能科學(xué)研究院核工程設(shè)計(jì)所軟件室和反應(yīng)堆工程技術(shù)研究所反應(yīng)堆材料及輻照性能研究室各位領(lǐng)導(dǎo)同事提供的幫助。