• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      基于改進(jìn)DenseNet網(wǎng)絡(luò)的肺炎X光圖像識別算法

      2021-08-10 02:25:56魏榕劍邵劍飛
      電視技術(shù) 2021年6期
      關(guān)鍵詞:X光損失卷積

      魏榕劍,邵劍飛

      (昆明理工大學(xué),云南 昆明 650031)

      0 引 言

      肺炎是一種由細(xì)菌、病毒及真菌引起的肺部疾病,可以引起肺部感染[1],病情嚴(yán)重時甚至可能導(dǎo)致病人死亡[2]。肺炎可以通過放射檢查來檢測,如常規(guī)放射檢查、CT或MRI,醫(yī)生會通過檢查病人的胸部X光片來診斷肺炎[3]。在發(fā)展中國家,肺炎的死亡率特別高。及時發(fā)現(xiàn)肺炎、為肺炎患者提供治療,對于肺炎的治療和降低死亡率意義重大。全胸部X光是目前提供肺炎正確診斷和檢測的最佳方法[4]。要診斷并發(fā)現(xiàn)肺炎,需要仔細(xì)檢查胸部X光圖像,這要求放射科醫(yī)生或?qū)<揖哂胸S富經(jīng)驗和專業(yè)知識,使得肺炎的檢測過程成為一項具有挑戰(zhàn)性的任務(wù)[5]。對于發(fā)展中國家的偏遠(yuǎn)地域,醫(yī)療資源分布不均勻,診斷肺炎對于基層醫(yī)療機構(gòu)來說非常困難。針對這一問題,計算機輔助診斷可以幫助醫(yī)生快速完成肺炎診斷,具有重要的實際意義。

      近年來,隨著深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的不斷發(fā)展,深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)被廣泛應(yīng)用于醫(yī)學(xué)影像領(lǐng)域,在有影像數(shù)據(jù)集的領(lǐng)域的研究不斷加深。Rajpurkar等人[6]提出一個基于ChestX-Ray14訓(xùn)練的121層卷積神經(jīng)網(wǎng)絡(luò)CheXNet算法,并用4位職業(yè)的學(xué)術(shù)放射科醫(yī)師標(biāo)注的測試集進(jìn)行測試,可檢測14種疾病,該模型在F1指標(biāo)上的診斷達(dá)到了職業(yè)放射科醫(yī)生的平均水平,但對于肺炎,其檢測精度達(dá)到92.52%,還有待提升。Khoiriyah等人[7]提出了一種基于CNN結(jié)構(gòu)的模型,采用不同的深度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和增強策略來對胸部X線圖像中的肺炎檢測進(jìn)行分類,使用3個卷積層和3個分類層(完全連接),通過調(diào)整大小、翻轉(zhuǎn)及旋轉(zhuǎn)以避免過擬合,運用增強策略進(jìn)行精度值提升,沒有增強策略的精度值為80.25%,增強策略的精度值為83.38%,而且該CNN結(jié)構(gòu)體系可以訓(xùn)練小數(shù)據(jù)集,但是其訓(xùn)練精度值不高。Harsh Sharma等人[5]提出不同的深度卷積神經(jīng)網(wǎng)絡(luò),從胸部X射線圖像中提取特征的架構(gòu)對圖像進(jìn)行分類以檢測人是否患有肺炎。Abhishek Gawali等人[8]提出了一種用于胸部X光檢查的深度學(xué)習(xí)方法,該方法有3個卷積層,每層有32個神經(jīng)元,有3個不同的通道(3*3),并通過對圖像進(jìn)行基于不同參數(shù)的變換提高精度,但是該模型準(zhǔn)確率僅為88.68%。

      針對胸部X光圖像的特征,本文在DenseNet深度模型的基礎(chǔ)上,提出一種改進(jìn)的DenseNet模型算法。該算法繼承DenseNet將圖像不同層次特征融合進(jìn)行分類的優(yōu)點,在全連接層加入中心損失(Center loss),使得X光圖像同類特征具有較高的聚合度,并且在最后輸出部分將原DenseNet模型中的交叉熵?fù)p失函數(shù)替換為Focal loss,增強網(wǎng)絡(luò)對X光肺炎影像病灶的學(xué)習(xí)能力,提升肺炎分類的準(zhǔn)確率。

      1 DenseNet模型

      DenseNet(密集卷積網(wǎng)絡(luò))是一種密集連接的卷積神經(jīng)網(wǎng)絡(luò),是于2017年提出的最優(yōu)深度模型,融合了深度殘差網(wǎng)絡(luò)(ResNet)與Inception網(wǎng)絡(luò)的優(yōu)點。深度殘差網(wǎng)絡(luò)通過加深網(wǎng)絡(luò)層數(shù)提升網(wǎng)絡(luò)性能,Iiception網(wǎng)絡(luò)通過加寬網(wǎng)絡(luò)結(jié)構(gòu)提升網(wǎng)絡(luò)性能,DenseNet網(wǎng)絡(luò)直接從最優(yōu)特征的角度出發(fā),設(shè)置特征復(fù)用和旁路連接,達(dá)到增強檢測精度和降低網(wǎng)絡(luò)參數(shù)的目的[9]。DenseNet網(wǎng)絡(luò)的特點是,網(wǎng)絡(luò)的任意兩層之間是直接連接的,后面每一層網(wǎng)絡(luò)的輸入都是它前面所有層的輸出的并集,任意一層所學(xué)習(xí)的特征圖同樣會被直接傳給該層后面的所有層作為輸入;其核心思想是利用特征重用來達(dá)到優(yōu)化模型的目的,密集操作依靠Dense Block(密集連接塊)實現(xiàn),多個Dense Block串聯(lián)便構(gòu)成整個網(wǎng)絡(luò)架構(gòu)。

      一個完整的DenseNet網(wǎng)絡(luò)如圖1所示??梢钥吹?,多個Dense Block之間沒有密集連接,采用了建立過渡層的模式。通常過渡層由BN+Conv(1×1)→Pooling(2×2)構(gòu)成,BN層也可以不要。本文提出的改進(jìn)的肺炎X光分類算法正是在DenseNet模型基礎(chǔ)上進(jìn)行展開。

      圖1 DenseNet模型

      在傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)模型中,如果模型層數(shù)為L,則其總連接數(shù)為L;而在DenseNet模型中,層數(shù)為L的模型,其總連接數(shù)Ld滿足:

      DenseNet模型中,層與層之間的數(shù)據(jù)傳遞關(guān)系滿足:

      式中:xl表示l層的輸入;Hl表示BN、Relu及Conv操作;[x0,x1,…,xl-1]表示通道合并,即將前l(fā)-1層的輸出特征圖進(jìn)行矩陣上的連接。

      DenseNet模型的優(yōu)良性能主要依靠密集連接過程中對特征的充分利用。然而,經(jīng)典的DenseNet模型在應(yīng)用于肺炎X光片肺炎分類任務(wù)中時,相比卷積神經(jīng)網(wǎng)絡(luò)的其他模型,分類精度有一定的提高,但仍然無法令人滿意。因此,本文提出了改進(jìn)的基于DenseNet網(wǎng)絡(luò)的肺炎X光片分類算法。

      2 改進(jìn)的DenseNet深度網(wǎng)絡(luò)肺炎X光圖像識別算法

      在DenseNet網(wǎng)絡(luò)模型的單元結(jié)構(gòu)中,1×1卷積不完全考慮圖像中某個像素點像素與該像素周邊像素的空間關(guān)系,而是依賴像素點坐標(biāo)位置的線性變換。因此,通常在DenseNet網(wǎng)絡(luò)模型中都會添加非線性的激活響應(yīng)函數(shù)。Softmax損失函數(shù)是傳統(tǒng)深度學(xué)習(xí)網(wǎng)絡(luò)常用的損失函數(shù),進(jìn)行空間特征的映射操作。本文提出全連接層加入中心損失(Centerloss),在最后輸出部分將交叉熵?fù)p失函數(shù)替換為Focal-loss。

      Softmax損失函數(shù)為:

      式中:xl表示第l個深度特征,屬于第yl類;Wj表示全連接層中權(quán)重W的第j列;b表示偏置項;mm表示小批量大小。

      品牌離不開渠道的拓展,陳偉表示,邦力達(dá)·兩河源果業(yè)專業(yè)合作社在果品銷售的傳統(tǒng)渠道和電商渠道同時發(fā)力,目前已建立起京東旗艦店、微信商城等平臺,并對接全國各大主要農(nóng)產(chǎn)品交易市場,同時還吸引了眾多外地果商進(jìn)行實地采購。2017年,合作社內(nèi)幫助社員銷售獼猴桃、柑橘等水果500多萬斤。通過在種植管理、農(nóng)資投入、品牌打造到水果購銷等環(huán)節(jié)的全產(chǎn)業(yè)鏈運營模式,社員依托合作社的農(nóng)資和服務(wù)種出好果,合作社為社員的好果賦予品牌,實現(xiàn)了農(nóng)戶、合作社、農(nóng)資企業(yè)、水果消費市場等多方的融通共贏。

      Center loss函數(shù)為:

      式中:cyl表示第yl類深度特征的類中心。

      本文采用Softmax loss與Center loss相結(jié)合的函數(shù)去訓(xùn)練,表達(dá)式為:

      DenseNet網(wǎng)絡(luò)在輸出部分使用的都是Softmax函數(shù)與交叉墑?chuàng)p失(Cross Entropy loss)相結(jié)合的方式。Loss函數(shù)為:

      式中:x表示特征值;i與j表示類別編號。由于肺炎X光胸片數(shù)據(jù)集存在不平衡,為了提高最終肺炎X光片分類的準(zhǔn)確性,本文在最后輸出部分引入Focal函數(shù)進(jìn)行不平衡校正,F(xiàn)ocal函數(shù)為:

      式中:Pt是特征值屬于某一類的概率;γ是調(diào)節(jié)變化幅度的參數(shù)。在模型中引入Focal loss函數(shù)后,損失函數(shù)為:

      3 實驗和分析

      3.1 實驗數(shù)據(jù)集

      本文實驗數(shù)據(jù)集來源于kaggle。該數(shù)據(jù)集包含兩個類(肺炎、正常)共5 860張X光胸片圖像。其中,訓(xùn)練集包含3 876張肺炎X光胸片和1 342張正常X光片。測試集包含390張肺炎X光胸片和234張正常X光片。正常肺部X光片如圖2所示,肺炎肺部X光片如圖3所示。

      圖2 正常肺部X光片示例

      圖3 肺炎肺部X光片示例

      3.2 實驗設(shè)置

      3.3 實驗結(jié)果及分析

      本文利用肺炎胸部X光片數(shù)據(jù)集進(jìn)行肺炎X光片分類的準(zhǔn)確率研究。樣本集中,訓(xùn)練集占89%,驗證集占11%。準(zhǔn)確占比如表1所示。

      表1 數(shù)據(jù)集分布

      驗證集和訓(xùn)練集的X光胸片數(shù)量比例約為1∶10,為滿足模型需求,采用拉伸縮放的方式,將所有X光胸片的大小調(diào)整為320×320。

      本文在實驗數(shù)據(jù)集上進(jìn)行實驗,實驗參數(shù)包含Accuracy(訓(xùn)練精度)、Val_Accuracy(驗證精度)、Loss(訓(xùn)練損失)及Val_Loss(驗證損失)。實驗精度曲線如圖4所示。實驗損失函數(shù)曲線如圖5所示。

      圖4 精度曲線

      圖5 損失函數(shù)曲線

      實驗結(jié)果顯示,在訓(xùn)練的10個epochs內(nèi),其訓(xùn)練精度在開始的6個epochs內(nèi)不斷提升,達(dá)到一定訓(xùn)練精度后便開始波動,從驗證精度曲線來看,由于驗證數(shù)據(jù)集的不平衡性,驗證精度低于訓(xùn)練精度且不斷波動。從訓(xùn)練損失函數(shù)曲線來看,訓(xùn)練損失在訓(xùn)練epochsn內(nèi)損失不斷降低,但驗證損失偏高且不斷波動,這是驗證數(shù)據(jù)集數(shù)據(jù)量少且數(shù)據(jù)不平衡造成的。

      本文將改進(jìn)的DenseNet-121網(wǎng)絡(luò)與DenseNet-121層卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行對比,DenseNet-121網(wǎng)絡(luò)在肺炎分類任務(wù)中其訓(xùn)練分類精度達(dá)到91.22%,測試精度為89.58%;本文提出的基于改進(jìn)的DenseNet-121網(wǎng)絡(luò)的肺炎分類算法模型,其最高分類精度達(dá)到94.52%,測試精度90.46%。

      4 結(jié) 語

      針對肺部X光胸片影像的特點,本文提出了基于DenseNet網(wǎng)絡(luò)改進(jìn)的肺炎X光片分類算法模型,在kaggle提供的Chest-X-Ray數(shù)據(jù)集上進(jìn)行訓(xùn)練和測試,最終將胸部X光肺炎分類精確度提升至94.52%。然而改進(jìn)的DenseNet網(wǎng)絡(luò)參數(shù)依然龐大,訓(xùn)練非常耗時。在未來的研究中,進(jìn)一步提升肺炎X光分類精度,提出科學(xué)合理的剪枝策略降低訓(xùn)練時效,可作為未來的研究方向。

      猜你喜歡
      X光損失卷積
      少問一句,損失千金
      基于3D-Winograd的快速卷積算法設(shè)計及FPGA實現(xiàn)
      仿生武器大揭秘
      胖胖損失了多少元
      給動物拍張X光片
      從濾波器理解卷積
      電子制作(2019年11期)2019-07-04 00:34:38
      人眼X光
      快樂語文(2019年9期)2019-06-22 10:00:38
      玉米抽穗前倒伏怎么辦?怎么減少損失?
      基于傅里葉域卷積表示的目標(biāo)跟蹤算法
      還在喂奶,能照X光嗎?
      媽媽寶寶(2017年2期)2017-02-21 01:21:28
      额尔古纳市| 汉中市| 呼图壁县| 永和县| 社旗县| 汝州市| 泸州市| 华安县| 抚顺县| 建宁县| 光山县| 东兰县| 隆昌县| 宣威市| 泽库县| 安乡县| 横峰县| 苍溪县| 正阳县| 塔城市| 商都县| 子洲县| 三原县| 潼南县| 岳池县| 中西区| 延寿县| 县级市| 和平县| 富裕县| 贡觉县| 砚山县| 桂阳县| 九龙城区| 长寿区| 大关县| 万载县| 贵德县| 靖宇县| 扶绥县| 博白县|