• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看

      ?

      U-Net改進(jìn)及其在新冠肺炎圖像分割的應(yīng)用

      2022-09-07 06:43:50顧國(guó)浩龍英文吉明明
      關(guān)鍵詞:毛玻璃殘差注意力

      顧國(guó)浩,龍英文,吉明明

      上海工程技術(shù)大學(xué)電子電氣工程學(xué)院,上海 201620

      前言

      新型冠狀病毒肺炎(COVID-19)已經(jīng)是世界上最嚴(yán)重的傳染性疾病之一,對(duì)全球眾多行業(yè)都造成了不可估量的損失。由于其傳播速度很快,世界衛(wèi)生組織(WHO)于2020年宣布COVID-19 大流行[1-2]。COVID-19 初期檢測(cè)常用的方法為逆轉(zhuǎn)錄聚合酶鏈反應(yīng)(RT-PCR)檢測(cè)[2]。RT-PCR 檢測(cè)因?yàn)闄z測(cè)結(jié)果等待時(shí)間較長(zhǎng)且靈敏度不高等缺點(diǎn),導(dǎo)致病例不能及早被發(fā)現(xiàn),甚至由于檢測(cè)人群的大量聚集和環(huán)境的復(fù)雜性,容易通過(guò)患者和健康個(gè)體的相互作用快速傳播。而且由于假陰性病例的存在,需要結(jié)合胸部影像學(xué)檢查進(jìn)一步明確診斷,病毒在肺部的表現(xiàn)是SARS-CoV-2 感染的最初跡象之一[3-5],其CT 圖像最明顯的特征是病灶處具有毛玻璃混濁,將肺部CT征象作為診斷標(biāo)準(zhǔn)可以大幅度降低誤診概率。目前,CT 是評(píng)估肺形態(tài)和檢測(cè)幾種相關(guān)病理的金標(biāo)準(zhǔn)成像技術(shù)[3],隨著人工智能的高速發(fā)展,基于深度學(xué)習(xí)的方案來(lái)進(jìn)行肺部CT 圖像的自動(dòng)分割可以幫助醫(yī)生更有效率的進(jìn)行診斷,也為患者爭(zhēng)取了治療的時(shí)間。本文針對(duì)COVID-19 患者肺部病灶處的毛玻璃混濁分割展開研究。

      目前COVID-19 CT 圖像分割面臨以下問(wèn)題:(1)深度學(xué)習(xí)高度依賴數(shù)據(jù)的數(shù)量,由于時(shí)間和隱私問(wèn)題,COVID-19 公開的數(shù)據(jù)集數(shù)量有限,這導(dǎo)致機(jī)器學(xué)習(xí)模型的性能不理想,容易出現(xiàn)過(guò)擬合。(2)COVID-19 CT 圖像的病灶特征隨時(shí)間變化而變化,病灶區(qū)域小、邊界模糊難以識(shí)別,只有少量數(shù)據(jù)集提供了分割標(biāo)簽,分割時(shí)圖像的特征信息得不到有效傳遞。(3)毛玻璃混濁會(huì)與原本CT 圖像中的血管影及氣管影等相融合,分割時(shí)容易將肺部本身結(jié)構(gòu)與毛玻璃混濁區(qū)域一起分割,降低分割精度。

      針對(duì)上述問(wèn)題本文的研究貢獻(xiàn)如下:(1)通過(guò)數(shù)據(jù)增強(qiáng)技術(shù)對(duì)數(shù)據(jù)樣本進(jìn)行擴(kuò)充以解決數(shù)據(jù)量少的問(wèn)題。同時(shí)將圖像處理為統(tǒng)一尺寸使模型訓(xùn)練更高效。(2)在U-Net 的跳躍連接處引入自注意力機(jī)制減少對(duì)外部信息的依賴,提升內(nèi)部信息的學(xué)習(xí),加強(qiáng)了對(duì)特征信息的捕捉。(3)隨著網(wǎng)絡(luò)加深,模型性能也會(huì)越來(lái)越高,加入循環(huán)殘差模塊使網(wǎng)絡(luò)加深的同時(shí)加快了網(wǎng)絡(luò)收斂的速度,解決了網(wǎng)絡(luò)加深帶來(lái)的梯度爆炸問(wèn)題,此外這也加強(qiáng)了圖像特征信息的傳遞。后兩者的加入使得改進(jìn)的U-Net 網(wǎng)絡(luò)模型在實(shí)驗(yàn)中能更精確地分割出與肺部組織結(jié)構(gòu)相融合的毛玻璃混濁。

      1 相關(guān)工作

      1.1 醫(yī)學(xué)圖像分割

      在2010年之前,用傳統(tǒng)方法處理圖像一直是主流,如閾值分割、區(qū)域分割、聚類等[6]。但是醫(yī)學(xué)圖像因?yàn)檎Z(yǔ)義簡(jiǎn)單、數(shù)據(jù)量少、多模態(tài)等特點(diǎn),此時(shí)用傳統(tǒng)方法對(duì)其進(jìn)行分割效果不是很理想。隨著深度學(xué)習(xí)的發(fā)展和神經(jīng)網(wǎng)絡(luò)模型的出現(xiàn),各種基于深度學(xué)習(xí)的圖像分割網(wǎng)絡(luò)模型應(yīng)運(yùn)而生,F(xiàn)CN 模型最早提出了將CNN 用于端到端的圖像分割[7],其定義一個(gè)跳躍架構(gòu)把來(lái)自深層、粗層的語(yǔ)義信息與來(lái)自淺層、細(xì)層的外觀信息結(jié)合在一起,實(shí)現(xiàn)更準(zhǔn)確的分割;SegNet 提出了解碼器結(jié)構(gòu)對(duì)其較低分辨率的輸入特征圖進(jìn)行上采樣,通過(guò)最大池化消除了學(xué)習(xí)增加樣本的需要且提高了分辨率[8];U-Net通過(guò)采用編碼器+解碼器的結(jié)構(gòu)構(gòu)建了一個(gè)U 型網(wǎng)絡(luò)包括獲取上下文的收縮路徑和支持精確定位的對(duì)稱擴(kuò)展路徑[9]。這種網(wǎng)絡(luò)通過(guò)數(shù)據(jù)增強(qiáng)的技術(shù)可以用非常少的圖像實(shí)現(xiàn)端到端的訓(xùn)練;PSPNet字塔式的結(jié)構(gòu),可以對(duì)不同層次的特征圖進(jìn)行融合,有效地在場(chǎng)景解析任務(wù)中產(chǎn)生高質(zhì)量的結(jié)果[10];RefineNet 明確利用向下采樣過(guò)程中可用的所有信息,使用遠(yuǎn)程剩余連接實(shí)現(xiàn)高分辨率預(yù)測(cè)并引入鏈?zhǔn)绞S喑匾砸环N高效的方式捕獲豐富的后臺(tái)上下文[11]。

      1.2 肺部CT圖像分割

      在肺部CT 圖像分割中,文獻(xiàn)[12]提出了一種高效、自適應(yīng)的肺CT 圖像分割方法。該算法采用自適應(yīng)均值漂移方法,通過(guò)固定帶寬估計(jì)來(lái)估計(jì)帶寬參數(shù)。由于核密度估計(jì)方法對(duì)帶寬參數(shù)的依賴性較強(qiáng),采用粒子群算法對(duì)帶寬參數(shù)進(jìn)行優(yōu)化。該方法分割效果較好,能夠?qū)Ψ尾啃〗Y(jié)節(jié)進(jìn)行分割,并能檢測(cè)出CT 圖像中的區(qū)域。孫華聰?shù)龋?3]提出一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的胸部CT 序列圖像3D 多尺度肺結(jié)節(jié)檢測(cè)方法。組合了壓縮激勵(lì)單元的Res2Net 網(wǎng)絡(luò)為骨干結(jié)構(gòu),使同一層卷積具有更多的感受野,并引入了上下文增強(qiáng)模塊和空間注意力模塊。再由Res2Net 網(wǎng)絡(luò)模塊和壓縮激勵(lì)單元組成的網(wǎng)絡(luò)對(duì)候選結(jié)節(jié)進(jìn)一步分類,以降低假陽(yáng)性,獲得最終結(jié)果。劉若愚等[14]采用DetNet 代替原始?xì)埐罡倪M(jìn)了YOLACT 模型,解決了檢測(cè)小型結(jié)節(jié)的局限性,同時(shí)引入了遷移學(xué)習(xí)解決了數(shù)據(jù)量太少而引起的過(guò)擬合問(wèn)題。

      文獻(xiàn)[15]中探索了一種帶有ResNet34 編碼器的U-Net 結(jié)構(gòu)來(lái)分割多個(gè)COVID-19 病灶,能夠處理問(wèn)題的高度不平衡性質(zhì),以及COVID-19 病灶(即大?。┑木薮罂勺冃浴N墨I(xiàn)[16]提出了一種基于并行量子自監(jiān)督網(wǎng)絡(luò)(PQIS-Net)的集成半監(jiān)督淺層神經(jīng)網(wǎng)絡(luò)框架,用于肺CT 圖像的全連通層自動(dòng)分割并證明集成的半監(jiān)督淺層框架的診斷效率(準(zhǔn)確率、精度和AUC)是有前景的。

      2 網(wǎng)絡(luò)模型設(shè)計(jì)

      2.1 網(wǎng)絡(luò)結(jié)構(gòu)

      U-Net 模型在2015年ISBI 細(xì)胞追蹤挑戰(zhàn)賽獲得冠軍,如今已經(jīng)成為處理醫(yī)學(xué)圖像的主流網(wǎng)絡(luò)模型之一。還衍生出了U-Net++[17]、MultiResUNet[18]等更多高效的網(wǎng)絡(luò)模型。原始U-Net 的收縮路徑重復(fù)應(yīng)用兩個(gè)3×3 卷積,每個(gè)卷積后面接一個(gè)ReLU 和一個(gè)2×2 最大池操作,用于下采樣,每下采樣一次特征通道的數(shù)量增加一倍;而擴(kuò)張路徑與之相反,所以構(gòu)成了一個(gè)對(duì)稱結(jié)構(gòu)。COVID-19 數(shù)據(jù)集目前還不夠完善,無(wú)論是數(shù)量還是質(zhì)量對(duì)于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練來(lái)說(shuō)都是不夠的。所以要利用少量樣本獲取較好精度是一個(gè)難題。從本實(shí)驗(yàn)所用數(shù)據(jù)集樣本之一(圖1)可以看出肺部當(dāng)中的部分毛玻璃混濁與血管影、支氣管影相融合,要提高分割精度變得尤為困難。

      圖1 樣本示意圖Figure 1 One of the samples

      基于U-Net 模型改進(jìn)后的SARes2U-Net 結(jié)構(gòu)如圖2 所示。該模型在保持U-Net 原有特點(diǎn)的基礎(chǔ)上加入循環(huán)殘差模塊(Recurrent ResNet)[19]和自注意力機(jī)制(Self-Attention, SA)[20]。模型的總體結(jié)構(gòu)依舊是編碼器-解碼器結(jié)構(gòu),將編碼器和解碼器中每一個(gè)模塊的最后一個(gè)特征通道替換成循環(huán)殘差模塊,并且在原來(lái)Concat的過(guò)程中引入SA。循環(huán)殘差模塊使特征信息前后傳遞更加流暢;自注意力機(jī)制有著對(duì)局部和全局信息的掌握性,減少特征信息的丟失,還有著并行性、參數(shù)少的特點(diǎn),加快模型的訓(xùn)練。二者的引入都是為了加強(qiáng)特征信息的傳遞,從而緩解現(xiàn)有COVID-19 數(shù)據(jù)集樣本少、質(zhì)量差且部分樣本病灶與肺部氣管血管相融的問(wèn)題,提高了分割的精度。

      圖2 SARes2U-Net結(jié)構(gòu)圖Figure 2 SARes2U-Net structure

      2.1.1 循環(huán)殘差模塊 在殘差網(wǎng)絡(luò)出現(xiàn)之前,高速公路網(wǎng)絡(luò)被用以解決訓(xùn)練深度較深的網(wǎng)絡(luò)而被提出[21],其定義為:

      其中,y=F(x,wf)為常規(guī)卷積神經(jīng)網(wǎng)絡(luò),T(x,wt)控制變換強(qiáng)度,C(x,wc)控制輸入信號(hào)的保留強(qiáng)度,二者都為非線性變換。He 等[22]提出了殘差操作的思想,將高速公路網(wǎng)絡(luò)中的兩個(gè)非線性變換變?yōu)楹愕扔成?,即令T(x,wt)= 1、C(x,wc)= 1,此時(shí)就得到了殘差網(wǎng)絡(luò),其定義為:

      網(wǎng)絡(luò)的加深和加寬都會(huì)提高其性能,但是隨著深度變深,問(wèn)題也隨之而來(lái):梯度消失或梯度爆炸。殘差網(wǎng)絡(luò)的提出有效解決了神經(jīng)網(wǎng)絡(luò)因?yàn)樯疃燃由疃鴮?dǎo)致的梯度爆炸以及網(wǎng)絡(luò)退化等問(wèn)題,它用恒等映射代替了復(fù)雜的非線性變換,減少了參數(shù)使用從而減輕了計(jì)算負(fù)擔(dān),加快了網(wǎng)絡(luò)收斂速度的同時(shí)也降低了過(guò)擬合風(fēng)險(xiǎn)。此外它還加強(qiáng)了圖像特征信息的傳遞。

      常用的殘差模塊分為兩種:常規(guī)殘差模塊和瓶頸殘差模塊。常規(guī)殘差模塊由兩個(gè)3×3卷積層構(gòu)成,在常規(guī)殘差模塊的基礎(chǔ)上增加一層卷積層,并且使殘差模塊由兩個(gè)1×1 和一個(gè)3×3 的卷積層構(gòu)成,這就是殘差模塊的改進(jìn)模塊——瓶頸殘差模塊,其參數(shù)量?jī)H為常規(guī)殘差模塊的6%,上下兩個(gè)1×1 卷積層為升維或降維操作從而方便中間3×3 的卷積層進(jìn)行計(jì)算,進(jìn)一步提高了計(jì)算效率。

      通過(guò)在瓶頸殘差模塊中增加一個(gè)恒等映射,將第一次的卷積結(jié)果重新代入進(jìn)行二次卷積運(yùn)算從而構(gòu)成了一個(gè)循環(huán)殘差模塊,其定義為:

      其中,g為循環(huán)之后的殘差預(yù)測(cè)。新構(gòu)成的循環(huán)殘差模塊由于遞歸操作,其參數(shù)量沒有增加,在計(jì)算效率沒有很大影響的同時(shí)加強(qiáng)了特征信息的積累,使網(wǎng)絡(luò)對(duì)特征信息有了更好的提取。這3 種殘差模塊如圖3所示。

      圖3 3種殘差模塊結(jié)構(gòu)圖Figure 3 Three kinds of recurrent ResNet structures

      2.1.2 自注意力機(jī)制 神經(jīng)網(wǎng)絡(luò)中注意力機(jī)制的靈感來(lái)源于人類視覺中的注意力機(jī)制。當(dāng)人類在觀察一個(gè)場(chǎng)景時(shí),不會(huì)從場(chǎng)景的一邊仔細(xì)地向另一邊遍歷似地探索,而是依據(jù)自身的需求去關(guān)注特定的一部分,并且如果在一個(gè)場(chǎng)景里頻繁地出現(xiàn)那個(gè)想關(guān)注的事物時(shí),那么在下一次類似場(chǎng)景中也會(huì)不自覺地去關(guān)注那個(gè)事物。而神經(jīng)網(wǎng)絡(luò)中的注意力機(jī)制是利用權(quán)重來(lái)實(shí)現(xiàn)其特定的關(guān)注。

      注意力機(jī)制其本質(zhì)(圖4)是一個(gè)查詢(Q)到鍵值對(duì)(K-V)的映射,也可以看作是一個(gè)軟尋址操作:把輸入看作儲(chǔ)存器中的內(nèi)容,由地址K(鍵)和值V構(gòu)成,通過(guò)K=Q的查詢條件取出對(duì)應(yīng)的值V。這里不一定非要滿足K=Q,只需計(jì)算K與Q的相似度即可,常用的方法為點(diǎn)積:

      圖4 注意力機(jī)制本質(zhì)結(jié)構(gòu)Figure 4 Essential structure of attentionmechanism

      將得到的相似度進(jìn)行SoftMax 歸一化處理得到對(duì)應(yīng)的注意力得分ai:

      最后對(duì)注意力得分ai加權(quán)求和即可得到Attention:

      SA 特殊之處在于K,Q,V三者相等且在計(jì)算相似度時(shí)引入了尺度(式7)的引入使內(nèi)積不會(huì)太大,從而確保了梯度的穩(wěn)定性。其結(jié)構(gòu)如圖5所示,這種方法也叫放縮點(diǎn)積Attention(Scaled Dot-Product Attention)[20]:

      圖5 自注意力機(jī)制計(jì)算結(jié)構(gòu)Figure 5 Calculation structure of self-attention mechanism

      其中,KT為K的轉(zhuǎn)置,Q=K=V∈Rl×n(l為單個(gè)向量維度,n為向量數(shù)量)。自注意力機(jī)制減少了外部信息的依賴,提升內(nèi)部信息的學(xué)習(xí),加強(qiáng)了對(duì)特征信息的捕捉。

      2.2 評(píng)價(jià)指標(biāo)

      為了客觀的說(shuō)明模型的綜合性能,采用4 種常用的評(píng)價(jià)指標(biāo)來(lái)衡量其性能:準(zhǔn)確率(Accuracy)、骰子系數(shù)(Dice)、靈敏度(Sensitivity)和特異度(Specificity)。其定義如下:

      靈敏度和特異度是在醫(yī)學(xué)角度常關(guān)注的兩個(gè)指標(biāo),其中TP為真陽(yáng)性(預(yù)測(cè)為陽(yáng)性且實(shí)際也為陽(yáng)性的樣本數(shù));TN 為真陰性(預(yù)測(cè)為陰性實(shí)際也為陰性的樣本數(shù));FP 為假陽(yáng)性(預(yù)測(cè)為陽(yáng)性實(shí)際為陰性的樣本數(shù));FN 為假陰性(預(yù)測(cè)為陰性實(shí)際為陽(yáng)性的樣本數(shù))。Dice 系數(shù)用來(lái)衡量?jī)蓚€(gè)集合的相似度,數(shù)值為0~1,數(shù)值越大表示集合相似度越高,這里的集合A和集合B 分別表示分割結(jié)果像素構(gòu)成和實(shí)際標(biāo)簽像素構(gòu)成。

      3 實(shí)驗(yàn)結(jié)果

      3.1 數(shù)據(jù)集及實(shí)驗(yàn)環(huán)境

      使用COVID-19 CT segmentation dataset 作為實(shí)驗(yàn)訓(xùn)練用的數(shù)據(jù)集,此數(shù)據(jù)集分為兩部分:第一部分全是COVID-19 患者的肺部CT 圖像,來(lái)自40 名患者總計(jì)100 張圖像,這些圖像由公開的JPG 圖像轉(zhuǎn)化而來(lái);第二部分將陽(yáng)性案例和陰性案例放一起,共計(jì)829 張圖像,其中373 張被標(biāo)記為陽(yáng)性。初始數(shù)據(jù)集共計(jì)929張圖像,且所有圖像都經(jīng)過(guò)專業(yè)的放射科醫(yī)生進(jìn)行了標(biāo)簽分割,其中mask 為1 的是磨玻璃結(jié)節(jié),mask為2的是實(shí)變,mask為3的是胸腔積液。

      將數(shù)據(jù)集的所有圖像統(tǒng)一處理為256×256 的大小,并且使用數(shù)據(jù)增強(qiáng)(隨機(jī)旋轉(zhuǎn)、隨機(jī)裁剪、隨機(jī)翻轉(zhuǎn))來(lái)擴(kuò)充訓(xùn)練集中的image 和mask,數(shù)據(jù)增強(qiáng)解決了訓(xùn)練樣本不夠的問(wèn)題,最終數(shù)據(jù)集擴(kuò)充至2 000張。

      硬件環(huán)境:處理器為Intel Core i7-8750H,顯卡為GeForce GTX 1070 with Max-Q Design(8 GB),操作系統(tǒng)為Windows 10;軟件環(huán)境:PyCharm,python3.7,實(shí)驗(yàn)框架為tensorflow和keras。

      3.2 實(shí)驗(yàn)對(duì)比

      3.2.1 不同損失函數(shù)下的性能對(duì)比 損失函數(shù)可以用來(lái)評(píng)估模型預(yù)測(cè)結(jié)果和真實(shí)結(jié)果不一樣的程度,不同的損失函數(shù)針對(duì)不同特點(diǎn)的數(shù)據(jù)集有著不同效果,甚至效果差距很大。本文采用了Dice Loss、二元交叉熵(BCE)、焦點(diǎn)損失(Focal Loss)以及對(duì)Dice Loss 和改進(jìn)后的BCE 進(jìn)行加權(quán)求和得到的組合損失函數(shù)(Combo Loss)這4種損失函數(shù)進(jìn)行了對(duì)比實(shí)驗(yàn),實(shí)驗(yàn)結(jié)果如表1所示。

      表1 損失函數(shù)對(duì)比Table 1 Comparison of loss functions

      結(jié)果顯示,不同損失函數(shù)對(duì)模型的性能確實(shí)有著不一樣的效果,單個(gè)損失函數(shù)不如組合損失函數(shù)的性能好。原因?yàn)镈ice Loss、BCE 和Focal Loss 這3種單一損失函數(shù)在應(yīng)對(duì)這種不平衡樣本(不同陽(yáng)性樣本中的毛玻璃混濁在整張肺部CT 圖像中占比差距懸殊)表現(xiàn)不是很好,Dice Loss 由于本身的反向傳播性差于另外兩種且在訓(xùn)練時(shí)容易造成參數(shù)的震蕩,所以表現(xiàn)最差;Focal Loss 作為BCE 的變化,通過(guò)減少權(quán)重使其更容易應(yīng)對(duì)困難樣本的學(xué)習(xí),使其在3種單一損失函數(shù)中表現(xiàn)最好。Combo Loss 很好的將Dice Loss 和BCE 結(jié)合起來(lái),加強(qiáng)了反向傳播的同時(shí)對(duì)困難樣本有著不錯(cuò)的訓(xùn)練效果,因此其分割性能最好。

      3.2.2 不同方案下的性能對(duì)比 本文對(duì)模型進(jìn)行了諸多改進(jìn)并選取了其中3種來(lái)與最終方案對(duì)比(都是基于U-Net),分別為:只引入殘差模塊(ResNet);引入殘差模塊和SE 注意力模塊(SE+ResNet)[23];引入SA模塊和殘差模塊(SA+ResNet)。分割性能如表2 所示。實(shí)驗(yàn)發(fā)現(xiàn),注意力機(jī)制的引入對(duì)分割性能有比較大的提升,且SA 模塊比SE 模塊的性能稍好一點(diǎn),循環(huán)殘差模塊(Recurrent ResNet)比普通殘差模塊的性能要好一點(diǎn)。

      表2 不同方案對(duì)比Table 2 Comparison of different schemes

      分析原因:長(zhǎng)距離的信息傳遞時(shí)信息會(huì)逐漸弱化,注意力機(jī)制的出現(xiàn)很好的優(yōu)化了這一點(diǎn),其加強(qiáng)了對(duì)遠(yuǎn)程依賴信息的捕捉且能高效的分配信息處理資源。通過(guò)比較權(quán)重的大小來(lái)實(shí)現(xiàn)重要信息的聚焦,并且可以隨時(shí)調(diào)整權(quán)重,有著很高的可伸縮性和穩(wěn)健性。而SA 是注意力機(jī)制運(yùn)用的一個(gè)新階段,所謂SA,可以理解為自己學(xué)習(xí)自己。它減少了對(duì)外部信息的依賴,更加關(guān)注特征信息的內(nèi)部關(guān)系,對(duì)特征信息來(lái)說(shuō)有著非常好的傳遞性。殘差網(wǎng)絡(luò)有效解決了因?yàn)榫W(wǎng)絡(luò)加深而出現(xiàn)的梯度爆炸或退化問(wèn)題,而循環(huán)殘差通過(guò)遞歸讓網(wǎng)絡(luò)可以加深的同時(shí),特征信息也有了積累,進(jìn)而使分割性能更好。

      3.2.3 不同模型下的性能對(duì)比 將本文的最終模型SARes2U-Net 與FCN、U-Net、U-Net++和ResUNet 進(jìn)行了性能對(duì)比,batch_size、epoch、學(xué)習(xí)率、損失函數(shù)和激活函數(shù)等基本參數(shù)保持一致,實(shí)驗(yàn)結(jié)果如表3所示。結(jié)果顯示,本文的方法在COVID-19 分割上有著不錯(cuò)的效果,Dice 系數(shù)、靈敏度和特異度分別比FCN模型提高了11.54%、8.75%和8.72%。

      表3 不同模型對(duì)比Table 3 Comparison of different models

      FCN 模型雖然可以將深淺信息結(jié)合得到更準(zhǔn)確的分割,但是對(duì)圖像中的細(xì)節(jié)不夠敏感,缺乏空間一致性,忽略了像素之間的關(guān)系,所以分割結(jié)果不夠精細(xì)。與U-Net 相比,SARes2U-Net 模型Dice 系數(shù)、靈敏度和特異度分別提高了5.18%、3.76%和4.13%。U-Net與FCN 相比,同時(shí)獲取上下文的收縮路徑和支持精確定位的對(duì)稱擴(kuò)展路徑,使上下文信息可以向更高分辨率傳播,此外其引入的跳躍連接也加強(qiáng)了信息的傳遞。原始的U-Net 在數(shù)據(jù)處理過(guò)程中加強(qiáng)了鏡像邊緣和彈性形變操作,使其在應(yīng)對(duì)細(xì)胞分割時(shí)有著非常好的效果,但由于本數(shù)據(jù)集中有的陽(yáng)性案例的毛玻璃混濁非常小且數(shù)據(jù)質(zhì)量也不高,訓(xùn)練起來(lái)比較吃力。

      U-Net++利用長(zhǎng)短連接相結(jié)合將U-Net 結(jié)構(gòu)填滿,同時(shí)利用淺層特征和深層特征,無(wú)論是大的視野還是小的視野都能夠感受到,在提升精度的同時(shí)利用深監(jiān)督大幅度縮減了參數(shù)量。ResUNet 解決了網(wǎng)絡(luò)加深帶來(lái)的網(wǎng)絡(luò)退化問(wèn)題,可以訓(xùn)練更深的網(wǎng)絡(luò),帶來(lái)了更好的效果。本文方法與二者相比,在Dice系數(shù)上也有4.61%和3.73%的提升,對(duì)病灶分割更精確。

      圖6 展示了4 個(gè)不同CT 圖像上這5 種算法的分割效果(每張結(jié)果圖右下角的局部放大圖用來(lái)提升可視化效果),可以看出每種算法分割效果都有不盡如人意的地方。這4 個(gè)圖像中的毛玻璃混濁依次由小變大,當(dāng)混濁較小時(shí),易受背景干擾,背景的一部分會(huì)被錯(cuò)當(dāng)成混濁區(qū)域一起分割,F(xiàn)CN 分割的效果最差,其余4種效果一般;隨著混濁區(qū)域變多(病情較重),5 種模型的分割效果逐漸趨近,但本文提出的模型在一些肺部血管影、氣管等與毛玻璃混濁相接甚至疊加的區(qū)域以及邊緣細(xì)節(jié)(如第4 張結(jié)果圖)分割效果更好。

      圖6 不同模型的分割效果圖Figure 6 Segmentation results obtained by different models

      4 結(jié)束語(yǔ)

      CT成像是COVID-19檢測(cè)中的重要一環(huán),有效的分割出病灶對(duì)于COVID-19的治療有著重要幫助。針對(duì)部分病患肺部CT圖像上毛玻璃混濁占比小且易受背景干擾的特點(diǎn),本文結(jié)合循環(huán)殘差和SA,提出了一種改進(jìn)的U-Net網(wǎng)絡(luò)。循環(huán)殘差在加深網(wǎng)絡(luò)提高性能的同時(shí)有效地抑制了過(guò)擬合;SA減少對(duì)外部信息的依賴,加強(qiáng)對(duì)局部信息的捕捉。二者的引入都是為了保證特征信息在傳遞時(shí)得到有效保留,這樣才能得到更好的訓(xùn)練效果。在對(duì)比實(shí)驗(yàn)中,本文算法在應(yīng)對(duì)毛玻璃混濁較小或與氣管/血管影相融時(shí)具有更好的分割效果。下一步將繼續(xù)研究算法的改進(jìn)和數(shù)據(jù)的預(yù)處理,在應(yīng)對(duì)更加復(fù)雜多類的數(shù)據(jù)情況時(shí)加強(qiáng)分割效果,減少資源占比。

      猜你喜歡
      毛玻璃殘差注意力
      毛玻璃上的“透視眼”
      基于雙向GRU與殘差擬合的車輛跟馳建模
      讓注意力“飛”回來(lái)
      基于殘差學(xué)習(xí)的自適應(yīng)無(wú)人機(jī)目標(biāo)跟蹤算法
      在人間
      基于遞歸殘差網(wǎng)絡(luò)的圖像超分辨率重建
      神奇的發(fā)現(xiàn)
      “揚(yáng)眼”APP:讓注意力“變現(xiàn)”
      A Beautiful Way Of Looking At Things
      平穩(wěn)自相關(guān)過(guò)程的殘差累積和控制圖
      河南科技(2015年8期)2015-03-11 16:23:52
      玉林市| 莫力| 永嘉县| 泽普县| 兴宁市| 来安县| 沾化县| 凤凰县| 洱源县| 台东县| 承德县| 兰州市| 绥阳县| 西和县| 大渡口区| 富宁县| 鄂州市| 商南县| 瑞丽市| 高邮市| 松原市| 商都县| 锡林浩特市| 嘉定区| 新疆| 万安县| 四平市| 边坝县| 从化市| 昌图县| 赤水市| 会泽县| 安平县| 永州市| 西盟| 抚宁县| 新昌县| 彰化县| 乌兰浩特市| 博乐市| 邛崃市|