池化
- 面向神經(jīng)網(wǎng)絡(luò)池化層的靈活高效硬件設(shè)計(jì)
大多數(shù)網(wǎng)絡(luò)都需要池化層來降低卷積層輸出的特征向量。對于池化層，研究者們提出了許多硬件方案：陳浩敏等人[4]基于YOLOv3-tiny的硬件加速設(shè)計(jì)中池化層輸入圖像最大可支持416，但僅支持核大小為2×2 的池化。許杰等人[5]設(shè)計(jì)的cifar10_quick 優(yōu)化網(wǎng)絡(luò)，采取兩兩比較的層間流水實(shí)現(xiàn)核2×2的池化，該方法無任何數(shù)據(jù)復(fù)用，因此在重疊池化中性能較低。Cho 等人[6]的卷積神經(jīng)網(wǎng)絡(luò)加速器使用HLS（high-level synthesis）設(shè)計(jì)，H
計(jì)算機(jī)工程與應(yīng)用 2023年22期2023-11-27
- 改進(jìn)模糊二值模式算法及其在卷積神經(jīng)網(wǎng)絡(luò)中的降噪性能*
卷積神經(jīng)網(wǎng)絡(luò)中，池化層的重要作用是實(shí)現(xiàn)特征降維、提取關(guān)鍵信息并丟棄冗余信息。然而，傳統(tǒng)的池化操作只是對數(shù)據(jù)進(jìn)行簡單的粗處理，如最大池化法只極端的保留最大值元素，很容易引進(jìn)噪聲；平均池化法取池化窗口內(nèi)的均值，弱化了最大值關(guān)鍵元素。對此，國內(nèi)外許多研究學(xué)者提出了較為有效的改進(jìn)方法。2013 年Rob Fergus 等［9］提出了隨機(jī)池化（Stochastic pooling）方法，在池化窗口內(nèi)對特征圖數(shù)值進(jìn)行歸一化，按照特征圖歸一化后的概率值大小隨機(jī)采樣選擇。
計(jì)算機(jī)與數(shù)字工程 2023年3期2023-07-11
- 基于改進(jìn)deeplabv3+的舌象分割算法
AM）和改進(jìn)條帶池化模塊（strip pooling module, SPM）［7］及 混 合 池 化 模 塊（mixed pooling module, MPM）來提取上下文信息，更好地進(jìn)行舌象分割。1 整體分割網(wǎng)絡(luò)模型結(jié)構(gòu)本文采用編碼器-解碼器結(jié)構(gòu)來對網(wǎng)絡(luò)模型deeplabv3+進(jìn)行語義分割，在編碼器部分引入空間金字塔模塊，對輸入特征采用多采樣率擴(kuò)張卷積來獲取多尺度上下文信息，然后通過編碼器-解碼器結(jié)構(gòu)來恢復(fù)空間信息并獲取目標(biāo)邊界，將其有效結(jié)合進(jìn)行高效
現(xiàn)代計(jì)算機(jī) 2023年3期2023-04-13
- 基于Sobel算子的池化算法設(shè)計(jì)
初步實(shí)現(xiàn)卷積層和池化層功能，可對特征進(jìn)行提取、篩選，對后續(xù)卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展具有啟發(fā)性意義。Waibel等[2]首次將卷積神經(jīng)網(wǎng)絡(luò)用于語音識別，設(shè)計(jì)出了時延卷積神經(jīng)網(wǎng)絡(luò)(time delay neural network，TDNN)算法，并采用反向傳播機(jī)制進(jìn)行訓(xùn)練，獲得了圓滿的效果，優(yōu)于同時期的主流語音識別算法隱馬爾可夫模型(hidden Markov model，HMM)等。LeCun等[3]提出適用于計(jì)算機(jī)視覺問題的LeNet，它包含卷積層、全連接層，
科學(xué)技術(shù)與工程 2023年3期2023-03-15
- 新型下采樣法在視網(wǎng)膜血管分割中的應(yīng)用
的下采樣模塊PF池化，其可以更好地融合相鄰像素的語義信息。在不同的模型及不同分割任務(wù)上進(jìn)行驗(yàn)證，結(jié)果表明采用PF池化替換原始最大池化后，模型性能有了進(jìn)一步提升，且模型復(fù)雜度增加很小，時間開銷可以忽略不計(jì)，具有良好的泛化性，可以有效地應(yīng)用于醫(yī)學(xué)圖像的分割任務(wù)中，輔助醫(yī)生進(jìn)行臨床診斷。1 新采樣算法1.1 預(yù)處理視網(wǎng)膜眼底圖像往往存在亮度信息不均勻的問題，使得細(xì)小血管與背景之間的對比不明顯，不利于模型分割。為了更好地實(shí)現(xiàn)對微小血管的提取，需要先將原始圖像預(yù)處理
中國醫(yī)療器械雜志 2023年1期2023-02-12
- 融合結(jié)構(gòu)和特征的圖層次化池化模型
取圖表示的層次化池化應(yīng)運(yùn)而生。目前，圖的層次化池化研究已有一定成果，主要有兩種策略對圖進(jìn)行池化：（1）聚類策略，通過應(yīng)用聚類算法將當(dāng)前層的節(jié)點(diǎn)分配給若干個聚類，每個聚類將作為池化后下一層的一個節(jié)點(diǎn)，池化后節(jié)點(diǎn)的表示通過對聚類內(nèi)部的節(jié)點(diǎn)特征進(jìn)行聚合獲得，節(jié)點(diǎn)間的連接關(guān)系則通過聚合聚類間節(jié)點(diǎn)的連接關(guān)系獲得。（2）采樣策略，通過設(shè)計(jì)一種重要性標(biāo)準(zhǔn)為當(dāng)前層每一個節(jié)點(diǎn)計(jì)算一個重要性得分，根據(jù)得分選擇top-k節(jié)點(diǎn)作為池化后下一層的節(jié)點(diǎn)，池化后節(jié)點(diǎn)的表示為原節(jié)點(diǎn)表示與
計(jì)算機(jī)與生活 2023年1期2023-01-17
- 面向遙感圖像檢索的級聯(lián)池化自注意力研究
，然后對特征使用池化方法融合，進(jìn)一步提高檢索性能。Zhou 等人[9]提出了一種以ResNet 為骨干網(wǎng)絡(luò)的Gabor-CA-ResNet 網(wǎng)絡(luò)，利用Gabor 表示圖像的空間頻率結(jié)構(gòu)，結(jié)合通道注意力機(jī)制來獲得判別性更強(qiáng)的深層特征，之后利用基于Split 的深度特征變換網(wǎng)絡(luò)對特征進(jìn)行降維。雖然CNN 能夠較好地用于圖像檢索，但是CNN 是對整張圖像進(jìn)行特征提取，不能有效突出圖像中的顯著特征，并且背景噪聲也會對特征產(chǎn)生一定的干擾。在CNN 中引入注意力機(jī)制可
光電工程 2022年12期2023-01-11
- 基于動態(tài)圖卷積的加權(quán)點(diǎn)云分類網(wǎng)絡(luò)
特征，并選擇最大池化這一對稱函數(shù)來處理點(diǎn)云的無序性問題，然而其僅考慮了點(diǎn)云的全局特征，忽略點(diǎn)云的局部特征。DGCNN[3]（dynamic graph CNN）提出使用圖卷積網(wǎng)絡(luò)（graph convolutional network，GCN）來獲取點(diǎn)云的局部特征，但仍使用的是“贏者通吃”的最大池化方法，導(dǎo)致了信息的損失。針對這些問題，提出了基于動態(tài)圖卷積的加權(quán)點(diǎn)云分類網(wǎng)絡(luò)WDGCNN（weighted dynamic graph CNN），使用特征拼接思
計(jì)算機(jī)工程與應(yīng)用 2022年20期2022-10-17
- 基于高斯函數(shù)的池化算法
輸入層、卷積層、池化層、全連接層、輸出層等結(jié)構(gòu)組成，由于網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)的不同，不同的卷積神經(jīng)網(wǎng)絡(luò)的性能也有很大的差別。2012 年，Hinton和他的學(xué) 生Alex 設(shè)計(jì)出了AlexNet［2］，一舉拿下了當(dāng)年ImageNet 競賽的冠 軍。自此之后，諸如VGG（Visual Geometry Group）［3］、ResNet（Residual Network）［4］、GoogLeNet［5］、DenseNet（Densely Connected Netwo
計(jì)算機(jī)應(yīng)用 2022年9期2022-09-25
- 改進(jìn)的U-Net網(wǎng)絡(luò)在遙感影像道路提取中的應(yīng)用
使用一系列卷積和池化操作來提高道路提取效率，但由于沒有考慮道路的結(jié)構(gòu)特征，對于較為復(fù)雜的區(qū)域提取效果不佳。綜上可以看出，必須要結(jié)合道路目標(biāo)的結(jié)構(gòu)特性改進(jìn)模型，才能更適合解決道路提取問題?？紤]到道路目標(biāo)呈現(xiàn)細(xì)長形狀，而且寬度極其有限，不同的感受野大小設(shè)置在道路提取任務(wù)中至關(guān)重要。研究發(fā)現(xiàn)，空洞卷積在擴(kuò)大感受野的同時不會引入額外的計(jì)算參數(shù)。此外，空洞空間金字塔池化(atrous spatial pyramid pooling，ASPP)也可以改善感受野的大小，
遙感信息 2022年2期2022-08-18
- 基于小波池的圖像分類算法研究
部分，即卷積層和池化層，以提高CNN的準(zhǔn)確性和效率，超越以往的模型。池化操作起源于CNN 的前身Neocognitron 和Cresceptron，前者由用戶手動進(jìn)行二次采樣，后者在深度學(xué)習(xí)中引入了第一個max池操作。合并對卷積層的結(jié)果進(jìn)行子采樣，從而逐漸減小整個網(wǎng)絡(luò)中數(shù)據(jù)的空間尺寸。它的好處是減少了參數(shù)，提高了計(jì)算效率，并減少了過度擬合[2]。池化是子采樣的另一個術(shù)語。在該層中，卷積層的輸出的維數(shù)被壓縮，最常用的是最大池化和平均池化。最大池化獲取區(qū)域的最
自動化技術(shù)與應(yīng)用 2022年7期2022-08-17
- 基于多模雙線性池化和時間池化聚合的無參考VMAF視頻質(zhì)量評價(jià)模型
級得分預(yù)測+時間池化聚合”的方式，分為兩階段進(jìn)行建模：1) 利用自建的數(shù)據(jù)集，建立了一種基于多模雙線性池化[4]的失真視頻幀級VMAF預(yù)測模型，用于對視頻幀的VMAF分?jǐn)?shù)進(jìn)行預(yù)測；2) 采用3種時間池化方法對預(yù)測的視頻幀VMAF分?jǐn)?shù)分別進(jìn)行聚合，構(gòu)成質(zhì)量特征向量，采用nu-支持向量回歸(nu support vector regression,NuSVR)的方法建立質(zhì)量特征向量與VMAF預(yù)測分?jǐn)?shù)之間的映射模型，用于對失真視頻的VMAF分?jǐn)?shù)進(jìn)行預(yù)測.實(shí)驗(yàn)結(jié)果
北京工業(yè)大學(xué)學(xué)報(bào) 2022年7期2022-07-11
- 聯(lián)合一二階池化網(wǎng)絡(luò)學(xué)習(xí)的遙感場景分類
，丁勝聯(lián)合一二階池化網(wǎng)絡(luò)學(xué)習(xí)的遙感場景分類邊小勇1，2，3*，費(fèi)雄君1，陳春芳1，闞東東1，丁勝1，2，3（1.武漢科技大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，武漢 430065； 2.武漢科技大學(xué) 大數(shù)據(jù)科學(xué)與工程研究院，武漢 430065； 3.智能信息處理與實(shí)時工業(yè)系統(tǒng)湖北省重點(diǎn)實(shí)驗(yàn)室（武漢科技大學(xué)），武漢 430065）（*通信作者電子郵箱xyongwh04@163.com）目前大多數(shù)池化方法主要是從一階池化層或二階池化層提取聚合特征信息，忽略了多種池化策略對
計(jì)算機(jī)應(yīng)用 2022年6期2022-07-05
- 一種基于BERT和池化操作的文本分類模型
這個問題，本文將池化操作引入到文本分類模型中，結(jié)合預(yù)訓(xùn)練BERT模型生成更加準(zhǔn)確的文本表征向量，以此提高文本分類模型的性能。結(jié)果表明，在引入池化操作后，分類模型的性能在實(shí)驗(yàn)的所有文本分類任務(wù)中均得到了提升。1 BERT模型的邏輯結(jié)構(gòu)為了更好地理解BERT模型的工作原理，本章將詳細(xì)介紹BERT模型的邏輯結(jié)構(gòu)。BERT是一個基于Transformer[15]框架的通用語言模型，可為文本生成高質(zhì)量的表征向量。圖1展示了BERT模型的邏輯結(jié)構(gòu)。它由若干個編碼器組成
計(jì)算機(jī)與現(xiàn)代化 2022年6期2022-06-23
- 一種基于FPGA的通用卷積神經(jīng)網(wǎng)絡(luò)加速器的設(shè)計(jì)與實(shí)現(xiàn)
力的加倍；在平均池化的計(jì)算中，采取了一種“偽卷積”的方式，以卷積介質(zhì)訪問控制層乘加器陣列(Multiplier and Accumulation, MAC)陣列來實(shí)現(xiàn)平均池化，避免消耗額外的邏輯資源；最后在Xilinx Kintex-7 XC7K325T FPGA上進(jìn)行了驗(yàn)證。1 CNN網(wǎng)絡(luò)介紹及硬件加速原理第1個成功商用的卷積神經(jīng)網(wǎng)絡(luò)是LeNet[1]，它包含2個卷積層和2個全連接層，卷積核的尺寸都是5×5，每個卷積層后緊跟著一個平均池化層，僅使用一個s
復(fù)旦學(xué)報(bào)（自然科學(xué)版） 2022年1期2022-06-16
- 移動互聯(lián)網(wǎng)時代堆疊套餐資源池化計(jì)費(fèi)研究與應(yīng)用
時代迫切需要引入池化資源支撐流量業(yè)務(wù)模式拓展，在市場競爭中掌握先機(jī)。2 堆疊套餐資源池化的引入計(jì)費(fèi)模式的完善和創(chuàng)新離不開計(jì)費(fèi)系統(tǒng)的發(fā)展和突破。近年來基于移動互聯(lián)網(wǎng)平臺的計(jì)費(fèi)系統(tǒng)不斷更新和優(yōu)化，新的套餐設(shè)置技術(shù)不斷引入可逐步解決困擾運(yùn)營商已久的計(jì)費(fèi)套餐設(shè)置復(fù)雜問題。堆疊套餐資源池化技術(shù)就是近來計(jì)費(fèi)領(lǐng)域一個引人矚目的創(chuàng)新。此技術(shù)的運(yùn)用實(shí)現(xiàn)了如下目標(biāo)。（1）精簡用戶資費(fèi)結(jié)構(gòu)：通過池化同類業(yè)務(wù)資源，實(shí)現(xiàn)用戶疊加資費(fèi)的扁平化處理。（2）轉(zhuǎn)變計(jì)費(fèi)批價(jià)模式：依托資源池，
數(shù)字通信世界 2022年5期2022-06-07
- 基于混合池化YOLO 的目標(biāo)檢測方法
]提出空間金字塔池化網(wǎng)絡(luò)（spatial pyramid pooling networks，SPPNet），通過引入空間金字塔池化來解決R-CNN 重復(fù)計(jì)算大量重疊候選區(qū)域的問題，從而避免了卷積特征的重復(fù)計(jì)算；針對空間金字塔網(wǎng)絡(luò)的訓(xùn)練過程仍是一個多階段過程，文獻(xiàn)[5]提出Fast R-CNN，實(shí)現(xiàn)了檢測器和邊框回歸器的同步訓(xùn)練，另外通過共享計(jì)算加速特征提取，使得檢測速度比R-CNN 快將近200 倍；文獻(xiàn)[6]中采用區(qū)域建議網(wǎng)絡(luò)（region propos
天津城建大學(xué)學(xué)報(bào) 2022年2期2022-05-20
- 融合多尺度對比池化特征的行人重識別方法
法大多數(shù)采用平均池化、最大池化或?qū)烧呦嘟Y(jié)合。本文提出一種多尺度對比池化特征融合的行人重識別方法?；诰W(wǎng)絡(luò)中不同尺度的特征信息，通過構(gòu)建對比池化模塊，同時結(jié)合平均池化和最大池化的優(yōu)點(diǎn)，提取具有強(qiáng)判別性的對比池化特征，從而提升行人重識別的準(zhǔn)確度。1 相關(guān)工作傳統(tǒng)的行人重識別方法主要分為基于特征表示的方法和基于距離度量的方法。基于特征表示的行人重識別方法主要通過提取顏色、局部二值模式［2］（Local Binary Pattern，LBP）、尺度不變特征變換［
計(jì)算機(jī)工程 2022年4期2022-04-18
- 突發(fā)事件輿論場域通透粘性與情感粒度對信息池化的內(nèi)生影響研究*
在信息學(xué)中，信息池化(pooling)是指信息在傳播過程中，由于傳播主體或受體在地域、政治、經(jīng)濟(jì)、文化及知識等維度存在相似性或相關(guān)性，從而導(dǎo)致該類群體在信息擴(kuò)散過程中形成如同“池塘”的特征。針對網(wǎng)絡(luò)突發(fā)事件，在水紋傳播效應(yīng)作用下，信息擴(kuò)散過程易于產(chǎn)生信息池化現(xiàn)象，從而導(dǎo)致輿論出現(xiàn)群體極化或輿論偏差，并影響社會穩(wěn)定及健康發(fā)展。關(guān)于突發(fā)事件輿論的相關(guān)研究，國內(nèi)外現(xiàn)有文獻(xiàn)主要集中于從三方面展開。其一，部分學(xué)者從突發(fā)事件輿論影響因素展開，指出突發(fā)事件輿論會受到信息
情報(bào)雜志 2022年3期2022-04-12
- 基于多視圖并行的可配置卷積神經(jīng)網(wǎng)絡(luò)加速器設(shè)計(jì)
不同模型的卷積、池化、全連接等單元；且未設(shè)計(jì)片外存儲器單元，不適合數(shù)據(jù)量大的CNN模型。Zhang等采用軟硬件協(xié)同技術(shù)設(shè)計(jì)CNN加速器，加速效果顯著，但該CNN加速器不可配置。Ayat和英偉達(dá)的NVDLA主要針對卷積層加速，未結(jié)合CNN各個運(yùn)算單元加速。Ma等結(jié)合理論原理，探索卷積層的循環(huán)展開方法。Cao設(shè)計(jì)的CNN加速器在各個運(yùn)算單元實(shí)現(xiàn)了全并行展開，對硬件平臺要求較高。綜合以上因素，本文進(jìn)行了如下研究：第一，擴(kuò)展協(xié)處理器的控制訪問接口，實(shí)現(xiàn)RISC-V
工程科學(xué)與技術(shù) 2022年2期2022-03-28
- 結(jié)合多層池化的卷積神經(jīng)網(wǎng)絡(luò)在表情識別中的應(yīng)用*
等不足，采用多層池化的方式在ResNet101模型上進(jìn)行優(yōu)化，加快了模型的收斂并提高了精度。本文在以上方法的基礎(chǔ)上對網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行改進(jìn)，將Inception結(jié)構(gòu)和殘差結(jié)構(gòu)相結(jié)合，并采用多層池化的方式將不同層的池化結(jié)果整合進(jìn)行優(yōu)化。實(shí)驗(yàn)結(jié)果表明，Inception與殘差結(jié)構(gòu)結(jié)合的網(wǎng)絡(luò)相比于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)精度更高，且加入多層池化之后效果更好。1 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)1.1 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)圖片提取的復(fù)雜性使得單一尺度的卷積核特征提取不完全，導(dǎo)致當(dāng)前層的信息丟失，精確度
電訊技術(shù) 2022年3期2022-03-27
- 卷積神經(jīng)網(wǎng)絡(luò)中的自適應(yīng)加權(quán)池化
大多利用下采樣（池化）層減小隱藏層中特征圖的尺寸，通過池化層可以獲得更大的感受野和更少的內(nèi)存消耗。目前廣泛使用的最大池化、平均池化、跨步卷積（使用步幅大于1的滑動窗口）通過在滑動窗口中采用不同下采樣策略得到池化結(jié)果。例如，LeNet-5［2］將下采樣層作為CNN 中的基本層，通過在滑動窗口中對特征值進(jìn)行求和以降低圖像的空間分辨率；VGG［3］、GoogleNet［4］和DenseNet［5］使用平均池化或最大池化作為下采樣層；ResNet［6］采用跨步卷積
軟件導(dǎo)刊 2022年3期2022-03-25
- 基于多尺度池化和范數(shù)注意力機(jī)制的遙感圖像檢索
出一種基于多尺度池化和范數(shù)注意力機(jī)制的方法，本方法從通道與空間兩個方面減少圖像背景信息的干擾，并通過獲得遙感圖像中不同尺度的目標(biāo)信息與類別信息來有效提取特征。本文的主要貢獻(xiàn)如下：(1)在通道層面上，采用不同最大池化尺寸構(gòu)建多個不同尺度的池化特征圖，將這些特征圖進(jìn)行全局均值池化統(tǒng)一尺寸后，逐像素相加各個特征圖來關(guān)注多尺度的目標(biāo)。(2)在空間層面上，將特征圖不同通道對應(yīng)相同空間位置的像素視為一組向量，通過計(jì)算多組向量的范數(shù)來表達(dá)圖像的空間信息。特征經(jīng)過空間注意
電子與信息學(xué)報(bào) 2022年2期2022-03-09
- 邊收縮池化的網(wǎng)格變分自編碼器
，從而失去了應(yīng)用池化操作時增加感受野的能力。變分自編碼器(variational auto-encoder, VAE)(Kingma和Welling，2014)作為一種生成網(wǎng)絡(luò)已廣泛應(yīng)用于各種任務(wù)，包括2維的人臉圖像修復(fù)(張雪菲 等，2020)以及3維的三角網(wǎng)格的生成、插值和瀏覽(Tan等，2018b)。翟正利等人(2019)對變分自編碼器模型及其衍生模型進(jìn)行了綜述。最初的MeshVAE(Tan等，2018b)使用全連接層，需要大量參數(shù)，泛化能力往往較弱。
中國圖象圖形學(xué)報(bào) 2022年2期2022-02-28
- 設(shè)施蔬菜病害識別中的CNN池化選擇
主要包括卷積層、池化層和全連接層三個基本操作，卷積層通過卷積核從圖像中提取有效特征[6-8]，此外卷積層后常跟一個激活函數(shù)，如線性整流單元（ReLU）[9]，以完成對網(wǎng)絡(luò)的非線性變換；池化層是卷積神經(jīng)網(wǎng)絡(luò)中常用的另一個關(guān)鍵操作，經(jīng)過池化操作可以有效降低特征圖的維數(shù)，降低計(jì)算量同時增強(qiáng)對輸入圖像變化的魯棒性，一定程度上可以減少過擬合，卷積神經(jīng)網(wǎng)絡(luò)常用的池化類型有最大池化[10]和平均池化[11]，也有一些網(wǎng)絡(luò)拋棄了池化操作，如ResNet[2]，使用跨步卷積
新一代信息技術(shù) 2021年22期2021-12-29
- 基于雙池化特征加權(quán)結(jié)構(gòu)CNN的圖像分類
與魯棒性[5]。池化操作造成特征信息丟失，卷積神經(jīng)網(wǎng)絡(luò)使用較多池化操作是導(dǎo)致特征信息不足的重要原因。針對特征信息不足的問題，孟慶祥等[6]利用池化層將得到的特征圖進(jìn)行過濾，保留重要特征，將提取出來的特征重組以形成高階語義特征進(jìn)行圖像分類，顯著提升了分類精度。張曉麗等[7]通過加權(quán)融合方法對圖像的不同特征進(jìn)行加權(quán)處理，通過多種特征融合的方式，有效提高了圖像分類的簡潔性。通過改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)的池化方式，可以達(dá)到提高特征提取準(zhǔn)確率的目的。劉夢雅等[8]通過獲取最
計(jì)算機(jī)與現(xiàn)代化 2021年11期2021-12-09
- 基于一維堆疊池化融合卷積自編碼器的HRRP目標(biāo)識別方法
學(xué)習(xí),通過卷積和池化操作來提取數(shù)據(jù)的深層結(jié)構(gòu)特征。從HRRP目標(biāo)識別的研究現(xiàn)狀來看,利用CAE進(jìn)行HRRP識別的研究很少,本研究旨在設(shè)計(jì)出性能良好的CAE網(wǎng)絡(luò),提取HRRP有效深層特征,實(shí)現(xiàn)目標(biāo)識別。為了充分利用HRRP數(shù)據(jù)的內(nèi)部結(jié)構(gòu)信息,進(jìn)一步提高雷達(dá)HRRP目標(biāo)的識別準(zhǔn)確率,本文提出了一種一維池化融合CAE(one-dimensional pooling fusion CAE, 1D PF-CAE)。在編碼階段,利用最大池化和平均池化提取特征并融合,兩
系統(tǒng)工程與電子技術(shù) 2021年12期2021-11-29
- 基于復(fù)數(shù)卷積-殘差網(wǎng)絡(luò)的雷達(dá)雜波幅度統(tǒng)計(jì)模型分類
困難[24],以池化算法實(shí)現(xiàn)為例,復(fù)數(shù)平均池化算法可以根據(jù)實(shí)數(shù)平均池化算法的定義直接在復(fù)數(shù)域擴(kuò)展得到,但復(fù)數(shù)最大池化算法卻不行。本文引入復(fù)數(shù)神經(jīng)網(wǎng)絡(luò),利用仿真雜波高分辨距離像(high resolution range profile,HRRP)復(fù)數(shù)數(shù)據(jù),對雷達(dá)雜波幅度統(tǒng)計(jì)模型分類問題進(jìn)行研究,完成了以下工作:(1)為構(gòu)建復(fù)數(shù)最大池化層,定義并改進(jìn)了復(fù)數(shù)最大池化算法,通過CV-CNN對雜波幅度統(tǒng)計(jì)模型的分類實(shí)驗(yàn),對比了兩種復(fù)數(shù)最大池化算法和復(fù)數(shù)平均池化算法
系統(tǒng)工程與電子技術(shù) 2021年11期2021-11-10
- 基于小波分解卷積神經(jīng)網(wǎng)絡(luò)的病理圖像分類①
效率的關(guān)鍵,其中池化層是CNN 最重要的組成部分之一.池化層目的在于減少圖像尺寸和參數(shù),提高計(jì)算效率,增大感受野以及提高模型的魯棒性.目前最大值池化和平均值池化是在CNN 中被廣泛使用,而這兩種傳統(tǒng)的池化方法雖然處理速度較快,但會引入邊緣光暈、模糊和塊效應(yīng).最大值池化是最常用的池化方式,由于其處理過程過于簡單,使得在激活圖上丟失了大量信息,而平均池化會對某些特征圖產(chǎn)生模糊效果[2].雖然這些池化方法是高效簡單的,但是阻礙了網(wǎng)絡(luò)學(xué)習(xí)最優(yōu)模型參數(shù)的潛力[3].
計(jì)算機(jī)系統(tǒng)應(yīng)用 2021年9期2021-10-11
- 面向文本分類的多頭注意力池化RCNN模型
層卷積和一層最大池化的結(jié)構(gòu)對文本進(jìn)行特征提取，隨后進(jìn)行分類?？笛愕热薣11]提出了textSE-ResNeXt集成模型用于文本情感分類，在其中采用了動態(tài)卷積核策略，這樣卷積操作能更好地適應(yīng)輸入文本，更有效地提取文本數(shù)據(jù)特征。張曼等人[12]將全卷積的思想引入到字符級文本分類任務(wù)中，使用卷積層替換全連接層，且將LRN層添加至卷積池化層后，在加快模型收斂速度的同時也提高了模型分類的準(zhǔn)確性。以上各類方法都使用CNN對文本進(jìn)行特征提取，其問題是卷積操作受限于卷積窗
計(jì)算機(jī)工程與應(yīng)用 2021年12期2021-06-23
- 改進(jìn)深度卷積神經(jīng)網(wǎng)絡(luò)及其在變工況滾動軸承故障診斷中的應(yīng)用
;向宙等以卷積和池化后的特征為權(quán)值對反卷積核進(jìn)行疊加,把信號逐層重構(gòu)回原信號空間,通過觀察重構(gòu)信號,解釋了卷積神經(jīng)網(wǎng)絡(luò)對信號提取的實(shí)質(zhì)[8]。深度卷積神經(jīng)網(wǎng)絡(luò)通過局部連接、權(quán)值共享和池化,不僅具有一定程度的平移不變性,還大大減少了網(wǎng)絡(luò)的參數(shù)數(shù)量來避免過擬合[9]。常用的平均池化和最大池化都存在明顯的缺點(diǎn):平均池化是區(qū)域內(nèi)每個活性值的權(quán)值相等,使得重要特征模糊化;最大池化只保留區(qū)域內(nèi)的活性最大值,拋棄區(qū)域內(nèi)其他神經(jīng)元活性值的同時必然丟失大量的信息。針對這個問
西安交通大學(xué)學(xué)報(bào) 2021年6期2021-06-07
- 跨域圖像分類中域不變細(xì)節(jié)特征提取算法
本文提出基于混合池化和樣本篩選機(jī)制的域不變細(xì)節(jié)特征提取方法(fine-tuned hybrid pooling for deep domain adaptation，F(xiàn)HPDDA)。首先，本文基于卷積神經(jīng)網(wǎng)絡(luò)提出混合池化策略，在原先的池化結(jié)果上進(jìn)一步提取全局特征和局部細(xì)節(jié)特征。其次，本文設(shè)計(jì)了一種樣本選擇機(jī)制，基于聚類思想從源域和目標(biāo)域中選取具有細(xì)節(jié)特征的樣本點(diǎn)，以學(xué)習(xí)兩域間的共有細(xì)節(jié)特征。1 相關(guān)工作WDGRL(wasserstein distance
計(jì)算機(jī)工程與設(shè)計(jì) 2021年5期2021-05-20
- 注意力分層雙線性池化殘差網(wǎng)絡(luò)的表情識別
積層、最大或平均池化層以及全連接層的傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）實(shí)現(xiàn)面部表情分類。這些方法忽略了層間部分特征交互作用與人臉表情特征學(xué)習(xí)相互關(guān)聯(lián)的事實(shí)，限制了模型的學(xué)習(xí)能力。本文添加分層雙線性池化層來集成多個跨層雙線性特征，學(xué)習(xí)面部表情分類任務(wù)中的細(xì)微差異，這有助于顯著提高面部表情識別能力。此外，面部表情識別需要特別關(guān)注帶有區(qū)分情感的重要信息的眼睛、嘴、眉毛等特定位置的細(xì)微變化。因此，可以借鑒人腦處理信
計(jì)算機(jī)工程與應(yīng)用 2020年23期2020-12-07
- 基于非對稱空間金字塔池化的立體匹配網(wǎng)絡(luò)
,引入空間金字塔池化(Spatial Pyramid Pooling,SPP)思想優(yōu)化池化方式,以充分利用圖像信息。通過構(gòu)建非對稱空間金字塔池化(Asymmectric SPP,ASPP)模型,在特征提取階段對圖像塊進(jìn)行多尺度特征提取,以期獲得更準(zhǔn)確的視差估計(jì)結(jié)果,提高匹配精度。1 相關(guān)研究基于卷積神經(jīng)網(wǎng)絡(luò)的立體匹配方法主要包括基于CNN的匹配代價(jià)學(xué)習(xí)、基于CNN的視差回歸和基于CNN的端到端視差圖獲取三類。1)基于CNN的匹配代價(jià)學(xué)習(xí)方法主要以圖像塊之間
計(jì)算機(jī)工程 2020年7期2020-07-17
- 基于多特征子空間的行人重識別
征空間進(jìn)行不同的池化。與隨機(jī)擦除通過遮擋特征圖所有通道的部分區(qū)域相比，我們的方法可以看作是遮擋某層特征圖的部分通道。我們在Market-1501數(shù)據(jù)集和DukeMTMC-reID數(shù)據(jù)集上進(jìn)行了大量的實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果表明基于多任務(wù)學(xué)習(xí)的多特征子空間方法能夠顯著提升行人重識別的性能。1)我們?yōu)樾腥酥刈R別問題提出了一個新的簡單的多任務(wù)方法，該方法是基于多特征子空間和多softmax損失函數(shù)的。2)基于上述方法，我們提出了一個新的叫作多特征子空間(Multiple
指揮控制與仿真 2020年3期2020-06-08
- 基于DAPA的卷積神經(jīng)網(wǎng)絡(luò)Web異常流量檢測方法*
不同，動態(tài)地調(diào)整池化過程。針對上述文獻(xiàn)在異常流量檢測中存在的問題，本文在傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上，構(gòu)建基于動態(tài)自適應(yīng)池化(Dynamic Adaptive Pooling Algorithm,DAPA)的卷積神經(jīng)網(wǎng)絡(luò)Web異常流量檢測模型，可以根據(jù)特征圖的不同，動態(tài)地調(diào)整池化過程，并在全連接層后連接了一個Dropout層，解決模型在流量特征提取過程中存在的過擬合問題，提高了模型的泛化能力。2 Web異常流量檢測模型設(shè)計(jì)目前，業(yè)界網(wǎng)絡(luò)異常行為檢測方法從原理上
網(wǎng)絡(luò)安全與數(shù)據(jù)管理 2020年2期2020-03-16
- 基于卷積神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)網(wǎng)絡(luò)流量異常檢測
種基于動態(tài)自適應(yīng)池化的卷積神經(jīng)網(wǎng)絡(luò)流量異常檢測模型，通過進(jìn)行池化層的分析與調(diào)整，根據(jù)各種函數(shù)映射動態(tài)調(diào)整池化過程，提高模型的通用性。圖1：卷積神經(jīng)網(wǎng)絡(luò)特點(diǎn)2.1 卷積神經(jīng)網(wǎng)絡(luò)原理傳統(tǒng)的感知神經(jīng)網(wǎng)絡(luò)通常采用全連接結(jié)構(gòu)，也就是說，每個神經(jīng)元與前后相鄰層中的每個神經(jīng)元相互連接。這種全連接結(jié)構(gòu)訓(xùn)練網(wǎng)絡(luò)上的權(quán)值和偏差等參數(shù)的數(shù)量隨著網(wǎng)絡(luò)層數(shù)的增加而迅速增加，使其容易出現(xiàn)局部優(yōu)化和梯度衰落等問題。卷積神經(jīng)網(wǎng)絡(luò)是一種典型的深度學(xué)習(xí)方法，它具有特殊的網(wǎng)絡(luò)結(jié)構(gòu)，包括局部連接
電子技術(shù)與軟件工程 2020年23期2020-03-15
- 基于改進(jìn)的 AlexNet 卷積神經(jīng)網(wǎng)絡(luò)的植物葉片識別
入兩種不同的全局池化層，通過殘差連接和全連接層將得到的特征直接輸入到 Softmax 分類器中，實(shí)現(xiàn)了兼顧速度的同時提高了識別精度。1 試驗(yàn)數(shù)據(jù)PlantVillage工程(www.plantvillage.org)給出大量的植物葉片信息，包含了各種各樣植物葉片的圖像數(shù)據(jù)。本試驗(yàn)以PlantVillage工程提供的植物葉片數(shù)據(jù)集作為試驗(yàn)數(shù)據(jù)，它包含12類不同品種的植物葉片，共計(jì)9 568張不同種類植物葉片圖像，如圖1所示。通過統(tǒng)計(jì)樣本總數(shù)以及各類別樣本分布
種子 2020年2期2020-03-12
- 煤礦井下行人檢測算法
人檢測)，并通過池化因子設(shè)計(jì)了一種動態(tài)自適應(yīng)池化方法，實(shí)現(xiàn)了針對不同池化域的自適應(yīng)池化操作，從而提高了檢測準(zhǔn)確性。實(shí)驗(yàn)結(jié)果驗(yàn)證了Faster RCNN行人檢測算法針對不同環(huán)境下圖像中的行人均具有較好的檢測效果。1 Faster RCNN行人檢測算法基于深度學(xué)習(xí)的行人檢測算法主要思想是利用卷積和池化等操作對行人圖像進(jìn)行處理，獲取卷積特征，采用全連接層作為分類器完成分類檢測。Faster RCNN行人檢測算法引入RPN(Region Proposal Netw
工礦自動化 2020年1期2020-02-05
- 池化和注意力相結(jié)合的新聞文本分類方法
文提出了一種結(jié)合池化操作和注意力機(jī)制的簡單模型,池化操作用來提取文本的有效特征,注意力機(jī)制能夠關(guān)注到文本中的關(guān)鍵信息.實(shí)驗(yàn)表明,該模型應(yīng)用于新聞文本分類任務(wù)時具有速度快且正確率高的優(yōu)勢.2 相關(guān)工作在深度學(xué)習(xí)廣泛應(yīng)用于自然語言處理領(lǐng)域之前,統(tǒng)計(jì)機(jī)器學(xué)習(xí)是文本分類中的主要方法.常見的機(jī)器學(xué)習(xí)分類算法主要有SVM[3]、樸素貝葉斯[4]、決策樹[5]等.一般來說,機(jī)器學(xué)習(xí)算法構(gòu)造的分類模型首先需要人工設(shè)計(jì)文本特征,然后訓(xùn)練模型學(xué)習(xí)特征,最后給出分類結(jié)果.在小規(guī)
小型微型計(jì)算機(jī)系統(tǒng) 2019年11期2019-12-04
- 自適應(yīng)池化卷積神經(jīng)網(wǎng)絡(luò)馬品種識別研究
取層(降采樣層、池化層、取樣層)完成的[3]。卷積層和池化層在卷積神經(jīng)網(wǎng)絡(luò)中是按先后順序出現(xiàn)的，并依次完成特征提取的工作。通過連續(xù)取征，使神經(jīng)網(wǎng)絡(luò)在對輸入樣本進(jìn)行識別時具備較高的特征學(xué)習(xí)能力。卷積層中的特征映射是選取前一網(wǎng)絡(luò)層中特征像的各角度特征，使其擁有扭轉(zhuǎn)、位移不變的特性[4]。得益于CNN的權(quán)值共享能力，因而在不同的平面間的映射可以理解為卷積的過程，計(jì)算公式如下:(1)其中，n表示網(wǎng)絡(luò)層數(shù)；K表示卷積核；Mj表示一種輸入特征圖的組合方式；b表示所有輸
計(jì)算機(jī)技術(shù)與發(fā)展 2019年10期2019-10-11
- 基于一維卷積神經(jīng)網(wǎng)絡(luò)的齒輪箱故障診斷研究
輸入層、卷積層、池化層、全連接層和輸出層，其中可設(shè)置多層卷積層和池化層[4]，提高網(wǎng)絡(luò)性能.一維卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1 所示.圖1 一維卷積神經(jīng)網(wǎng)絡(luò)示意圖Fig.1 Schematic diagram of one-dimensional convolutional neural network卷積層通過卷積操作提取輸入的特征，與數(shù)學(xué)上的卷積不同，卷積神經(jīng)網(wǎng)絡(luò)的卷積核是一個權(quán)值矩陣，卷積核對輸入局部加權(quán)求和，卷積核以一定步長遍歷一次輸入得到卷積的輸出.在卷
測試技術(shù)學(xué)報(bào) 2019年4期2019-07-18
- 基于卷積神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識別系統(tǒng)的設(shè)計(jì)
2個卷積層、2個池化層（子采樣）和全連接以及輸出層，模型結(jié)構(gòu)如圖1所示。在本文數(shù)字圖像識別中用到的卷積是二維卷積核與二維圖像做卷積操作［3］，就是卷積核滑動到二維圖像上所有位置，并在每個位置上與對應(yīng)的像素點(diǎn)做內(nèi)積。一般包括Full卷積、Same卷積和Valid卷積三種。其核心是可以減少不必要的權(quán)值連接，引入稀疏或局部連接帶來的權(quán)值共享策略大大地減少參數(shù)量，從而可以避免過擬合現(xiàn)象的發(fā)生；此外，由于卷積操作具有平移不變性，使得學(xué)到的特征具有拓?fù)鋵?yīng)性、魯棒性的
智能計(jì)算機(jī)與應(yīng)用 2019年2期2019-05-16
- 聚合CNN特征的遙感圖像檢索
采用編碼[8]和池化[9]的方法進(jìn)一步構(gòu)建為聚合特征。在遙感圖像檢索領(lǐng)域，由于目前公開的遙感數(shù)據(jù)集規(guī)模較小，CNN的參數(shù)得不到充分訓(xùn)練，因此相關(guān)研究主要集中于將CNN遷移到HRRS圖像并進(jìn)行檢索[12-14]。Napoletano[12]使用CNN中的全連接層特征進(jìn)行檢索； Zhou等[13]和Hu等[14]比較了CNN全連接層特征和基于卷積層輸出值的聚合特征，并對CNN進(jìn)行微調(diào)； Zhou等[13]還提出一種低維度特征(low dimensional C
自然資源遙感 2019年1期2019-03-29
- 基于深度學(xué)習(xí)的高分辨率遙感影像建筑物提取方法
缺失，提出自適應(yīng)池化模型，最后將建筑物特征輸入softmax分類器進(jìn)行提取。1 方法與原理1.1 主成分變換非監(jiān)督預(yù)訓(xùn)練原理(1)采用主成分變換方法最小化重構(gòu)誤差求解特征向量[11](2)式中，IH為H×H單位矩陣；V為協(xié)方差矩陣XXΤ的前H個特征向量；V可以表示輸入影像塊的主要特征。主成分變換初始化卷積神經(jīng)網(wǎng)絡(luò)的濾波器組Wh可以表示為Wh=mg1g2(Vh)h=1,2,…,H(3)式中，mg1g2(Vh)表示將向量V映射到矩陣Wh；Vh表示影像的第h主要
測繪學(xué)報(bào) 2019年1期2019-02-13
- 基于卷積神經(jīng)網(wǎng)絡(luò)和池化算法的表情識別研究
絡(luò)主要由卷積層、池化層、全連接層構(gòu)成，其中池化層的作用是對卷積層的輸出特征進(jìn)行聚合統(tǒng)計(jì)，目的就是提高特征的表征能力、減少特征維度。此外，池化層通過池化算法還可以有效避免網(wǎng)絡(luò)在訓(xùn)練過程中因參數(shù)過多、模型過于復(fù)雜產(chǎn)生的過擬合現(xiàn)象。但是傳統(tǒng)的池化算法并不能適用于所有情況，最大值池化算法未能考慮池化域中特征值之間的關(guān)系，而均值池化算法在特征信息較為集中的情況下會減弱特征信息，隨機(jī)池化算法雖然考慮了特征值之間的關(guān)系但是傳給下一層神經(jīng)網(wǎng)絡(luò)時，并未包含所有的特征信息。文
計(jì)算機(jī)技術(shù)與發(fā)展 2019年1期2019-01-21
- 基于卷積神經(jīng)網(wǎng)絡(luò)的宮頸癌細(xì)胞圖像識別的改進(jìn)算法
經(jīng)網(wǎng)絡(luò)的卷積層和池化層進(jìn)行優(yōu)化來達(dá)到提高算法識別率的目的[5],趙顯達(dá)等[6]使用了基于卷積神經(jīng)網(wǎng)絡(luò)的平均池化模型實(shí)現(xiàn)了人臉識別并取得了較好的結(jié)果,時增林等[7]使用基于卷積神經(jīng)網(wǎng)絡(luò)的最大池化模型提高了對人群計(jì)數(shù)方法的識別率.文獻(xiàn)[6]在池化過程中將池化域中所有元素都分配相同的權(quán)值,文獻(xiàn)[7]將池化域中非最大元素的權(quán)值全部舍棄.針對文獻(xiàn)[6]和文獻(xiàn)[7]在池化過程中存在容易損失大量有用信息導(dǎo)致識別率不高的問題,本文提出了一種改進(jìn)的算法.該算法基于卷積神經(jīng)網(wǎng)
中國計(jì)量大學(xué)學(xué)報(bào) 2018年4期2019-01-18
- 基于自適應(yīng)池化的行人檢測方法
絡(luò)，通常會引起多池化層導(dǎo)致小目標(biāo)行人特征信息丟失、單一池化方法導(dǎo)致行人局部重要特征信息削弱甚至丟失等，針對以上問題，基于最大值池化和平均值池化方法，提出了一種自適應(yīng)池化方法，結(jié)合通用目標(biāo)檢測器Faster R-CNN，形成了有效的行人檢測器，達(dá)到增強(qiáng)行人局部重要特征信息、保留小目標(biāo)行人有效特征信息的目的。對多個公開的行人數(shù)據(jù)集進(jìn)行大量實(shí)驗(yàn)，結(jié)果表明，與傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)行人檢測器相比，所提方法將行人檢測漏檢率降低了2%～3%，驗(yàn)證了方法的有效性。新方法改進(jìn)
河北科技大學(xué)學(xué)報(bào) 2019年6期2019-01-14
- 改進(jìn)CNN及其在船舶識別中的應(yīng)用
2]提出來多尺度池化操作，組合使用不同尺度或不同方法的池化。它們都在一定程度上提高了卷積神經(jīng)網(wǎng)絡(luò)的性能。1.2 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)常用的池化操作包括平均池化、最大池化和多尺度混合池化，它們都是在圖像局部區(qū)域進(jìn)行特征值的抽取，并沒有考慮到圖像前景對整體特征提取的影響。1.2.1 中心-擴(kuò)散池化卷積神經(jīng)網(wǎng)絡(luò)“中心-擴(kuò)散池化(center-diffusion pooling，CDP)”卷積神經(jīng)網(wǎng)絡(luò)，綜合考慮了局部特征和整體前景特征對圖像處理的影響。C
計(jì)算機(jī)工程與設(shè)計(jì) 2018年10期2018-10-24
- 圖像三維重建中的特征點(diǎn)提取
;多層神經(jīng)網(wǎng)絡(luò);池化中圖分類號： TP391.41??? 文獻(xiàn)標(biāo)識碼： A??? 文章編號： 1672-9129（2018）09-0098-02Abstract：? The technology of 3D reconstruction is the process of generating a 3D virtual scene from 2D images obtained from ordinary cameras. In this process，
數(shù)碼設(shè)計(jì) 2018年9期2018-10-20
- 基于自適應(yīng)池化的神經(jīng)網(wǎng)絡(luò)的服裝圖像識別
在模型超參數(shù)以及池化算法的糾正誤差項(xiàng)方面使用了小樣本調(diào)優(yōu)的辦法，除此之外為了進(jìn)一步提高服裝圖像的識別率在圖像預(yù)處理上增加了水平翻轉(zhuǎn)、顏色光照變化的數(shù)據(jù)擴(kuò)充方法。1 網(wǎng)絡(luò)模型分析1.1 AlexNet網(wǎng)絡(luò)結(jié)構(gòu)AlexNet在LeNet的基礎(chǔ)上把CNN的基本原理應(yīng)用到比較深的網(wǎng)絡(luò)中，其主要技術(shù)特點(diǎn)如下：1)激活函數(shù)選用ReLu(Rectified Linear Unit)，相較之前的激活函數(shù)tanh(Hyperbolic Tangent)和sigmoid，Re
計(jì)算機(jī)應(yīng)用 2018年8期2018-10-16
- 基于卷積神經(jīng)網(wǎng)絡(luò)的花朵圖片分類算法
卷積過程1.2 池化層圖3 最大池化和均值池化1.3 全連接層全連接層在整個神經(jīng)網(wǎng)絡(luò)中起分類的作用。全連接層前一層是卷積層時，全連接層可以看做是h×w的全尺寸卷積，h和w為前一層輸出的大小。如果前一層是全連接層，則轉(zhuǎn)化為卷積核為1×1的全連接。全連接層的參數(shù)數(shù)量可以占整個網(wǎng)絡(luò)的80%以上，所以全連接會導(dǎo)致嚴(yán)重的參數(shù)冗余問題，降低訓(xùn)練速度。并且全連接層為了實(shí)現(xiàn)全連接將特征值轉(zhuǎn)化為一個多維的數(shù)組，破壞了圖像的空間結(jié)構(gòu)信息，影響分類的準(zhǔn)確率。Softmax層作為
計(jì)算機(jī)與現(xiàn)代化 2018年9期2018-09-17
- 基于卷積神經(jīng)網(wǎng)絡(luò)的草莓葉部白粉病病害識別
寸選擇以及采樣層池化方法選擇入手，設(shè)計(jì)卷積神經(jīng)網(wǎng)絡(luò)模型，以實(shí)現(xiàn)對草莓葉部白粉病病害的識別。試驗(yàn)使用的計(jì)算機(jī)CPU為Intel Core i7-7700k，內(nèi)存為32 G，操作系統(tǒng)為 Windows 10，采用的框架為Tensorflow。在Tensorflow上搭建卷積神經(jīng)網(wǎng)絡(luò)模型，部分參數(shù)設(shè)置：學(xué)習(xí)率0.005、沖量0.9、權(quán)值衰減0.000 5、批處理大小64。采用正確識別率P作為結(jié)果的評價(jià)標(biāo)準(zhǔn)，計(jì)算公式如下：(1)重復(fù)使用較小的卷積核可以減少參數(shù)訓(xùn)練
江蘇農(nóng)業(yè)學(xué)報(bào) 2018年3期2018-07-06
- 用于手寫漢字識別的文本分割方法
后的文本圖片進(jìn)行池化處理，然后運(yùn)用并查集算法得到每行為一個連通區(qū)域，最后調(diào)整每行上下的孤立區(qū)域的歸屬，最終把多行文本圖片分割為單行，為后期的漢字列分割做準(zhǔn)備。此方法雖然用行分割，但也為漢字的列分割提供了新的思路。關(guān)鍵詞： 手寫漢字識別；池化；文本分割；并查集Abstract：In this paper a text segmentation method for handwritten Chinese characters is developed whi
智能計(jì)算機(jī)與應(yīng)用 2018年2期2018-05-23
- 改進(jìn)的Dropout正則化卷積神經(jīng)網(wǎng)絡(luò)*
獻(xiàn)[6]提出了在池化層運(yùn)用最大值Dropout方法。而在測試階段采用Probabilistic weighted pooling模型平均，實(shí)驗(yàn)得到了很好的效果，但該方法僅考慮了Dropout抑制的概率p和被保留的概率1-p的影響，并未考慮池化區(qū)域內(nèi)每個單元值對整個區(qū)域的影響。對此,本文提出了一種新的模型平均方法，訓(xùn)練階段使用最大值Dropout，而在測試階段結(jié)合池化區(qū)域內(nèi)單元值所占的概率和p值求解模型預(yù)測的平均值，以同樣結(jié)構(gòu)的CNN進(jìn)行實(shí)驗(yàn)并取得了更好的效
傳感器與微系統(tǒng) 2018年4期2018-04-09
- 基于矩陣2-范數(shù)池化的卷積神經(jīng)網(wǎng)絡(luò)圖像識別算法
基于矩陣2-范數(shù)池化的卷積神經(jīng)網(wǎng)絡(luò)圖像識別算法余 萍， 趙繼生(華北電力大學(xué)電子與通信工程系，河北 保定 071003)卷積神經(jīng)網(wǎng)絡(luò)中的池化操作可以實(shí)現(xiàn)圖像變換的縮放不變性，并且對噪聲和雜波有很好的魯棒性。針對圖像識別中池化操作提取局部特征時忽略了隱藏在圖像中的能量信息的問題，根據(jù)圖像的能量與矩陣的奇異值之間的關(guān)系，并且考慮到圖像信息的主要能量集中于奇異值中數(shù)值較大的幾個，提出一種矩陣2-范數(shù)池化方法。首先將前一卷積層特征圖劃分為若干個互不重疊的子塊圖像，
圖學(xué)學(xué)報(bào) 2016年5期2016-12-02
- 增強(qiáng)層次的卷積神經(jīng)網(wǎng)絡(luò)模型研究
基于隨機(jī)策略的池化層本文基于隨機(jī)池化策略構(gòu)建隨機(jī)池化層， 替代傳統(tǒng)池化層， 在保留最大池化優(yōu)勢的基礎(chǔ)上添加隨機(jī)特性， 可以更好地防止模型訓(xùn)練時出現(xiàn)過擬合.其公式如下：（1）其中為多項(xiàng)式分布位置采樣概率，為i位置的激活值，是特征映射圖第j個池化區(qū)域。隨機(jī)池化介于最大值池化和均值池化之間，相當(dāng)于在池化區(qū)域上進(jìn)行不同的形變再進(jìn)行最大池化操作，在平均意義上，同均值池化類似；在局部區(qū)域中，服從最大池化策略。3 基于側(cè)抑制機(jī)制的歸一化層側(cè)抑制機(jī)制是普遍存在于視覺系統(tǒng)
數(shù)字技術(shù)與應(yīng)用 2016年9期2016-11-09
- 基于序的空間金字塔池化網(wǎng)絡(luò)的人群計(jì)數(shù)方法
于序的空間金字塔池化網(wǎng)絡(luò)的人群計(jì)數(shù)方法時增林1葉陽東1吳云鵬1婁錚錚1視頻中的人群計(jì)數(shù)在智能監(jiān)控領(lǐng)域具有重要價(jià)值.由于攝像機(jī)透視效果、圖像背景、人群密度分布不均勻和行人遮擋等干擾因素的制約，基于底層特征的傳統(tǒng)計(jì)數(shù)方法準(zhǔn)確率較低.本文提出一種基于序的空間金字塔池化（Rank-based spatial pyramid pooling，RSPP）網(wǎng)絡(luò)的人群計(jì)數(shù)方法.該方法將原圖像分成多個具有相同透視范圍的子區(qū)域并在各個子區(qū)域分別取不同尺度的子圖像塊，采用基于序
自動化學(xué)報(bào) 2016年6期2016-08-22
- 一種卷積神經(jīng)網(wǎng)絡(luò)的圖像矩正則化策略
：卷積神經(jīng)網(wǎng)絡(luò)的池化策略包含極大池化和平均池化，極大池化選擇池化區(qū)域中的最大值，極易出現(xiàn)過抑合現(xiàn)象；平均池化對池化區(qū)域中所有元素賦予相同權(quán)重，降低了高頻分量的權(quán)重。本文提出將矩池化作為卷積神經(jīng)網(wǎng)絡(luò)的正則化策略，矩池化將幾何矩概念引入到卷積神經(jīng)網(wǎng)絡(luò)的池化過程中，首先計(jì)算池化區(qū)域的中心矩，然后根據(jù)類插值法依概率隨機(jī)地從中心矩的4個鄰域中選擇響應(yīng)值。在數(shù)據(jù)集MNIST、CIFAR10、CIFAR100上的實(shí)驗(yàn)結(jié)果表明隨著訓(xùn)練迭代次數(shù)的增加，矩池化的訓(xùn)練誤差和測試
智能系統(tǒng)學(xué)報(bào) 2016年1期2016-07-01
- 基于ArcGIS Server的池化與非池化服務(wù)研究
Server的池化與非池化服務(wù)研究程柱1?，高飛1，胡小華2(1.合肥工業(yè)大學(xué)土木與水利工程學(xué)院，安徽合肥 230009； 2.合肥市國土資源局信息中心，安徽合肥 230001)介紹了ArcGIS Server的基本知識和體系結(jié)構(gòu)，分析了ArcGIS Server中服務(wù)器對象池化與非池化服務(wù)的特點(diǎn)，并通過實(shí)例比較兩種服務(wù)之間的不同點(diǎn)以及各自優(yōu)點(diǎn)和缺點(diǎn)，指出了它們各自的應(yīng)用場合，為開發(fā)WebGIS系統(tǒng)提供參考。ArcGIS Server；WebGIS；池化
城市勘測 2010年4期2010-04-19