傅向華 馮博琴 馬兆豐 何 明
摘要:基于負相關異構網絡,提出了一種增量構造異構神經網絡集成(NNE)的方法.該方法在訓練成員網絡時,不僅調整網絡的連接權值,而且動態(tài)調整網絡的結構,從而在提高單個網絡精度的同時增加各成員網絡之間的差異度,減小網絡集成的泛化誤差.該方法包括構造最佳異構網絡(BHNN)和構造異構網絡集成(HNNE)兩個部分,BHNN基于負相關學習動態(tài)構造多個最佳網絡,HNNE利用訓練好的最佳網絡增量地構造異構NNE.使用網絡泛化誤差和集成泛化誤差,整個集成過程可自動完成,無需預先確定成員網絡的結構.分別對回歸和分類問題進行了實驗,相對于單個網絡,該方法在測試數據集上的錯誤率降低了17%~85%,與已有的Boosting、Bagging等網絡集成方法相比,錯誤率也有不同程度的改善.
關鍵詞:神經網絡集成;負相關學習;構造性神經網絡;增量構造
中圖分類號:TPl8文獻標識碼:A文章編號:0253-987X(2004)08-0796—04