深度遷移學習與高光譜遙感圖像不期而遇后？

發(fā)布日期：2019-05-29 00:00 瀏覽量：10358

在過去40年不到的時間里，遙感在理論、技術和應用上都得到了飛速的進步，其高光譜遙感的出現(xiàn)和發(fā)展是遙感技術的一場革命。

相比傳統(tǒng)的多光譜技術，使本來在寬波段遙感中不可探測的物質(zhì)，在高光譜遙感中能被探測。高光譜傳感器在數(shù)百個窄波連續(xù)光譜帶中同時采集圖像，具有更精細的光譜分辨率（0.01 μm）。獲得的三維圖像數(shù)據(jù)通常包含大量可用于計算機處理的信息，其第三維的光譜波段信息對于空間域和光譜域內(nèi)的土地覆蓋監(jiān)測和測繪提供了極大的幫助。

在處理高光譜圖像分類問題上，樣本的特征往往是決定分類結(jié)果的關鍵。然而新的問題出現(xiàn)了，針對高光譜圖像分類中，樣本空間特征利用不足。通過一些學者研究得出啟發(fā)，將深層殘差網(wǎng)絡作為特征提取器運用到高光譜圖像分類中，利用深層殘差網(wǎng)絡更深的網(wǎng)絡結(jié)構(gòu)，挖掘樣本鄰域空間中的深層特征，實驗證明此特征具有更好的可分性。

同時，針對深層卷積網(wǎng)絡有監(jiān)督訓練的過程中，由于有標簽樣本不足導致的過擬合現(xiàn)象，提出基于深度遷移學習方法的訓練策略，通過遷移網(wǎng)絡在另一相關數(shù)據(jù)集中訓練得到的網(wǎng)絡淺層卷積核參數(shù)，再使用目標數(shù)據(jù)集對深層卷積核參數(shù)進行微調(diào)，提高了殘差網(wǎng)絡在少量有標簽樣本情況下的分類效果。

基于深層殘差網(wǎng)絡的高光譜圖像分類

數(shù)據(jù)預處理

與以往所使用的四鄰域、八鄰域方法不同，為了充分利用樣本鄰域內(nèi)的空間信息，本文選擇對更大的鄰域空間進行特征提取。首先使用主成分分析算法[對整個高光譜圖像進行數(shù)據(jù)降維，以達到去除波段圖像之間相關性的目的。

提取深層特征

在使用深層卷積網(wǎng)絡處理分類任務的方法中，其選用的網(wǎng)絡結(jié)構(gòu)對分類效果影響很大，對于不同的網(wǎng)絡結(jié)構(gòu)，其分類效果也盡然不同。深層殘差網(wǎng)絡在普通圖像分類任務中，已經(jīng)取得了極大的成功。

為了提取更深層此的空間特征，選用 Resnet-50 深層殘差網(wǎng)絡模型，對于 Resnet-50 網(wǎng)絡結(jié)構(gòu)，深層特征是一個2 048維的向量。最后，基于樣本的深層特征，訓練一個支持向量機（SVM），以驗證卷積特征相對于光譜特征，Gabor特征具有更好的可分性。

網(wǎng)絡頂層卷積層提取的深層特征對于目標數(shù)據(jù)集是特定的，為保證網(wǎng)絡模型在目標數(shù)據(jù)集中的分類精度，網(wǎng)絡深層卷積核參數(shù)則在目標數(shù)據(jù)集中進行微調(diào)。

將較深層的網(wǎng)絡參數(shù)及最后的輸出層參數(shù)進行隨機初始化，通過少量目標數(shù)據(jù)集有標簽數(shù)據(jù)對這些參數(shù)進行繼續(xù)訓練。整個過程可看作網(wǎng)絡將在源數(shù)據(jù)集中學習到的先驗知識遷移到目標數(shù)據(jù)集中，一定程度地避免了過擬合現(xiàn)象，同時也保證了對目標數(shù)據(jù)特有特征的學習。

有學者王立偉等人通過實驗使用兩個真實高光譜圖像數(shù)據(jù)集對提出的方法進行驗證，對比不同鄰域大小對分類效果的影響，以及無監(jiān)督提取的深層特征對分類的影響，遷移不同的網(wǎng)絡參數(shù)對分類的影響，證明挖掘高光譜圖像樣本鄰域空間的深層特征，具有更強的判別性，并能與原光譜特征產(chǎn)生很好的互補性。充分說明在普通圖像數(shù)據(jù)集上充分訓練的深度卷積網(wǎng)絡有助于高光譜分類任務。

提出基于模型的遷移學習策略，結(jié)合網(wǎng)絡在一個源數(shù)據(jù)集中預訓練的底層卷積核參數(shù)，再通過目標數(shù)據(jù)集微調(diào)網(wǎng)絡高層卷積核參數(shù)，使模型在使用少量有標簽樣本的情況下取得了更好的分類效果。

但是新的問題還需要我們?nèi)ジ倪M，比如在深度殘差網(wǎng)路中存在的多種網(wǎng)絡結(jié)構(gòu)配置還有待比對。遷移學習中，如何解決在不同數(shù)據(jù)集中同類別樣本存在的特征差異性問題也有待探索。