深度遷移學(xué)習(xí)與高光譜遙感圖像不期而遇后？

發(fā)布日期：2019-05-29 00:00 瀏覽量：10759

在過去40年不到的時(shí)間里，遙感在理論、技術(shù)和應(yīng)用上都得到了飛速的進(jìn)步，其高光譜遙感的出現(xiàn)和發(fā)展是遙感技術(shù)的一場(chǎng)革命。

相比傳統(tǒng)的多光譜技術(shù)，使本來在寬波段遙感中不可探測(cè)的物質(zhì)，在高光譜遙感中能被探測(cè)。高光譜傳感器在數(shù)百個(gè)窄波連續(xù)光譜帶中同時(shí)采集圖像，具有更精細(xì)的光譜分辨率（0.01 μm）。獲得的三維圖像數(shù)據(jù)通常包含大量可用于計(jì)算機(jī)處理的信息，其第三維的光譜波段信息對(duì)于空間域和光譜域內(nèi)的土地覆蓋監(jiān)測(cè)和測(cè)繪提供了極大的幫助。

在處理高光譜圖像分類問題上，樣本的特征往往是決定分類結(jié)果的關(guān)鍵。然而新的問題出現(xiàn)了，針對(duì)高光譜圖像分類中，樣本空間特征利用不足。通過一些學(xué)者研究得出啟發(fā)，將深層殘差網(wǎng)絡(luò)作為特征提取器運(yùn)用到高光譜圖像分類中，利用深層殘差網(wǎng)絡(luò)更深的網(wǎng)絡(luò)結(jié)構(gòu)，挖掘樣本鄰域空間中的深層特征，實(shí)驗(yàn)證明此特征具有更好的可分性。

同時(shí)，針對(duì)深層卷積網(wǎng)絡(luò)有監(jiān)督訓(xùn)練的過程中，由于有標(biāo)簽樣本不足導(dǎo)致的過擬合現(xiàn)象，提出基于深度遷移學(xué)習(xí)方法的訓(xùn)練策略，通過遷移網(wǎng)絡(luò)在另一相關(guān)數(shù)據(jù)集中訓(xùn)練得到的網(wǎng)絡(luò)淺層卷積核參數(shù)，再使用目標(biāo)數(shù)據(jù)集對(duì)深層卷積核參數(shù)進(jìn)行微調(diào)，提高了殘差網(wǎng)絡(luò)在少量有標(biāo)簽樣本情況下的分類效果。

基于深層殘差網(wǎng)絡(luò)的高光譜圖像分類

數(shù)據(jù)預(yù)處理

與以往所使用的四鄰域、八鄰域方法不同，為了充分利用樣本鄰域內(nèi)的空間信息，本文選擇對(duì)更大的鄰域空間進(jìn)行特征提取。首先使用主成分分析算法[對(duì)整個(gè)高光譜圖像進(jìn)行數(shù)據(jù)降維，以達(dá)到去除波段圖像之間相關(guān)性的目的。

提取深層特征

在使用深層卷積網(wǎng)絡(luò)處理分類任務(wù)的方法中，其選用的網(wǎng)絡(luò)結(jié)構(gòu)對(duì)分類效果影響很大，對(duì)于不同的網(wǎng)絡(luò)結(jié)構(gòu)，其分類效果也盡然不同。深層殘差網(wǎng)絡(luò)在普通圖像分類任務(wù)中，已經(jīng)取得了極大的成功。

為了提取更深層此的空間特征，選用 Resnet-50 深層殘差網(wǎng)絡(luò)模型，對(duì)于 Resnet-50 網(wǎng)絡(luò)結(jié)構(gòu)，深層特征是一個(gè)2 048維的向量。最后，基于樣本的深層特征，訓(xùn)練一個(gè)支持向量機(jī)（SVM），以驗(yàn)證卷積特征相對(duì)于光譜特征，Gabor特征具有更好的可分性。

網(wǎng)絡(luò)頂層卷積層提取的深層特征對(duì)于目標(biāo)數(shù)據(jù)集是特定的，為保證網(wǎng)絡(luò)模型在目標(biāo)數(shù)據(jù)集中的分類精度，網(wǎng)絡(luò)深層卷積核參數(shù)則在目標(biāo)數(shù)據(jù)集中進(jìn)行微調(diào)。

將較深層的網(wǎng)絡(luò)參數(shù)及最后的輸出層參數(shù)進(jìn)行隨機(jī)初始化，通過少量目標(biāo)數(shù)據(jù)集有標(biāo)簽數(shù)據(jù)對(duì)這些參數(shù)進(jìn)行繼續(xù)訓(xùn)練。整個(gè)過程可看作網(wǎng)絡(luò)將在源數(shù)據(jù)集中學(xué)習(xí)到的先驗(yàn)知識(shí)遷移到目標(biāo)數(shù)據(jù)集中，一定程度地避免了過擬合現(xiàn)象，同時(shí)也保證了對(duì)目標(biāo)數(shù)據(jù)特有特征的學(xué)習(xí)。

有學(xué)者王立偉等人通過實(shí)驗(yàn)使用兩個(gè)真實(shí)高光譜圖像數(shù)據(jù)集對(duì)提出的方法進(jìn)行驗(yàn)證，對(duì)比不同鄰域大小對(duì)分類效果的影響，以及無監(jiān)督提取的深層特征對(duì)分類的影響，遷移不同的網(wǎng)絡(luò)參數(shù)對(duì)分類的影響，證明挖掘高光譜圖像樣本鄰域空間的深層特征，具有更強(qiáng)的判別性，并能與原光譜特征產(chǎn)生很好的互補(bǔ)性。充分說明在普通圖像數(shù)據(jù)集上充分訓(xùn)練的深度卷積網(wǎng)絡(luò)有助于高光譜分類任務(wù)。

提出基于模型的遷移學(xué)習(xí)策略，結(jié)合網(wǎng)絡(luò)在一個(gè)源數(shù)據(jù)集中預(yù)訓(xùn)練的底層卷積核參數(shù)，再通過目標(biāo)數(shù)據(jù)集微調(diào)網(wǎng)絡(luò)高層卷積核參數(shù)，使模型在使用少量有標(biāo)簽樣本的情況下取得了更好的分類效果。

但是新的問題還需要我們?nèi)ジ倪M(jìn)，比如在深度殘差網(wǎng)路中存在的多種網(wǎng)絡(luò)結(jié)構(gòu)配置還有待比對(duì)。遷移學(xué)習(xí)中，如何解決在不同數(shù)據(jù)集中同類別樣本存在的特征差異性問題也有待探索。

版權(quán)聲明：文章來源于網(wǎng)絡(luò)，登載此文出于傳遞更多信息之目的，版權(quán)歸原作者及刊載媒體所有，如本文中圖片或文字侵犯您的權(quán)益，請(qǐng)聯(lián)系我們。