深度迁移学习与高光谱遥感图像不期而遇后？

发布日期：2019-05-29 00:00 浏览量：10424

在过去40年不到的时间里，遥感在理论、技术和应用上都得到了飞速的进步，其高光谱遥感的出现和发展是遥感技术的一场革命。

相比传统的多光谱技术，使本来在宽波段遥感中不可探测的物质，在高光谱遥感中能被探测。高光谱传感器在数百个窄波连续光谱带中同时采集图像，具有更精细的光谱分辨率（0.01 μm）。获得的三维图像数据通常包含大量可用于计算机处理的信息，其第三维的光谱波段信息对于空间域和光谱域内的土地覆盖监测和测绘提供了极大的帮助。

在处理高光谱图像分类问题上，样本的特征往往是决定分类结果的关键。然而新的问题出现了，针对高光谱图像分类中，样本空间特征利用不足。通过一些学者研究得出启发，将深层残差网络作为特征提取器运用到高光谱图像分类中，利用深层残差网络更深的网络结构，挖掘样本邻域空间中的深层特征，实验证明此特征具有更好的可分性。

同时，针对深层卷积网络有监督训练的过程中，由于有标签样本不足导致的过拟合现象，提出基于深度迁移学习方法的训练策略，通过迁移网络在另一相关数据集中训练得到的网络浅层卷积核参数，再使用目标数据集对深层卷积核参数进行微调，提高了残差网络在少量有标签样本情况下的分类效果。

基于深层残差网络的高光谱图像分类

数据预处理

与以往所使用的四邻域、八邻域方法不同，为了充分利用样本邻域内的空间信息，本文选择对更大的邻域空间进行特征提取。首先使用主成分分析算法[对整个高光谱图像进行数据降维，以达到去除波段图像之间相关性的目的。

提取深层特征

在使用深层卷积网络处理分类任务的方法中，其选用的网络结构对分类效果影响很大，对于不同的网络结构，其分类效果也尽然不同。深层残差网络在普通图像分类任务中，已经取得了极大的成功。

为了提取更深层此的空间特征，选用 Resnet-50 深层残差网络模型，对于 Resnet-50 网络结构，深层特征是一个2 048维的向量。最后，基于样本的深层特征，训练一个支持向量机（SVM），以验证卷积特征相对于光谱特征，Gabor特征具有更好的可分性。

网络顶层卷积层提取的深层特征对于目标数据集是特定的，为保证网络模型在目标数据集中的分类精度，网络深层卷积核参数则在目标数据集中进行微调。

将较深层的网络参数及最后的输出层参数进行随机初始化，通过少量目标数据集有标签数据对这些参数进行继续训练。整个过程可看作网络将在源数据集中学习到的先验知识迁移到目标数据集中，一定程度地避免了过拟合现象，同时也保证了对目标数据特有特征的学习。

有学者王立伟等人通过实验使用两个真实高光谱图像数据集对提出的方法进行验证，对比不同邻域大小对分类效果的影响，以及无监督提取的深层特征对分类的影响，迁移不同的网络参数对分类的影响，证明挖掘高光谱图像样本邻域空间的深层特征，具有更强的判别性，并能与原光谱特征产生很好的互补性。充分说明在普通图像数据集上充分训练的深度卷积网络有助于高光谱分类任务。

提出基于模型的迁移学习策略，结合网络在一个源数据集中预训练的底层卷积核参数，再通过目标数据集微调网络高层卷积核参数，使模型在使用少量有标签样本的情况下取得了更好的分类效果。

但是新的问题还需要我们去改进，比如在深度残差网路中存在的多种网络结构配置还有待比对。迁移学习中，如何解决在不同数据集中同类别样本存在的特征差异性问题也有待探索。