付清华
(西华师范大学 教育学院,四川 南充)
花卉识别是典型的细粒度识别,需要模型具备较强的类间和类内识别能力。目前深度学习在计算机视觉图像分类[1-2]方面的应用已经有了巨大的进展,使用先进的深度学习模型可以获得更好的效果。而对于较小的数据集,利用预先训练好的深度神经网络作为基础模型进行迁移学习同样可以取得良好效果。
本文主要研究的内容如下:(1)解释花卉图像分类识别的方法;
(2)微调两组预训练网络模型进行迁移学习;
(3)对比分析两组模型的性能。
1.1.1 VGGNet
VGG[3]网络用5 个组的卷积和2 层全连接层来提取特征,1 层全连接层用来输出并分类。VGG 使用小尺寸卷积核和池化层组成基础模块,通过堆叠基础模块构造出深度卷积神经网络。
1.1.2 ResNet
ResNet 网络主要由残差块组成,堆叠残差块可以加深网络的同时提高性能。只要做卷积,特征就会损失,残差块添加一个捷径连接,给予特征损失一定的补偿以增强特征的传递,使得更深的网络仍能得到更好的训练。
1.2.1 计算机视觉中的迁移学习
计算机视觉领域经常会用到迁移学习,如果从头或从随机初始化权重开始训练模型,往往耗费较长时间且需大量GPU 的支持。但是如果识别任务存在数据、任务或模型上的共性,就可以利用训练好的网络权重作为新模型初始化权重,较快得到理想性能。
1.2.2 微调Fine-tuning
新建迁移学习模型的过程,实际上是利用预训练模型进行微调的过程。设置include_top = False,得到不包括顶层用于分类的网络。设置trainable = False,使部分层在训练中其参数不会被更改,之后再加上特定的全连接层并重新训练权重得到特定的输出。
VGG16 模型用途比较广泛,通过ImageNet 大型数据库也做了相关训练,选用VGG16 作为建模基础,下载预先训练好的模型,部分层进行复用。如图1 所示,前面卷积池化组Conv_layers 的结构和权重都直接进行复用,并冻结这些层的权重,之后在网络尾部新建全连接层。
图1 基于VGG16 的模型示意
ResNet50[4]以在各种图像分类任务中取得显著效果而闻名。实验用其作为预训练模型,建立分类模型。同样也冻结部分权重,新建全连接层,利用Softmax 输出类别,训练部分参数,模型结构如图2 所示。
图2 基于ResNet50 的模型示意
数据集选用Oxford 17 Flowers,该数据集有17类花卉,每类含80 张不同图片,一共1 360 张,是花卉领域最具代表性的数据集之一[5]。实验首先将花卉集随机按7:1 划分为训练集和验证集。其次,图像分辨率不统一,设置shape 进行处理。最后,由于数据集较小,使用ImageDataGenerator 对图片进行数据增强[6]。
选取VGG16 及ResNet50 作为实验模型中的特征提取器,新建模型,修改部分主要采用批归一化Batch Normalization、丢失Dropout 和Softmax[7]分类算法及自适应矩估计Adam 优化器[8]。模型需要设置轮数epoch,设置过小会导致训练未达收敛就停下来,过大则容易过拟合。因此引入EarlyStopping 类,如果训练中误差不断上升,模型会自动在相应的迭代次数停止训练。
在相同环境下,进行对比实验。VGG16 和ResNet50 两组模型的准确率和损失曲线如图3 所示。
图3 模型评估曲线
模型训练和测试准确率如表1 所示。
表1 模型训练结果
结果显示,微调后的VGG16 模型经过大约70 次迭代后提前终止训练,此时模型准确率和损失曲线均已变得平缓,基本达到收敛,测试准确率最终达到了86.42%,损失值降到了0.84。同样,ResNet50 模型大约45 次迭代后也提前终止训练,其测试准确率达到了88.54%,损失值降到0.44。可以看出两组模型均取得不错的分类效果,对比来看的话,ResNet50 微调模型的精度要高于VGG16,其损失低于VGG16,收敛速度快于VGG16,这表明微调后的ResNet50 模型在本次实验中更好地拟合花卉数据,其模型性能更加良好。
实验最后进行可视化分析。相同输入下微调后的VGG16 模型预测结果如图4 所示,除第四张图像外其他分类正确。如图5 所示,ResNet50 模型分类全部正确,模型实现了非常理想的性能效果。
图4 VGG16 模型预测示例
图5 ResNet50 模型预测示例
本文使用卷积神经网络模型以及迁移学习进行了花卉识别,取得了不错的识别效果。结果显示,ResNet50 微调模型的效果更佳,相较VGG16 微调模型来说准确率提升了2%左右。实验验证了迁移学习在图像识别特别是小数据集方面是可行的。
猜你喜欢微调花卉卷积李鱓·花卉十二开读者欣赏(2022年12期)2023-01-10基于3D-Winograd的快速卷积算法设计及FPGA实现北京航空航天大学学报(2021年9期)2021-11-02三招搞定花卉病虫害中老年保健(2021年5期)2021-08-24《花卉之二》鸭绿江·下半月(2019年12期)2019-10-21从滤波器理解卷积电子制作(2019年11期)2019-07-04一种新型微调挤塑模具的设计及应用电线电缆(2018年2期)2018-05-19基于傅里叶域卷积表示的目标跟踪算法北京航空航天大学学报(2018年1期)2018-04-20灵活易用,结合自动和手动微调达到好效果 StormAudio ISP 3D.16 ELITE/PA 16 ELITE家庭影院技术(2017年10期)2017-11-23水晶泥花卉栽培技术现代园艺(2017年11期)2017-06-28一种基于卷积神经网络的性别识别方法电视技术(2014年19期)2014-03-11扩展阅读文章
推荐阅读文章
恒微文秘网 https://www.sc-bjx.com Copyright © 2015-2024 . 恒微文秘网 版权所有
Powered by 恒微文秘网 © All Rights Reserved. 备案号:蜀ICP备15013507号-1