基于目标检测的卷积神经网络模型压缩算法研究
近年来,卷积神经网络(Convolutional Neural Network,CNN)已然成为了计算机视觉领域的主要方法,相比传统算法取得了突破性的进展。然而,卷积神经网络往往拥有巨大的参数量和计算量,限制了其在嵌入式等“边缘”设备上应用的问题。本论文中,针对卷积神经网络计算量大和参数冗余的问题,以目标检测算法(Faster RCNN)为研究模型进行压缩,提出基于统计量聚类的剪枝方法,同时结合张量分解的方法对模型进行压缩,分析了秩的选取对混合压缩效果的影响,本文研究内容主要包括:(1)针对Faster RCNN算法在PASCAL VOC数据集检测精度改进,以提高在目标大小差异较大的类别物体召回率,本文提出了多尺度区域生成网络,增强了每个锚框中的前景特征信息,提高了算法的候选框生成质量和检测精度。(2)针对卷积神经网络计算量大和参数冗余的问题,本文研究了基于统计量聚类的结构化剪枝方法,对剪枝而言,一个关键性但目前仍没有解决的问题是参数的“相对重要性”评价,它对剪枝后的模型性能有着决定性影响,首先,分析了Faster RCNN模型每层卷积核在均值、方差上的分布,通过聚类的方式把每个卷积核的“贡献度”分为两类,其次,比较每类卷积核的统计和大小,剪枝过程中剪除贡献度较小的一类卷积核。(3)网络剪枝方法中存在剪除了一些重要的卷积核现象,提出一种剪枝方法结合张量分解的混合压缩方法,在低维卷积层采取剪枝方法,高维卷积层分解为三个级联卷积层低秩近似表示。实验结果分析表明,结合张量分解的剪枝方法,有效地减少了Faster RCNN卷积层的参数量与计算量,提升了单独采用剪枝后的模型准确度,卷积层参数量压缩率为54%且在PASCAL VOC测试集的精度几乎保持不变,同时在树莓派4B系统上达到1.4倍的前向计算加速。
- 作者：
- 巩凯强
- 学位授予单位：
- 北方民族大学
- 授予学位：
- 硕士
- 学位年度：
- 2020年
- 导师姓名：
- 张春梅
- 中图分类号：
- TP391.41；TP183
- 关键词：
- 卷积神经网络；目标检测；剪枝；张量分解；树莓派4B
-
- 基金项目：
- 宁夏回族自治区科学技术厅"基于机器视觉的电梯应急救援服务处置平台"项目%北方民族大学研究生创新项目,项目编号:YCX19063