基于神经网络架构搜索的医学超声图像分类和分割
医学超声是一种在临床实践中广泛应用的成像模态,因其实时、廉价、无害等独特的优点,发展迅速。近年来,随着深度学习在计算机视觉领域的发展,超声图像分析中深度学习也得到广泛的应用,并取得了巨大的成功。如在病灶/结节分类,器官分割,胎儿标准面检测等任务中,基于深度学习的方法都取得了超越传统手动特征提取的方法的性能。然而传统深度学习中采用的深度神经网络多通过专家手动设计,这是一个试错的过程,高度依赖专家经验,耗时耗力。且往往手工设计的深度神经网络存在较大的冗余,如参数较多,模型较大等。医学图像分析领域的深度神经网络设计多借鉴自然图像处理中的成功经验,如Resnet和mask-RCNN,并利用迁移学习应用到特定的分析任务上,但同样存在类似问题。自动化机器学习旨在减少数据驱动的深度学习项目中的人工成本,将数据预处理、网络结构选择、超参数优化等模块自动化。作为其中的一部分,神经网络架构搜索得到越来越多的关注。神经网络架构搜索即在指定任务和数据集上,从神经网络架构参数空间中选择一套参数使得得到的神经网络具有较高的性能,较少的参数。本论文提出一种混合神经网络架构搜索方法,将神经网络架构自动搜索与传统神经网络架构经验设计相结合,融合迁移学习与梯度下降搜索算法。在网络架构搜索过程中,将训练数据集分成训练集和验证集,通过双重优化迭代更新网络权重参数和网络结构参数。搜索策略上,利用渐进式搜索方法,逐步增加网络深度,降低搜索空间冗余,提高搜索效率。本论文分别在超声图像中的肝包虫病分类和卵巢卵泡分割两种基础任务上进行了实验验证。在分类任务中,首先分析baseline网络各个模块的参数量和运行时资源占用,将冗余较多的模块替换成由基础网络单元Cell叠加的超网络,在Cell操作集合中加入新提出的Mixture convolution扩展搜索空间。在验证阶段,利用Dense连接构成Dense Cell提高梯度传导效率。在分割任务中,以轻量化网络DeepLab-v3+为基础利用NAS方法搜索Decoder部分的网络架构,通过对ASPP多尺度融合模块进行扩展,构成ASPP Cell进一步提高特征融合能力。综合实验结果表明,在分类任务上,混合神经网络架构搜索使得搜索得到的网络相对于基础网络,参数减少了50%,分类F1分数提高了1%,且在融入传统Dense连接思想后,性能进一步提升。在卵巢卵泡分割任务上,该方法使得网络参数在基础轻量网络基础上减少50%,得到的分割网络参数约为12M,且分割的dice系数提高了0.5%。神经网络架构搜索具有超越人手工设计的网络的性能,将是接下来深度学习中神经网络架构设计的趋势和热点。本研究尝试将其应用于医学超声图像分析,并取得了不错的结果,这显示出该方法的先进性和较大的发展潜力。
- 作者：
- 李锐
- 学位授予单位：
- 深圳大学
- 授予学位：
- 硕士
- 学位年度：
- 2020年
- 导师姓名：
- 倪东
- 中图分类号：
- R445.1；TP183；TP391.41
- 关键词：
- 神经网络架构搜索；医学超声；分类；分割；深度学习
-