本技术涉及图像分类技术领域,尤其涉及基于蒸馏元学习的罕见眼底病OCT图像分类方法及系统。基于残差模块、全连接层分别搭建用于视网膜OCT图像分类的教师网络和学生网络;构建常见眼底病训练集,对教师网络进行元训练;随机构造常见病小样本训练任务,基于蒸馏元学习训练策略,对教师网络和学生网络进行联合训练,引入注意引导蒸馏模块,并采用温度系数自适应方法,训练学生在注意力值较高的像素和通道中自适应地学习教师的特征;构建罕见眼底病训练集,对学生网络进行微调,得到适用于罕见病的小样本分类网络模型;将OCT图像输入到罕见病小样本分类网络模型中,得到病变类型的分类结果。
背景技术
视网膜是人眼的重要组成部分,视网膜的健康对于人类的视觉系统至关重要。任何视网膜的损伤、疾病或异常都可能导致眼部问题或视力障碍。光学相干断层扫描(Optical Coherence Tomography,OCT)技术在眼科领域被广泛应用于视网膜疾病的诊断。视网膜OCT图像的自动分类能够有效帮助医生对患者进行筛查、诊断和随访。目前卷积神经网络已广泛应用于医学图像领域,为一些常见疾病的自动筛查提供了帮助。但是对于病例量较少的罕见疾病,传统的深度学习方法无法获得很好的效果。
小样本学习(Few Shot Learning,FSL)在图像分类、目标检测和语义分割等众多领域引起了广泛关注。其中一个很重要的原因是深度学习的训练依赖于大量的标注数据。在某些实际应用中,例如罕见疾病、动物、植物等领域,获取足够数量的样本是非常困难的。小样本学习的目标是在仅使用少量标记样本的情况下识别新类别。事实上,小样本学习的出现是受到了人类学习机制的启发。人类在面对新任务或新类别时,通常能够从有限的样本中快速学习和推广知识。这种能力激发了研究人员开展小样本学习的研究,以使机器学习方法能够模拟人类的学习方式。
元学习方法是处理小样本学习问题的一个重要思路,其核心思想是让模型从过去的知识和经验中学习分析和解决问题的能力,从而指导新任务的学习过程。通过这种方式,模型可以在面对新任务时仅使用少量的样本数据就能够快速适应和解决问题。模型无关元学习(Model-Agnostic Meta-Learning,MAML)是元学习最经典的方法之一。该方法的核心在于最大化损失函数对新任务初始化权重的敏感性。无论采用何种模型,都沿着每个任务的梯度向量和的方向优化权重,并为新任务估算模型最佳权重,使其在新任务上取得良好的效果。此后,很多学者对MAML进行了多方面的优化和改进。
实现思路