本技术涉及人工智能和深度学习技术,旨在推出一种自适应适配层驱动的小样本持续学习解决方案。该方法通过预训练线性权重的奇特机制,实现对小样本数据的高效学习,以适应不断变化的学习环境。
背景技术
本部分的陈述仅仅是提供了与本发明相关的背景技术信息,不必然构成在先技术。
小样本持续学习能够通过有限的数据学习新类别的同时保护已有知识。在实际应用中,例如自适应推荐系统和动态环境中的机器人导航,小样本持续学习算法需要保证模型在有限资源下有效适应新信息,同时不影响已有知识的稳定性。现有方法在不同适配阶段通常使用固定的网络层进行微调或插入适配器,未能考虑不同网络层对旧知识的保留能力在持续学习过程中是动态变化的。随着新任务的不断引入,不同层的适应性和对旧知识的敏感度也会发生变化,导致手动或固定的层选择策略难以在适配新任务与保留旧知识之间取得最优平衡,从而影响小样本持续学习模型的性能,最终削弱了小样本持续学习模型的分类准确性。
实现思路