近日,我院赵丹培老师团队连续在人工智能领域国际顶级学术期刊《IEEE Transactions on Pattern Analysis and Machine Intelligence》(以下简称IEEE TPAMI,2024年影响因子20.8)发表了三篇研究成果,北航为第一完成单位。
这一系列研究主要面向终身学习/持续学习与遥感技术的交叉应用,不仅为持续学习理论的发展注入了新的动力,也为大规模遥感星座的在轨协同解译与自主进化能力的提升提供了理论支撑。持续学习,也称终身学习,突破了传统深度学习方法仅能在预先定义的任务或数据集上进行推理的限制,能够针对不断新增的任务或数据进行自主更新。该领域技术能够驱动深度学习模型朝着自主化、智能化和类脑化方向发展,为高层次人工智能理论和技术的发展奠定基础。
针对持续学习技术中对旧数据依赖程度高的问题,赵丹培老师团队提出无数据回放条件下的持续语义分割方法。通过研究持续学习中的灾难性遗忘和语义漂移问题的内在数学机理,针对类别增量持续语义分割任务提出了一种基于多层级知识蒸馏和非对称区域对比学习的模型增量更新方法,克服灾难性遗忘难点,能够在无数据回放的条件下实现模型的自主更新。所提出的模型在通用数据集和遥感数据集上均取得了领先的性能表现。(论文链接:https://ieeexplore.ieee.org/abstract/document/10120962)
图 1 论文简介与算法效果
受类脑持续感知模式启发,赵丹培老师团队从对国画美学的思考出发,提出了一种基于人类认知模式启发的可解释的持续语义分割模型,能够在少样本条件下实现有效的增量学习。基于类脑感知模式中的神经相关性模式的数学建模,构建可解释性强的解耦知识蒸馏策略,通过建立语义不变性和样本相关性的分层蒸馏模型,能够在少量新增数据条件下进行模型的自主更新,实现在10%的数据供给条件下达到91%的持续学习效果,模型综合训练效率提升10倍以上。(论文链接:https://ieeexplore.ieee.org/abstract/document/10520832)
图 2 论文简介与算法效果
在上述研究基础上,赵丹培老师团队发表领域内首篇持续语义分割综述。该论文面向分割任务的终身学习综述,首次涵盖四种任务模式,两类技术途径,五种算法设计,十四类模型架构,建立一个开源的项目主页,支持持续学习算法的构建与应用。该综述全面调研了持续语义分割领域的挑战、方法、数据集、定性定量评价、交叉学科应用以及未来发展趋势等,可为相关领域的研究人员提供重要参考和启发,为终身学习领域的发展提供研究路线和技术基础。(论文链接:https://ieeexplore.ieee.org/abstract/document/10643308)
图 3 论文简介与主要内容
IEEE TPAMI期刊由国际电气和电子工程师协会(IEEE)创办,是计算机视觉、模式识别和人工智能领域公认的顶级国际期刊,也是中国计算机学会(CCF)推荐的A类期刊,在中国计算机学会认定的人工智能领域A类期刊中排名第一,五年平均影响因子为22.2,在计算机科学与人工智能领域具有权威影响力。
这三篇论文由我院赵丹培副教授和2022级博士研究生苑博等完成。论文均围绕基于持续学习的图像解译任务展开研究,为终身学习理论在图像分割、感知和认知领域的应用奠定了基础,也为更高层次的人工智能在遥感图像持续解译领域提供了重要的理论依据和引用价值。上述研究工作得到了国家自然科学基金(No.62271018)的资助。