Exploring a novel data-and parameter-efficient fine-tuning method for robust face recognition

doi:10.1016/j.patcog.2026.114187

Exploring a novel data-and parameter-efficient fine-tuning method for robust face recognition

2026-09-29

0

PRE

AI

DOI：10.1016/j.patcog.2026.114187

原文链接

原文求助

摘要

En 中文

尽管人脸识别模型在理想条件下表现出鲁棒性，但在遮挡等真实场景中仍面临显著挑战。对在正常场景下训练的模型进行全量微调以提升在挑战性条件下的性能，往往因高计算成本、数据稀缺和灾难性遗忘而效果不佳。因此，探索人脸识别任务的高效迁移策略具有重要意义。受参数高效微调技术的启发，本研究将低秩适配器（LoRA）应用于人脸识别任务，专门探索针对具有领域漂移鲁棒性的遮挡场景的高效人脸识别迁移策略。首先，我们观察到并验证了原始LoRA存在组件不平衡问题，导致训练不足。为解决此问题，我们提出了一种名为LoRA动态学习率（Dynamic L2oR2A）的新方法。通过利用不同训练批次数据的统计信息，Dynamic L2oR2A自适应调整局部学习率，从而加速训练过程。其次，我们引入了一种任务感知动态模型合并（TDMM）策略，通过在训练过程中迭代对齐LoRA参数与预训练权重来提升模型性能。最后，我们提出了一种新的数据采样策略——主动选择（Active Selection），以优化数据利用效率。总结来说，我们提出了一种新颖的数据与参数高效微调方法，实现了预训练人脸识别模型向遮挡人脸识别下游任务的高效迁移。大量实验结果表明，我们的方法在多个遮挡人脸数据集上以更低的训练成本和零额外推理开销实现了最佳性能（SOTA），同时在完整人脸识别数据集上仍保持高度竞争力。

Keyword:

Face recognition

Parameter efficient fine-tuning

Data efficient fine-tuning

Low-rank Adapter

Active learning

Exploring a novel data-and parameter-efficient fine-tuning method for robust face recognition

摘要

期刊

机构

引用论文