返回
SCRIPT: A Scalable Continual Reinforcement Learning Framework for Autonomous Penetration Testing
DOI:10.1016/j.eswa.2025.127827.png)
摘要
En 中文
与基于人工的渗透测试(pentesting)相比,自主渗透测试在自主性和效率方面具有优势,并已成为一个新兴的研究领域。强化学习(RL)是研究这一主题的自然选择。然而,互连设备和系统的激增扩大了攻击面,加之新漏洞的不断涌现,使得现实世界的渗透测试任务和场景呈现非平稳性。这种非平稳性对基于RL的自主渗透测试提出了新的挑战,因为它要求渗透测试代理具备强大的泛化能力,从而在持续学习新任务的同时缓解灾难性遗忘。该领域以往的研究忽视了这一现实挑战。为此,我们提出了首个可扩展的持续RL框架,用于自主渗透测试,即SCRIPT。SCRIPT训练代理在大规模任务序列中像人类一样持续学习,使其能够实现正向迁移(利用先前学到的知识加速新任务学习)并抵抗灾难性遗忘。受人类终身学习过程的启发,我们将SCRIPT的学习过程分为新任务学习和知识巩固两个过程。具体而言,我们引入了一种分阶段课程学习(scaffolded curriculum learning)方法,通过滚动探索和政策模仿来引导新任务学习。此外,我们提出了一种策略保留方法,利用基于正则化的权重重要性约束和基于渐进式自我蒸馏的策略回顾来缓解灾难性遗忘。实验在广泛使用的易受攻击Docker环境仓库Vulhub上进行。结果表明,SCRIPT有效地使代理能够实现正向迁移并增强其对灾难性遗忘的抵抗力,使其成为渗透测试代理处理现实世界非平稳性挑战和应对扩展攻击面的可行方法。
Keyword:
Cybersecurity
Penetration testing
Reinforcement learning
Continual reinforcement learning
Catastrophic forgetting
Policy transfer
期刊
IF:
7.5
论文数:
3.0W
被引数:
10.2W
机构
引用论文
Pseudo-rehearsal: Achieving deep reinforcement learning without catastrophic forgetting伪演练: 在没有灾难性遗忘的情况下实现深度强化学习
NEUROCOMPUTING
IF6.5
Knowledge Distillation and Student-Teacher Learning for Visual Intelligence: A Review and New Outlooks视觉智能的知识蒸馏和师生学习: 回顾和新观点
A hierarchical deep reinforcement learning model with expert prior knowledge for intelligent penetration testing
COMPUTERS & SECURITY
IF5.4

