返回
DRLMutation: A Comprehensive Framework for Mutation Testing in Deep Reinforcement Learning Systems
DOI:10.1145/3721978.png)
摘要
En 中文
深度强化学习系统已被越来越多地应用于各个领域。然而,对它们的测试仍然是一个主要的开研究问题。变异测试是一种流行的测试套件评估技术,用于分析测试套件检测注入故障的程度。它已在传统软件和深度学习领域得到了广泛研究。然而,由于深度强化学习系统与传统软件以及深度学习系统在环境交互、网络决策和数据效率等方面存在根本差异,因此以前的变异测试技术不能直接应用于深度强化学习系统。在本文中,我们提出了一种专门为深度强化学习系统设计的综合变异测试框架DRLMutation,以进一步填补这一空白。我们首先考虑了深度强化学习的特点,并基于训练过程和训练好的智能体模型,从对象、操作方法和注入方法三个维度进行了考察。这种方法导致了更全面的深度强化学习变异算子的设计方法。经过筛选,我们共确定了107个适用的深度强化学习变异算子。然后,在评估领域,我们制定了一套用于评估测试套件的指标。最后,我们在Cart Pole、Mountain Car Continuous、Lunar Lander、Breakout和CARLA环境中验证了所提出的变异算子的隐蔽性和有效性。我们发现了一些鼓舞人心的结果:这些设计的深度强化学习变异算子中的大多数能够在不影响正常训练的情况下潜在地削弱智能体的决策能力。这些变异算子达到的不同程度的破坏可以用于评估不同测试套件的质量。

