返回
A Partial Joint Optimization Algorithm for Autonomous Air Combat Based on Hierarchical Reinforcement Learning
DOI:10.1109/TCYB.2025.3579745.png)
摘要
En 中文
为自主空战设计智能游戏策略一直受到巨大探索空间、冗长决策过程和稀疏奖励的困扰。一些现有方法采用分层框架以提高探索效率。然而,在这些方法中,不同层级的智能体通常独立训练并以固定频率运行,这限制了其性能并阻碍了其应对高度动态战斗场景的能力。鉴于此,我们针对一对一超视距(BVR)空战提出PJOH-TED2,这是一种基于部分联合优化(PJOH)的分层学习框架,并配备了时间-事件双驱动(TED2)机制。具体而言,PJOH学习框架将部分联合优化机制嵌入分层强化学习(HRL)中,从而在显著提升探索效率的同时增强层级间的整合。此外,TED2机制结合了事件驱动和时间驱动方法的优势,既能提升智能体的动态响应速度,又能避免冗余动作。我们还通过在高保真空战模拟环境中与当前最优(SOTA)方法的一系列对局来评估本工作。实验结果实证表明,所提方法以至少71%的胜率超越了四种SOTA方法。最后,该方法在中国指挥与控制学会举办的智能空战算法挑战赛(IAGAC)的43支队伍中,在基于学习的算法类别中取得了第一名。
Keyword:
Beyond-visual-range (BVR) air combat
event-driven (ED)
hierarchical reinforcement learning (HRL)
time-driven
期刊
IF:
10.5
论文数:
1.1W
被引数:
5.0W
机构
引用论文
Online hierarchical recognition method for target tactical intention in beyond-visual-range air combat
DEFENCE TECHNOLOGY
IF5.9
A Hierarchical Deep Reinforcement Learning Framework for 6-DOF UCAV Air-to-Air Combat面向六自由度UCAV空空作战的层次化深度强化学习框架
Event-Driven Off-Policy Reinforcement Learning for Control of Interconnected Systems用于控制互连系统的事件驱动的非策略强化学习

