arrow
返回

A Partial Joint Optimization Algorithm for Autonomous Air Combat Based on Hierarchical Reinforcement Learning

delete
delete0
PRE
AI
C
Chenxu Qian
X
Xuebo Zhang
L
Lun Li
Y
Yisong Wang
M
Minghui Zhao
方勇纯 封面图
方勇纯 (Yongchun Fang)
DOI:10.1109/TCYB.2025.3579745delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
为自主空战设计智能游戏策略一直受到巨大探索空间、冗长决策过程和稀疏奖励的困扰。一些现有方法采用分层框架以提高探索效率。然而,在这些方法中,不同层级的智能体通常独立训练并以固定频率运行,这限制了其性能并阻碍了其应对高度动态战斗场景的能力。鉴于此,我们针对一对一超视距(BVR)空战提出PJOH-TED2,这是一种基于部分联合优化(PJOH)的分层学习框架,并配备了时间-事件双驱动(TED2)机制。具体而言,PJOH学习框架将部分联合优化机制嵌入分层强化学习(HRL)中,从而在显著提升探索效率的同时增强层级间的整合。此外,TED2机制结合了事件驱动和时间驱动方法的优势,既能提升智能体的动态响应速度,又能避免冗余动作。我们还通过在高保真空战模拟环境中与当前最优(SOTA)方法的一系列对局来评估本工作。实验结果实证表明,所提方法以至少71%的胜率超越了四种SOTA方法。最后,该方法在中国指挥与控制学会举办的智能空战算法挑战赛(IAGAC)的43支队伍中,在基于学习的算法类别中取得了第一名。
Keyword:
Beyond-visual-range (BVR) air combat
event-driven (ED)
hierarchical reinforcement learning (HRL)
time-driven

期刊

IEEE Transactions on Cybernetics 封面图
IEEE Transactions on Cybernetics
IF:
10.5
论文数:
1.1W
被引数:
5.0W

机构

N
nankai university
学者数:
4.8W
论文数: 3.3W
被引数: 74
引用论文

引用论文

Online hierarchical recognition method for target tactical intention in beyond-visual-range air combat
err2022-08-01
err17
errOAAI
errYang, Zhen; Sun, Zhi-xiao; Piao, Hai-yin; Huang, Ji-chuan; Zhou, De-yun; Ren, Zhang
err分享
err收藏
err分享
err收藏
err分享
err收藏
Hierarchical Reinforcement Learning for Air Combat at DARPA's AlphaDogfight Trials
err2023-12-01
err0
PREAI
errAdrian P. Pope; Jaime S. Ide; Daria Mićović; Henry Diaz; Jason C. Twedt; Kevin Alcedo; Thayne T. Walker; David Rosenbluth; Lee Ritholtz; Daniel Javorsek
err分享
err收藏
An Overview of Recent Advances in Event-Triggered Consensus of Multiagent Systems
err2018-04-01
err911
errOAAI
errDing, Lei; Han, Qing-Long; Ge, Xiaohua; Zhang, Xian-Ming
err分享
err收藏
Grandmaster level in StarCraft II using multi-agent reinforcement learning使用多智能体强化学习在星际争霸II中的大师水平
err2019-10-30
err0
PREAI
errOriol Vinyals; Igor Babuschkin; Wojciech M. Czarnecki; Michaël Mathieu; Andrew Dudzik; Junyoung Chung; David H. Choi; Richard Powell; Timo Ewalds; Petko Georgiev; Junhyuk Oh; Dan Horgan; Manuel Kroiss; Ivo Danihelka; Aja Huang; Laurent Sifre; Trevor Cai; John P. Agapiou; Max Jaderberg; Alexander S. Vezhnevets; Rémi Leblond; Tobias Pohlen; Valentin Dalibard; David Budden; Yury Sulsky; James Molloy; Tom L. Paine; Caglar Gulcehre; Ziyu Wang; Tobias Pfaff; Yuhuai Wu; Roman Ring; Dani Yogatama; Dario Wünsch; Katrina McKinney; Oliver Smith; Tom Schaul; Timothy Lillicrap; Koray Kavukcuoglu; Demis Hassabis; Chris Apps; David Silver
err分享
err收藏
学者 查看更多内容