返回
Diversity from human feedback
DOI:10.1007/s11704-025-41167-w.png)
摘要
En 中文
多样性在许多问题中扮演着重要角色,例如集成学习、强化学习和组合优化。如何定义多样性度量是一个长期存在的问题。许多方法依赖专家经验来定义合适的行为空间,然后获得多样性度量,然而这在许多场景中具有挑战性。在本文中,我们提出了从人类反馈中学习行为空间的问题,并提出了一种通用的方法,称为“从人类反馈中获取多样性”(DivHF)来解决这个问题。DivHF通过查询人类反馈来学习与人类偏好一致的行为描述符。学习到的行为描述符可以与任何距离度量相结合以定义多样性度量。我们通过将其与质量多样性优化算法MAP-Elites集成,并在QDax套件上开展实验,展示了DivHF的有效性。结果表明,DivHF学习到的行为比没有人类反馈的数据驱动方法学习到的行为更符合人类要求,并且在人类偏好的情况下使最终解决方案更加多样化。我们的贡献包括问题的提出、DivHF方法的提出以及通过实验展示其有效性。
Keyword:
quality diversity
human feedback
behavior descriptor
diversity measure
期刊
IF:
4.6
论文数:
1.6K
被引数:
2.8K
机构
引用论文
暂无论文信息

