.png){kind=icon}
返回
Multi-Agent Collaborative Reasoning via Cloud-Edge Framework
.png){kind=icon}
PRE
AI
DOI：10.1109/mnet.2026.3651036.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
基于大型语言模型（LLM）的智能体显著提升了智能系统的推理和问题解决能力。随着任务复杂度的增加，为提升协作性能，亟需从单智能体框架转向多智能体系统（MAS）。然而，实现更好性能通常需要部署大规模LLM，这对资源受限的边缘设备构成重大挑战。此外，大多数MAS采用全连接通信拓扑并需要多轮交互，导致显著的通信冗余和计算开销增加。为解决这些问题，本文提出了一种基于有向无环图（DAG）的多智能体系统（DAG-MAS），通过云边协同框架进行协作推理。具体而言，考虑到边缘资源的有限性，我们利用云端的72B-LLM微调一个轻量级小型语言模型（SLM）用于边缘部署。为生成单轮交互图，SLM进一步用于分析任务需求并确定最优通信拓扑，在最小化开销的同时实现有效信息交换。在四个推理数据集上的广泛实验和分析表明，与多个基准方法相比，我们的方法具有显著优势，验证了在降低通信成本的同时实现更高推理性能的有效性。
Keyword:
Cognition
Collaboration
Multi-agent systems
Artificial intelligence
Edge computing
Low latency communication
Cloud computing
Topology
Computational modeling
Real-time systems
Sensor systems and applications
Large-scale systems
期刊
IF:
6.3
论文数:
2.7K
被引数:
1.1W
机构
查看更多机构
引用论文
Cloud-Edge Collaborative Large Model Services: Challenges and Solutions云边协同大模型服务：挑战与解决方案.png)
IEEE Network
IEEE NetworkIF6.3
PREAI
分享收藏Program Induction by Rationale Generation: Learning to Solve and
Explain Algebraic Word Problems
OAAI
OAAI分享收藏LLM-driven multi-agent architectures for intelligent self-organizing networksLLM驱动的多智能体架构用于智能自组织网络
IF0
PREAI
分享收藏
没有更多内容