arrow
返回

A Data-Driven Dynamic Execution Orchestration Architecture

delete2026-01-01
delete0
PRE
AI
Z
Zhenyu Bai
P
Pranav Dangi
R
Rohan Juneja
李昭莹 封面图
李昭莹 (Zhaoying Li) *
Z
Zhanglu Yan
H
Huiying Lan
T
Tulika Mitra
DOI:10.1145/3760250.3762226delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
领域专用加速器通过制造时编排的数据通路在目标工作负载上实现卓越性能。然而,此类专用架构在接触新内核或非规则输入模式时通常表现出性能脆弱性。相比之下,FPGA、CGRAs和GPU等可编程架构依赖编译时编排以支持更广泛的应用;但在非规则或稀疏数据下效率通常较低。推动可编程架构的边界需要设计能够在与专用加速器相当的效率和性能上实现设计,同时保留通用架构的敏捷性。我们介绍了Canon,一种并行架构,弥合了专用与通用架构之间的差距。Canon通过其创新设计利用数据级和指令级并行性。首先,它采用一种新颖的动态数据驱动编排机制,使用可编程有限状态机(FSMs)。这些FSMs在编译时编程以编码每状态的高层数据流,并在运行时将传入的元信息(如稀疏坐标)转换为控制指令。其次,Canon引入了一种时间流逝的SIMD执行,其中指令在多个周期内跨越处理元素的一行发出,创建错开流水线执行。这些创新摊销了控制开销,允许动态指令变化,同时构建一个持续演变的数据流以最大化并行性。实验评估表明,Canon在多样化的数据无关和数据驱动内核上实现高性能,同时达到与专用加速器相当的效率,并保留通用架构的灵活性。
Keyword:
Dataflow Architectures
Sparse Accelerators

期刊

P
PROCEEDINGS OF THE 31ST ACM INTERNATIONAL CONFERENCE ON ARCHITECTURAL SUPPORT FOR PROGRAMMING LANGUAGES AND OPERATING SYSTEMS, VOL 1, ASPLOS 2026
IF:
0
论文数:
17
被引数:
0

机构

N
National University of Singapore
学者数:
7.6W
论文数: 6.5W
被引数: 11.4W
引用论文

引用论文

err分享
err收藏
CGRA-ME: A unified framework for CGRA modelling and exploration
err2017-07-01
err0
PREAI
errS. Alexander Chin; Noriaki Sakamoto; Allan Rui; Jim Zhao; Jin Hee Kim; Yuko Hara-Azumi; Jason Anderson
err分享
err收藏
Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention
err2025-01-01
err0
PREAI
errYuan,Jingyang; Gao,Huazuo; Dai,Damai; Luo,Junyu; Zhao,Liang; Zhang,Zhengyan; Xie,Zhenda; Wei,Yuxing; Wang,Lean; Xiao,Zhiping; Wang,Yuqing; Ruan,Chong; Zhang,Ming; Liang,Wenfeng; Zeng,Wangding
err分享
err收藏
TPU v4: An Optically Reconfigurable Supercomputer for Machine Learning with Hardware Support for Embeddings
err2023-06-17
err0
errOAAI
errNorm Jouppi; George Kurian; Sheng Li; Peter Ma; Rahul Nagarajan; Lifeng Nai; Nishant Patil; Suvinay Subramanian; Andy Swing; Brian Towles; Clifford Young; Xiang Zhou; Zongwei Zhou; David A Patterson
err分享
err收藏
NVIDIA A100 Tensor Core GPU: Performance and Innovation
err2021-03-01
err0
PREAI
errJack Choquette; Wishwesh Gandhi; Olivier Giroux; Nick Stam; Ronny Krashinsky
err分享
err收藏
Pipestitch: An energy-minimal dataflow architecture with lightweight threads
err
IF0
err2023-12-08
err0
PREAI
errNathan Serafin; Souradip Ghosh; Harsh Desai; Nathan Beckmann; Brandon Lucia
err分享
err收藏
学者 查看更多内容