arrow
返回

SProBench: Stream Processing Benchmark for High Performance Computing Infrastructure

delete2026-01-01
delete0
PRE
AI
A
Apurv Deepak Kulkarni
S
Siavash Ghiasvand *
DOI:10.1007/978-3-031-99872-0_19delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
流数据处理框架的最新进展改善了实时数据处理能力,但可扩展性仍是影响吞吐量和延迟的重大挑战。尽管已有研究探讨了本地机器和云集群上的此问题,但针对现代高性能计算(HPC)基础设施的研究因缺乏可扩展的测量工具而有限。本文提出SProBench,一个新型基准测试套件,旨在评估大规模计算系统中流数据处理框架的性能。基于最佳实践,SProBench采用模块化架构,原生支持基于SLURM的集群,并无缝集成Apache Flink、Apache Spark Streaming和Apache Kafka Streams等流行流处理框架。在HPC集群上进行的实验证明其卓越的可扩展性,吞吐量比现有基准高出十倍以上。SProBench的独特功能,包括完全定制选项、内置自动化实验管理工具、无缝互操作性和开源许可,使其成为满足现代流数据处理框架需求的新型基准测试套件。
Keyword:
Stream Processing
Benchmark suite
HPC cluster Slurm

期刊

E
EURO-PAR 2025: PARALLEL PROCESSING, PT III
IF:
0
论文数:
21
被引数:
0

机构

暂无机构信息
引用论文

引用论文

err分享
err收藏
Linear RoadA Stream Data Management Benchmark
err2004-01-01
err0
PREAI
errA ARASU; A MASKEY; M CHERNIACK; E RYVKINA; E GALVEZ; M STONEBRAKER; D MAIER; R TIBBETTS
err分享
err收藏
SPBench: a framework for creating benchmarks of stream processing applicationsSPBench: 用于创建流处理应用程序基准的框架
err2022-01-10
err7
PREAI
errGarcia, Adriano Marques; Griebler, Dalvan; Schepke, Claudio; Fernandes, Luiz Gustavo
err分享
err收藏
Benchmarking Streaming Computation Engines: Storm, Flink and Spark Streaming
err2016-05-01
err0
PREAI
errSanket Chintapalli; Derek Dagit; Bobby Evans; Reza Farivar; Thomas Graves; Mark Holderbaugh; Zhuo Liu; Kyle Nusbaum; Kishorkumar Patil; Boyang Jerry Peng; Paul Poulosky
err分享
err收藏
学者 查看更多内容