arrow
返回

Data management for distributed computational workflows: An iRODS-based setup and its performance

delete2026-01-12
delete0
PRE
AI
M
Mohamad Hayek
M
Martin Golasowski
S
Stephan Hachinger *
R
Rubén J. García-Hernández
J
Johannes Munke
G
Gabriel Lindner
K
Kateřina Slaninová
P
Philipp Tunka
V
Vít Vondrák
K
Kranzlmuller, Dieter
J
Jan Martinovič
DOI:10.1371/journal.pone.0340757delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
现代数据管理框架承诺实现跨存储后端的数据和元数据的灵活高效管理。然而,此类主张需要在日常实践中进行有意义的测试。我们推测,此类框架应适用于构建使用地理分布的高性能和云计算系统的作业流程的数据后端。此类后端中的跨站点数据传输应能大幅饱和网络带宽,特别是在缓冲区大小等参数优化时。为进一步探索,我们评估了以规则为导向的数据系统iRODS与EUDAT的B2SAFE模块作为LEXIS平台内复杂计算作业流程编排和分布式数据管理的分布式数据基础设施的数据后端。本研究重点在于检验我们的推测——即构建和评估数据基础设施,以及测量连接LEXIS的两个选定超级计算站点之间的广域网数据传输性能。我们分析了局限性并识别优化机会。有效利用可用网络带宽是可能的,且取决于合适的客户端配置和文件大小。我们的工作表明,iRODS等系统如今符合集成于涉及基于Web的认证流程(OpenID Connect)和丰富在线服务的联邦计算基础设施的要求。我们正在EXA4MIND项目中继续利用这些特性,旨在优化数据密集型作业流程,并整合用于管理结构化和非结构化数据的各类系统。
Keyword:
CLOUD

期刊

PLoS One 封面图
PLoS One
IF:
2.6
论文数:
2.6W
被引数:
81.6W

机构

U
University of Munich
学者数:
5.7W
论文数: 4.2W
被引数: 68
T
Technical University of Ostrava
学者数:
3.7K
论文数: 2.9K
被引数: 4
引用论文

引用论文

EUDAT: A New Cross-Disciplinary Data Infrastructure for Science
err2013-06-14
err0
errOAAI
errDamien Lecarpentier; Peter Wittenburg; Willem Elbers; Alberto Michelini; Riam Kanso; Peter Coveney; Rob Baxter
err分享
err收藏
Mobility Data Space
err2022-01-01
err0
PREAI
errPretzsch,Sebastian; Drees,Holger; Rittershaus,Lutz
err分享
err收藏
err分享
err收藏
err分享
err收藏
Pro Apache Hadoop
err
IF0
err2014-01-01
err0
errOAAI
errSameer Wadkar; Madhu Siddalingaiah
err分享
err收藏
err分享
err收藏
err分享
err收藏
Rucio: Scientific Data Management
err2019-08-09
err0
errOAAI
errMartin Barisits; Thomas Beermann; Frank Berghaus; Brian Bockelman; Joaquin Bogado; David Cameron; Dimitrios Christidis; Diego Ciangottini; Gancho Dimitrov; Markus Elsing; Vincent Garonne; Alessandro di Girolamo; Luc Goossens; Wen Guan; Jaroslav Guenther; Tomas Javurek; Dietmar Kuhn; Mario Lassnig; Fernando Lopez; Nicolo Magini; Angelos Molfetas; Armin Nairz; Farid Ould-Saada; Stefan Prenner; Cedric Serfon; Graeme Stewart; Eric Vaandering; Petya Vasileva; Ralph Vigne; Tobias Wegner
err分享
err收藏
Operation of the ATLAS Distributed ComputingATLAS分布式计算的运行
err2019-01-01
err0
PREAI
errBarreiro Magino,Fernando; Cameron,David; Di Girolamo,Alessandro; Filipcic,Andrej; Glushkov,Ivan; Legger,Federica; Maeno,Tadashi; Walker,Rodney
err分享
err收藏
学者 查看更多内容