返回
Subgraph-Oriented Testing for Deep Learning Libraries
DOI:10.1109/TSE.2026.3655712.png)
摘要
En 中文
深度学习(DL)库,如PyTorch,被广泛用于在各种硬件平台上构建和部署DL模型。同时,它们被发现含有导致计算结果不正确并引发训练不收敛、DL模型预测不准确等问题。因此,许多工作致力于测试DL库以揭示错误。然而,现有的DL库测试方法存在局限性:模型级测试方法导致故障定位复杂。同时,API级测试方法常生成无效输入或主要关注导致崩溃的极端输入;它们还忽略了测试实际的API交互。这些局限性可能导致遗漏错误检测,即使在常用API中也是如此。为解决这些局限性,我们提出SORT(子图导向的真实测试)来对DL库进行差异测试,以测试不同硬件平台。SORT将流行的API交互模式,表示为模型计算图的频繁子图,作为测试对象。通过这种方式,它引入了真实的API交互序列,同时保持对观察到的错误进行故障API定位的效率。此外,SORT通过参考真实基准数据执行中每个API的运行时输入的广泛特征来准备测试输入。生成的输入预计能更好地模拟这些有效真实输入,并揭示更可能在真实使用中发生的错误。对49个流行PyTorch模型的728个频繁子图的评估表明,SORT实现了100%的有效输入生成率,比现有方法检测到更多精度错误,并揭示了单API测试遗漏的交互相关错误。在PyTorch中识别并报告了18个精度错误给PyTorch开发者。
Keyword:
Testing
Libraries
Computer bugs
Computational modeling
Hardware
Training
Runtime
Shape
Codes
Tensors
Deep learning library testing
frequent subgraph
precision bug
input validity
API interaction
期刊
IF:
5.6
论文数:
2.9K
被引数:
1.1W
机构
引用论文
CRADLE: Cross-Backend Validation to Detect and Localize Bugs in Deep Learning LibrariesCRADLE: 跨后端验证,用于检测和本地化深度学习库中的错误

