A Hybrid JavaScript-WebAssembly Framework for Efficient Deep Learning Inference in Web Browsers

Lee, Chaeeun

doi:10.3837/tiis.2026.01.011

A Hybrid JavaScript-WebAssembly Framework for Efficient Deep Learning Inference in Web Browsers

2026-01-31

0

PRE

AI

DOI：10.3837/tiis.2026.01.011

原文链接

原文求助

摘要

En 中文

随着Web应用对实时AI推理的需求日益增长，优化浏览器环境中的深度学习执行已成为关键。本文评估了使用JavaScript、WebAssembly以及提出的结合两种方法的混合框架执行深度学习模型的性能。采用ResNet-18、ResNet-50和ResNeXt-50架构在CIFAR-10和STL-10数据集上，我们评估了四个关键指标：推理时间、内存使用、CPU利用率和GPU利用率。实验结果表明，WebAssembly通常比JavaScript实现更快的推理和更高的CPU/GPU利用率，但代价是显著增加的内存使用。相比之下，JavaScript表现出更好的内存效率和更低的系统开销。混合框架试图通过根据输入分辨率和性能指标动态选择执行模式来平衡这些权衡。然而，在STL-10等高分辨率任务中，混合框架在所有方法中表现出最长的推理时间和最高的内存消耗，表明其优化逻辑倾向于稳定的CPU和GPU利用率，而牺牲了延迟和内存效率。这些发现表明，尽管混合执行在中等条件下可以提供性能优势，但其对复杂工作负载的有效性需要仔细校准。本文强调了需要指标感知和资源自适应的执行策略，以实现高效且可扩展的基于Web的服务。

Keyword:

Web-based Deep Learning

JavaScript

WebAssembly

Hybrid Execution Framework

Real-time Inference

A Hybrid JavaScript-WebAssembly Framework for Efficient Deep Learning Inference in Web Browsers

摘要

期刊

机构

引用论文