.png){kind=icon}
返回
MALOI: Multi-Task-Aware Low-Overhead In-Network Inference using Programmable Switch
.png){kind=icon}
PRE
AI
DOI：10.1109/MCOM.001.2500137.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
随着可编程数据平面（PDP）中网络内智能（INI）能力的进步，高效执行多个任务的需求日益增长，而这一需求在可编程交换机约束条件下显得尤为突出。然而，依赖单任务学习（STL）模型进行INI面临难以满足这一需求的局限性。为解决这些挑战，我们开发了一种多任务感知的低开销网络内推理（MALOI）方案。MALOI通过利用多任务学习（MTL）模型，使多个任务共享隐藏层的参数，从而允许少数层同时执行大量推理任务。此外，MALOI选择部分关键特征并相应地压缩推理模型。评估结果表明，与STL模型相比，MALOI将内存使用量减少了48.8%，并将推理处理延迟缩短了91.5%，同时保持了足够高的分类性能。
Keyword:
Computational modeling
Multitasking
Adaptation models
Costs
Tuning
Neurons
Feature extraction
Artificial neural networks
Programmable control
Switching systems
期刊
IF:
8.2
论文数:
6.9K
被引数:
2.2W
机构
引用论文
Mousika: Enable General In-Network Intelligence in Programmable Switches by Knowledge Distillation
.png){kind=icon}
PREAI
分享收藏分享收藏
没有更多内容
没有更多内容