返回
Nanoscale Computing
DOI:10.1109/MNANO.2025.3607072.png)
摘要
En 中文
基于Transformer的模型在边缘计算平台上的执行时间性能难以预测,因为它取决于许多因素,例如用于实现的纳米级技术或模型架构。在评估执行时间时,另一个值得关注的维度是模型大小,因为在许多情况下,可以使用不同尺寸的模型版本。较小的尺寸版本可显著减少参数数量,进而减少运行模型所需的纳米级内存和算术运算量,但这一点并不一定意味着执行时间会相应减少。本文通过评估三种不同的基于Transformer的模型——Bidirectional Encoder Representations from Transformer(BERT)、Transfer Text-to-Text Transformer(T5)和Contrastive Language-Image Pre-training model(CLIP)及其在三种不同纳米级硬件平台上运行时对应的缩减版本,研究了模型大小与执行时间之间的关系。
Keyword:
Encoding
Computational modeling
Bidirectional control
Transformers
Graphics processing units
Hardware
Decoding
Complexity theory
Central Processing Unit
Nanoscale devices
Artificial intelligence
transformers
nanoscale computing
evaluation
tiny models
期刊
I
IF:
2.7
论文数:
28
被引数:
5
机构
引用论文
A Lightweight Hierarchical AI Model for UAV-Enabled Edge Computing with Forest-Fire Detection Use-Case具有森林火灾检测用例的无人机边缘计算的轻量级分层AI模型
IEEE NETWORK
IF6.3
TinyCLIP: CLIP Distillation via Affinity Mimicking and Weight InheritanceTinyCLIP: 基于亲和度模仿和权重继承的CLIP蒸馏

