返回
TinyGen: Portable and Compact Code Generation for Tiny Machine Learning
DOI:10.1145/3771775.3786278.png)
摘要
En 中文
微小型机器学习(TinyML)使低功耗微控制器能够在不依赖远程计算资源的情况下利用人工智能的力量。通常,开发TinyML应用主要依赖现有的TinyML框架,这些框架提供用于加载和执行机器学习模型的运行时API。然而,基于框架的TinyML开发在可移植性、可编程性和资源效率方面存在局限性,这促使需要一种新的TinyML开发与部署方法。为解决这些挑战,本研究引入了Tiny-Gen,一个用于Tiny-ML的新型代码生成框架。TinyGen直接从目标模型生成可移植的高级代码,而不依赖外部运行时API。它通过静态分析目标模型的张量和算子使用情况,实现紧凑的代码生成。本研究表明,与现有的TinyML框架相比,TinyGen平均将二进制代码大小减少了31.2%,同时编写TinyML应用的代码行数更少。
Keyword:
Tiny machine learning
systems for machine learning
automatic code generation
multi-level intermediate representation
期刊
机构
引用论文
Deploying Machine Learning Models to Ahead-of-Time Runtime on Edge Using MicroTVM使用MicroTVM将机器学习模型部署到边缘的提前运行时环境中
Chae, B.; Heo, S. TinyMo: Graph-Level Memory Optimizer for Tiny Machine Learning. IEEE Embed. Syst. Lett. 2024, 17, 196–199. [Google Scholar] [CrossRef]Chae, B.; Heo, S. TinyMo: 图级内存优化器用于微型机器学习。IEEE 嵌入式系统快报,2024, 17, 196–199. [Google Scholar] [CrossRef]
TinyIREE: An ML Execution Environment for Embedded Systems From Compilation to DeploymentTinyIREE:嵌入式系统ML执行环境——从编译到部署
IEEE Micro
IF0
没有更多内容

