TinyIREE：从编译到部署的嵌入式系统机器学习执行环境
摘要：用于训练和执行的机器学习模型部署是过去十年中工业和学术研究的重要课题。大部分关注点都集中在开发特定的工具链以支持加速硬件。在本文中，我们介绍了IREE，这是一个统一的编译器和运行时系统，其明确目标是将机器学习程序的规模缩小到移动和边缘设备的最小占用空间，同时保持能够扩展到更大的部署目标的能力。IREE采用了基于编译器的方法，并通过使用MLIR编译器基础设施来优化异构硬件加速器，该基础设施提供了快速设计和实现多级编译器中间表示(IR)的手段。更具体地说，本文侧重于TinyIREE，它是IREE中一组适应嵌入式系统和裸金属平台中有限内存和计算资源的部署选项，同时展示了IREE通过LLVM生成支持不同ISA扩展和ABIs的工作负载的直观工作流程。
作者：Hsin-I Cindy Liu, Marius Brehler, Mahesh Ravishankar, Nicolas Vasilache, Ben Vanik, Stella Laurenzo
论文ID：2205.14479
分类：Programming Languages
分类简称：cs.PL
提交时间：2022-05-31