通过可视化理解模型部署的自动调度优化
摘要：通过完成设计和训练阶段，在实际实施之前，将深度学习模型部署到特定硬件是必要的。针对性的优化能够通过减少推理延迟来提高模型的性能。自动调度是一种自动化技术，提供了各种优化选项，被证实是大规模自动部署的可行解决方案。然而，自动调度生成的低级代码类似于硬件编码，可能阻碍人类理解并妨碍手动优化。在这项正在进行的研究中，我们旨在开发一种增强的可视化方法，有效地处理与自动调度相关的广泛性能分析指标。这种可视化将揭示复杂的调度过程，通过从调度中获得的见解，进一步推动延迟优化的进展。
作者：Laixin Xie, Chenyang Zhang, Ruofei Ma, Xing Jiang, Xingxing Xing, Wei Wan, and Quan Li
论文ID：2308.04724
分类：Human-Computer Interaction
分类简称：cs.HC
提交时间：2023-08-10