基于深度强化学习的无服务器应用时间和成本优化扩展算法
摘要：无服务器计算在近年来在云计算领域获得了极大的关注。在这种新型计算模型中，用户应用程序的快速自动扩展能力在众多优点中占据了重要地位。然而，函数级别的即时扩展能力给无服务器系统引入了许多复杂性。由于为函数工作负载动态创建新资源所消耗的时间引起的函数请求执行的延迟和失败，即所谓的冷启动延迟，是这种非常普遍的缺点之一。维护空闲资源池以缓解此问题通常会导致云提供商资源的浪费。现有的解决方案主要集中在预测和理解函数负载水平，以便主动创建所需资源。尽管这些解决方案改善了函数性能，但对进行这些扩展决策的整体系统特性缺乏理解往往导致系统资源的次优使用。此外，无服务器系统的多租户性质要求提供适用于多个共存应用程序的可扩展解决方案，这是大多数当前解决方案所面临的限制。在本文中，我们介绍了一种基于深度强化学习的多智能体智能解决方案，用于函数资源的水平和垂直扩展，基于对函数和系统需求的全面理解。我们的解决方案提高了函数性能，减少了冷启动，并为服务提供商在优化资源维护成本方面提供了灵活性。进行的实验考虑了不同的工作负载场景，显示了应用延迟和请求失败率提高了最多23％和34％，同时为服务提供商节省了高达45％的基础设施成本。
作者：Anupama Mampage, Shanika Karunasekera, Rajkumar Buyya
论文ID：2308.11209
分类：Distributed, Parallel, and Cluster Computing
分类简称：cs.DC
提交时间：2023-08-23