异构服务器存在的可扩展负载均衡
摘要：异质性在现代大规模计算机系统中越来越普遍。在资源速度变化的系统中开发良好的负载平衡策略对于实现低响应时间至关重要。事实上，如何最佳地将作业分派给服务器是队列学中经典且广泛研究的问题。然而，现有大规模系统的大部分工作都假设服务器是均匀的；不幸的是，在异构系统中，表现良好的策略可能导致性能极差甚至不稳定。 我们将Join-the-Idle-Queue和Join-the-Shortest-Queue策略的“power-of-d”版本改编成两个相应的异构感知调度策略系列，每个系列都由一对路由概率参数化。与不考虑异构性的对应策略不同，我们的策略在选择要查询的服务器和以概率决定在查询的服务器中派发作业时都使用服务器速度信息。我们的两个策略系列都是可分析的：在标准假设下，随着服务器数量趋向无穷大，我们的平均响应时间和队列长度分布分析是精确的。此外，我们的策略系列在平均响应时间方面实现了最大稳定性，并胜过众所周知的调度规则，包括考虑异构性的策略，如Shortest-Expected-Delay。
作者：Kristen Gardner, Jazeem Abdul Jaleel, Alexander Wickeham, Sherwin Doroudi
论文ID：2006.13987
分类：Performance
分类简称：cs.PF
提交时间：2020-06-26