关于LRU缓存的资源池和分离问题
摘要：缓存系统利用最近最少使用（LRU）原则现已普遍存在。对于这些系统来说，一个基本问题是缓存空间是否应该汇集在一起或分开以服务多个数据项请求流，从而最小化未命中概率。在本文中，我们展示了对于这个问题没有明确的答案，这取决于包括请求速率、不同请求流之间的重叠数据项、数据项的流行度和大小在内的关键因素的复杂组合。具体来说，我们在缓存尺寸较大时，刻画了多个竞争请求流在共享资源和分离资源的LRU缓存下的渐近未命中概率。从分析角度来看，如果数据项的大小和流行度分布相似且到达率并没有显著差异，则共同服务多个流在渐近情况下是最优的；LRU缓存的自组织特性在渐近情况下自动优化了资源分配。否则，分离这些流可能更好，例如在数据大小差异明显时。我们还量化了当重叠数据项超过一定水平时，资源汇集优于分离的临界点。从技术上讲，我们推广了现有针对广泛重尾分布的LRU缓存渐近未命中概率的结果，并将其扩展到具有不同数据项大小的多个竞争流中，这也在某些条件下验证了Che近似。这些结果为提高缓存系统性能提供了新见解。
作者：Jian Tan, Guocong Quan, Kaiyi Ji, Ness Shroff
论文ID：1708.01673
分类：Performance
分类简称：cs.PF
提交时间：2017-08-08