混合软件定义网络中的分布式流量工程:一种多智能体强化学习框架

摘要:交通工程(TE)是一种有效的技术,用于平衡网络流量,从而提高混合软件定义网络(SDN)的性能。先前的TE解决方案主要利用启发式算法在静态流量需求下集中优化链路权重设置或流量分配比。然而,随着网络规模日益庞大和网络管理的复杂性增加,由于计算开销高和反应时间长,集中式TE方法在网络流量需求动态波动或发生网络故障时存在较大的困难。为了实现自适应和高效的TE路由,我们提出了一种多代理强化学习方法CMRL,将大型网络的路由优化分解为多个小规模的路由决策问题。为了协调多个代理以实现全局优化目标,我们构建了一个交互式环境,用于训练拥有部分链路利用率观测的路由代理。为了优化多代理的学分分配,我们引入了差值奖励分配机制,鼓励代理采取更好的行动。基于真实流量跟踪进行的大量仿真实验证明了CMRL在改善TE性能方面的优越性,特别是在流量需求变化或网络故障发生时。

作者:Yingya Guo, Qi Tang, Yulong Ma, Han Tian and Kai Chen

论文ID:2307.15922

分类:Networking and Internet Architecture

分类简称:cs.NI

提交时间:2023-08-01

PDF 下载: 英文版 中文版pdf翻译中