基于多智能体深度强化学习的无人机动态预部署策略

摘要：

针对传统优化算法在求解长时间尺度内通信无人机(UAV)动态部署时复杂度过高且难以与动态环境信息匹配等缺陷,该文提出一种基于多智能体深度强化学习(MADRL)的UAV动态预部署策略.首先利用一种深度时空网络模型预测用户的预期速率需求以捕捉动态环境信息,定义用户满意度的概念以刻画用户所获得UAV提供服务的公平性,并以最大化长期总体用户满意度和最小化UAV移动及发射能耗为目标建立优化模型.其次,将上述模型转化为部分可观测马尔科夫博弈过程(POMG),并提出一种基于MADRL的H-MADDPG算法求解该POMG中轨迹规划、用户关联和功率分配的最佳决策.该H-MADDPG算法使用混合网络结构以实现对多模态输入的特征提取,并采用集中式训练-分布式执行的机制以高效地训练和执行决策.最后仿真结果证明了所提算法的有效性.

关键词：无人机通信、动态部署、部分可观测马尔科夫博弈、多智能体深度强化学习

所属期刊栏目：45

分类号：TN929.5

在线出版日期：2023-07-27（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：2007-2015