论文复现-多目标强化学习-envelope MOQ-learning-Toy模板网

这篇具有很好参考价值的文章主要介绍了论文复现-多目标强化学习-envelope MOQ-learning。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

introduction

1 总体思想

2 算法

2.1 输入

2.2 输出

2.3 损失函数

2.3.1 Critic loss

2.3.2 Actor loss

2.4 更新方式

2.4.1 数据收集方式

2.4.2 参数更新方式

2.5 损失函数中偏好和输入网络偏好的关系

3 其他bug和优化技巧

introduction

一种多目标强化学习算法，来自2019 Nips《A Generalized Algorithm for Multi-Objective Reinforcement Learning and Policy Adaptation》本文引用代码全部来源于论文中的链接。主要参考run_e3c_double.py文件。下图为训练效果图，在4070上耗时11小时收敛。

论文复现-多目标强化学习-envelope MOQ-learning,强化学习,深度学习,动态规划,论文阅读,1024程序员节,动态规划,深度学习,机器学习,人工智能

1 总体思想

1.将输入中加入多目标的偏好参数。 2. 在输出中改本为标量的状态价值为向量的状态价值。 3. 实现了可以在多个目标上寻找帕累托前沿，也即多目标最优解的算法。

论文复现-多目标强化学习-envelope MOQ-learning,强化学习,深度学习,动态规划,论文阅读,1024程序员节,动态规划,深度学习,机器学习,人工智能论文补充部分截图

2 算法

虽然论文中用的是Q-learning的架构，但是在提供的代码中，采用的是A3C的架构，使用envelope 网络作为价值网络，估计状态价值用于更新，所以接下来以代码为准，结合论文思想，展示用到的输入、输出和损失函数。

论文复现-多目标强化学习-envelope MOQ-learning,强化学习,深度学习,动态规划,论文阅读,1024程序员节,动态规划,深度学习,机器学习,人工智能

2.1 输入

以多目标马里奥环境为例，输入为连续四帧状态 S，随机采样的偏好w。w的值均为正数，且和为1，每一位的值，代表对该维目标的偏好大小。

2.2 输出

Actor 网络和Value网络共享同一个特征提取网络，Actor网络输出维度为所有可能动作数，Value网络输出维度为偏好的维度，也即多目标的目标维度数。

2.3 损失函数

2.3.1 Critic loss

        mse = nn.MSELoss()
        critic_loss_l1 = mse(wvalue, wtarget)
        critic_loss_l2 = mse(value.view(-1), target_batch.view(-1))
        loss += 0.5 * (self.beta * critic_loss_l1 + (1-self.beta) * critic_loss_l2)

Critic 网络的损失由critic loss1和critic loss2加权和组成，critic loss2 理解为多目标损失函数，即当Critic网络能够准确评估多目标状态时，所有pareto前沿上的点都满足critic loss2 为零。因此用梯度下降优化CL2显得不平滑且困难（因为它的解不止一个，而是很多个）。所以引入critic loss1 来减少这种不平滑，critic loss 1 是某种偏好下，critic网络的TD LOSS，因为偏好确定了，所以解只有一个，作者认为这样的损失函数更容易优化，更平滑。

操作上，wvalue和wtarget的唯独都是(batch_size, 1) ; 而 value和target的维度都是（batch_size,reward_size)。显然也是前者的优化更简单。

2.3.2 Actor loss

wadv_batch = torch.bmm(adv_batch.unsqueeze(1), 
                               w_batch.unsqueeze(2)).squeeze()
actor_loss = -m.log_prob(action_batch) * wadv_batch

actor loss形式上和带基线的policy gradient的损失函数类似，只不过Critic网络输出的维度不是1而是reward_size,优势adv先与偏好权重w矩阵相乘，得到维度为1的优势adv后再输入actor loss中，这也说明actor loss 的优化方向是朝着使得当前偏好的期望回报最大的方向优化的。

2.4 更新方式

2.4.1 数据收集方式

论文中伪代码表示用类似Q-learning 离线更新的方式，给出的代码中使用类A3C在线更新的方式，以下以代码为准。

在一个epsiode开始前，随机初始化一个preference，并用这个偏好贯穿这一幕，直至结束。

explore_w = generate_w(args.num_worker, pref_param)

每一步，模型输入状态和偏好，输出动作

 while True:
     actions = agent.get_action(states, explore_w)
     for parent_conn in parent_conns:
         s, r, d, rd, mor, sc = parent_conn.recv()

将一幕中数据以此收齐后立即用于更新神经网络参数（因为A3C是在线算法，所以E3C也是在线）

2.4.2 参数更新方式

 value, next_value, policy = agent.forward_transition(
                total_state, total_next_state, total_update_w)

1.将收集到的状态，下一状态，偏好的序列输入网络，得到价值（5维）下一状态价值（5维）策略（和动作维度相同）

 for idx in range(args.num_worker):
                    target = make_train_data(args,
                                  total_moreward[idx*args.num_step+idw*ofs : (idx+1)*args.num_step+idw*ofs],
                                  total_done[idx*args.num_step+idw*ofs: (idx+1)*args.num_step+idw*ofs],
                                  value[idx*args.num_step+idw*ofs : (idx+1)*args.num_step+idw*ofs],
                                  next_value[idx*args.num_step+idw*ofs : (idx+1)*args.num_step+idw*ofs],
                                  reward_size)

2.从最后一状态以此计算 TD-error中的taget，target = r+v(s')，target也是五维

> (ps:一直不知道为什么在线算法要从最后一步一直迭代倒推到第一步，都用r+γv(s')来做代表当前状态价值，导致第一个状态v(s0)=r0+γ*r1+γ**2+....+γ**nV(Sn),导致方差很大。为什么不每一步直接从价值网络导出，这样v(s0)=r0+v(s1)，这样方差小的方法呢？很奇怪）

total_target, total_adv = envelope_operator(args, update_w, total_target, value, reward_size, global_step)

3. 使用envelope operator函数对target做处理，在训练初期，只计算优势 adv = target - value，

在训练中后期用于从随机采样的多个偏好（代码默认八个偏好，总和维度为（8，5））中，挑选出能使target最大的一种偏好。和Q-learning中取q=r+qmax(s')有点像。[这里的reshape我也有点看不懂，此观点只做参考]

agent.train_model()
actor_loss = -m.log_prob(action_batch) * wadv_batch

# Entropy(for more exploration)
entropy = m.entropy()

# Critic loss
 mse = nn.MSELoss()
critic_loss_l1 = mse(wvalue, wtarget)
critic_loss_l2 = mse(value.view(-1), target_batch.view(-1))


 # Total loss (don't compute tempreture)
 loss = actor_loss.mean()
 loss += 0.5 * (self.beta * critic_loss_l1 + (1-self.beta) * critic_loss_l2)
 loss -= self.entropy_coef * entropy.mean()

4.计算loss，反向传播。这一部分就很明了了，计算前面提到的几种loss，给与不同权重后反向传播，唯一特别注意的是，actor loss中使用的优势adv，不知出于什么理由，使用了优势向量与偏好向量做内积后的偏好，（可能是因为解唯一，优化方便）

5.其他注意事项：1、用于和环境交互的偏好并不被保存，更新参数时会重新抽样偏好，这样做有什么理论依据嘛？暂时还没想明白。