论文笔记 — Learning to Collaborate: Multi-Scenario Ranking via Multi-Agent Reinforcement Learning

背景

目前各个场景之间是完全独立优化的，这样会带来几点比较严重的问题：

不同场景缺少联动，不用场景策略优化自己的目标而忽略其他场景目标，导致优化到局部最优解；
单一场景的独立优化，只使用自己场景的数据，忽略了其他场景的上下文信息；
用户在淘宝上购物会经常在多个场景之间切换，例如：从主搜索到猜你喜欢，从猜你喜欢到店铺内。不同场景的商品排序仅考虑自身，会导致用户的购物体验是不连贯或者雷同的。例如：从冰箱的详情页进入店铺，却展示手机；各个场景都展现趋同，都包含太多的U2I（点击或成交过的商品）。
多场景之间是博弈（竞争）关系，期望每个场景的提升带来整体提升这一点是无法保证的。很有可能一个场景的提升会导致其他场景的下降，更可怕的是某个场景带来的提升甚至小于其他场景更大的下降。这并非是不可能的，那么这种情况下，单场景的A/B测试就显得没那么有意义，单场景的优化也会存在明显的问题。因为这一点尤为重要，因此我们举一个更简单易懂的例子（如下图）。一个1000米长的沙滩上有2个饮料摊A和B，沙滩上均分分布者很多游客，他们一般会找更近的饮料摊去买饮料。最开始A和B分别在沙滩250米和750米的位置，此时沙滩左边的人会去A买，右边的人去B买。然后A发现，自己往右边移动的时候，会有更多的用户（A/B测试的结论），因此A会右移，同样B会左移。A和B各自‘优化’下去，最后会都在沙滩中间的位置，从博弈论的角度，到了一个均衡点。然而，最后‘优化’得到的位置是不如初始位置的，因为会有很多游客会因为太远而放弃买饮料。这种情况下，2个饮料摊各自优化的结果反而是不如不优化的。

论文思路

本文提出一个多场景联合排序算法，旨在提升整体指标。我们将多场景的排序问题看成一个完全合作的、部分可观测的多智能体序列决策问题，利用Multi-Agent Reinforcement Learning的方法来尝试着对问题进行建模。该模型以各个场景为Agent，让各个场景不同的排序策略共享同一个目标，同时在一个场景的排序结果会考虑该用户在其他场景的行为和反馈。也就是，不同场景不同的action，但是使用相同的critic，目的是保证他们有相同的全局目标。critic网络评价当前场景的状态+action会得到的汇报reward，actor网络彼此之间交换信息，信息是用户的历史行为数据。

这样使得各个场景的排序策略由独立转变为合作与共赢。由于我们想要使用用户在所有场景的行为，而DRQN中的RNN网络可以记住历史信息，同时利用DPG对连续状态与连续动作空间进行探索，因此我们算法取名MA-RDPG(Multi-Agent Recurrent Deterministic Policy Gradient)。

模型结构：

不同场景使用不同的actor，输入的信息包括：当前场景、历史场景编码+action。输出当前场景的action；信息共享部分Message，让actor、critic的判断能考虑全局信息；
使用相同的critic，目的是全局目标一样；
一个场景有一个actor，不同场景的actor相互合作，优化相同的目标；