论文阅读——Multi-Space Evolutionary Search for Large-Scale Optimization with Applications to Recommender Systems（MSES）

中文名称：大规模优化的多空间进化搜索及其在推荐系统中的应用

作者：Liang Feng, Qingxia Shang, Yaqing Hou, Kay Chen Tan and Yew-Soon Ong

期刊：IEEE Transactions on Artificial Intelligence

doi: 10.1109/TAI.2022.3156952.

摘要

大规模优化在当今人工智能 (AI) 应用中至关重要，可以从海量数据中提取基本知识。近年来，为了改进用于解决涉及大量决策变量的优化问题的进化算法，已经进行了许多尝试来简化给定问题的问题解空间以用于进化搜索。

现有的方法：基于分解的方法和基于降维的方法。前者将一个大规模的问题分解为若干个较小的子问题，而后者则将原来的高维解空间转化为低维空间。

存在的问题：给定的大规模优化问题可能并不总是可分解的，也很难保证在降低的低维问题空间中保留原问题的全局最优。

本文提出的多空间进化搜索：没有对感兴趣的大规模优化问题做出任何假设，例如问题是可分解的或决策变量之间存在某种关系。

 

算法流程

A．简化问题空间的构建

目的：将这两个问题空间视为两个任务，可以同时对任务进行进化搜索。利用在简化问题空间中找到的有用特征来促进在原始空间中的搜索，而在原始问题空间中找到的高质量解决方案也可以引导简化问题空间中的搜索方向朝着有前途的方向发展。

构建方式：简化问题空间作为给定感兴趣问题的辅助任务，对简化空间的构建没有特别的限制。本文中，为简单起见，考虑降维以构建简化的问题空间Ps（主成分分析）。为了生成 Ps 中进化搜索的初始种群 PoP，首先在原始问题空间 P 中对初始种群 PoP 进行采样。接下来，将得到的P中的PoP进行维度为 ds 的降维，生成 PoPs，用于 Ps 中的进化搜索。

图表 1简化问题空间的构建

B．跨问题空间映射的学习

目的：构建了简化问题空间，就必须学习简化问题空间 Ps 和原始问题空间 P 之间的映射，以允许在每个空间中发现的有用特征跨空间转移，以实现高效和有效的大规模问题解决优化。

注：在本文中，由于PoPs是使用PoP通过降维生成的，因此可以在降维过程中直接获得该映射。以下提出的学习方法在仅给出简化问题空间和原始问题空间中的解决方案的情况下是通用的。

学习方法：

设置矩阵T和S分别对应PoP和PoPs（T和S分别由d*N矩阵和 ds* N矩阵表示），映射 MPs→P:从简化空间 Ps 到原始问题空间P的映射可以通过最小化平方重建损失（reconstruction loss）来近似：

*其中N表示S和T中解的个数，qi是S中的解，pi给出T中的解，对应qi。

为了简化符号，假设在输入中添加了一个常量特征，即pi = [pi; 1] 和 qi = [qi; 1]，并在映射中加入适当的偏差，M = [M; b]。（1）中的损失函数可以简化为矩阵形式：

(2)可以表示为著名的最小二乘问题的闭式解:

通过公式（3），可以计算出MP→Ps ( ds*d矩阵)和MPs→P的（d*ds矩阵）。

C．跨问题空间的知识转移

通过学习到的MPs→P和MP→Ps在简化问题空间和原始问题空间之间的映射，通过简单的矩阵乘法运算，可以很容易地在这两个空间之间进行知识迁移。这一过程每Gt代发生一次。

根据简化问题空间的种群适应度值选择Q个最佳解，记为Ss，它是一个ds×Q矩阵。接下来，通过MPs→P×Ss得到转移解TSPs→P。最后，将TSPs→P中的解注入到原问题空间的种群中，进行下一代的自然选择。

同样的，从原始问题空间的种群中根据适应度值选择P个最佳解，标记为S's，是一个d×P矩阵。同样的方式注入到简化问题空间的种群中。

经过知识迁移过程后，将简化问题空间的更新种群进一步转化回原始问题空间，并归档在外部存档As中。As 中的重复解被移除（As保留了当前简化问题空间中的搜索痕迹，将用于重建新的简化空间。在下一节中详细讨论）。

注：Ps 中解的适应度值通过将这些解转换回原始问题空间并使用给定的问题目标函数来评估。

图表 2简化问题空间迁移原始空间

D．简化空间的重构

目的：为了探索多种辅助任务对大规模优化的有用性，而不是使用一个固定的简化问题空间，提出了在进化搜索在线进行的同时定期构建多个简化问题空间。

重构方法：每Gr代进行简化问题空间的重构，为了保留上次简化空间中发现的有用特征，将存档As中的解作为新的解集进行降维构建新的Ps。As 中的解和 Ps 中相应的映射解将用于学习跨问题空间 P 和 Ps 的映射 MPs→P 和 MP→Ps。最后，简化问题空间的种群也在新的Ps中重新初始化。

注：As 的体积被配置为 5∗N P ，其中 N P 表示进化搜索的种群大小。一旦搜索轨迹超过 As 的体积，则仅归档最新的搜索轨迹。

E．总流程