凯鲁嘎吉
用书写铭记日常,最迷人的不在远方

基于KL散度的低秩张量约束模糊多视图聚类

作者:凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/

    阅读文本的前提:多视图子空间聚类/表示学习(Multi-view Subspace Clustering/Representation Learning)。通过上述文章了解张长青团队2015ICCV的Low-Rank Tensor Constrained Multiview Subspace Clustering这篇文章大体思路,了解张量的相关概念,ADMM求解过程等,然后再阅读本篇博文。还需了解奇异值分解(SVD)、张量分解相关知识,可参考最后给出的相关文献。

    本博文主要对“Low-Rank Tensor Regularized Fuzzy Clustering for Multiview Data”这篇文章进行展开叙述。由于数据通过不同的技术从不同的来源收集,多视图聚类已成为一种新兴的无监督数据分类技术。然而,现有的多视图软聚类方法大多只考虑视图之间的两两相关性,而忽略了多视图之间的高阶相关性。为了从不同视角整合更全面的信息,本文创新了一种利用低秩张量的模糊聚类模型来解决多视角数据聚类问题。本文方法首先对数据的不同观点分别进行标准模糊聚类。然后,将得到的软划分结果聚合为新的数据,由低秩张量约束的基于Kullback-Leibler (KL)散度的模糊模型处理。用KL散度函数代替传统的最小欧氏距离,增强了模型的鲁棒性。更重要的是,将不同视图的模糊划分矩阵表示为一个三阶张量。因此,在基于KL散度的模糊聚类中引入低秩张量作为范数约束,以灵巧地获得不同视图的高阶相关性。最终模型的最小化是凸的,本文提出了一种有效的增广拉格朗日交替方向法来处理这一问题。特别地,利用张量因式分解得到了全局隶属度。在多个多视图数据集上与最新的多视图聚类算法进行了比较,证明了该方法的有效性和优越性。

参考文献:

[1] H. Wei, L. Chen, K. Ruan, L. Li and L. Chen, "Low-Rank Tensor Regularized Fuzzy Clustering for Multiview Data," IEEE Transactions on Fuzzy Systems, vol. 28, no. 12, pp. 3087-3099, Dec. 2020.

[2] Kolda T G,   Ba Der B W. Tensor Decompositions and Applications[J]. Siam Review, 2009, 51(3):455-500.

[3] Golub G H, Loan C. Matrix Computations, 4th Edition[M]. Johns Hopkins University Press, 2012.

[4] 张量MATLAB工具箱:tensor_toolbox-v3.1

[5] 奇异值分解相关知识:字典更新与K-SVDComputation of the Singular Value Decomposition

[6] 张量分解-Tucker分解 

posted on 2021-03-25 16:56  凯鲁嘎吉  阅读(493)  评论(0编辑  收藏  举报