凯鲁嘎吉
用书写铭记日常,最迷人的不在远方

结构深层聚类网络

作者:凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/

    本博文是对Structural Deep Clustering Network这篇文章的展开与叙述。了解这篇文章的前提需要知道GCN图卷积神经网络,DEC深度嵌入聚类,自编码器等。

    这是GCN用于聚类的一篇文章。聚类是数据分析的一项基本任务。近年来,从深度学习方法中获得灵感的深度聚类获得了最先进的性能,并引起了广泛的关注。目前的深度聚类方法通常利用深度学习强大的表示能力来提高聚类结果,例如自编码器,这表明学习一种有效的聚类表示是一个至关重要的要求。深度聚类方法的优点是从数据本身中提取有用的表征,而不是从数据的结构中提取有用的表示,这在表示学习中很少受到关注。基于图卷积网络(GCN)在图结构编码方面取得的巨大成功,本文提出了一种结构化深度聚类网络(SDCN),将结构信息整合到深度聚类中。具体来说,设计了一个传递算子,将自动编码器学习到的表示转换到相应的GCN层,并设计了一个双自监督机制来统一这两种不同的深层神经结构,引导整个模型的更新。通过这种方式,从低阶到高阶的多种数据结构自然地与自动编码器学习到的多种表示相结合。此外,从理论上分析了传递算子,即通过传递算子,GCN将自编码器特有的表示改进为高阶图正则化约束,而自编码器有助于缓解GCN中的过平滑问题。通过全面的实验,证明所提出的模型可以始终比最先进的技术表现得更好。

参考文献:

[1] Deyu Bo, Xiao Wang*, Chuan Shi, Meiqi Zhu, Emiao Lu, Peng Cui. Structural Deep Clustering Network. WWW 2020. (CCF-A)

[2] 王啸老师个人主页:https://wangxiaocs.github.io/

深度学习中的拓扑美学:图神经网络报告题目:Dive into the Message Passing Mechanism of Graph Neural Networks

[3] 自编码器、DEC相关:Deep Clustering Algorithms

[4] 如何理解 Graph Convolutional Network(GCN)?

posted on 2021-03-25 17:39  凯鲁嘎吉  阅读(1164)  评论(0编辑  收藏  举报