CompGCN 阅读心得

原论文：Composition-based multi-relational graph convolutional networks

Motivation

1. 之前的GCN主要是在无向图、单关系网络中特别有效，但是知识图谱这一类多关系图才是现实中最普遍的图类型。
2. GCNs for Multi-Relational Graph这种虽然把GCN推广到了多关系网络，但是只考虑了明确方向的滤波器，并且存在参数过多的问题。

Approach

基本的公式为

\[h^{k+1}_v = f\left(\sum_{(u,v)\in N(v)}W^k_{\lambda(r)}\phi(h_u^k,h_r^k) \right) \\ h_r^{k+1} = W^k_{rel}h^k_r \]

其中\(h_r\)代表边方向的信息，\(h_u\)代表点方向的信息，\(\phi(x_u,z_r)\)是对边和点上信息的聚合，文中提供了Sub、Mult、Corr三种聚合方式。\(W_{rel}\)是边空间\(\rightarrow\)点空间的投影矩阵，\(W_{\lambda(r)}\)是针对关系r的投影矩阵，关系r则包含有向边、反向边和自连边这三种。

\[h_r = W_{rel}z_r \\ z_r = \sum^{\beta}_{b=1}a_{br}v_b \]

其中\(\{v_1,v_2,...v_{\beta}\}\)是边上的一组基向量，\(W_{rel}\)把边的表示从边空间(\(z_r\))投影到节点空间\((h_r)\)

Contribution

• 利用CompGCN可以同时学习到边和节点的表示，通过基向量，可以用较少的参数实现对大量关系的描述。
• 同时作者分析了与之前模型的异同，得出之前网络可以认为是CompGCN的特例，从而说明了模型间联系。
• 在实验中，作者尝试了不同的聚合方式和基向量个数，在链路分析、节点分类和图分类这些实验中，都证明了CompGCN的最佳效果。