随笔分类 -  GNN学习

记录一下图神经网络学习过程中的知识点
摘要:NDCG NDCG是Normalized Discount Cumulative Gain NDCG可以在搜索和推荐任务中衡量返回的Item列表是否优秀 G-CG-DCG-NDCG G代表Gain 表示一个列表中的Item的相关性分数,rel(i)表示item(i)相关性得分 Gain=rel(i) 阅读全文
posted @ 2023-09-04 16:42 ANewPro 阅读(1787) 评论(0) 推荐(0)
摘要:# GNN学习 Knowledge Graph Embedding 前面提到的方法都是只有一种边的类型,接下来要扩展到有向,多种边的类型的图上,即异质图(heterogeneous graph) 异质图有这样的几种类型: + Relational GCNs + Knowledge Graphs + 阅读全文
posted @ 2023-08-19 15:40 ANewPro 阅读(218) 评论(0) 推荐(0)
摘要:# GNN学习 GNN理论 ## 增强GNN的表现力 GCN=mean-pool+Linear+ReLU1 GraphSAGE=MLP+max-pool 问题: GNN节点embedding能否区分不同节点的局部邻居结构,在什么情况下会区分失败 接下来讲GNN如何捕获局部邻居结构 ### 计算图 G 阅读全文
posted @ 2023-08-18 10:46 ANewPro 阅读(205) 评论(0) 推荐(0)
摘要:# GNN学习 GNN增强和训练 ## 1.图增强 分为结构增强和特征增强 原始的图数据可能并不适合直接用于GNN 特征层面: + 输入图可能缺少特征 结构层面: + 图过于稀疏,导致信息传递效率低 + 图过于稠密,导致信息传递代价太高 + 图可能太大,导致GPU装不下 输入图很难是恰好适宜embe 阅读全文
posted @ 2023-07-24 10:06 ANewPro 阅读(537) 评论(0) 推荐(0)
摘要:# GNN学习 GNN Layer ## GNN的通用框架 + 1.对GNN的一个网络层进行信息转换和信息聚合两个操作 + 2.连接GNN的网络层 + 3.图增强,分为图特征增强和图结构增强 + 4.学习目标,有监督学习还是无监督学习,节点/边/图级别 ## 1.信息转换和信息聚合 GNN Laye 阅读全文
posted @ 2023-07-23 19:04 ANewPro 阅读(305) 评论(0) 推荐(0)
摘要:# GNN学习 GNN Model 这部分主要讲如何使用图神经网络GNN来进行节点嵌入 我们首先会想到,将邻接矩阵和特征合并到一起应用到深度神经网络上,问题在于: + 需要O(|V|)的参数 + 不适用于不同大小的图 + 对节点顺序敏感 我们可以将卷积神经网络泛化到图上,并应用的节点特征数据 但是图 阅读全文
posted @ 2023-07-22 23:18 ANewPro 阅读(114) 评论(0) 推荐(0)
摘要:# GNN学习 Node Classification 任务:已知图中一部分节点的标签,如何将分配标签到其它节点上 ## Node Classification 给一部分节点的标签,预测没有标签的节点的标签,这是一个半监督节点分类任务 ### message passing 相似的节点中存在链接 集 阅读全文
posted @ 2023-07-21 10:14 ANewPro 阅读(122) 评论(0) 推荐(0)
摘要:# GNN学习 PageRank ## Graph as Matrix 将图表示为矩阵有三个好处 + 通过Random walk确定node的重要性 + 通过矩阵因式分解(MF)获得node embedding + 将其他的node embedding表示为MF ## Web as Graph 可以 阅读全文
posted @ 2023-07-17 08:55 ANewPro 阅读(138) 评论(0) 推荐(0)