摘要:什么是注意力机制? 注意力机制模仿了生物观察行为的内部过程,即一种将内部经验和外部感觉对齐从而增加部分区域的观察精细度的机制。例如人的视觉在处理一张图片时,会通过快速扫描全局图像,获得需要重点关注的目标区域,也就是注意力焦点。然后对这一区域投入更多的注意力资源,以获得更多所需要关注的目标的细节信息, 阅读全文
posted @ 2019-06-17 09:50 Maple17 阅读 (2682) 评论 (0) 编辑
摘要:一句话: 逻辑回归假设数据服从伯努利分布,通过极大化似然函数的方法,运用梯度下降求解参数,来达到将数据二分类的目的 。 假设函数 逻辑回归算法是将线性函数的结果映射到 函数中: $$ h_{\theta}{(x)}=\frac{1}{1+e^{ z}}=\frac{1}{1+e^{\theta^{T 阅读全文
posted @ 2019-07-16 16:52 Maple17 阅读 (100) 评论 (1) 编辑
摘要:学习资源总结 1. 李宏毅 "课程主页" "2017机器学习" 2. 林轩田 "课程主页" "机器学习基石" "机器学习技法" "学习笔记" 视频建议配合 PDF 一起食用... 3. 其它资源 "机器学习路径" 强烈推荐 "深度学习500问" "机器学习实践" 含代码和示意图,全英文 "AI算法工 阅读全文
posted @ 2019-07-07 20:18 Maple17 阅读 (27) 评论 (0) 编辑
摘要:基本信息 文献:Predict Anchor Links across Social Networks via an Embedding Approach 时间:2016 期刊:IJCAI 引言 预测跨社交网络的锚链接对于一系列应用具有重要意义,包括跨网络信息扩散和跨域推荐。一个具有挑战性的问题是: 阅读全文
posted @ 2019-06-21 16:13 Maple17 阅读 (153) 评论 (0) 编辑
摘要:本文是对文献 《Graph Neural Networks: A Review of Methods and Applications》 的内容总结,详细内容请参照原文。 引言 大量的学习任务都要求能处理包含丰富的元素间关联关系的图数据,例如物理系统建模、疾病分类以及文本和图像等非结构数据的学习等。 阅读全文
posted @ 2019-06-19 11:45 Maple17 阅读 (123) 评论 (0) 编辑
摘要:本文是对文献 《An Attentive Survey of Attention Models》 的总结,详细内容请参照原文。 引言 注意力模型现在已经成为神经网络中的一个重要概念,并已经应用到多个应用领域。本文给出了注意力机制的主要思想,并对现有的一些注意力模型进行了分类,以及介绍了注意力机制与不 阅读全文
posted @ 2019-06-17 17:09 Maple17 阅读 (183) 评论 (0) 编辑
摘要:基本信息 论文题目:GRAPH ATTENTION NETWORKS 时间:2018 期刊:ICLR 主要动机 探讨图谱(Graph)作为输入的情况下如何用深度学习完成分类、预测等问题;通过堆叠这种层(层中的顶点会注意邻居的特征),我们可以给邻居中的顶点指定不同的权重,不需要任何一种耗时的矩阵操作( 阅读全文
posted @ 2019-06-17 10:02 Maple17 阅读 (324) 评论 (0) 编辑
摘要:什么是注意力机制? 注意力机制模仿了生物观察行为的内部过程,即一种将内部经验和外部感觉对齐从而增加部分区域的观察精细度的机制。例如人的视觉在处理一张图片时,会通过快速扫描全局图像,获得需要重点关注的目标区域,也就是注意力焦点。然后对这一区域投入更多的注意力资源,以获得更多所需要关注的目标的细节信息, 阅读全文
posted @ 2019-06-17 09:50 Maple17 阅读 (2682) 评论 (0) 编辑
摘要:`MLlib MLlib` 由一些通用的学习算法和工具组成,包括分类、回归、聚类、协同过滤、降维等,同时还包括底层的优化原语和高层的管道 API。具体来说,主要包括以下几方面的内容: 1. 机器学习算法:常用的学习算法,如分类、回归、聚类和协同过滤; 2. 特征化工具:特征提取、转化、降维和特征选择 阅读全文
posted @ 2019-06-14 10:45 Maple17 阅读 (359) 评论 (0) 编辑
摘要:1. RDD 的设计与运行原理 Spark 的核心是建立在统一的抽象 RDD 之上,基于 RDD 的转换和行动操作使得 Spark 的各个组件可以无缝进行集成,从而在同一个应用程序中完成大数据计算任务。 在实际应用中,存在许多迭代式算法和交互式数据挖掘工具,这些应用场景的共同之处在于不同计算阶段之间 阅读全文
posted @ 2019-06-12 14:12 Maple17 阅读 (308) 评论 (0) 编辑
摘要:Spark 可以独立安装使用,也可以和 Hadoop 一起安装使用。在安装 Spark 之前,首先确保你的电脑上已经安装了 或者更高的版本。 Spark 安装 访问 "Spark 下载页面" ,并选择最新版本的 Spark 直接下载,当前的最新版本是 2.4.2 。下载好之后需要解压缩到安装文件夹中 阅读全文
posted @ 2019-06-11 11:42 Maple17 阅读 (158) 评论 (0) 编辑