随笔分类 - [02].机器学习
机器学习修仙之路
摘要:一句话: 逻辑回归假设数据服从伯努利分布,通过极大化似然函数的方法,运用梯度下降求解参数,来达到将数据二分类的目的 。 假设函数 逻辑回归算法是将线性函数的结果映射到 函数中: $$ h_{\theta}{(x)}=\frac{1}{1+e^{ z}}=\frac{1}{1+e^{\theta^{T
阅读全文
摘要:学习资源总结 1. 李宏毅 "课程主页" "2017机器学习" 2. 林轩田 "课程主页" "机器学习基石" "机器学习技法" "学习笔记" 视频建议配合 PDF 一起食用... 3. 其它资源 "机器学习路径" 强烈推荐 "深度学习500问" "机器学习实践" 含代码和示意图,全英文 "AI算法工
阅读全文
摘要:本文是对文献 《Graph Neural Networks: A Review of Methods and Applications》 的内容总结,详细内容请参照原文。 引言 大量的学习任务都要求能处理包含丰富的元素间关联关系的图数据,例如物理系统建模、疾病分类以及文本和图像等非结构数据的学习等。
阅读全文
摘要:本文是对文献 《An Attentive Survey of Attention Models》 的总结,详细内容请参照原文。 引言 注意力模型现在已经成为神经网络中的一个重要概念,并已经应用到多个应用领域。本文给出了注意力机制的主要思想,并对现有的一些注意力模型进行了分类,以及介绍了注意力机制与不
阅读全文
摘要:基本信息 论文题目:GRAPH ATTENTION NETWORKS 时间:2018 期刊:ICLR 主要动机 探讨图谱(Graph)作为输入的情况下如何用深度学习完成分类、预测等问题;通过堆叠这种层(层中的顶点会注意邻居的特征),我们可以给邻居中的顶点指定不同的权重,不需要任何一种耗时的矩阵操作(
阅读全文
摘要:输出是一个连续的数值。 模型表示 对于一个目标值,它可能受到多个特征的加权影响。例如宝可梦精灵的进化的 值,它不仅受到进化前的 值的影响,还可能与宝可梦的 值、类型、高度以及重量相关。因此,对于宝可梦进化后的 值,我们可以用如下线性公式来表示: $$y=b+\sum_{i=1}^n{\theta_i
阅读全文