摘要：
1. 基本模型 所谓的Seq2seq模型从字面上理解很简单，就是由一个序列到另一个序列的过程(比如翻译、语音等方面的应用)： 那么既然是序列模型，就需要搭建一个RNN模型(神经单元可以是GRU模型或者是LSTM模型) 下面两篇文章提出了这样的seq2seq的模型设计，引入了encode和decode 阅读全文
posted @ 2024-11-26 12:58
昭建
阅读(182)
评论(0)
推荐(0)
摘要：
title: Essense of Linear Algebra date: tags: - 笔记 - 机器学习 - 数学 categories: - [学习笔记] 学习线性代数已经很久，但是在使用过程中仍然还是不明所以，比如不知道特征向量和特征值的含义、矩阵的相乘是什么意思、如何理解矩阵的秩……。 阅读全文
posted @ 2024-11-25 15:37
昭建
阅读(134)
评论(0)
推荐(0)
摘要：
title: 图神经网络(GNN) date: tags: - 随笔 - 知识点 categories: - [学习笔记] 初探图神经网络(GNN) 文章来源：https://distill.pub/2021/gnn-intro/ 前言：说一下为什么要写这篇文章，因为自己最近一直听说“图神经网络”， 阅读全文
posted @ 2024-11-25 15:36
昭建
阅读(292)
评论(0)
推荐(1)
摘要：
内积和外积都是一种广义的称呼，我们最常见的内积是点积（数量积、标量积和点积定义相同），即对应元素乘然后累加； 但是，我们最容易弄错外积的定义，我们理解的两个向量运算得到第三个向量，且其方向垂直于另外两个向量的运算严格上叫叉积、叉乘或向量积，而非外积。外积有其单独定义，其对向量运算的结果为矩阵。 那么 阅读全文
posted @ 2024-11-25 15:36
昭建
阅读(572)
评论(0)
推荐(0)
摘要：
title: 线性回归方程的理解 date: tags: - 随笔 categories: - [机器学习, 补充笔记] - [学习笔记] 什么是一元线性回归方程呢？这篇文章提出了概念，并且还利用正态分布与cost function的表达式的关系。 文中引言也通俗地提出了什么是回归——本质上就是确定 阅读全文
posted @ 2024-11-25 15:36
昭建
阅读(79)
评论(0)
推荐(0)
摘要：
title: 初探长尾分布处理方法 date: tags: - 随笔 - 知识点 - NLP categories: - [学习笔记] 前言 长尾分布在分类任务中会提到这个名,这是因为长尾分布这个现象问题会导致在训练过程中会出现出错率高的问题，影响了实验结果。 这里要说的是，长尾分布是一种现象，有的 阅读全文
posted @ 2024-11-25 15:35
昭建
阅读(657)
评论(0)
推荐(0)
摘要：
title: 对比学习做了什么工作？ date: tags: - 随笔 categories: - [深度学习] - [学习笔记] 什么是对比学习？ 对比学习貌似处于“无明确定义、有指导原则”的状态 什么是对比学习呢？(这个是微信链接)全文比较长，但是逻辑框架还是不错的。 如果想要更快速的了解什么是 阅读全文
posted @ 2024-11-25 15:35
昭建
阅读(191)
评论(0)
推荐(0)
摘要：
title: 浅析GPT2中的autoregressive和BERT的autoencoding源码实现 date: tags: - 随笔 - 知识点 categories: - [学习笔记] 经常使用BERT来做研究，因此对Encoder的架构较为熟悉，但是从来没有了解过GPT这样的Decoder架 阅读全文
posted @ 2024-11-25 15:34
昭建
阅读(66)
评论(0)
推荐(0)
摘要：
title: 特征放缩 date: tags: - 随笔 categories: - [机器学习, 补充笔记] - [学习笔记] Feature scaling 主要有以下四种计算方法: 正如上图所示，实现的方法主要是Rescaling(min-max normalization)、Mean nor 阅读全文
posted @ 2024-11-25 15:32
昭建
阅读(316)
评论(0)
推荐(1)
摘要：
title: 吴恩达机器学习笔记2 date: tags: - 笔记 categories: - [吴恩达, 机器学习笔记2] - [学习笔记] 10. Neural network 10.1 neuron model 上图便是一个简单的neuron model，\(x_1,x_2,x_3\)是神经 阅读全文
posted @ 2024-09-26 20:37
昭建
阅读(40)
评论(0)
推荐(0)
浙公网安备 33010602011771号