摘要：
Transformer 写在前面 本学期学习了NLP的课程，本小菜鸡结合做的课设（基于Transformer的英文文档摘要系统的设计与实现），来写一下有关于Transformer的相关内容吧，有问题之处还请各位大佬批评指正 系统的背景 抽象文本摘要是自然语言处理中最具挑战性的任务之一，涉及理解长段落 阅读全文
摘要：
NLP复习之神经网络 前言 tips： 设计神经网络时，输入层与输出层节点数往往固定，中间层可以自由指定； 神经网络中的拓扑与箭头代表预测过程数据流向，与训练的数据流有一定区别； 我们不妨重点关注连接线，因为它们是权重，是要训练得到的 神经元 神经元模型是一个包含输入、输出、计算功能的模型，注意中间 阅读全文
摘要：
第一章课后习题 1. 简要总结嵌入式系统的定义、由来、分类及特点（P6-11） 嵌入式系统是指嵌入于其他设备或系统中的计算机系统，它通常被用于控制、监视或执行特定的功能。嵌入式系统通常包括处理器、存储器、输入/输出接口以及特定的软件，用于满足特定的应用需求。 嵌入式系统的由来可以追溯到20世纪60年 阅读全文
摘要：
嵌入式复习 缩写词 中文名 英文缩写 英文全称 模数转换 ADC Analog to Digital Converter 高性能总线 AHB Advanced High performance Bus 高级微控制器总线架构 AMBA Advanced Micro-controller Bus Arc 阅读全文
摘要：
向量语义 词汇语义 语义概念(sense or concept)是单词含义(word sense)的组成部分，词原型可以是多义的。 同义词是指：在某些或者全部的上下文中，单词之间有相同或近似含义 可能没有完全相同含义的同义词例子！ 即使在很多情况下(上下文语境)，单词间的含义是相同的。 但仍然有可能 阅读全文
摘要：
朴素贝叶斯分类器和加一平滑计算每个单词的似然值 贝叶斯规则：c表示类别，d表示数据 \[P(c|d) = \frac{P(d|c)P(c)}{P(d)} \]例题1 假设句子“I always like foreign films.”中每个单词对应每个类的似然估计如下，请判断该句子属于正面还是负面评 阅读全文
摘要：
N元文法的统计 二元概率方程： \[P(w_n|w_{n-1}) = \frac{C(w_{n-1}w_n)}{C(w_{n-1})} \]三元概率估计方程： \[P(w_n|w_{n-2},w_{n-1}) = \frac{C(w_{n-2;n-1}w_n)}{C(w_{n-2;n-1})} \] 阅读全文
摘要：
1 \(u, v \in R^n\)，矩阵\(A=I+uv^T\)，投影算子\(P=I-uu^T/u^Tu\)，SM公式\(M=A-uv^T,M^{-1}=A^{-1}+A^{-1}uv^TA^{-1}/(1-v^TA^{-1}u)\) 1、证明：矩阵A的逆是\(A^{-1}=I+auv^T\)，并 阅读全文
摘要：
1 拟牛顿法 牛顿法：$$x_{k+1} = x_k - \nabla^2 f(x_k)^{-1} \nabla f(x_k)$$ 牛顿法的缺陷在于 \(\nabla^2 f(x_k)\) 难以求取和存储，因此有拟牛顿法(Quasi-Newton methods)，通过在牛顿法的迭代中加入近似求取每 阅读全文
摘要：
1 梯度下降法 \(\qquad\) 梯度下降法又称最速下降法，是最优化方法中最基本的一种方法。所有的无约束最优化问题都是在求解如下的无约束优化问题：$$\min_{x \in R^n} f(x)$$ 将初始点\(x_0\)逐步迭代到最优解所在的点\(x^*\)，那么考虑搜索点迭代过程：$$x_{t 阅读全文