2机器学习相关数学基础

本周任务：

请确保熟悉并理解机器学习数学部分常用相关概念:

1.高等数学

1）函数

2）极限

3）导数

4）极值和最值

5）泰勒级数

6）梯度

7）梯度下降

2.线性代数

1）基本概念

2）行列式

3）矩阵

4）最小二乘法

5）向量的线性相关性

3.概率论

1）事件

2）排列组合

3）概率

4）贝叶斯定理

5）概率分布

6）期望和方差

7）参数估计

 

2.本周视频学习内容：https://www.bilibili.com/video/BV1Tb411H7uC?p=2

1）P2 概率论与贝叶斯先验

2）P3 矩阵和线性代数

机器学习是一门多领域交叉学科，涉及较多的数学知识，本节课知识之前都有学过，这次根据重点重新梳理一遍，一定要多加重视。通过观看视频，大家对课程的数学基础部分加深印象。

建议大家边看边做笔记，记录要点及所在时间点，以便有必要的时候回看。学习笔记也是作业的一部分。

 

3.作业要求：

1）贴上视频学习笔记，要求真实，不要抄袭，可以手写拍照。

2）用自己的话总结“梯度”，“梯度下降”和“贝叶斯定理”，可以word编辑，可做思维导图，可以手写拍照，要求言简意赅、排版整洁。

 

1、

主要内容（1:02）

 

统计数字的概率（1:32）

 

数字1-9的概率并不见得是1/9，经过统计和频率观察，1出现的几率最大，一直到9为递减。

 

 

 

 本福特定律（5：43），详细说出数字出现概率并不是我们所认为的1/9，而占据首位的数字可高达1/3。

 

 关于数字出现概率的代码：

 

 公交车堵塞概率模拟（12:42）

 代码和出来的效果（15：25） 不得不说数学是一门神器的学科，学好数学可做很多科学类的实验。

 

 

 

 初始车速/减速概率对NS的模型影响（21:38） 很神奇，但是我对数学很头疼

 

 

 

 

 

 

 概率公式（24:00） 在之前高数和python学习有过了解

 

 

 贝叶斯公式（29:24） 上学期有一门课专门讲到贝叶斯公式

 

 

 两点分布（33:11） 在概率中两点分布算是比较简单的一个

 

 二项分布（35:11）

 

taylor展示（43:17）

 

 

 泊松分布（44：43）

 

 均匀分布（48:00）

 

 指数分布（49:00）

 

 

2、

梯度：梯度属于一种向量，它在二元、三元函数方面有所涉及，它表达某一函数在该点处方向的导数沿着该方向取得最大值，变化最快，变化率也最大。

梯度的应用也设计到物理参数（比如温度、速度等）。

 

梯度下降：梯度下降法是一种最优化算法，在机器学习或者是人工智能有所应用，被用于递归性地逼近最小偏差模型。在求解算法的模型参数时，梯度下降也是一种常用的方法。

 

贝叶斯定理：关于随机事件A和条件概率B的一则定理，我们常见的用法为P（A|B），这则概率的算法在离散数学学过，有一定的难度。