1.线性回归概述-2.误差项分析 3.似然函数求解 4.目标函数推导（唐宇迪）

1.线性回归概述

2.数学部分

 

  

公式含意：

=θ₀x₀+θ₁x₁+θ₂x₂+......θ_nx_n

---

 

 2.误差项分析

误差ε^{( i )}是独立并且具有相同的分布并且服从均值为0方差为θ²的高斯分布

独立：张三和李四一起来贷款,他俩没关系
同分布：他俩都来得是我们假定的这家银行

高斯分布：银行可能会多给,也可能会少给,但是绝大多数情况下这个浮动不会太大（在 [-1，1] 间）,极小情况下浮动会比较大,符合正常情况（如下图）

误差求解公式：

---

 

3.似然函数求解

注：

　　1. exp≈2.7

　　2. 2式为高斯分部公式

似然函数：根据样本去估计参数值

例如：去赌场，不知输赢概率，问从赌场出来的n个人，计算出输赢概率（不管赌场实际输赢服从什么规则），此即为似然函数案例

 

 注：为累乘符号