摘要:
1.梯度下降法 是一种基于搜索的最优化方法,作用是最小化一个损失函数。 但不是所有的函数都有唯一的极值点。 解决方案:多次运行,随机初始化点 梯度下降法的初始点也是一个超参数 线性回归法的损失函数具有唯一的最优解。 模拟实现梯度下降法 1 import numpy as np 2 import ma 阅读全文
摘要:
1.最小二乘法 手工推导使损失函数最小的参数a和b: 2.简单线性回归的实现 1 import numpy as np 2 import matplotlib.pyplot as plt 3 4 x=np.array([1.,2.,3.,4.,5.]) 5 y=np.array([1.,3.,2., 阅读全文