摘要: 1.梯度下降法 是一种基于搜索的最优化方法,作用是最小化一个损失函数。 但不是所有的函数都有唯一的极值点。 解决方案:多次运行,随机初始化点 梯度下降法的初始点也是一个超参数 线性回归法的损失函数具有唯一的最优解。 模拟实现梯度下降法 1 import numpy as np 2 import ma 阅读全文
posted @ 2020-06-05 20:27 最咸的鱼 阅读(631) 评论(0) 推荐(0) 编辑
摘要: 1.最小二乘法 手工推导使损失函数最小的参数a和b: 2.简单线性回归的实现 1 import numpy as np 2 import matplotlib.pyplot as plt 3 4 x=np.array([1.,2.,3.,4.,5.]) 5 y=np.array([1.,3.,2., 阅读全文
posted @ 2020-06-05 09:39 最咸的鱼 阅读(593) 评论(0) 推荐(0) 编辑