摘要：
1. 背景：优化问题 在机器学习和统计建模中，我们常常需要找到一个模型的参数，使得 损失函数 (Loss Function) 最小。 比如线性回归的损失函数（均方误差 MSE）： \[J(\theta) = \frac{1}{2m} \sum_{i=1}^{m} (h_\theta(x^{(i)}) 阅读全文
posted @ 2025-09-06 22:47
立体风
阅读(354)
评论(0)
推荐(0)
摘要：
梯度下降法（Gradient Descent）是一种非常重要的优化算法，常用于机器学习中，用来寻找函数的最小值。它的核心思想很简单：就像一个人下山一样，每一步都朝着当前位置最陡峭的方向（即梯度的反方向）走，最终就能走到山谷的最低点。 梯度（Gradient）是什么？ 要理解梯度下降，首先要明白“梯度 阅读全文
posted @ 2025-09-06 22:43
立体风
阅读(53)
评论(0)
推荐(0)
摘要：
数学公式 \(\min_{w} || X w - y||_2^2\) 也是表达最小二乘法，但它使用了矩阵和向量的形式，这在处理多维数据和编程时更常见、更简洁。 公式解释 这个公式的核心思想与更常见的最小二乘表示公式 \(\sum_{i=1}^{n} (y_i - \hat{y}_i)^2\) 完全一 阅读全文
posted @ 2025-09-06 18:56
立体风
阅读(28)
评论(0)
推荐(0)
摘要：
公式 \(\hat{y}_i = w_0 + w_1x_{i1} + w_2x_{i2} + \dots + w_px_{ip}\) 是线性回归模型的核心数学表达式。 解释如下： 核心概念 这个公式描述了如何通过一系列特征（\(x\)）来预测一个目标值（$ \hat{y} $）。它假设目标值是特征的 阅读全文
posted @ 2025-09-06 17:53
立体风
阅读(35)
评论(0)
推荐(0)
摘要：
Residual 的音标是： 英式发音：/rɪˈzɪd.ju.əl/ 美式发音：/rɪˈzɪdʒ.u.əl/ 或 /rɪˈzɪd.ju.əl/ 本义 Residual 这个词的本义是剩余的、残留的或剩下的。 它源于拉丁语 residuum，意为“剩下的东西”。这个词根 sidere 意为“坐下”，因 阅读全文
posted @ 2025-09-06 17:10
立体风
阅读(22)
评论(0)
推荐(0)
摘要：
Coefficients 的音标是： 英式发音：/ˌkəʊ.ɪˈfɪʃ.ənts/ 美式发音：/ˌkoʊ.əˈfɪʃ.ənts/ 本义 Coefficient 这个词的本义是系数或协同因子。 它由两部分组成： co-：这是一个前缀，意思是“共同、一起”。 efficient：这个词根在这里不是“有效 阅读全文
posted @ 2025-09-06 17:08
立体风
阅读(52)
评论(0)
推荐(0)
摘要：
The following are a set of methods intended for regression in which the target value is expected to be a linear combination of the features. In mathem 阅读全文
posted @ 2025-09-06 16:52
立体风
阅读(13)
评论(0)
推荐(0)
浙公网安备 33010602011771号