[吴恩达Coursea机器学习] 笔记007 代价函数（2）：代价函数图形

回顾：

现在考虑对假设函数\(h_\theta(x)\)和代价函数\(J(\theta)\)进行可视化。

先考虑最简单的情况，只有一个参数\(\theta_1\)（令 \(\theta_0 = 0\) ）：$h_\theta(x) = \theta_1x $

也就是 $h_\theta(x) = \theta_1x $经过原点：

假设 \(\theta_1 = 1\)，有以下3个样本

\(x\)	\(y\)
1	1
2	2
3	3

此时，\(h_\theta(x)\) 是关于x的函数, 我们来画出假设函数 $h_\theta(x) $ 的图形：$h_\theta(x) = 1 * x $

问：如何画出 \(J(\theta_1)\) 的图形？

答：计算出 \(J(\theta_1)\) 对应的值，就能画出图形来

先计算假设函数 \(h_{\theta_1}(x)\) 的值

\(x\)	\(y\)	$h_{\theta_1}(x); \theta_1=1 $	$h_{\theta_1}(x); \theta_1=0.5 $	$h_{\theta_1}(x); \theta_1=0 $
1	1	1	0.5	0
2	2	2	1	0
3	3	3	1.5	0

下面是 \(h_{\theta_1}(x) - y\) 的直观理解：

根据 $h_{\theta_1}(x) $ 的值，计算 \(J(\theta_1)\) 的值，此时 \(J(\theta_1)\) 是关于 \(\theta_1\) 的函数

最终我们画出 \(J(\theta_1)\) 的函数图形：

看上面那条曲线，让 \(J(\theta_1)\) 最小化的是（ \(\theta_1 = 1\) ），该直线对应着最佳数据集的拟合直线

总结：

1. 我们通过不断的计算 \(J(\theta_1)\)，最终找到了最佳拟合直线的参数（ \(\theta_1 = 1\) ）
2. 解决复杂的问题时，先考虑最简单的情况（只有一个 \(\theta\) 参数）
3. 通过枚举 \(\theta_1\) 所有可能的取值，计算出对应的 \(J(\theta_1)\)，最终就能找到最优的参数 \(\theta_1\)。还有更好的算法吗？