随笔分类 - Machine Learning
摘要：CS229 笔记08 Kernel 回顾之前的优化问题 原始问题为： $$ \min_{w,b} \frac{1}{2}||w||^2\\[1.5em] {\text{s.t.}}y^{(i)}\left(w^{\rm T}x^{(i)}+b\right)\geq1 $$ 原始问题的对偶问题为： $
阅读全文
摘要：CS229 笔记07 Optimal Margin Classifier 回顾SVM $$ \begin{eqnarray } h_{w,b}&=&g(w^{\rm T}x+b)\\[1em] g(z)&=&\begin{cases}1&z\geq0\\[1em] 1&z0$ ，不满足条件 $(1)
阅读全文
摘要：CS229 笔记06 朴素贝叶斯 事件模型 事件模型与普通的朴素贝叶斯算法不同的是，在事件模型中，假设文本词典一共有 $k$ 个词，训练集一共有 $m$ 封邮件，第 $i$ 封邮件的词的个数为 $n_i$ ，则 $x^{(i)} \in \{1,2,\cdots,k\}^{n_i}$ 。 此时模型的
阅读全文
摘要：CS229 笔记05 生成学习方法 判别学习方法的主要思想是假设属于不同target的样本，服从不同的分布。 例如 $P(x|y=0) \sim {\scr N}(\mu_1,\sigma_1^2)$ ， $P(x|y=1) \sim {\scr N}(\mu_2,\sigma_2^2)$ 。 Ga
阅读全文
摘要：CS229 笔记04 Logistic Regression Newton's Method 根据之前的讨论，在Logistic Regression中的一些符号有： $$ \begin{eqnarray } P(y=1|x;\Theta)&=&h_\Theta(x)=\frac{1}{1+e^{
阅读全文
摘要：CS229 笔记03 局部加权线性回归 Non Parametric Learning Algorithm （非参数学习方法） Number of parameters grows with the size of sample. （参数的数目随着样本的数目增加而增加。） Locally Weigh
阅读全文
摘要：CS229 笔记02 公式推导 $ {\text {For simplicity, Let }} A, B, C \in {\Bbb {R}}^{n \times n}. $ $ {\bf {\text {Fact.1: }}} \text{If } a \in {\Bbb R}, {\rm t
阅读全文
浙公网安备 33010602011771号