摘要：Error analysis Carrying out error analysis Error analysis是手动分析算法错误的过程。 通过一个例子来说明error analysis的过程。假设你在做猫图像识别的算法，它的错误率高达10%，你希望提高它的表现。 你已经有了一些改进的想法，包括： 阅读全文

摘要：Optimization algorithms 优化算法以加速训练。 Mini batch gradient descend Batch gradient descend：每一小步梯度下降否需要计算所有的训练样本。很耗时。 Mini batch gradient descend：将训练集分为很多小的 阅读全文

摘要：Setting up your optimization problem Normalizing inputs（归一化输入） 归一化输入是可以减速训练的一种方法，包括两步： 1. 均值归零 $$ \mu = \frac{1}{m}\sum_{i=1}^{m}{x^{(i)}}$$ $$x := x 阅读全文

摘要：Introduction to ML strategy Why ML strategy 可以改进ML系统的策略很多，因此教授大家一些分析ML系统的问题和选择适当有效的策略使得更有效率的提升系统性能的strategy和建立和管理大的ML系统。 Orthogonalization（正交化） 比如，老式电 阅读全文

摘要：Regularization L2 Regularization 在cost function后加一个L2范数项（对于矩阵来说为Forbenius norm，为$\sum\limits_k\sum\limits_j W_{k,j}^{[l]2}$),L2正则化后的cost function变为： $ 阅读全文

摘要：应用ML是一个高度迭代的过程 Idea Code Experment ... 去不断地调整超参数。 Train/Dev/Test sets 通常将数据集划分为Train/Dev/Test集。 Training set: 用于模型的训练 Hold out cross validation set/De 阅读全文