摘要：
可以参考这篇文章： https://zhuanlan.zhihu.com/p/36711903 《BP 神经网络 —— 逆向传播的艺术》 里面有一些重要的知识点： 神经网络的前馈 (forward propagation) 过程，前馈过程也非常容易理解，符合人正常的逻辑，具体的矩阵计算表达如下： 阅读全文
posted @ 2022-02-22 15:56
blcblc
阅读(174)
评论(0)
推荐(0)
摘要：
标准流程： 理解问题：理解问题的核心，相关领域的问题、经验、限制、惯例、内外影响等等。 Collect input features Preprocess：Fillna(fill 0,mean,or by model(eg rf)), Outlier Feature engineering： Nor 阅读全文
posted @ 2022-02-21 22:27
blcblc
阅读(66)
评论(0)
推荐(0)
摘要：
这篇文章还讲得比较清楚： https://blog.csdn.net/u011508640/article/details/72815981 《详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解》 MLE：Maximum Likelihood Estimation，极大似然 阅读全文
posted @ 2022-02-21 21:59
blcblc
阅读(242)
评论(0)
推荐(0)
摘要：
这篇文章讲得还比较清楚： https://blog.csdn.net/huguozhiengr/article/details/81777577 《统计学中的频率学派与贝叶斯学派》 频率学派认为，对于一批样本，其分布是确定的，也即是是确定的，只不过未知。 贝叶斯学派引入了主观概率的概念，认为一个事件 阅读全文
posted @ 2022-02-21 21:50
blcblc
阅读(566)
评论(0)
推荐(0)
摘要：
这一篇文章讲得很好： https://zhuanlan.zhihu.com/p/36564434 《梯度下降法 —— 经典的优化方法》 核心是这张图： 所以负梯度方向，不是随便得来的，是根据泰勒公式推导得来的。 阅读全文
posted @ 2022-02-21 20:58
blcblc
阅读(66)
评论(0)
推荐(0)
摘要：
第一篇是这个： https://zhuanlan.zhihu.com/p/32230623 在上面一篇文章已经讲了： https://www.cnblogs.com/charlesblc/p/15908598.html 接下来是这篇文章： https://zhuanlan.zhihu.com/p/3 阅读全文
posted @ 2022-02-21 20:30
blcblc
阅读(1126)
评论(0)
推荐(0)
摘要：
参考这篇文章： https://zhuanlan.zhihu.com/p/32230623 深度学习优化算法经历了 SGD -> SGDM -> NAG ->AdaGrad -> AdaDelta -> Adam -> Nadam 这样的发展历程。 我们换一个思路，用一个框架来梳理所有的优化算法，做 阅读全文
posted @ 2022-02-18 14:43
blcblc
阅读(122)
评论(0)
推荐(0)
摘要：
参考这篇文章： https://zhuanlan.zhihu.com/p/33173246 https://www.sohu.com/a/220228574_717210（这篇是上面的转载） 其中ICS问题参考这里： https://blog.csdn.net/sinat_33741547/arti 阅读全文
posted @ 2022-02-17 17:37
blcblc
阅读(155)
评论(0)
推荐(0)
摘要：
今天读的这篇文章： 《图解BERT模型：从零开始构建BERT》 https://cloud.tencent.com/developer/article/1389555 单文本分类任务：对于文本分类任务，BERT模型在文本前插入一个[CLS]符号，并将该符号对应的输出向量作为整篇文本的语义表示，用于文 阅读全文
posted @ 2022-02-17 16:17
blcblc
阅读(479)
评论(0)
推荐(0)
摘要：
参考这篇文章： https://www.cnblogs.com/dogecheng/p/11615750.html 我们期望每一个 word token 都有一个 embedding。每个 word token 的 embedding 依赖于它的上下文。这种方法叫做 Contextualized W 阅读全文
posted @ 2022-02-16 21:42
blcblc
阅读(146)
评论(0)
推荐(0)
浙公网安备 33010602011771号