机器学习数学笔记|极大似然估计

机器学习数学笔记|极大似然估计

觉得有用的话,欢迎一起讨论相互学习~

我的微博我的github我的B站

本博客为七月在线邹博老师机器学习数学课程学习笔记
为七月在线打call!!
课程传送门

极大似然估计

  • 假设D是样本集合,A是参数集合,我们在D样本集固定的情况下,A取何值时,P(A|D)能取到最大.

![]( https://img-blog.csdnimg.cn/20200503230403692.jpg?x-oss-process=image/watermark ,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTM1NTU3MTk=,size_16,color_FFFFFF,t_70)

  • 我们现在的主要目的是求1式的最大值,其中1式通过贝叶斯公式能转换为2式的形式,其中2式的分母相同,我们只需要考虑分子即可--即3式,又因为\(P(A_{i})\)近似相等.所以我们可以将3式中\(P(A_{i})\)去掉,直接考虑4式的最大值.
  • 最后我们得到5式,这相当于是一种颠倒原因结果的式子.

定义

![]( https://img-blog.csdnimg.cn/20200503230404392.jpg?x-oss-process=image/watermark ,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTM1NTU3MTk=,size_16,color_FFFFFF,t_70)

二项分布中的极大似然估计

![]( https://img-blog.csdnimg.cn/20200503230403912.jpg?x-oss-process=image/watermark ,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTM1NTU3MTk=,size_16,color_FFFFFF,t_70)

高斯分布中的极大似然估计

![]( https://img-blog.csdnimg.cn/20200503230404502.jpg?x-oss-process=image/watermark ,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTM1NTU3MTk=,size_16,color_FFFFFF,t_70)

posted @ 2017-11-17 16:37  WUST许志伟  阅读(751)  评论(0)    收藏  举报