AI-统计学习(1)-模型-感知机-(随机梯度下降和对偶)

感知机模型:

  1. 感知机模型解决的问题:二分类问题
  2. 感知机模型适用条件:线性可分
  3. 感知机模型统计学习三要素:假设空间、策略、求解算法
  4. 感知机的假设空间是什么?模型复杂度体现在哪?

假设空间就是分离超平面 wx+b=0.模型的复杂度主要体现在x(...)的特征数量,也就是维度d上。


1感知机模型(定义)

2.感知机策略(衡量模型好坏)

3.感知机算法 (两种,后一种计算量小 原因1.先算内积,2更新的是数不是向量。前一种更新的是向量。)

    3.1随机梯度下降

    3.2对偶


 

1感知机模型(定义)

          

 

2.感知机策略(衡量模型好坏)

          

           

3.感知机算法

   3.1随机梯度下降

        梯度:是函数变化最快的方向,相当于求导。

         步长:是点移动的距离,

        随机:1.每次只加一个实例值更新wb  2.实例为误分类点。

        

       

3.2对偶

    

 

 

posted @ 2019-11-02 12:37  jasmineTang  阅读(122)  评论(0)    收藏  举报