机器学习-逻辑回归和softmax回归 - 实践

文章目录

• 逻辑回归
• • 逻辑回归算法表达式
  • 模型训练
  • 逻辑回归做多分类
• softmax回归
• • 模型实例
  • 训练模型
• 注意
• 代码

逻辑回归

logistic regression 并不是回归任务的算法，而是属于分类任务算法

逻辑回归算法表达式

一个 型曲线（Sigmoid函数），将线性回归的值压缩到了0到1之间，这样就具备了概率含义；大于0.5为正例，反之是负例

模型训练

逻辑回归做多分类

softmax回归

多分类问题的机器学习算法

模型实例

假设你是一名动物园管理员，你想识别你们园区的动物。你拍了一些照片，其中包含狗、猫和鸟三种不同的动物。你需要一个算法来识别每张照片中的动物是哪一种。

训练模型

注意

多标签和多分类的区别

• 各类别概率之和必须为1； 1就是Softmax回归适合多分类模型，因为互斥就
• 相互独立的；就是逻辑回归多分类转多个二分类适合，因为各个二分类模型

代码

multi_class : {'auto', 'ovr', 'multinomial'}, default='auto'
If the option chosen is 'ovr', then a binary problem is fit for each
label. For 'multinomial' the loss minimised is the multinomial loss fit
across the entire probability distribution, *even when the data is
binary*. 'multinomial' is unavailable when solver='liblinear'.
'auto' selects 'ovr' if the data is binary, or if solver='liblinear',
and otherwise selects 'multinomial'.