作业6-逻辑回归

1.用自己的话描述一下，什么是逻辑回归，与线性回归对比，有什么不同？

一、性质不同
1、逻辑回归：是一种广义的线性回归分析模型。
2、线性回归：利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。
二、应用不同
1、逻辑回归：常用于数据挖掘，疾病自动诊断，经济预测等领域。
2、线性回归：常运用于数学、金融、趋势线、经济学等领域

逻辑回归用在二值预测，比如预测一个客户是否会流失，只有0-不流失，1-流失；线性回归用来进行连续值预测，比如预测投入一定的营销费用时会带来多少收益。逻辑回归比线性回归多了一个sigmoid函数，sigmoid(x)=1/(1+exp(-x))，其实就是对x进行归一化操作，使得sigmoid(x)位于0~1
逻辑回归通常用于二分类模型，目标函数是二类交叉熵，y的值表示属于第1类的概率，用户可以自己设置一个分类阈值。
线性回归用来拟合数据，目标函数是平法和误差

2.自述一下什么是过拟合和欠拟合？

 

 

 

 

 

 3.思考一下逻辑回归的应用场景有哪些？

1、贷款违约情况：在金融风控领域，我们经常会通过这种模型来判断一个人的信用状况，例如这个人年纪比较小，或者之前有逾期的历史，或者工资没有达到一定的标准的时候，我们可以选择去拒贷，因为我们的模型会判断出来，这个人有可能会违约的，或者在将来会有很大概率违约的情况，再贷款违约的问题上，逻辑回归是一个重要的模型，在很多这种银行机构，他们仍然会采用逻辑回归模型做预测的问题。

2、广告点击率问题：这个问题英文叫CTR prediction，很多互联网公司想赚钱是要靠广告的，包括百度谷歌它们的大部分收入其实都来源于广告，当我们在百度上搜索一些关键词的时候，我们可以看到右边可能会出现一些广告，这些广告其实是需要分析用户的一些行为的，我要做一个精准的广告投放，这样广告的浏览率或者浏览的概率会增加，这样会给这些公司带来更多的利润，所以对于这类问题来说，广告点击率的预测的问题变得非常重要，在这个问题上我们很多都是用逻辑回归模型来做的。

3、商品推荐：在商品推荐上虽然我们大部分会采用矩阵分解或者协同过滤的算法，但是逻辑回归我们也可以把它用在商品推荐上。

4、情感分析：情感分析属于文本分析，它用来判断一个文章的情感是正面的还是负面的，我们可以从很多文本里面提取特征，然后把特征放到逻辑回归模型里面，然后做预测，预测这个文章的情感是正面的概率有多大或者负面的概率有多大。情感分析是非常经典的二分类问题，逻辑回归对情感分析来说也是一个非常有效的算法。在证券领域，我们也可以通过这种方式去判断未来股市的走势。

5、疾病的诊断：比如我给定一张图片或者一些传感器的数据，然后我去判断这个人有没有疾病，这也是非常经典的二分类问题，在这种问题上我们仍然可以采用逻辑回归模型。