数据分析学习笔记--财政收入预测分析（代码）

一、相关知识点

1.相关性分析：
相关性分析是指对两个或多个具备相关型的特征元素进行分析，从而衡量两个特征因素的相关密切程度。在统计学中，常用到Pearson相关系数来进行相关性分析。Pearson相关系数可用来度量两个特征间的相互关系（线性相关强弱），是最简单的一种相关系数，常用r或ρ来表示，取值范围在[-1,1]。Pearson相关系数的一个关键特性就是，他不会随着特征的位置会是大小变化而变化。
2.Lasso回归：（正则化方法，压缩估计，惩罚函数，降维，处理多重共线性数据集）
Lasso以缩小特征集（降阶）为思想，是一种收缩估计方法。Lasso方法可以将特征系数进行压缩并使得某些回归系数变为0，进而达到特征选择的目的，可以应用于模型改进与选择—通过选择惩罚函数，借用Lasso思想和方法实现特征选择；模型选择本质上是寻求模型系数表达的过程，可以通过优化一个“损失”+“惩罚”的函数问题来完成。
Lasso回归方法可以弥补最小二乘估计法和逐步回归局部最优估计的不足，能很好地选择特征，有效的解决特征之间存在的多重共线性问题。缺点是当存在一组高度相关的特征三，Lasso回归方法会选择其中一个，而忽视其他所有的特征，可能会导致结果的不稳定。
3.灰色预测模型
灰色预测法是一种对含有不确定性因素的系统进行预测的方法。在建立灰色预测模型之前，需要对原始时间序列进行处理，经过处理的时间序列称为生成列。灰色系统常用的处理数据方式有累加和累减两种。
灰色预测法的通用性比较强，一般时间序列场合都可以使用，尤其那些规律性差且不清楚数据产生机理的情况。优点是预测精度高，模型可检验，参数估计方法简单，对小数据集有较好的效果 缺点是对原始数据序列的光滑度要求很高。

二、代码

1.分析数据特征的相关性

import numpy as np
import pandas as pd
inputfile = '../data/data.csv' ## 输入的数据文件
data = pd.read_csv(inputfile) ## 读取数据
## 保留两位小数
print('相关系数矩阵为：\n',np.round(data.corr(method = 'pearson'), 2))里插入代码片

2.使用lasso回归选取财政收入预测的关键特征

import numpy as np
import pandas as pd
from sklearn.linear_model import Lasso
inputfile = '../data/data.csv' #输入的数据文件
data = pd.read_csv(inputfile) #读取数据
lasso = Lasso(1000)  #调用Lasso()函数，设置λ的值为1000
lasso.fit(data.iloc[:,0:13],data['y'])
print('相关系数为：',np.round(lasso.coef_,5))  #输出结果，保留五位小数
## 计算相关系数非零的个数
print('相关系数非零个数为：',np.sum(lasso.coef_ != 0))
mask = lasso.coef_ != 0  #返回一个相关系数是否为零的布尔数组
print('相关系数是否为零：',mask)
outputfile = '../tmp/new_reg_data.csv'  #输出的数据文件
mask = np.append(mask,True)
new_reg_data = data.iloc[:, mask]  #返回相关系数非零的数据
new_reg_data.to_csv(outputfile)  #存储数据
print('输出数据的维度为：',new_reg_data.shape)  #查看输出数据的维度
# 输出聚类分群的结果

3.进行GM11灰度预测：

import numpy as np
import pandas as pd
from GM11 import GM11 ## 引入自编的灰色预测函数
inputfile = '../tmp/new_reg_data.csv' ##输入的数据文件
inputfile1 = '../data/data.csv' ## 输入的数据文件
new_reg_data = pd.read_csv(inputfile) ## 读取经过特征选择后的数据
data = pd.read_csv(inputfile1) ##读取总的数据
#new_reg_data.index = data.loc[:,'year']
new_reg_data.index = range(1994, 2014)
# print(new_reg_data.index)
new_reg_data.loc[2014] = None
new_reg_data.loc[2015] = None
l = ['x1', 'x3', 'x4', 'x5', 'x6', 'x7', 'x8', 'x13']
for i in l:
  f = GM11(new_reg_data.loc[range(1994, 2014),i].values)[0]
  new_reg_data.loc[2014,i] = f(len(new_reg_data)-1)#2014年预测结果
  new_reg_data.loc[2015,i] = f(len(new_reg_data)) ##2015年预测结果
  new_reg_data[i] = new_reg_data[i].round(2) ## 保留两位小数
outputfile = '../tmp/new_reg_data_GM11.xls' ## 灰色预测后保存的路径
y = list(data['y'].values) ## 提取财政收入列，合并至新数据框中
y.extend([np.nan,np.nan])
new_reg_data['y'] = y
new_reg_data.to_excel(outputfile) ## 结果输出
print('预测结果为：',new_reg_data.loc[2014:2015,:]) ##预测结果展示

4.SVR模型预测：

import pandas as pd
import numpy as np
from sklearn.svm import LinearSVR
import matplotlib.pyplot as plt
from sklearn.metrics import explained_variance_score,\
mean_absolute_error,mean_squared_error,\
median_absolute_error,r2_score
inputfile = '../tmp/new_reg_data_GM11.xls' #灰色预测后保存的路径
data = pd.read_excel(inputfile) #读取数据
feature = ['x1', 'x3', 'x4', 'x5', 'x6', 'x7', 'x8', 'x13'] 
#data_train = data.loc[range(2009,2014)].copy()#取2014年前的数据建模
data_train = data.loc[0:19,:]
data_mean = data_train.mean()
data_std = data_train.std()
data_train = (data_train - data_mean)/data_std #数据标准化
x_train = data_train[feature].values #特征数据
y_train = data_train['y'].values #标签数据
linearsvr = LinearSVR()   #调用LinearSVR()函数
linearsvr.fit(x_train,y_train)
x = ((data[feature] - data_mean[feature])/ \
data_std[feature]).values #预测，并还原结果。
data[u'y_pred'] = linearsvr.predict(x) * \
data_std['y'] + data_mean['y']
## SVR预测后保存的结果
outputfile = '../tmp/new_reg_data_GM11_revenue.xls'
data.to_excel(outputfile)
print('真实值与预测值分别为：',data[['y','y_pred']])
print('预测图为：',data[['y','y_pred']].plot(subplots = True,
      style=['b-o','r-*']))
plt.show()

5.回归模型评价

print('财政收入回归模型的平均绝对误差为：',
      mean_absolute_error(data.loc[0:19,'y'],data.loc[0:19,'y_pred']))
print('财政收入回归模型的均方误差为：',
     mean_squared_error(data.loc[0:19,'y'],data.loc[0:19,'y_pred']))
print('财政收入回归模型的中值绝对误差为：',
     median_absolute_error(data.loc[0:19,'y'],data.loc[0:19,'y_pred']))
print('财政收入回归模型的可解释方差值为：',
     explained_variance_score(data.loc[0:19,'y'],data.loc[0:19,'y_pred']))
print('财政收入回归模型的R方值为：',
     r2_score(data.loc[0:19,'y'],data.loc[0:19,'y_pred']))