12 2015 档案

高维度下的数据科学——线性空间（下）
摘要：矩阵实质上是一种坐标变换 对于单位矩阵坐标基，上的向量x（x1, x2,...xn） 对于基(a1, a2...an), 两个基的互相表示为 (a1, a2...an) = I (a1, a2...an) 将向量x的坐标转移到（a1,a2...an）上，（a1,a2...an） y = I x =... 阅读全文
posted @ 2015-12-24 15:41 zena 阅读(802) 评论(0) 推荐(0)
线性模型——异方差、序列相关、多重共线性与内生性的处理
摘要：在实际的计量经济学问题中，完全满足回归的基本假设的情况并不多见。不满足基本假定的情况。称为 违背基本假定 违背基本假定的情况主要包括：1. 随机干扰项存在异方差2. 随机干扰项的序列相关（或称自相关）3. 解释变量之间的多重共线4. 解释变量为随机变量，存在内生性 异方差性 线性模型的基本假设中有... 阅读全文
posted @ 2015-12-24 15:12 zena 阅读(22334) 评论(0) 推荐(1)
约束条件下的多元回归
摘要：普通的线性约束 假设有如下的回归模型y=x0+b1 x1+b2 x2+…bn xn 回归模型中有许多的参数, 假设我们猜测总体的参数中有约束条件如下:b1+b2=1，那么我们可以用样本数据来对这个约束假设进行验证么? 答案当然是可以。其思想为我们将约束条件放在模型中,产生一个新的模型，该模型只有... 阅读全文
posted @ 2015-12-18 23:28 zena 阅读(2687) 评论(0) 推荐(0)
高维度下的数据科学—线性空间（上）
摘要：使得集合Y的元素和集合X的元素相对应起来的规则f。广义的概念：电影票也是一种映射，发工资也是一种映射，男女朋友也是映射。只要有对应关系，我么就可以认为是映射。映射这个概念就是发明用来对自然界和社会上对应关系的一种抽象。非常需要注意的是：一定要记住：映射的概念是非常广泛的一个概念，任何两种有关系的事物... 阅读全文
posted @ 2015-12-12 21:56 zena 阅读(1303) 评论(0) 推荐(0)
多重共线性的解决方法之——岭回归与LASSO
摘要：多元线性回归模型 的最小二乘估计结果为 如果存在较强的共线性，即 中各列向量之间存在较强的相关性，会导致的从而引起对角线上的 值很大 并且不一样的样本也会导致参数估计值变化非常大。即参数估计量的方差也增大，对参数的估计会不准确。 因此，是否可以删除掉一些相关性较强的变量呢？如果p个变量之间具有较强的相关性，那么又应当删除哪几个是比较好的呢？ 本文介绍两种方法能够判断如何对... 阅读全文
posted @ 2015-12-12 10:48 zena 阅读(37034) 评论(1) 推荐(0)
多元线性回归的预测
摘要：回归模型除了对参数进行估计和检验，以弄清楚变量的相关性和因果性之外，另一个目的便是进行预测。 那么，由OLS方法的出来的预测结果是否可靠呢？预测结果的可靠性又会受什么因素的影响呢？除了点估计的预测结果，能否有区间估计的预测结果呢？ 本文就这些问题，来进行一一探讨1.引入why？ 回归模型除... 阅读全文
posted @ 2015-12-10 17:55 zena 阅读(2375) 评论(0) 推荐(0)
多元线性回归 ——模型、估计、检验与预测
摘要：一、模型假设 传统多元线性回归模型 最重要的假设的原理为： 1. 自变量和因变量之间存在多元线性关系，因变量y能够被x1,x2….x{k}完全地线性解释；2.不能被解释的部分则为纯粹的无法观测到的误差 其它假设主要为： 1.模型线性，设定正确； 2.无多重共线性； 3.无内生性； 4.随机误差项具有条件零均值、同方差、以及无自相关； 5.随机误差项正态分布 具体见另一篇文章：回归模型的... 阅读全文
posted @ 2015-12-09 16:08 zena 阅读(11700) 评论(0) 推荐(0)
多元线性回归模型的几何意义
摘要：模型设定与假设多元线性回归与一元线性回归在思想上并没有太大的不同 ，不过是多了一些变量罢了。考虑问题的角度要从之前的二维空间进阶到高维空间。传统的多元线性回归模型可以用矩阵来描述。按照OLS估计方法得出的多元线性回归的参数结果为对于该式而言Y的估计值 其实正是n维向量Y 在n*k维矩阵（不存在向量自... 阅读全文
posted @ 2015-12-08 14:48 zena 阅读(4317) 评论(0) 推荐(0)
矩阵运算基础——余弦距离与欧式距离
摘要：1、余弦距离余弦距离，也称为余弦相似度，是用向量空间中两个向量夹角的余弦值作为衡量两个个体间差异的大小的度量。向量，是多维空间中有方向的线段，如果两个向量的方向一致，即夹角接近零，那么这两个向量就相近。而要确定两个向量方向是否一致，这就要用到余弦定理计算向量的夹角。余弦定理描述了三角形中任何一个夹角... 阅读全文
posted @ 2015-12-07 11:56 zena 阅读(6155) 评论(0) 推荐(2)