利用下班时间写个R语言对回归模型进行回归诊断

浏览: 3231

    在R语言中,对数据进行回归建模是一件很简单的事情,一个lm()函数就可以对数据进行建模了,但是建模了之后大部分人很可能忽略了一件事情就是,对回归模型进行诊断,判断这个模型到低是否模型的假定;如果不符合假定,模型得到的结果和现实中会有巨大的差距,甚至一些参数的检验因此失效。

    因为在对回归模型建模的时候我们使用了最小二乘法对模型参数的估计,什么是最小二乘法,通俗易懂的来说就是使得估计的因变量和样本的离差最小,说白了就是估计出来的值误差最小;但是在使用最小二乘法的前提是有几个假设的。

    这里我就引用《R语言实战》的内容了,在我大学中的《计量经济学》这本书讲的更为详细,不过这里主要是介绍使用R语言对模型进行回归诊断,所以我们就不说太详细了;

    假定

正态性:对于固定的自变量值,因变量值成正态分布,也就是说因变量的是服从正态分布的

独立性:Yi值之间相互独立,也就是说Yi之间不存在自相关

线性:因变量和自变量是线性相关的,如果是非线性相关的话就不可以了。

同方差:因变量的方法不随着自变量的水平还不同而变化,也可称之为同方差;

   为了方便大家使用和对照,这里就使用书上的例子给大家介绍了,在系统自带的安装包中women数据集,我们就想通过身高来预测一下体重;在做回归诊断之前我们得先建模;

首先我们先看一下数据是长什么样子的,因为我们不能盲目的拿到数据后建模,一般稍微规范的点流程是先观察数据的分布情况,判断线性相关系数,然后在考虑是否建立回归模型,然后在进行回归诊断;

R代码如下:

data('women')

women

结果如下

Clipboard Image.png

初步观察数据大概告诉我们体重就是跟随着身高增长而增长的;在通过画一下散点图观察

R代码如下

plot(women)

Clipboard Image.png

然后我们在判断一下各个变量之间的线性相关系数,然后在考虑要不要建模

R代码如下

cor(women)

结果如下

Clipboard Image.png

从相关系数的结果上看,身高和体重的相关程度高达0.9954,可以认为是完全有关系的。

根据以上的判断我们认为可以建立模型去预测了,这时候我们使用LM()函数去建模,并通过summary函数去得到完整的结果。

R代码如下

model <- lm(weight~height,data=women)

summary(model)

Clipboard Image.png

出现这个问号原因是由于电脑字符集问题;稍微解读一下这个结果,RESIDUALS是残差的五分位数,不知道五分位的可以百度一下,这里不多说,下面的结果height的回归系数是3.45,标准差是0.09114,T值为37.85,P值为1.09e-14,并显著通过假设检验,残差的标准差为1.525,可决系数为0.991,认为自变量可以解释总体方差的99.1%,调整后的可决系数为0.9903,这是剔除掉自变量的个数后的可决系数,这个比较有可比性,一般我都看这个调整后的可决系数。结果就解读那么多,因此得到的结果就是

    上面只是借用了一个小小例子来讲解了一下R语言做回归模型的过程,接下来我们将一下如何进行回归诊断,还是原来的那个模型,因为使用LM函数中会有一些对结果评价的内容,因此我们用PLOT函数将画出来;

R代码如下

par(mfrow=c(2,2))

plot(model)

结果如下

Clipboard Image.png

   左上:代表的残差值和拟合值的拟合图,如果模型的因变量和自变量是线性相关的话,残差值和拟合值是没有任何关系的,他们的分布应该是也是在0左右随机分布,但是从结果上看,是一个曲线关系,这就有可能需要我们家一项非线性项进去了。

   右上:代表正态QQ图,说白了就是标准化后的残差分布图,如果满足正态假定,那么点应该都在45度的直线上,若不是就违反了正态性假定;

   左下:位置尺度图,主要是检验是否同方差的假设,如果是同方差,周围的点应该随机分布。

   右下:主要是影响点的分析,叫残差与杠杆图,鉴别离群值和高杠杆值和强影响点,说白了就是对模型影响大的点

根据左上的图分布我们可以知道加个非线性项,R语言实战里面是加二次项,这里我取对数,主要是体现理解

R代码如下

model1 <- lm(weight~height+log(height),data=women)

plot(model1)

summary(model1)

结果如下

诊断图

Clipboard Image.png

模型拟合结果图

Clipboard Image.png

综合起来我们新模型貌似更优了;我就介绍到这里,具体大家可以看书籍

参考文献

<R语言实战>

推荐 8
本文由 夏尔康 创作,采用 知识共享署名-相同方式共享 3.0 中国大陆许可协议 进行许可。
转载、引用前需联系作者,并署名作者且注明文章出处。
本站文章版权归原作者及原出处所有 。内容为作者个人观点, 并不代表本站赞同其观点和对其真实性负责。本站是一个个人学习交流的平台,并不用于任何商业目的,如果有任何问题,请及时联系我们,我们将根据著作权人的要求,立即更正或者删除有关内容。本站拥有对此声明的最终解释权。

10 个评论

好棒 多多分享
好文
公众号也同步了
谢谢!知识重在分享
不过感觉自己写的好烂阿!
很好的
左上:代表的残差值和拟合值的拟合图,如果模型的因变量和自变量是线性相关的话,残差值和拟合值是没有任何关系的,他们的分布应该是也是在0左右随机分布,但是从结果上看,是一个曲线关系,这就有可能需要我们家一项非线性项进去了。

因变量与自变量的相关关系(线性或非线性),模型出来后的残差值和拟合值的关系,以上两种关系直接是没有必然联系的!残差值和拟合值呈曲线关系,不能说明原方程一定要加入非线性项!个人观点,仅供交流。
因变量和自变量和关系线性或者非线性会影响到他们残差的分布,从而间接的影响了残差值和拟合的分布,这些是可证的,仅供参考
因变量和自变量和关系线性或者非线性会影响到他们残差的分布,从而间接的影响了残差值和拟合的分布,这些是可证的,仅供参考
probit和logit model 也可以这样检验,结果怎么解释呢?

要回复文章请先登录注册