数据分析中常见的七种回归分析以及R语言实现(七)---弹性网络回归

浏览: 5551

其实这个方法比较新颖,自己本人也没怎么用过,看了不少文献,但是大多数都是枯燥公式推导;这里就写少量的简单公式求解,因为不写稍微长点话都不好意思发表了,因为这系列的文章只是写个介绍,毕竟如果只是写介绍的话实在太短了,接个我想要用的表情

Clipboard Image.png

弹性网络回归说起来的话,其实它和lasso方法和岭回归方法有些关系,因为这个方法其实是在lasso上衍生出来的一个方法;那就是Lasso方法的,那么这个回归的作用大致就和lasso方法类似,不过lasso这个方法虽然可以处理多重共线性,但是lasso处理强相关性的变量的时候效果并不理想(什么是强相关我前面介绍多重共线性的时候应该有介绍),它只能随机的将变量组中的某一变量选入模型,弹性网络回归针对如何处理具有强相关性变量组成的数据而提出的一个方法,然而利用弹性网络对变量进行筛选的时候,并不能确保变量选择的一致性和系数估计的渐进正态性。

弹性网络回归的运用有好多,像泊松对数线性模型或者逻辑斯蒂模型的adaptive elasticnet方法

对于普通线性模型,也就是用elasticnet参数求解定义如下

Clipboard Image.png

其中

Clipboard Image.png

大概是这样的吧对于给定数据(X,Y)和固定参数

Clipboard Image.png

定义数据集XN,YN满足:

Clipboard Image.png

令:

Clipboard Image.png

以及

Clipboard Image.png

则弹性网络方法的解等价一下Lasso的解

Clipboard Image.png

这里个人水平有限就不写案例了,等到自己研究到的时候在深入写详细的案例给大家,抱歉了

这里可以介绍大家使用这个方法的R包

其中一个是elasticnet包,另外一个是glmnet包;

这两个包可以使用帮助函数和看文档看如何使用,这里就不做介绍了;

推荐 5
本文由 夏尔康 创作,采用 知识共享署名-相同方式共享 3.0 中国大陆许可协议 进行许可。
转载、引用前需联系作者,并署名作者且注明文章出处。
本站文章版权归原作者及原出处所有 。内容为作者个人观点, 并不代表本站赞同其观点和对其真实性负责。本站是一个个人学习交流的平台,并不用于任何商业目的,如果有任何问题,请及时联系我们,我们将根据著作权人的要求,立即更正或者删除有关内容。本站拥有对此声明的最终解释权。

1 个评论

辛苦,学习中

要回复文章请先登录注册