其实这个方法比较新颖,自己本人也没怎么用过,看了不少文献,但是大多数都是枯燥公式推导;这里就写少量的简单公式求解,因为不写稍微长点话都不好意思发表了,因为这系列的文章只是写个介绍,毕竟如果只是写介绍的话实在太短了,接个我想要用的表情
弹性网络回归说起来的话,其实它和lasso方法和岭回归方法有些关系,因为这个方法其实是在lasso上衍生出来的一个方法;那就是Lasso方法的,那么这个回归的作用大致就和lasso方法类似,不过lasso这个方法虽然可以处理多重共线性,但是lasso处理强相关性的变量的时候效果并不理想(什么是强相关我前面介绍多重共线性的时候应该有介绍),它只能随机的将变量组中的某一变量选入模型,弹性网络回归针对如何处理具有强相关性变量组成的数据而提出的一个方法,然而利用弹性网络对变量进行筛选的时候,并不能确保变量选择的一致性和系数估计的渐进正态性。
弹性网络回归的运用有好多,像泊松对数线性模型或者逻辑斯蒂模型的adaptive elasticnet方法
对于普通线性模型,也就是用elasticnet参数求解定义如下
其中
大概是这样的吧对于给定数据(X,Y)和固定参数
定义数据集XN,YN满足:
令:
以及
则弹性网络方法的解等价一下Lasso的解
这里个人水平有限就不写案例了,等到自己研究到的时候在深入写详细的案例给大家,抱歉了
这里可以介绍大家使用这个方法的R包
其中一个是elasticnet包,另外一个是glmnet包;
这两个包可以使用帮助函数和看文档看如何使用,这里就不做介绍了;