介绍

你知道 XGBoost 算法是一种现在在数据科学竞赛的获胜方案很流行的算法吗?

那么，他比传统的随机森林和神经网络算法强在哪里呢？广义上来说，它在效率，准确性，可行性都更有优势（接下来我们将会详细讨论）。

在最近的几年中，模型预测已经变得越来越快速和准确了。我记得我曾花费数个小时在为某个模型构建特征工程上，模型却仅仅提升了几个百分点。
现在，这些大量困难的问题都被更好的算法所解决。

从技术上说，XGBoost 是 Extreme Gradient Boosting 的缩写。它的流行源于在著名的Kaggle数据科学竞赛上被称为"奥托分类"的挑战。

2015年8月，Xgboost的R包发布，我们将在本文引用0.4-2版本的xgboost包。

在这篇文章中，我讲解释一个简单的方式来使用xgboost在R中。 因此，下次当你建立一个模型时可以考虑一下这个算法。我确信这是一个令人惊艳和幸福的时刻。

什么是 XGBoost?

xgboost 是"极端梯度上升"(Extreme Gradient Boosting)的简称, 它类似于梯度上升框架，但是更加高效。它兼具线性模型求解器和树学习算法。因此，它快速的秘诀在于算法在单机上也可以并行计算的能力。

这使得xgboost至少比现有的梯度上升实现有至少10倍的提升。它提供多种目标函数，包括回归，分类和排序。

由于它在预测性能上的强大但是相对缓慢的实现，"xgboost" 成为很多比赛的理想选择。
它还有做交叉验证和发现关键变量的额外功能。在优化模型时，这个算法还有非常多的参数需要调整。我们将在下一个章节讨论这些因素。

使用XGBoost数据的准备

XGBoost仅适用于数值型向量。是的!你需要使用中区分数据类型。

因此,您需要将所有其他形式的数据转换为数值型向量。一个简单的方法将类别变量转换成数值向量是一个"独热编码"。这个词源于数字电路语言,这意味着一个数组的二进制信号,只有合法的值是0和1。

在R中,一个独热编码非常简单。这一步(如下所示)会在每一个可能值的变量使用标志建立一个稀疏矩阵。稀疏矩阵是一个矩阵的零的值。稀疏矩阵是一个大多数值为零的矩阵。相反,一个稠密矩阵是大多数值非零的矩阵。

假设,你有一个叫“竞选”的数据集，除了反应变量，想将所有分类变量转换成一些标志。如下所示:

sparse_matrix <- Matrix::sparse.model.matrix(response ~ .-1, data = campaign)

现在让我们分解这个代码如下:

• sparse.model.matrix这条命令的圆括号里面包含了所有其他输入参数。

• 参数“反应”说这句话应该忽略“响应”变量。

• “-1”意味着该命令会删除矩阵的第一列。

• 最后你需要指定数据集名称。

想要转化目标变量,你可以使用下面的代码:

output_vector = df[,response] == "Responder"

代码解释：

• 设 output_vector 初值为0。

• 在 output_vector 中，将响应变量的值为 "Responder" 的数值设为1；

• 返回 output_vector。

在R中运用Xgboost建立模型

可以使用xgboost破解任何数据问题，下面是简单的步骤:

第一步:加载的所有库

library(xgboost)

library(readr)

library(stringr)

library(caret)

library(car)

第二步:加载数据集

(这里我用一个银行的数据,我们需要找到一个客户是否有资格获得贷款)。

set.seed(100)

setwd("C:\\Users\\ts93856\\Desktop\\datasource")# 加载数据df_train = read_csv("train_users_2.csv")

df_test = read_csv("test_users.csv")

# 加载标签的训练数据

labels = df_train['labels']

df_train = df_train[-grep('labels', colnames(df_train))]

# combine train and test datadf_all = rbind(df_train,df_test)

第三步:数据清洗和特征工程

# 清洗变量 : 这里我筛选出年龄不到14岁或超过100的人

df_all[df_all$age < 14 | df_all$age > 100,'age'] <- -1df_all$age[df_all$age < 0] <- mean(df_all$age[df_all$age > 0])

# 独热编码分类特征ohe_feats = c('gender', 'education', 'employer')

dummies <- dummyVars(~ gender +  education + employer, data = df_all)

df_all_ohe <- as.data.frame(predict(dummies, newdata = df_all))

df_all_combined <- cbind(df_all[,-c(which(colnames(df_all) %in% ohe_feats))],df_all_ohe)df_all_combined$agena <- as.factor(ifelse(df_all_combined$age < 0,1,0))

我在 “feature_selected” 中为模型提供一组变量可供使用。本文后面会分享我在选择变量中一个快速又巧妙的方法。

df_all_combined <- df_all_combined[,c('id',features_selected)] 

# split train and testX = df_all_combined[df_all_combined$id %in% df_train$id,]y <- recode(labels$labels,"'True'=1; 'False'=0)

X_test = df_all_combined[df_all_combined$id %in% df_test$id,]

第四步:调整和运行模式

xgb <- xgboost(data = data.matrix(X[,-1]), 

 label = y, 

 eta = 0.1,

 max_depth = 15, 

 nround=25, 

 subsample = 0.5,

 colsample_bytree = 0.5,

 seed = 1,

 eval_metric = "merror",

 objective = "multi:softprob",

 num_class = 12,

 nthread = 3)

第五步:测试分数

您现在有了一个对象“xgb”,这是一个xgboost模型。下面是是如何评分测试数量:

# 在测试集预测的值y_pred <- predict(xgb, data.matrix(X_test[,-1]))

在 Xgboost 中使用参数

我明白,现在,你会非常好奇地想知道用于xgboost模型的各种参数。它有三种类型的参数:通用参数、辅助参数和任务参数。

• 通用参数为我们提供在上升过程中选择哪种上升模型。常用的是树或线性模型。

• 辅助参数取决于你选择的上升模型。

• 任务参数,决定学习场景,例如,回归任务在排序任务中可能使用不同的参数。

让我们详细了解这些参数。我需要你注意，这是实现xgboost算法最关键的部分:

一般参数

• silent : 默认值是0。您需要指定0连续打印消息,静默模式1。

• booster : 默认值是gbtree。你需要指定要使用的上升模型:gbtree(树)或gblinear(线性函数)。

• num_pbuffer : 这是由xgboost自动设置,不需要由用户设定。阅读xgboost文档的更多细节。

• num_feature : 这是由xgboost自动设置,不需要由用户设定。

辅助参数

具体参数树状图：

• eta：默认值设置为0.3。您需要指定用于更新步长收缩来防止过度拟合。每个提升步骤后,我们可以直接获得新特性的权重。实际上 eta 收缩特征权重的提高过程更为保守。范围是0到1。低η值意味着模型过度拟合更健壮。

• gamma:默认值设置为0。您需要指定最小损失减少应进一步划分树的叶节点。
  更大,更保守的算法。范围是0到∞。γ越大算法越保守。

• max_depth:默认值设置为6。您需要指定一个树的最大深度。参数范围是1到∞。

• min_child_weight:默认值设置为1。您需要在子树中指定最小的（海塞）实例权重的和，然后这个构建过程将放弃进一步的分割。在线性回归模式中，在每个节点最少所需实例数量将简单的同时部署。更大,更保守的算法。参数范围是0到∞。

• max_delta_step：默认值设置为0。max_delta_step 允许我们估计每棵树的权重。如果该值设置为0,这意味着没有约束。
  如果它被设置为一个正值,它可以帮助更新步骤更为保守。通常不需要此参数,但是在逻辑回归中当分类是极为不均衡时需要用到。将其设置为1 - 10的价值可能有助于控制更新。参数范围是0到∞。

• subsample： 默认值设置为1。您需要指定训练实例的子样品比。
  设置为0.5意味着XGBoost随机收集一半的数据实例来生成树来防止过度拟合。参数范围是0到1。

• colsample_bytree : 默认值设置为1。在构建每棵树时,您需要指定列的子样品比。范围是0到1。

线性上升具体参数

• lambda and alpha : 这些都是正则化项权重。λ默认值假设是1和α= 0。

• lambda_bias : L2正则化项在偏差上的默认值为0。

任务参数

• base_score : 默认值设置为0.5。您需要指定初始预测分数作为全局偏差。

• objective : 默认值设置为reg:linear。您需要指定你想要的类型的学习者,包括线性回归、逻辑回归、泊松回归等。

• eval_metric : 您需要指定验证数据的评估指标,一个默认的指标分配根据客观(rmse回归,错误分类,意味着平均精度等级

• seed : 随机数种子，确保重现数据相同的输出。

xgboost的高级函数性

与其他机器学习技术相比,我发现xgboost很简单的实现。如果你做了所有我们所做的,直到现在,你已经有了一个模型。

让我们进一步尝试找出模型中重要的变量并且缩小我们变量列表。

#让我们开始寻找实际的树是什么样子吧

model <- xgb.dump(xgb, with.stats = T)

model[1:10] #This statement prints top 10 nodes of the model

# 获得特征的真实名称names <- dimnames(data.matrix(X[,-1]))[[2]]

# 计算特征重要性矩阵importance_matrix <- xgb.importance(names, model = xgb)# 制图xgb.plot.importance(importance_matrix[1:10,])

# 在最后一步如果失效可能是因为版本问题,你可以尝试:barplot(importance_matrix[,1])

可以观察到,许多变量是不值得使用到我们的模型中。您可以方便地删除这些变量并再次运行模型。这一次你可以期待一个更好的精度。

测试结果是否有意义

假设年龄为从上面的分析是最重要的变量，这是一个简单的卡方检验，来检验它是否是真正重要的变量。

test <- chisq.test(train$Age, output_vector)print(test)

我们可以对所有重要变量做相同的处理。这将显示出模型是否准确地识别所有可能的重要变量。

尾注

通过本文,您可以构建一个简单的xgboost模型。对比其他类似的模型这个算法的速度将会令你感到惊奇。本文已经讨论了在R中使用xgboost算法各个方面的情况, 最重要的是你必须将你的数据类型转换成数值型,否则该算法不能工作。

我建议你注意这些参数，它们会决定任何模型的成败。