XGBoost训练组件是在开源社区的基础上进行包装，使功能和PAI更兼容，更易用。
算法原理
XGBoost算法在Boosting算法的基础上进行了扩展和升级，具有较好的易用性和鲁棒性，被广泛用在各种机器学习生产系统和竞赛领域。当前支持分类和回归。
数据格式
当前支持Table格式和LibSVM格式的数据。
-
Table格式示例如下：
|
f0 |
f1 |
label |
|
0.1 |
1 |
0 |
|
0.9 |
2 |
1 |
-
LibSVM格式示例如下：
|
示例数据 |
|
1 2:1 9:1 10:1 20:1 29:1 33:1 35:1 39:1 40:1 52:1 57:1 64:1 68:1 76:1 85:1 87:1 91:1 94:1 101:1 104:1 116:1 123:1 |
|
0 0:1 9:1 18:1 20:1 23:1 33:1 35:1 38:1 41:1 52:1 55:1 64:1 68:1 76:1 85:1 87:1 91:1 94:1 101:1 105:1 115:1 121:1 |
|
1 2:1 8:1 18:1 20:1 29:1 33:1 35:1 39:1 41:1 52:1 57:1 64:1 68:1 76:1 85:1 87:1 91:1 94:1 101:1 104:1 116:1 123:1 |
|
0 2:1 9:1 13:1 21:1 28:1 33:1 36:1 38:1 40:1 53:1 57:1 64:1 68:1 76:1 85:1 87:1 91:1 94:1 97:1 105:1 113:1 119:1 |
|
0 0:1 9:1 18:1 20:1 22:1 33:1 35:1 38:1 44:1 52:1 55:1 64:1 68:1 76:1 85:1 87:1 91:1 94:1 101:1 104:1 115:1 121:1 |
|
0 0:1 8:1 18:1 20:1 23:1 33:1 35:1 38:1 41:1 52:1 55:1 64:1 68:1 76:1 85:1 87:1 91:1 94:1 101:1 105:1 116:1 121:1 |
配置参数
Designer支持通过可视化方式，配置XGBoost训练组件参数。
|
参数 |
类型 |
参数描述 |
|
|
字段设置 |
标签列名 |
标签列名。 |
|
|
特征列名数组 |
字符串数组 |
表格数据中特征列。和向量列名互斥，代表输入数据的格式为表格数据。 |
|
|
向量列名 |
字符串 |
LibSVM格式数据列名，和特征列名数组互斥。代表输入数据的格式为LibSVM数据。 |
|
|
参数设置 |
训练的轮数 |
整型数值 |
训练的轮数。 |
|
objective |
字符串 |
目标函数，默认值为binary:logistic。 |
|
|
Base score |
浮点数值 |
全局bias，默认值为0.5。 |
|
|
类别数 |
整型数值 |
多分类中类别个数。 |
|
|
构建树的方法 |
字符串 |
构建树的方法，取值如下。
|
|
|
L1 正则项 |
浮点数值 |
L1正则项，默认值为0.0。 |
|
|
L2 正则项 |
浮点数值 |
L2正则项，默认值为1.0。 |
|
|
学习率 |
浮点数值 |
学习率，默认值为0.3。 |
|
|
scale_pos_weight |
浮点数值 |
控制正负样本比例，默认值为1.0。 |
|
|
sketch_eps |
浮点数值 |
构建树方法为approx时，控制分箱个数，默认值为0.03。 |
|
|
连续特征的最大分割箱数 |
整型数值 |
构建树方法为hist时，控制分箱个数，默认值为256。 |
|
|
树的最大深度 |
整型数值 |
树的最大深度，默认值为6。 |
|
|
最大节点个数 |
整型数值 |
叶节点最大个数，默认值为0。 |
|
|
节点的最小权重 |
浮点数值 |
节点的最小权重，默认值为1.0。 |
|
|
Max delta step |
浮点数值 |
叶节点的最大步长，可以调节模型精细度，默认值为0.0。 |
|
|
样本采样比例 |
浮点数值 |
样本采样比例，默认值为1。 |
|
|
采样方法 |
字符串 |
样本采样方法，取值如下。
|
|
|
每一层的列采样比例 |
浮点数值 |
按层进行列采样的比例，默认值为1.0。 |
|
|
每个节点的列采样比例 |
浮点数值 |
按节点进行列采样的比例，默认值为1.0。 |
|
|
每棵树的列采样比例 |
浮点数值 |
按树进行列采样的比例，默认值为1.0。 |
|
|
Grow Policy |
字符串 |
树生长的规则，取值如下。
|
|
|
节点分裂最小损失变化 |
浮点数值 |
最小分裂loss，默认值为0.0。 |
|
|
交互约束 |
字符串 |
interaction约束。 |
|
|
单调约束 |
字符串 |
monotone约束。 |
|
|
Tweedie variance power |
浮点数值 |
Tweedie分布方差。Tweedie分布中有效。默认值为1.5。 |
|
|
执行调优 |
节点个数 |
正整数 |
与单个节点内存大小参数配对使用。取值范围为[1, 9999]。 |
|
单个节点内存大小 |
正整数 |
单位为兆。取值范围为[1024, 64*1024]。 |
|
使用示例
注意事项：
XGBoost预测组件输出为原生XGBoost库输出的JSON序列化，所以需要转换为评估组件需要的格式，使用评估组件进行评估。二分类的转换代码如下：
set odps.sql.udf.getjsonobj.new=true;
select *, CONCAT("{\"0\":", 1.0-prob, ",\"1\":", prob, "}") as detail
FROM (
select *, cast(get_json_object(pred, '$[0]') as double) as prob FROM ${t1})更多内容，详情请参见XGBoost参数说明。
内容没看懂？ 不太想学习？想快速解决？ 有偿解决： 联系专家
阿里云企业补贴进行中： 马上申请
腾讯云限时活动1折起，即将结束： 马上收藏
同尘科技为腾讯云授权服务中心。
购买腾讯云产品享受折上折，更有现金返利:同意关联，立享优惠
转转请注明出处：https://www.yunxiaoer.com/162449.html