【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发)

这篇具有很好参考价值的文章主要介绍了【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及多分类预测模型(全网首发)


一、学习资料

(LGBM)是一种基于梯度增强决策树(GBDT)算法。
本次研究三个内容,分别是回归预测,二分类预测和多分类预测
参考链接:

lightgbm原理参考链接:
训练过程评价指标metric函数参考链接:
lightgbm参数介绍参考链接:
lightgbm调参参考链接:


二、回归预测(多输入单输出)

1.数据设置
数据(103个样本,7输入1输出)
2.预测结果
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
3.参数设置

parameters=containers.Map;
parameters('task')='train';
parameters('boosting_type')='gbdt';
parameters('metric')='rmse';
parameters('num_leaves')=31;
parameters('learning_rate')=0.05; %越大,训练集效果越好
parameters('feature_fraction')=0.9;
parameters('bagging_fraction')=0.8;
parameters('bagging_freq')=5;
parameters('num_threads')=1;
parameters('verbose')=1;

4.训练过程

[   1]  train rmse 0.208872
[   2]  train rmse 0.203687
[   3]  train rmse 0.202175
[   4]  train rmse 0.200801
[   5]  train rmse 0.199554
[   6]  train rmse 0.196124
[   7]  train rmse 0.193003
[   8]  train rmse 0.192100
[   9]  train rmse 0.189259
[  10]  train rmse 0.186576
............
[ 490]  train rmse 0.052932
[ 491]  train rmse 0.052870
[ 492]  train rmse 0.052847
[ 493]  train rmse 0.052830
[ 494]  train rmse 0.052820
[ 495]  train rmse 0.052771
[ 496]  train rmse 0.052689
[ 497]  train rmse 0.052619
[ 498]  train rmse 0.052562
[ 499]  train rmse 0.052506
[ 500]  train rmse 0.052457
bestIteration: 500
训练集数据的R2为:0.94018
测试集数据的R2为:0.87118
训练集数据的MAE为:1.365
测试集数据的MAE为:2.3607
训练集数据的MBE为:-0.079848
测试集数据的MBE为:-1.0132

5.特征变量敏感性分析

【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测

三、分类预测(多输入单输出二分类)

1.数据设置
数据(357个样本,12输入1输出)
2.预测结果
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测

3.参数设置

parameters=containers.Map;
parameters('task')='train';
parameters('boosting_type')='gbdt';
parameters('metric')='binary_error';
parameters('num_leaves')=31;
parameters('learning_rate')=0.05;
parameters('feature_fraction')=0.9;
parameters('bagging_fraction')=0.8;
parameters('bagging_freq')=5;
parameters('num_threads')=1;
parameters('verbose')=0;

4.训练过程

[   0]  train binary_error 0.020833
[   1]  train binary_error 0.020833
[   2]  train binary_error 0.020833
[   3]  train binary_error 0.020833
[   4]  train binary_error 0.020833
[   5]  train binary_error 0.020833
[   6]  train binary_error 0.020833
............
[ 191]  train binary_error 0.000000
[ 192]  train binary_error 0.000000
[ 193]  train binary_error 0.000000
[ 194]  train binary_error 0.000000
[ 195]  train binary_error 0.000000
[ 196]  train binary_error 0.000000
[ 197]  train binary_error 0.000000
[ 198]  train binary_error 0.000000
[ 199]  train binary_error 0.000000
bestIteration: 200

5.特征变量敏感性分析

【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测

四、分类预测(多输入单输出多分类)

1.数据设置
数据(357个样本,12输入1输出。4分类)
2.预测结果
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测
【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测

【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测

3.参数设置

parameters=containers.Map;
parameters('task')='train';
parameters('boosting_type')='gbdt';
parameters('metric')='multi_error';
parameters('num_leaves')=31;
parameters('learning_rate')=0.05;
parameters('feature_fraction')=0.9;
parameters('bagging_fraction')=0.8;
parameters('bagging_freq')=5;
parameters('num_threads')=1;
parameters('verbose')=0;

4.训练过程

[   0]  train multi_error 0.112500
[   1]  train multi_error 0.066667
[   2]  train multi_error 0.066667
[   3]  train multi_error 0.066667
[   4]  train multi_error 0.062500
[   5]  train multi_error 0.058333
[   6]  train multi_error 0.054167
[   7]  train multi_error 0.054167
[   8]  train multi_error 0.058333
[   9]  train multi_error 0.058333
[  10]  train multi_error 0.054167
[  11]  train multi_error 0.054167
............
[ 190]  train multi_error 0.000000
[ 191]  train multi_error 0.000000
[ 192]  train multi_error 0.000000
[ 193]  train multi_error 0.000000
[ 194]  train multi_error 0.000000
[ 195]  train multi_error 0.000000
[ 196]  train multi_error 0.000000
[ 197]  train multi_error 0.000000
[ 198]  train multi_error 0.000000
[ 199]  train multi_error 0.000000
bestIteration: 200

5.特征变量敏感性分析

【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发),matlab,分类预测,多输入单输出,LightGbm,梯度增强决策树,LGBM,回归预测

五、代码获取

CSDN后台私信回复“70期”即可获取下载方式。文章来源地址https://www.toymoban.com/news/detail-685081.html

到了这里,关于【MATLAB第70期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入单输出回归预测及分类预测模型(全网首发)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【机器学习】R语言实现随机森林、支持向量机、决策树多方法二分类模型

    暑期简单学习了机器学习理论知识,当时跟着B站咕泡老师学的,内容讲得蛮详细,实例代码、资料都比较全面,但是学校Python课程开设在这学期,所以用Python进行数据分析、建模等不是很熟悉,所以决定用之前学过的R语言来实现机器学习。R语言的相关包也都比较完善,所以

    2024年02月04日
    浏览(33)
  • 大数据分析案例-基于GBDT梯度提升决策树算法构建数据科学岗位薪资预测模型

    🤵‍♂️ 个人主页:@艾派森的个人主页 ✍🏻作者简介:Python学习者 🐋 希望大家多多支持,我们一起进步!😄 如果文章对你有帮助的话, 欢迎评论 💬点赞👍🏻 收藏 📂加关注+ 喜欢大数据分析项目的小伙伴,希望可以多多支持该系列的其他文章 大数据分析案例合集

    2024年02月07日
    浏览(34)
  • 数字图像处理 基于matlab、opencv计算图像的梯度方向和梯度幅值

            图像可以被视为标量场(即二维函数)。          通过微分将标量场转换为矢量场。         梯度是一个向量,描述了在x或y方向上移动时,图像变化的速度。我们使用导数来回答这样的问题,图像梯度的大小告诉图像变化的速度,而梯度的方向告诉图像

    2024年02月13日
    浏览(30)
  • 【最优化算法】基于【MATLAB】的共轭梯度法【Conjugate Gradient】分析与推导

    🚀个人主页:欢迎访问Ali.S主页 📆 最近更新:2022年7月19日 ⛽ Java框架学习系列:Mybatis框架 ⛳ Java基础学习系列:面向对象飞机大战 🏆 通信仿真学习系列:【硬件】【通信】【MATLAB】【最优化】 🍄 个人简介:通信工程本硕🌈、Java程序员🚴。目前只会CURD😂 💌 点赞 👍

    2023年04月19日
    浏览(29)
  • 基于Matlab实现多个图像增强案例(附上源码+数据集)

    图像增强是数字图像处理中的一个重要步骤,它通过一系列的算法和技术,使图像在视觉上更加清晰、明亮、对比度更强等,以便更好地满足人们的需求。在本文中,我们将介绍如何使用Matlab实现图像增强。 首先,我们需要加载图像。在Matlab中,可以使用 imread 函数加载图像

    2024年02月10日
    浏览(28)
  • (数字图像处理MATLAB+Python)第五章图像增强-第四、五节:基于模糊技术和基于伪彩色处理的图像增强

    图像的模糊特征平面 :假设原始图像为 I ( x , y ) I(x,y) I ( x , y ) ,其中 x x x 和 y y y 分别表示图像的水平和垂直方向的坐标。模糊特征平面可以表示为 B ( x , y , θ ) B(x,y,theta) B ( x , y , θ ) ,其中 θ theta θ 是一个旋转角度参数,表示模糊核函数的旋转角度。 B ( x , y , θ ) B(x,

    2023年04月20日
    浏览(77)
  • 机器学习--决策树、线性模型、随机梯度下降

    🤵‍♂️ 个人主页:@Lingxw_w的个人主页 ✍🏻作者简介:计算机科学与技术研究生在读 🐋 希望大家多多支持,我们一起进步!😄 如果文章对你有帮助的话, 欢迎评论 💬点赞👍🏻 收藏 📂加关注+    目录  一、决策树 二、线性模型 三、随机梯度下降 决策树(decision

    2024年02月03日
    浏览(34)
  • (数字图像处理MATLAB+Python)第五章图像增强-第二节:基于直方图修正的图像增强

    基于直方图修正的图像增强 :是一种常见的图像处理方法。该方法通过对图像的像素值分布进行调整,以改善图像的对比度和亮度等视觉效果。具体地,直方图校正方法将图像的像素值转换为一个新的值域范围,使得像素值的分布更加均匀,从而增强图像的细节和对比度。这

    2023年04月19日
    浏览(34)
  • 基于混沌集成决策树的电能质量复合扰动识别(Matlab代码实现)

    💥💥💞💞 欢迎来到本博客 ❤️❤️💥💥 🏆博主优势: 🌞🌞🌞 博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。 ⛳️ 座右铭: 行百里者,半于九十。 📋📋📋 本文目录如下: 🎁🎁🎁 目录 💥1 概述 📚2 运行结果 2.1 PQDs 信号模型和波形生成 2.2 对电能质量

    2024年02月06日
    浏览(32)
  • TabR:检索增强能否让深度学习在表格数据上超过梯度增强模型?

    这是一篇7月新发布的论文,他提出了使用自然语言处理的检索增强 Retrieval Augmented 技术,目的是让深度学习在表格数据上超过梯度增强模型。 检索增强一直是NLP中研究的一个方向,但是引入了检索增强的表格深度学习模型在当前实现与非基于检索的模型相比几乎没有改进。

    2024年02月14日
    浏览(26)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包