机器学习参数|数学建模|自相关性

这篇具有很好参考价值的文章主要介绍了机器学习参数|数学建模|自相关性。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

目录

1.定义和影响

1.1自相关性产生的原因

1.2自相关的后果

2.减小影响方法

2.1如何判断数据存在自相关性

a.用相关计量软件

b.Durbin-Watson Statistics(德宾-瓦特逊检验)

c.Q-Statistics 以(box-pierce)- Eviews(7th version第七版本)为例子

2.2如何减弱模型的自相关性

a.GLS or FGLS

b.HAC:Heteroscedasticity Autocorrelation consistent


        自相关性是指随机误差项的各期望值之间存在着相关关系,称随机误差项之间存在自相关性(autocorrelation)或序列相关,于1972年提出。

1.定义和影响

        对于模型

机器学习参数|数学建模|自相关性

        如果随机误差项的各期望值之间存在着相关关系,即:

        这时,称随机误差项之间存在自相关性(autocorrelation)或序列相关。

        随机误差项的自相关性可以有多种形式,其中最常见的类型是随机误差项之间存在一阶自相关性或一阶自回归形式,即随机误差项只与它的前一期值相关: 或者 ,则称这种关系为一阶自相关。

        p阶自相关性可以表示为:

机器学习参数|数学建模|自相关性

        是满足回归模型基本要求的随机误差项。我们称之为p 阶自回归形式,或模型存在 p 阶自相关。

        由于无法观察到误差项,只能通过残差项来判断的行为。如果或呈现出图1(a)-(d)形式,则表示存在自相关,如果或呈现图1中(e)形式,则表示​​​​​​​不存在自相关。

机器学习参数|数学建模|自相关性
​​​​​​​

        线性回归模型中的随机误差项的序列相关问题较为普遍,特别是在应用时间序列资料时,随机误差项的序列相关经常发生。

1.1自相关性产生的原因

        线性回归模型中随机误差项存在序列相关的原因很多,但主要是经济变量自身特点、数据特点、变量选择及模型函数形式选择引起的。

1.经济变量惯性的作用引起随机误差项自相关;
2.经济行为的滞后性引起随机误差项自相关;
3.一些随机因素的干扰或影响引起随机误差项自相关;
4.模型设定误差引起随机误差项自相关;
5.观测数据处理引起随机误差项序列相关。

1.2自相关的后果

        线性相关模型的随机误差项存在自相关的情况下,用OLS(普通最小二乘法)进行参数估计,会造成以下几个方面的影响。

        从高斯——马尔可夫定理的证明过程中可以看出,只有在同方差和非自相关性的条件下,OLS估计才具有最小方差性。当模型存在自相关性时,OLS估计仍然是无偏估计,但不再具有有效性。这与存在异方差性时的情况一样,说明存在其他的参数估计方法,其估计误差小于OLS估计的误差;也就是说,对于存在自相关性的模型,应该改用其他方法估计模型中的参数。

1.自相关不影响OLS估计量的线性无偏性,但使之失去有效性;
2.自相关的系数估计量将有相当大的方差;
3.自相关系数的T检验不显著;
4.模型的预测功能失效。

2.减小影响方法

2.1如何判断数据存在自相关性

a.用相关计量软件

        比如说E-VIEWS检查残差的分布。 如果残差分布具有明显和圆润的线性分布图像, 说明自相关性存在的可能性很高。反之, 无规则波动大的分布图像显示出相关性微弱。比如,以下图片,左边较为圆润的分布就显示出自相关性的存在,右边波动大的则反之。 

机器学习参数|数学建模|自相关性

b.Durbin-Watson Statistics(德宾-瓦特逊检验)

        假设time series模型存在自相关性,我们假设误差项可以表述为 Ut=ρ*Ut-1+ε. 利用统计检测设立假设,如果ρ=o.则表明没有自相关性。Durbin-Watson统计量(后面简称DW统计量)可以成为判断正、负、零(无)相关性的工具。 DW统计量: d=∑(Ut-Ut-1)^2/∑ut^2≈2*(1-ρ).如果d=2则基本没有自相关关系,d靠近0存在正的相关关系,d靠近4则有负的相关关系。 


c.Q-Statistics 以(box-pierce)- Eviews(7th version第七版本)为例子

        很多统计计量软件软件提供Q test来检测,这里用Eviews为例子。 Q的统计量(test statistics)为 Q=n*∑ρ^2. 零假设null hypothesis H0=0和方法2的含义一样。如果零假设证明失败,则对立假设ρ≠0成立,意味着有自相关性。下图中的Q-test就显示出相关性。

机器学习参数|数学建模|自相关性

2.2如何减弱模型的自相关性

a.GLS or FGLS

        假设存在自相关性的模型,误差项之间的关系为:Ut=ρ*Ut-i+ε(ε为除了自相关性的误差项),i.i.d~(0,σ). t时期的模型为 yt=βxt+Ut, t-1时期则为 ρ*yt-1=ρ*βxt-1+ρ*Ut-1。用t时期的减去t-1时期的可得出yt-yt-1=β(xt-xt-1)+(Ut-Ut-1).已知 Ut-Ut-1=ε。经过整理后新的模型满足Gauss-Makov的假设和,White noise condition(同方差性或者等分散),没有自相关性。

机器学习参数|数学建模|自相关性

b.HAC:Heteroscedasticity Autocorrelation consistent

        以Eviews为例子,在分析模型时选择HAC,在模型中逐渐添加time lag的数目,来校正DW统计量达到正常值减少自相关性。

机器学习参数|数学建模|自相关性

自相关性_百度百科文章来源地址https://www.toymoban.com/news/detail-483965.html

到了这里,关于机器学习参数|数学建模|自相关性的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 数学建模预测模型MATLAB代码大合集及皮尔逊相关性分析(无需调试、开源)

           选取2000-2017年x省碳排放量为训练集,2018-2022x省碳排放量作为测试集,以此来预测2023-2026年x省碳排放量。设置训练次数为 1000次,学习速率为0.2;对该训练集BP神经网络模型拟合后模型的训练样本、验 证样本和测试样本的均方误差分别是0.000012、0.0023、0.0042,整体的误

    2024年02月08日
    浏览(25)
  • 数学建模学习笔记(20)典型相关分析

    典型相关分析概述 :研究两组变量(每组变量都可能有多个指标)之间的相关关系的一种多元统计方法,能够揭示两组变量之间的内在联系。 典型相关分析的思想 :把多个变量和多个变量之间的相关化为两个具有代表性的变量之间的相关性。对于一组变量来说,最简单的代

    2024年02月10日
    浏览(27)
  • 数学建模学习笔记-皮尔逊相关系数

    内容:皮尔逊相关系数 一.概念:是一个和线性线关的相关性系数 1.协方差概念: 协方差受到量纲的影响因此需要剔除 2.相关性的误区 根据这个结论,我们在计算该系数之前需要确定是否为线性函数 二.相关性的计算 1.Matlab:只含相关性不含假设检验:下面第三大点讲解假设

    2024年02月20日
    浏览(29)
  • 数学建模 | MATLAB数据建模方法--机器学习方法

    近年来,全国赛的题目中,多多少少都有些数据,而且数据量总体来说呈不断增加的趋势, 这是由于在科研界和工业界已积累了比较丰富的数据,伴随大数据概念的兴起及机器学习技术的发展, 这些数据需要转化成更有意义的知识或模型。 所以在建模比赛中, 只要数据量还

    2024年02月03日
    浏览(51)
  • J1.数学建模 & Python机器学习介绍

    命令行:代码执行的地方 脚本文件(.m):敲代码的地方 实时脚本文件(.mlx):代码执行结果和代码放在一起,可以插入图片…类似小word 运行节:实时脚本文件的功能,可以分区运行代码(蓝色条),类似脚本文件的断点 函数文件调用function 符号: 注释使用 % 分号;在代

    2024年04月27日
    浏览(23)
  • 【深度学习】因果推断与机器学习的高级实践 | 数学建模

    身处人工智能爆发式增长时代的机器学习从业者无疑是幸运的,人工智能如何更好地融入人类生活的方方面面是这个时代要解决的重要问题。滴滴国际化资深算法工程师王聪颖老师发现,很多新人在入行伊始,往往把高大上的模型理论背得滚瓜烂熟,而在真正应用时却摸不清

    2024年02月05日
    浏览(30)
  • python机器学习经典算法代码示例及思维导图(数学建模必备)

    最近几天学习了机器学习经典算法,通过此次学习入门了机器学习,并将经典算法的代码实现并记录下来,方便后续查找与使用。 这次记录主要分为两部分:第一部分是机器学习思维导图,以框架的形式描述机器学习开发流程,并附有相关的具体python库,做索引使用;第二部

    2024年02月12日
    浏览(24)
  • 数学建模-相关系数

    excel基本操作:ctrl+右,ctrl+左,ctrl+shift+下/右,ctrl+shift+空格 题目里有数据,给出描述性统计是比较好的习惯 excel描述性统计:数据-数据分析-描述统计 MATLAB要做散点图C62个 SPSS可以直接画出两两之间的散点图:图形-旧对话框-散点图-矩阵散点图-所有变量放入 不太明显的相关

    2024年02月16日
    浏览(33)
  • 【数学建模】——相关系数

    本讲我们将介绍两种最为常见的相关系数:皮尔逊person相关系数和斯皮尔曼spearman等级相关系数。它们可以用来衡量两个变量之间的相关性的大小,根据数组满足的不同条件,我们要选择不同的相关性系数进行行计算和分析(建模论文中最容易用错的方法)。 总体和样本:

    2024年02月16日
    浏览(24)
  • 【数学建模】--典型相关分析

    例子:   典型相关分析定义: 列题分析: 思路: 多元统计:(本部分只做一些了解,博主目前还涉及统计概率学,只能放一些ppt) 引言: 典型相关分析的基本思想:     (下面这两幅图符合我们高中数学的ka方检验)当计算结果ka方时则没有相关性,反之有相关性。   标

    2024年02月08日
    浏览(28)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包