协方差矩阵到底有什么用?

这篇具有很好参考价值的文章主要介绍了协方差矩阵到底有什么用?。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

我们知道,线性代数,可以完成空间上的线性变换——旋转,缩放。对于协方差,我们隐约可以想到,它能解释一个随机变量,它在各个维度的变化程度。但是,这种认识其实还是处于比较浅层次的。数学嘛,总要落实到公式上,才算认识比较深刻。

我认为,协方差一个经典的用法,是帮助我们计算对原始变量进行线性变换后的因变量的方差。

gif.latex?Y%20%3D%20%5Cmu_%7B1%7D*X_%7B1%7D+%5Cmu_%7B2%7D*X_%7B2%7D+%5Ccdots%20+%5Cmu_%7Bp%7D*X_%7Bp%7D

Y是对X的线性变换,如果X的协方差是,那么Y的方差就是。如果我们再进步一联想,就会想到结果其实是个二次型。的确,个人认为,协方差矩阵,一定是在二次型的环境里才能发挥到它的最大作用。

为了进一步感受它对于统计学的意义,我们可以举个实际的例子。

协方差矩阵的作用,算法,算法,矩阵

线性判别分析,就是把一个高维上的点投影到它的超平面上。它的目的很单纯,就是分类。它会认为,你再直线上的投影点,如果离得近,那么你们就是一类的。那么怎么衡量点离得近呢?没错,就是方差。这里就涉及到对于线性变换后的点进行方差计算的问题,此时,就可以用到我们上面的公式了。    ​​​​​​这里的,就是直线方程的系数。

那么,我们可以进一步抽象。所谓对X进行的线性变换,其实是一种到某一条直线的投影,是一种约束,这种约束就是把散落在高维空间中的点,约束到它的超平面上。然后,协方差矩阵在这个约束的限制下,会变成一个数,也就是方差。

总结一下,协方差是约束前的方差的具体展开,二次型在这里,扮演了对协方差的约束的效果。它要求,协方差对应的点X,都在 系数下的直线上。

 文章来源地址https://www.toymoban.com/news/detail-599190.html

 

 

 

到了这里,关于协方差矩阵到底有什么用?的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 矩阵运算_矩阵的协方差矩阵/两个矩阵的协方差矩阵_求解详细步骤示例

            在统计学中, 方差 是用来度量 单个随机变量 的 离散程度 ,而协方差则一般用来刻画 两个随机变量 的 相似程度。 参考: 带你了解什么是Covariance Matrix协方差矩阵 - 知乎 将输入数据A进行中心化处理得到A\\\'。即通过 减去每个维度的平均值 来实现中心化。 注意:

    2024年02月03日
    浏览(44)
  • 【概率论理论】协方差,协方差矩阵理论(机器学习)

      在许多算法中需要求出两个分量间相互关系的信息。协方差就是描述这种相互关联程度的一个特征数。   设 ( X , Y ) (X,Y) ( X , Y ) 是一个二维随机变量,若 E [ ( X − E ( X ) ) ( Y − E ( Y ) ) ] E[(X-E(X))(Y-E(Y))] E [ ( X − E ( X ) ) ( Y − E ( Y ) ) ] 存在,则称此数学期望为 X X X 与

    2024年02月14日
    浏览(46)
  • 协方差矩阵在torch和numpy中的比较,自行实现torch协方差矩阵

    数学中(教科书、大学课堂、数学相关的科普视频),一个矩阵的向量往往是竖着的, 一列作为一个vector ,这一点numpy库也是这样默认的。 但是在机器学习以torch框架为例,一个有意义的向量或者说embedding 是横着的 。 因为numpy库默认是一列是一个向量而torch等机器学习框架

    2023年04月08日
    浏览(37)
  • 协方差矩阵的研究

    (1)协方差矩阵的定义、计算过程。         协方差(Covariance):在概率论和统计学中用于衡量两个变量的总体误差。协方差在某种意义上给出了两个变量线性相关性的强度以及这些变量的尺度。而方差是协方差的一种特殊情况,即当两个变量是相同的情况。协方差矩阵

    2024年02月13日
    浏览(35)
  • 因子模型:协方差矩阵

    本文是Quantitative Methods and Analysis: Pairs Trading此书的读书笔记。 因子协方差矩阵 (factor covariance matrix)在计算风险的时候很重要。如果一个模型有个因子,那么协方差矩阵的大小就是。对角线元素是每个因子的方差,非对角线元素是协方差,这些协方差有可能不为零。 协方差

    2024年02月04日
    浏览(84)
  • 协方差矩阵

    首先先了解方差与协方差: 协方差: (1)针对 一维样本集合 时(y i =x i ),求出的协方差其实就是方差,既方差是协方差的一种特殊情况。协方差意义和方差一样,都是 反应集合中各元素离散程度 。 (2)针对 二维样本集合 时,求出的协方差反映的就是 两个维度之间的相

    2024年02月10日
    浏览(64)
  • Gram矩阵+Gram矩阵和协方差矩阵的关系

    gram矩阵是计算每个通道 i 的feature map与每个通道 j 的feature map 的内积 gram matrix的每个值可以说是代表 i 通道的feature map和 j 通道的 feature map的互相关程度。 参考博客 G = A T A = [ a 1 T a 2 T ⋮ a n T ] [ a 1 a 2 ⋯ a n ] = [ a 1 T a 1 a 1 T a 2 ⋯ a 1 T a n a 2 T a 1 a 2 T a 2 ⋯ a 2 T a n a n T a 1 a n

    2024年02月10日
    浏览(39)
  • 基于 Matlab 的方差-协方差矩阵可视化表示(椭圆、椭球)

    因为在学习模糊度固定的时候涉及了『搜索椭球』这一概念,很想知道是如何用椭球来表示搜索空间的。出于好奇,在查阅了一些相关文献,终于解决了笔者的疑惑,此篇博文就简要记录一下如何根据协方差矩阵来绘制椭球。 下面是得到的一些结论: 对协方差矩阵进行奇异

    2024年02月06日
    浏览(70)
  • 阿白数模笔记之协方差矩阵与相关矩阵

    目录 前言 一、方差 二、协方差矩阵 ①协方差 ②自协方差矩阵 互协方差矩阵​编辑 ③互协方差矩阵 Ⅰ、数学定义 Ⅱ、MATLAB运算 三、相关矩阵 ①person相关系数 ②自相关矩阵 ③互相关矩阵 Ⅰ、数学定义 Ⅱ、matlab运算         作为数模小白,前天在学习FA算法时看到协方差

    2024年02月11日
    浏览(44)
  • matlab 计算点云协方差矩阵

    本文由CSDN点云侠原创,原文链接。如

    2024年02月10日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包