瑞利商性质及证明

这篇具有很好参考价值的文章主要介绍了瑞利商性质及证明。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

前言

在推导标准化拉普拉斯矩阵的特征值范围时,用到了瑞利商,它也是LDA最大化目标函数使用的定义。

瑞利商定义

瑞利商的定义为:
R ( A , x ) = x T A x x T x R(A,x)=\frac{x^TAx}{x^Tx} R(A,x)=xTxxTAx,其中 A A A n × n n\times n n×n 对称矩阵, x x x n n n 维度向量。

瑞利商性质

设对称矩阵 A A A 的特征值为 λ 1 ≤ λ 2 ≤ ⋯ ≤ λ n \lambda_1\le\lambda_2\le\cdots\le\lambda_n λ1λ2λn,对应的特征向量为 v 1 , v 2 , ⋯   , v n v_1,v_2,\cdots,v_n v1,v2,,vn。有:
m a x x R ( A , x ) = λ n m i n x R ( A , x ) = λ 1 \mathop{max}\limits_{x}R(A,x)=\lambda_n \\ \mathop{min}\limits_{x}R(A,x)=\lambda_1 xmaxR(A,x)=λnxminR(A,x)=λ1

瑞利商性质证明

瑞利商的上下界

由于A为对称矩阵,可以进行相似对角化:
A = U Λ U T A=U\Lambda U^T A=UΛUT,其中特征对角阵 Λ = d i a g ( λ 1 , λ 2 , . . . , λ n ) \Lambda=diag(\lambda_1,\lambda_2,...,\lambda_n) Λ=diag(λ1,λ2,...,λn),特征向量阵 U = ( v 1 , v 2 , . . . , v n ) U=(v_1,v_2,...,v_n) U=(v1,v2,...,vn),且满足 U U T = I UU^T=I UUT=I。有:
R ( A , x ) = x T A x x T x = x T U Λ U T x x T U U T x R(A,x)=\frac{x^TAx}{x^Tx}=\frac{x^TU\Lambda U^Tx}{x^TUU^Tx} R(A,x)=xTxxTAx=xTUUTxxTUΛUTx,令 y = U T x y=U^Tx y=UTx,有:
R ( A , x ) = y T Λ y y T y \begin{aligned} R(A,x)&=\frac{y^T\Lambda y}{y^Ty}\\ \end{aligned} R(A,x)=yTyyTΛy ∵ \because
y T Λ y = [ y 1 , y 2 , ⋯   , y n ] [ λ 1 λ 2 ⋱ λ n ] [ y 1 y 2 ⋮ y n ] = ∑ i n λ i y i 2 y y T = [ y 1 , y 2 , ⋯   , y n ] [ y 1 y 2 ⋮ y n ] = ∑ i n y i 2 \begin{aligned} &y^T\Lambda y=[y_1,y_2,\cdots,y_n] \begin{bmatrix} \lambda_1 & & & \\ & \lambda_2 & & \\ & & \ddots & \\ & & & \lambda_n \\ \end{bmatrix} \begin{bmatrix} y_1\\ y_2\\ \vdots\\ y_n\\ \end{bmatrix}=\sum_i^n\lambda_iy_i^2 \\ &yy^T=[y_1,y_2,\cdots,y_n] \begin{bmatrix} y_1\\ y_2\\ \vdots\\ y_n\\ \end{bmatrix}=\sum_i^ny_i^2 \\ \end{aligned} yTΛy=[y1,y2,,yn] λ1λ2λn y1y2yn =inλiyi2yyT=[y1,y2,,yn] y1y2yn =inyi2 ∴ \therefore
R ( A , x ) = ∑ i n λ i y i 2 ∑ i n y i 2 \begin{aligned} R(A,x)=\frac{\mathop{\sum}\limits_{i}^n \lambda_iy_i^2}{\mathop{\sum}\limits_{i}^n y_i^2} \end{aligned} R(A,x)=inyi2inλiyi2 由于特征值大小关系 λ 1 ≤ λ 2 ≤ ⋯ ≤ λ n \lambda_1\le\lambda_2\le\cdots\le\lambda_n λ1λ2λn,显然有:

λ 1 ∑ i n y i 2 ≤ ∑ i n λ i y i 2 ≤ λ n ∑ i n y i 2 \lambda_1\mathop{\sum}\limits_{i}^n y_i^2 \leq \mathop{\sum}\limits_{i}^n\lambda_i y_i^2 \leq \lambda_n \mathop{\sum}\limits_{i}^n y_i^2 λ1inyi2inλiyi2λninyi2,于是有:
λ 1 ∑ i n y i 2 ∑ i n y i 2 ≤ ∑ i n λ i y i 2 ∑ i n y i 2 ≤ λ n ∑ i n y I 2 ∑ i n y i 2 \frac{\lambda_1\mathop{\sum}\limits_{i}^n y_i^2}{\mathop{\sum}\limits_{i}^n y_i^2} \leq \frac{\mathop{\sum}\limits_{i}^n\lambda_i y_i^2}{\mathop{\sum}\limits_{i}^n y_i^2} \leq \frac{\lambda_n \mathop{\sum}\limits_{i}^n y_I^2}{\mathop{\sum}\limits_{i}^n y_i^2} inyi2λ1inyi2inyi2inλiyi2inyi2λninyI2,即:
λ 1 ≤ R ( A , x ) ≤ λ n \lambda_1 \leq R(A,x) \leq \lambda_n λ1R(A,x)λn

瑞利商的上下确界

上一节已经证明了瑞利商的范围为 [ λ m i n , λ m a x ] [\lambda_{min}, \lambda_{max}] [λmin,λmax],要想知道上、下确界为 λ m i n , λ m a x \lambda_{min}, \lambda_{max} λmin,λmax,只需要寻找特殊值使 R ( A , x ) = λ 1 R(A,x) = \lambda_1 R(A,x)=λ1 R ( A , x ) = λ n R(A,x) = \lambda_n R(A,x)=λn 即可。

由于 v 1 , v 2 , . . . , v n v_1,v_2,...,v_n v1,v2,...,vn n n n 维空间的一组单位正交基,因此可以设 n n n 维向量 x = ∑ i = 1 n k i v i x=\sum_{i=1}^{n} k_iv_i x=i=1nkivi,为简单起见,我们设 x T x = 1 x^Tx=1 xTx=1。有:

y = U T x = [ v 1 T v 2 T ⋮ v n T ] ( k 1 v + k 2 v 2 + ⋯ + k n v n ) = [ k 1 k 2 ⋮ k n ] y=U^Tx= \begin{bmatrix} v_1^T\\ v_2^T\\ \vdots\\ v_n^T\\ \end{bmatrix} (k_1v+k_2v_2+\cdots+k_nv_n)= \begin{bmatrix} k_1\\ k_2\\ \vdots\\ k_n\\ \end{bmatrix} y=UTx= v1Tv2TvnT (k1v+k2v2++knvn)= k1k2kn ,所以有:
R ( A , x ) = x T A x x T x = x T U Λ U T x x T x = y T Λ y = [ k 1 , k 2 , ⋯   , k n ] [ λ 1 λ 2 ⋱ λ n ] [ k 1 k 2 ⋮ k n ] = ∑ i = 1 n k i 2 λ i \begin{aligned} R(A,x)&=\frac{x^TAx}{x^Tx} \\ &={\frac {x^TU\Lambda U^T x} {x^Tx}} \\ &=y^T\Lambda y\\ &=[k_1,k_2,\cdots,k_n] \begin{bmatrix} \lambda_1 & & & \\ & \lambda_2 & & \\ & & \ddots & \\ & & & \lambda_n \\ \end{bmatrix} \begin{bmatrix} k_1\\ k_2\\ \vdots\\ k_n\\ \end{bmatrix} \\ &=\sum_{i=1}^nk_i^2\lambda_i \end{aligned} R(A,x)=xTxxTAx=xTxxTUΛUTx=yTΛy=[k1,k2,,kn] λ1λ2λn k1k2kn =i=1nki2λi 显然有: λ 1 ∑ i = 1 n k i 2 ≤ ∑ i = 1 n k i 2 λ i < λ n ∑ i = 1 n k i 2 \lambda_1\sum_{i=1}^nk_i^2\le\sum_{i=1}^nk_i^2\lambda_i<\lambda_n\sum_{i=1}^nk_i^2 λ1i=1nki2i=1nki2λi<λni=1nki2,即:
λ 1 ≤ R ( A , x ) ≤ λ n \lambda_1\le R(A,x)\le\lambda_n λ1R(A,x)λn
因为 R ( A , x ) = ∑ i = 1 n k i 2 λ i = k 1 2 λ 1 + k 2 2 λ 2 + ⋯ + k n 2 λ n R(A,x)=\sum_{i=1}^nk_i^2\lambda_i=k_1^2\lambda_1+k_2^2\lambda_2+\cdots+k_n^2\lambda_n R(A,x)=i=1nki2λi=k12λ1+k22λ2++kn2λn k 1 2 + k 2 2 + ⋯ + k n 2 = 1 k_1^2+k_2^2+\cdots+k_n^2=1 k12+k22++kn2=1,所以:

  • k 1 = 1 k_1=1 k1=1时, R ( A , x ) R(A,x) R(A,x) 取最小值,即 λ 1 \lambda_1 λ1;
  • k n = 1 k_n=1 kn=1时, R ( A , x ) R(A,x) R(A,x) 取最大值,即 λ n \lambda_n λn;

瑞利商的上下确界证毕。

■ \blacksquare

参考

https://sharmaeklavya2.github.io/theoremdep/nodes/linear-algebra/matrices/bounding-quadratic-form-using-eigenvalues.html
https://www.cnblogs.com/spencergogo/p/16112581.html
https://zhuanlan.zhihu.com/p/440760513文章来源地址https://www.toymoban.com/news/detail-433163.html

到了这里,关于瑞利商性质及证明的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 不要再搞混标准化与归一化啦,数据标准化与数据归一化的区别!!

    数据的标准化是将数据按照一定的 数学规则进行转换 ,使得数据满足特定的标准,通常是使数据满足正态分布或标准差为1的标准。 标准化的常见方法包括 最小-最大标准化 和 Z-score标准化 。最小-最大标准化将数据映射到 [0,1 ]的范围内,最小-最大标准化将数据映射到0-1区间

    2024年01月21日
    浏览(54)
  • 数据标准化方法

    今天看到了“指数移动平均窗口标准化”,就研究了一下这是个啥东西,然后又顺便看了一下其他的数据标准化方法,这里顺便记录一下,方便以后查阅。 zscore标准化是一种 基于数据分布的标准化方法 。它的基本思想是 将数据转换为均值为0,标准差为1的分布 ,从而使得数

    2023年04月22日
    浏览(49)
  • GEE:影像标准化

    本文将介绍在Google Earth Engine (GEE)平台上进行影像标准化的公式和代码。 影像标准化是一种预处理方法,用于将不同区域、不同时间、不同传感器拍摄的影像进行比较和分析。在GEE平台上进行影像标准化,可以使用本文代码,本文以EVI为例,将影像进行了标准化处理。 其结

    2023年04月09日
    浏览(59)
  • 用UiPath实现网页抓取——表格数据提取-1-单击选择分类-ISO标准化-01-综合、术语、标准化、文献目录获取

    准备获取目录的链接是 全国标准信息公告服务平台链接: https://std.samr.gov.cn/search/iso?tid=q= 第一步,标注啊类型选择——ISO 第二步,标准化状态选择——现行 第三步,ICS分类选择——01_综合、术语标准化、文献 将数据分别复制到excel文件中,如下图。 由于国际标准分类号在

    2024年02月04日
    浏览(55)
  • python三种数据标准化

    数据变换是数据准备的重要环节,它通过 数据平滑 、 数据聚集 、 数据概化 和 规范化 等方式将数据转换成适用于数据挖掘的形式。常见的变换方法: 1.数据平滑:去除数据中的噪声,将连续数据离散化。这里可以采用分箱、聚类和回归的方式进行数据平滑 2.数据聚集:对

    2024年02月07日
    浏览(51)
  • 标准化归一化方法

    分别是0-1标准化(Max-Min Normalization)和Z-Score标准化。 1.1 0-1标准化方法 每一列中的 元素减去当前列的最小值 , 再除以该列的极差 。 不过在深度学习领域,我们更希望输入模型的数据是Zero-Centered Data,此时 Z-Score标准化会更加合适。 1.2 Z-Score标准化 Z-Score标准化并不会将数据

    2023年04月12日
    浏览(42)
  • go的标准化error处理

    优化前:我们可以看到有4个地方都需要进行错误判断,我们可以想办法将所有的错误处理代码写到别的地方,进行调用即可。 优化后:

    2024年04月15日
    浏览(41)
  • 矩阵标准化处理(内附MATLAB代码)

    文章目录 矩阵指标标准化处理 1.原理 2.代码实现 2.1正向指标标准化 2.2负向指标标准化 3.运行结果  3.1 工作区变量 3.2 矩阵R标准化结果 4.总结   2.1正向指标标准化 2.2负向指标标准化  3.1 工作区变量 3.2 矩阵R标准化结果 文章实现了矩阵正向指标(负向指标)标准化处理,内

    2024年02月11日
    浏览(52)
  • 一文详解 DolphinDB SQL 标准化

    在脚本层面,自 1.30.22 / 2.00.10 版本起,DolphinDB SQL 开始支持: 全大写或全小写的书写方式 脚本的换行不影响语法解析,但存在两种特殊情况: 组合不允许拆分,如 order by, group by, context by, pivot by, union all, inner join, nulls first 等。 不使用 as 指定字段别名时,别名

    2024年02月13日
    浏览(36)
  • 蔡春久:主数据标准化如何建设

    亿信华辰「2023数字赋能季」主数据管理专场第一期成功举办。我们邀请到了中国数据标准化及治理专家蔡春久为大家带来主数据管理从理论到工具层面的分享,全程干货,深度解读,以下是演讲全文。 蔡春久:中国大数据技术标准推进委员会数据资产专家、中电标协企业信

    2023年04月25日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包