雅可比(jacobian)、黑塞矩阵(Hessian)

这篇具有很好参考价值的文章主要介绍了雅可比(jacobian)、黑塞矩阵(Hessian)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

一、雅克比矩阵

雅可比矩阵和行列式(Jacobian)_雅可比行列式_JasonKQLin的博客-CSDN博客

 在牛顿迭代法、L-M中求解非线性方程组,都会用到雅可比(一阶偏导数) 和黑塞矩阵(2阶偏导数)矩阵。

雅可比矩阵 是一阶偏导数以一定方式排列成的矩阵, 其行列式称为雅可比行列式。

jacobian,数学之美,matlab,矩阵,matlab

  是一个从欧式 n 维空间转换到欧式 m 维空间的函数. 这个函数由 m 个实函数组成:,记作
这些函数的偏导数(如果存在)可以组成一个 m 行 n 列的矩阵, 这就是所谓的雅可比矩阵:

 jacobian,数学之美,matlab,矩阵,matlab

 若m=n,那么其就是一个方阵,其行列式也叫雅可比行列式

雅可比矩阵的作用:

雅可比矩阵J f ( p ) 就是函数f在n维空间某点p处的导数,它是一个线性映射(因为它是一个矩阵,矩阵本身代表着线性变换),它代表着函数f在点p处的最优线性逼近,也就是当x足够靠近点p时,我们有:
jacobian,数学之美,matlab,矩阵,matlab

 eg:jacobian,数学之美,matlab,矩阵,matlab

 matlab 求解雅可比矩阵:

syms x1 x2  x3 x4
f1=x1;
f2=5*x3;
f3=4*x2^2-2*x3;
f4=x3*sin(x1);

J =jacobian([f1;f2;f3;f4],[x1 x2  x3])

jacobian,数学之美,matlab,矩阵,matlab

 二、黑塞矩阵

定义

黑塞矩阵(Hessian Matrix),又译作海森矩阵、海瑟矩阵、海塞矩阵等,是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出,并以其名字命名。黑塞矩阵常用于牛顿法解决优化问题,利用黑塞矩阵可判定多元函数的极值问题。在工程实际问题的优化设计中,所列的目标函数往往很复杂,为了使问题简化,常常将目标函数在某点邻域展开成泰勒多项式来逼近原函数,此时函数在某点泰勒展开式的矩阵形式中会涉及到黑塞矩阵。

一句话来讲,Hessian matrix是多元函数(单因变量)的二阶偏导数组成的方阵,它也可以被理解为该函数的一阶导数向量的Jacobi matrix!当函数满足(前提是再一定的范围内是2阶连续可导):

 推导:

谷歌搜索:

二元函数的黑塞矩阵

jacobian,数学之美,matlab,矩阵,matlab

 jacobian,数学之美,matlab,矩阵,matlab

 对称性

jacobian,数学之美,matlab,矩阵,matlab

 jacobian,数学之美,matlab,矩阵,matlab

 应用

jacobian,数学之美,matlab,矩阵,matlab示例1:jacobian,数学之美,matlab,矩阵,matlab

 示例2:

https://www.cnblogs.com/ybqjymy/p/13646488.html

matlab 代码实现:

clear all;
clc;
syms x y z
f1=x^2+y^2+3*x*y*z;
%f2=x^3+y^2+4*x*y*z^3;
%f3=x^3+y^2+5*x*y^3*z^3;
% 1 直接计算hessian矩阵
H0=hessian(f1,[x;y;z])
% 2 先求雅可比矩阵,然后再计算 hessian 矩阵
J0=jacobian(f1,[x,y,z]) % 雅可比矩阵
H2=jacobian(J0,[x,y,z])
% 3、先计算梯度,然后再计算hessian 矩阵
G=gradient(f1,[x,y,z])
H3=jacobian(G,[x,y,z])

% 结果:

H0 =
 
[  2, 3*z, 3*y]
[3*z,   2, 3*x]
[3*y, 3*x,   0]
 
 
J0 =
 
[2*x + 3*y*z, 2*y + 3*x*z, 3*x*y]
 
 
H2 =
 
[  2, 3*z, 3*y]
[3*z,   2, 3*x]
[3*y, 3*x,   0]
 
 
G =
 
2*x + 3*y*z
2*y + 3*x*z
      3*x*y
 
 
H3 =
 
[  2, 3*z, 3*y]
[3*z,   2, 3*x]
[3*y, 3*x,   0]
 
>> 

补充:

正定矩阵

(1)广义定义:设M是n阶方阵,如果对任何非零向量z,都有zTMz> 0,其中zT 表示z的转置,就称M为正定矩阵。

例如:B为n阶矩阵,E为单位矩阵,a为正实数。在a充分大时,aE+B为正定矩阵。(B必须为对称阵)文章来源地址https://www.toymoban.com/news/detail-776632.html

到了这里,关于雅可比(jacobian)、黑塞矩阵(Hessian)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 由黑塞(Hessian)矩阵引发的关于正定矩阵的思考

    最近看论文,发现论文中有通过黑塞(Hessian)矩阵提高电驱系统稳定性的应用。所以本篇主要从Hessian矩阵的性质出发,对其中正定矩阵的判定所引发的想法进行记录。 (其实看论文出现黑塞很惊奇,因为前不久刚读了作家黑塞的《德米安:彷徨少年时》,所以在这一领域的黑塞

    2024年02月06日
    浏览(47)
  • 雅可比矩阵,Hessian矩阵

            由一阶偏导数构成的矩阵,发明它的目的主要是为了简化求导公式。         假设有这样一个函数可以把n维的向量x映射为k维的向量y。,其中每个和每个都是相关的,也就是每个是单独从映射过来的函数,它的雅可比矩阵就是每个分别对每个求偏导,然后构成的

    2024年02月05日
    浏览(57)
  • Hessian 矩阵与凸性:从数学理论到实际应用

    在现代计算机科学和人工智能领域,优化问题是非常常见的。这些问题通常涉及到最小化或最大化一个函数,以实现一定的目标。例如,在机器学习中,我们可能需要最小化损失函数以实现模型的训练;在操作研究中,我们可能需要最小化成本函数以实现资源的分配;在信号

    2024年04月27日
    浏览(34)
  • 用matlab计算雅可比矩阵

    如何用matlab轻松算出雅可比矩阵? 举例: 已知函数:f1=-x1+x2 f2=x1-x2-x2^3 求: 具体步骤: 1、matlab里定义2个变量 2、输入f的两个表达式 3、直接调用jacobian函数

    2024年02月11日
    浏览(46)
  • 数学学习——最优化问题引入、凸集、凸函数、凸优化、梯度、Jacobi矩阵、Hessian矩阵

    例如:有一根绳子,长度一定的情况下,需要如何围成一个面积最大的图像?这就是一个最优化的问题。就是我们高中数学中最常见的最值问题。 最优化问题的一般形式是: m i n ​ f ( x ) x ∈ C min​f(x) \\\\ x in C min ​ f ( x ) x ∈ C 其中, f f f 是目标函数, A A A 是约束条件,

    2024年02月15日
    浏览(42)
  • 数学建模算法(基于matlab和python)之 线性方程组的迭代法(雅可比迭代、高斯-赛德尔迭代)(7/10)

    实验目的及要求: 1、了解各迭代法的基本原理和特点; 2、判断雅克比迭代、高斯-塞德尔迭代对任意初始向量的收敛性; 3、完成雅克比迭代、高斯-塞德尔迭代算法的程序实现。 实验内容: 1、编写雅可比迭代法与高斯-赛德尔迭代法通用子程序,求解下列线性方程组 ,并考

    2024年02月04日
    浏览(49)
  • 数学分析(十七)-多元函数微分学4-泰勒公式与极值问题4-极值问题2:充分条件【 f在稳定点P₀处二阶连续偏导数的(Hesse) 黑塞矩阵:①正定矩阵➔极小值;②负定矩阵➔极大值;③不定矩阵➔无极值】

    为了讨论二元函数 f f f 在点 P 0 ( x 0 , y 0 ) P_{0}left(x_{0}, y_{0}right) P 0 ​ ( x 0 ​ , y 0 ​ ) 取得极值的充分条件, 我们假定 f f f 具有二阶连续偏导数, 并记 H f ( P 0 ) = ( f x x ( P 0 ) f x y ( P 0 ) f y x ( P 0 ) f y y ( P 0 ) ) = ( f x x f x y f y x f y y ) P 0 boldsymbol{H}_{f}left(P_{0}right)=left(begin{a

    2024年04月13日
    浏览(48)
  • 鞍点的判断(黑森矩阵/黑塞矩阵)

    判断鞍点的一个充分条件是: 函数在一阶导数为零处(驻点)的黑塞矩阵为不定矩阵。   半正定矩阵: 所有特征值为非负。 半负定矩阵:所有特征值为非正。 不定矩阵 :特征值有正有负。    容易解出特征值一个为2,一个为-2( 有正有负 ),显然是不定矩阵, 注意: 函

    2024年02月03日
    浏览(46)
  • 函数凹凸性与黑塞矩阵

    1 同济大学高等数学定义 2 国际上的定义 3 黑塞矩阵 我们从几何上看到,在有的曲线弧上,如果任取两点,则联结这两点间的弦总位于这两点间的弧段的上方,如图3-8(a);而有的曲线弧,则正好相反,如图 3-8(b)。曲线的这种性质就是曲线的凹凸性。 因此曲线的凹凸性可

    2024年02月08日
    浏览(34)
  • Hessian 矩阵(海森矩阵)

    Hessian 矩阵(海森矩阵)是一个包含二阶偏导数信息的方阵,在数学和优化中起着重要作用。对于一个多元函数,其 Hessian 矩阵是由其各个变量的二阶偏导数组成的矩阵。 假设有一个函数 f ( x 1 , x 2 , … , x n ) f(x_1, x_2, dots, x_n) f ( x 1 ​ , x 2 ​ , … , x n ​ ) ,其 Hessian 矩阵

    2024年02月04日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包