9.2 向量范数的三大不等式-Toy模板网

这篇具有很好参考价值的文章主要介绍了9.2 向量范数的三大不等式。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

我这里要讲的三大不等式不是三种范数比较大小的三大不等式。而是非常经典的，学习线性代数必须掌握的三大不等式：柯西-施瓦茨不等式、赫尔德不等式和闵可夫斯基不等式。
我先讲讲这三大不等式的关系，首先是根据几何空间（定义了标准内积的欧几里得空间）里的夹角，有了柯西-施瓦茨不等式。然后由柯西-施瓦茨不等式推广到更一般的场景，就成了赫尔德不等式，也就是说柯西-施瓦茨不等式是赫尔德不等式在

p = 2

时的特殊场景。那么由赫尔德不等式，可以推导出闵可夫斯基不等式，闵可夫斯基不等式就是除了1-范数，以外的p-范数符合三角不等式定义的证明。

柯西-施瓦茨不等式

柯西-施瓦茨不等式，非常常见了。它的内容是：
$|(x,y)|\le|x| |y|$
公式里的x和y都是向量，两条竖线是向量在内积下的模长，如果取标准内积模长就可以换成2-范数。但是如果不是标准内积，则后面是对应内积的模长。本文不讨论一般内积，所以直接用标准内积，只能在实数域，那么就可以特化为：
$\sum_{i=1}^n{x_i}{y_i} \le \sqrt{\sum_{i=1}^n{x_i^2}}\sqrt{\sum_{i=1}^n{y_i^2}}$

赫尔德不等式

赫尔德不等式，英文为Hölder’s inequality，它的内容如下：
$\sum_{i=1}^{n}|x_iy_i|\le \parallel x\parallel_p\parallel y\parallel_q,\frac1p+\frac1q=1$
展开来就是:
$\sum_{i=1}^{n}|x_iy_i|\le (\sum_{i=1}^{n}{|x_i|^p})^\frac1p( \sum_{i=1}^{n}{|y_i|^q})^\frac1q,\frac1p+\frac1q=1$
$p = 2$ 时， $q = 2$ ,整个不等式就变成了柯西-施瓦茨不等式。

闵可夫斯基不等式

p范数的不等式就是闵可夫斯基不等式，英文为Minkowski’s inequality，也就是：
$\parallel x+y\parallel_p \le \parallel x\parallel_p+\parallel y\parallel_p$
展开就是
$(\sum_{i=1}^{n}{|x_i+y_i|}^p)^\frac1p \le (\sum_{i=1}^{n}{|x_i|}^p)^\frac1p+ (\sum_{i=1}^{n}{|y_i|}^p)^\frac1p$
这也是p-范数定义里的三角不等式要求。闵可夫斯基不等式是由赫尔德不等式推出来的。我讲讲这个推导过程。首先讲清楚，是在复数域 $C$ 上，竖线代表模长。
首先有复数模长的三角不等式，也就是1-范数的三角不等式，这个就无需证明了。
$|a+b|\le |a|+|b|$
两边同时乘以 $a+b|^{p-1}$ ，得到：
$|a+b||a+b|^{p-1}\le (|a|+|b|)|a+b|^{p-1}\\ \Rightarrow |a+b||a+b|^{p-1}\le |a||a+b|^{p-1}+ |b||a+b|^{p-1}\\$
上式里的ab是向量的一个分量，现在把它扩展到整个向量，应用赫尔德不等式，进行变量替换：
$x_i=|a_i|\\ y_i=|a_i+b_i|^{p-1}\\ \frac1p+\frac1q=1\\ \Rightarrow \sum_{i=1}^{n}||a_i||a_i+b_i|^{p-1}|\le (\sum_{i=1}^{n}{||a_i||^p})^\frac1p( \sum_{i=1}^{n}{||a_i+b_i|^{p-1}|^q})^\frac1q$
因为正整数的模长的模长就是本身，所以省略一些模长符号,得到：
$\Rightarrow \sum_{i=1}^{n}|a_i||a_i+b_i|^{p-1}\le (\sum_{i=1}^{n}{|a_i|^p})^\frac1p( \sum_{i=1}^{n}{(|a_i+b_i|^{p-1})^q})^\frac1q\\ \Rightarrow \sum_{i=1}^{n}|a_i||a_i+b_i|^{p-1}\le (\sum_{i=1}^{n}{|a_i|^p})^\frac1p( \sum_{i=1}^{n}{|a_i+b_i|^{(p-1)q}})^\frac1q$
再把另一个代入：
$x_i=|b_i|\\ y_i=|a_i+b_i|^{p-1}\\ \frac1p+\frac1q=1\\ \Rightarrow \sum_{i=1}^{n}|b_i||a_i+b_i|^{p-1}\le (\sum_{i=1}^{n}{|b_i|^p})^\frac1p( \sum_{i=1}^{n}{|a_i+b_i|^{(p-1)q}})^\frac1q$
两个公式加起来：
$\sum_{i=1}^{n}|a_i||a_i+b_i|^{p-1} + \sum_{i=1}^{n}|b_i||a_i+b_i|^{p-1} \le\\ (\sum_{i=1}^{n}{|a_i|^p})^\frac1p( \sum_{i=1}^{n}{|a_i+b_i|^{(p-1)q}})^\frac1q + (\sum_{i=1}^{n}{|b_i|^p})^\frac1p( \sum_{i=1}^{n}{|a_i+b_i|^{(p-1)q}})^\frac1q\\$
右边合并一下：
$\sum_{i=1}^{n}|a_i||a_i+b_i|^{p-1} + \sum_{i=1}^{n}|b_i||a_i+b_i|^{p-1} \le\\( (\sum_{i=1}^{n}{|a_i|^p})^\frac1p+(\sum_{i=1}^{n}{|b_i|^p})^\frac1p)( \sum_{i=1}^{n}{|a_i+b_i|^{(p-1)q}})^\frac1q \\$
左边也合并一下：
$\sum_{i=1}^{n}(|a_i|+|b_i|)|a_i+b_i|^{p-1} \le\\( (\sum_{i=1}^{n}{|a_i|^p})^\frac1p+(\sum_{i=1}^{n}{|b_i|^p})^\frac1p)( \sum_{i=1}^{n}{|a_i+b_i|^{(p-1)q}})^\frac1q \\ \Rightarrow \sum_{i=1}^{n}|a_i+b_i|^{p} \le[ (\sum_{i=1}^{n}{|a_i|^p})^\frac1p+(\sum_{i=1}^{n}{|b_i|^p})^\frac1p]( \sum_{i=1}^{n}{|a_i+b_i|^{(p-1)q}})^\frac1q$
再处理一下 $(p - 1) q$ :
$\frac1p+\frac1q=1\\ \Rightarrow \frac1q=1-\frac1p\\ \Rightarrow \frac1q=\frac{p-1}{p}\\ \Rightarrow (p-1)q=p$
代入，替换：
$\sum_{i=1}^{n}(|a_i|+|b_i|)|a_i+b_i|^{p-1} \le\\ [ (\sum_{i=1}^{n}{|a_i|^p})^\frac1p+(\sum_{i=1}^{n}{|b_i|^p})^\frac1p]( \sum_{i=1}^{n}{|a_i+b_i|^{p}})^\frac1q$
发现两边都有 $\sum_{i=1}^{n}|a_i+b_i|^{p}$ ,于是对左边进行改造，运用三角不等式：
$|a+b||a+b|^{p-1}\le (|a|+ |b|)|a+b|^{p-1}$
在三角不等式外面加求和符号，得到：
$\sum_{i=1}^{n}|a_i+b_i||a_i+b_i|^{p-1} \le \sum_{i=1}^{n}(|a_i|+|b_i|)|a_i+b_i|^{p-1}\\ \Rightarrow \sum_{i=1}^{n}|a_i+b_i|^{p} \le \sum_{i=1}^{n}(|a_i|+|b_i|)|a_i+b_i|^{p-1}\\ \Rightarrow (\sum_{i=1}^{n}|a_i+b_i|^{p})^{1}\le \sum_{i=1}^{n}(|a_i|+|b_i|)|a_i+b_i|^{p-1}\\ \Rightarrow (\sum_{i=1}^{n}|a_i+b_i|^{p})^{\frac1p+\frac1q}\le \sum_{i=1}^{n}(|a_i|+|b_i|)|a_i+b_i|^{p-1}$
把三个式子连起来，得到：
$(\sum_{i=1}^{n}|a_i+b_i|^{p})^{\frac1p+\frac1q}\\ \le \sum_{i=1}^{n}(|a_i|+|b_i|)|a_i+b_i|^{p-1}\\ \le( (\sum_{i=1}^{n}{|a_i|^p})^\frac1p+(\sum_{i=1}^{n}{|b_i|^p})^\frac1p)( \sum_{i=1}^{n}{|a_i+b_i|^{p}})^\frac1q\\$
根据不等式的传递性，去掉中间的，然后得到：
$(\sum_{i=1}^{n}|a_i+b_i|^{p})^{\frac1p+\frac1q}\\ \le( (\sum_{i=1}^{n}{|a_i|^p})^\frac1p+(\sum_{i=1}^{n}{|b_i|^p})^\frac1p)( \sum_{i=1}^{n}{|a_i+b_i|^{p}})^\frac1q$
所以两边都可以除于 $(\sum_{i=1}^{n}|a_i+b_i|^{p})^{\frac1q}$ ，得到：
$(\sum_{i=1}^{n}|a_i+b_i|^{p})^{\frac1p} \le (\sum_{i=1}^{n}{|a_i|^p})^\frac1p+(\sum_{i=1}^{n}{|b_i|^p})^\frac1p$
这就是闵可夫斯基不等式。证明完毕Q.A.D。文章来源地址https://www.toymoban.com/news/detail-457784.html