【学习笔记】3Blue1Brown 线性代数导引

这篇具有很好参考价值的文章主要介绍了【学习笔记】3Blue1Brown 线性代数导引。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

什么是向量?

符合公设、合理定义加法和数乘的“东西”就是向量;
向量空间对加法及数乘运算保持封闭。

例如说,
颜色可以是“向量”,三原色是“基底”
【学习笔记】3Blue1Brown 线性代数导引,数学基础,线性代数,笔记

多项式函数是“向量”, x 2 + 5 = [ 5 0 1 0 ⋯ ] x^2+5=\begin{bmatrix} 5\\ 0\\ 1\\ 0\\ \cdots \end{bmatrix} x2+5= 5010
信号是“向量”,同样也可以合成和分解;

一般说, [ 1 2 ] \begin{bmatrix} 1\\ 2 \end{bmatrix} [12]是二维坐标系基底向量的缩放和(线性组合): 1 i ^ + 2 j ^ 1\hat{i} + 2 \hat{j} 1i^+2j^的简记;
如果基底变换用矩阵的形式表示, I = [ 1 0 0 1 ] I=\begin{bmatrix} 1 & 0\\ 0 & 1 \end{bmatrix} I=[1001] x = [ 1 2 ] x=\begin{bmatrix} 1\\ 2 \end{bmatrix} x=[12],这里 I I I是“恒等变换”: I x = x Ix=x Ix=x

什么是矩阵(线性系统)?

系统,也被称作映射、函数、变换、算子;
其中,满足叠加性和比例性的是“线性系统”。

在二维视角下说,考虑线性系统操纵的是基底(空间)【这里一定要看视频】,要满足输入直线,输出直线,输入零,输出零,网格线保持平行且等距分布(因此,旋转、投影也是线性变换,可以写作矩阵乘法的形式)。

  • 多元一次方程组就是“线性系统”;
  • 向量 x x x是“输入”,矩阵 A A A是“线性系统”,向量 b b b是“输出”;
  • 转置是“线性系统”;
  • 前缀和、差分是“线性系统”;
  • 微分、积分也是“线性系统”。

矩阵运算和相关概念

  • 矩阵乘法:多个变换相继作用,例如 M 2 ( M 1 x ) = ( M 2 M 1 ) x M_2(M_1 x) = (M_2 M_1) x M2(M1x)=(M2M1)x

  • 行列式:系统对空间的挤压(拉伸)作用的度量,表现为方向(正、负)和大小(面积、体积之比);如果行列式为零,说明该变换对空间进行了塌陷变换,减小了维度,该变换是不可逆的,变换后的维度被称为“秩”,对应着矩阵“列空间”的维度;

  • 对于某些特定的向量而言,应用线性变换 A A A,并没有离开它自身张成的直线, A A A相当于一个“标量” λ \lambda λ(或者说 λ I \lambda I λI),这些向量就被称为“特征向量”,这个“标量”度量了缩放方向与大小,被称为“特征值”。尤其对于旋转变换而言,“特征向量”就是“旋转轴”。

例一:差分、前缀和、矩阵的逆

例如说, A x = [ 1 0 0 − 1 1 0 0 − 1 1 ] [ x 1 x 2 x 3 ] = [ x 1 x 2 − x 1 x 3 − x 2 ] = b Ax = \begin{bmatrix} 1 & 0 & 0\\ -1 & 1 & 0\\ 0 & -1 & 1\\ \end{bmatrix} \begin{bmatrix} x_1\\ x_2\\ x_3\\ \end{bmatrix} = \begin{bmatrix} x_1\\ x_2 - x_1\\ x_3 - x_2\\ \end{bmatrix}=b Ax= 110011001 x1x2x3 = x1x2x1x3x2 =b
考虑 A A A列向量的线性组合,它起到的变换作用是一阶差分。
如果输入 x = [ 1 4 9 ] x=\begin{bmatrix} 1 \\ 4 \\ 9 \end{bmatrix} x= 149 ,自然地,线性系统的输出是 b = [ 1 3 5 ] b=\begin{bmatrix} 1 \\ 3 \\ 5 \end{bmatrix} b= 135

这是已知系统、输入,求得输出,我们称之为前向“传播”。
那么如果考虑求解线性方程组,即在已知“线性系统”和“输出”的前提下,
求得“输入”呢?对于当前的差分系统来讲,逆运算是前缀和,因此并不困难从输出到输入。
如果输出是 b = [ b 1 b 2 b 3 ] b=\begin{bmatrix} b_1 \\ b_2 \\ b_3 \end{bmatrix} b= b1b2b3 ,那么很自然的,输入应该是 x = [ b 1 b 1 + b 2 b 1 + b 2 + b 3 ] x=\begin{bmatrix} b_1 \\ b_1+b_2 \\ b_1 + b_2 + b_3 \end{bmatrix} x= b1b1+b2b1+b2+b3
我们关注原点(零点),假如说输出的 b = 0 ⃗ b=\vec{0} b=0 ,那么输入的 x x x是唯一的。
同时,我们还可以写出这一线性变换的逆变换 A − 1 = [ 1 0 0 1 1 0 1 1 1 ] A^{-1} = \begin{bmatrix} 1 & 0 & 0\\ 1 & 1 & 0\\ 1 & 1 & 1\\ \end{bmatrix} A1= 111011001 ,使得 A − 1 b = x A^{-1}b=x A1b=x


如果是这样的呢? C x = [ 1 0 − 1 − 1 1 0 0 − 1 1 ] [ x 1 x 2 x 3 ] = [ x 1 − x 3 x 2 − x 1 x 3 − x 2 ] = [ b 1 b 2 b 3 ] Cx = \begin{bmatrix} 1 & 0 & -1\\ -1 & 1 & 0\\ 0 & -1 & 1\\ \end{bmatrix} \begin{bmatrix} x_1\\ x_2\\ x_3\\ \end{bmatrix} = \begin{bmatrix} x_1 - x_3\\ x_2 - x_1\\ x_3 - x_2\\ \end{bmatrix}=\begin{bmatrix} b_1 \\ b_2 \\ b_3 \end{bmatrix} Cx= 110011101 x1x2x3 = x1x3x2x1x3x2 = b1b2b3

第一个发现是,我们将 [ x 1 − x 3 x 2 − x 1 x 3 − x 2 ] \begin{bmatrix} x_1 - x_3\\ x_2 - x_1\\ x_3 - x_2\\ \end{bmatrix} x1x3x2x1x3x2 所有项相加为零,可是 [ b 1 b 2 b 3 ] \begin{bmatrix} b_1 \\ b_2 \\ b_3 \end{bmatrix} b1b2b3 所有项相加却不恒为零。
这意味着, C C C的列向量张成的空间不是一个“点”(零维),不是一条“直线”(一维),
而是一个“平面”(二维), x + y + z = 0 x+y+z=0 x+y+z=0

第二个发现是,只要输入 x = c [ 1 1 1 ] x=c\begin{bmatrix} 1 \\ 1 \\ 1 \end{bmatrix} x=c 111 都满足输出的 b = 0 ⃗ b=\vec{0} b=0
这说明有许多本身并不在原点的点(向量)经历该线性变换后,空间发生了塌陷,被挤压至零点(验证一下, det ⁡ ( C ) = 0 \det(C) = 0 det(C)=0,意味着基底体积变为0)。因此,并不存在这样的 C − 1 C^{-1} C1 C C C是不可逆的),能够将有损压缩的文件恢复原状。反证法:我们假设存在, C x = b Cx=b Cx=b,现存在 x ≠ 0 ⃗ x\ne \vec{0} x=0 b = 0 ⃗ b=\vec{0} b=0 ,那么:
C − 1 C x = C − 1 b C^{-1}Cx=C^{-1}b C1Cx=C1b,与假设相互矛盾。

例二:旋转矩阵与倍半角公式

「旋转」满足叠加、数乘,因而是一个线性变换。
我们可以用矩阵的形式进行描述,倘若我们要将向量 x x x逆时针旋转 θ \theta θ角,如何写这个矩阵呢?从基变换的视角看,这意味着我们要将坐标系 i ^ , j ^ \hat{i}, \hat{j} i^,j^同样逆时针旋转 θ \theta θ角。

【学习笔记】3Blue1Brown 线性代数导引,数学基础,线性代数,笔记

然后将新基底 i ^ ′ , j ^ ′ \hat{i}^\prime, \hat{j}^\prime i^,j^作为矩阵的列,就得到了旋转矩阵:

A = [ cos ⁡ θ − sin ⁡ θ sin ⁡ θ cos ⁡ θ ] A=\begin{bmatrix} \cos \theta & -\sin \theta \\ \sin\theta & \cos\theta \end{bmatrix} A=[cosθsinθsinθcosθ]

我们能从旋转矩阵(系统、变换、函数、算子)获得什么有趣的发现呢?

考虑 A ( A x ) = ( A A ) x = A 2 x A(Ax) = (AA)x = A^2x A(Ax)=(AA)x=A2x A 2 A^2 A2意味着旋转两次(旋转两倍),即:

[ cos ⁡ θ − sin ⁡ θ sin ⁡ θ cos ⁡ θ ] 2 = [ cos ⁡ 2 θ − sin ⁡ 2 θ sin ⁡ 2 θ cos ⁡ 2 θ ] \begin{bmatrix} \cos \theta & -\sin \theta \\ \sin\theta & \cos\theta \end{bmatrix}^2 = \begin{bmatrix} \cos 2\theta & -\sin 2\theta \\ \sin 2\theta & \cos 2\theta \end{bmatrix} [cosθsinθsinθcosθ]2=[cos2θsin2θsin2θcos2θ]

不妨把矩阵进行平方,进行观察:

[ cos ⁡ θ − sin ⁡ θ sin ⁡ θ cos ⁡ θ ] [ cos ⁡ θ − sin ⁡ θ sin ⁡ θ cos ⁡ θ ] = [ cos ⁡ 2 θ − sin ⁡ 2 θ − 2 cos ⁡ θ sin ⁡ θ 2 cos ⁡ θ sin ⁡ θ cos ⁡ 2 θ − sin ⁡ 2 θ ] \begin{bmatrix} \cos \theta & -\sin \theta \\ \sin\theta & \cos\theta \end{bmatrix} \begin{bmatrix} \cos \theta & -\sin \theta \\ \sin\theta & \cos\theta \end{bmatrix} = \begin{bmatrix} \cos^2 \theta -\sin^2 \theta & -2 \cos \theta \sin \theta \\ 2 \cos \theta \sin \theta & \cos^2 \theta -\sin^2 \theta \end{bmatrix} [cosθsinθsinθcosθ][cosθsinθsinθcosθ]=[cos2θsin2θ2cosθsinθ2cosθsinθcos2θsin2θ]

于是,我们用矩阵乘法推导出了倍角公式。真是太酷了!文章来源地址https://www.toymoban.com/news/detail-811466.html

到了这里,关于【学习笔记】3Blue1Brown 线性代数导引的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 深度学习笔记之线性代数

    一、向量 在数学表示法中,向量通常记为粗体小写的符号(例如, x , y , z )当向量表示数据集中的样本时,它们的值具有一定的现实意义。例如研究医院患者可能面临的心脏病发作风险,用一个向量表示一个患者,其分量为最近的生命特征、胆固醇水平、每天运动时间等

    2024年02月08日
    浏览(50)
  • 线性代数:增广矩阵学习笔记

    定义 对于一个 n × m ntimes m n × m 的矩阵 A = [ a i j ] A=[a_{ij}] A = [ a ij ​ ] ,我们可以在它的右边加上一个 n × 1 ntimes1 n × 1 的列向量 b b b ,得到一个 n × ( m + 1 ) ntimes(m+1) n × ( m + 1 ) 的矩阵 [ A ∣ b ] begin{bmatrix} A bigl| bend{bmatrix} [ A ​ ​ ​ b ​ ] ,这个矩阵被称为 A A A 的

    2024年02月05日
    浏览(62)
  • 线性代数——高斯消元 学习笔记

    消元法 消元法是将方程组中的一方程的未知数用含有另一未知数的代数式表示,并将其带入到另一方程中,这就消去了一未知数,得到一解;或将方程组中的一方程倍乘某个常数加到另外一方程中去,也可达到消去一未知数的目的。消元法主要用于二元一次方程组的求解。

    2024年02月08日
    浏览(39)
  • 线性代数:齐次线性方程组学习笔记

    齐次线性方程组是指所有方程的常数项均为零的线性方程组,即形如 A x = 0 Ax=0 A x = 0 的方程组。 其中,矩阵 A A A 是一个 m × n m times n m × n 的矩阵,向量 x x x 是一个 n n n 维列向量, 0 mathbf{0} 0 是一个 m m m 维零向量。 齐次线性方程组有以下性质: 1. 性质1 齐次线性方程组的

    2024年01月20日
    浏览(51)
  • 线性代数:克莱姆法则学习笔记

    克莱姆(Cramer)法则又称为克拉默法则,是在线性代数中解决线性方程组问题的一种方法。克莱姆法则的基本思想是通过用系数矩阵的行列式来判断线性方程组是否有唯一解,从而进一步求出各个未知数的值。其原理基于克莱姆定理: 对于 n 元线性方程组 Ax = b,如果系数矩

    2024年02月08日
    浏览(50)
  • 线性代数:约当标准型学习笔记

    线性代数是数学中重要的分支之一,在各个领域中都有广泛的应用。其中,矩阵的基本理论与方法是线性代数的重点和难点。本文主要介绍线性代数中的一种特殊矩阵形式:约当标准型。通过对约当标准型的定义、求法、性质及应用的介绍,希望读者能够深入理解和应用矩阵

    2024年02月04日
    浏览(43)
  • 线性代数 --- 向量的内积(点积)(个人学习笔记)

    向量与向量的乘法 - 内积         两个向量的内积,也叫点积(但在我们这个笔记的前半部分,我们说的,或者用到的更多的应该是点积),他的计算方式是两个同维度向量(例如两个n维向量)的内部元素从1到n, 逐一相乘再相加后的累加和 ,得到的是一个数。 注意,

    2023年04月08日
    浏览(79)
  • 线代学习笔记(一)——线性代数的通俗理解

    本篇笔记内容主要来源于45分钟线性代数通俗讲解_哔哩哔哩_bilibili,非常感谢up主的分享,这里我加入了部分自己的理解,与自己所学的知识结合完成。 数据的维度:即数据含有参数的个数,描述一个对象所需要的参数个数,这样一组数据构成一个多维数据,如一个空间坐标

    2024年02月06日
    浏览(44)
  • 【学习笔记】(数学)线性代数-矩阵的概念和特殊矩阵

    由 m × n mtimes n m × n 个数按一定的次序排成的 m m m 行 n n n 列的矩形数表成为 m × n mtimes n m × n 的矩阵,简称 矩阵 (matrix)。 横的各排称为矩阵的 行 ,竖的各列称为矩阵的 列 。 元素为实数的称为 实矩阵 ,一般情况下我们所讨论的矩阵均为实矩阵。 1 行 n n n 列的矩阵称为

    2024年02月09日
    浏览(45)
  • 动手学深度学习2.3线性代数-笔记&练习(PyTorch)

    以下内容为结合李沐老师的课程和教材补充的学习笔记,以及对课后练习的一些思考,自留回顾,也供同学之人交流参考。 本节课程地址:线性代数_哔哩哔哩_bilibili 本节教材地址:2.3. 线性代数 — 动手学深度学习 2.0.0 documentation (d2l.ai) 本节开源代码:…d2l-zhpytorchchapter_pr

    2024年04月12日
    浏览(52)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包