机器学习-线性代数-1-向量、基底及向量空间-Toy模板网

这篇具有很好参考价值的文章主要介绍了机器学习-线性代数-1-向量、基底及向量空间。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

概述

向量

理解

直观理解
- 行向量：把数字排成一行A = $[45]$
- 列向量：把数字排成一列A = $\ \left [ \begin{matrix} 4 \\ 5 \\ \end{matrix} \right ]$
几何意义

默认在基底条件下(直角坐标系)中的坐标表示的一个点，也可以理解以原点为起点，到目标终点A的有向线段

因此，向量中成分个数就是向量的维度。
注意
- 充当数据的载体，向量的每个维度都作为事物的一种属性，比如一次考试的成绩，语文98分、数学89分，英语100分。这时用向量表示为 $\ \left [ \begin{matrix}98 \\89 \\100\\\end{matrix} \right ]$
- 一般使用列向量（默认）：1、节省空间，2、在进行变换时类似于函数利于理解 $A x$ 与 $f (x)$
Python演示
1. 生成行向量
```
import numpy as np

A = np.array([1, 2, 3, 4])
print(A)
```
```
[1 2 3 4]
```
2. 生成列向量（便于计算表示成 $n * 1$ 的矩阵)
```
import numpy as np

A = np.array([[1, 2, 3]])
print(A)
print(A.T)
```
```
[[1 2 3]]
[[1]
 [2]
 [3]]
```

向量运算

向量加法

两个维度相同的向量才能进行加法，对应维度元素相加即可。

机器学习-线性代数-1-向量、基底及向量空间

从空间的角度理解。

就是两个向量的合向量。

机器学习-线性代数-1-向量、基底及向量空间

import numpy as np

# 定义两个向量
a = np.array([1, 2, 3])
b = np.array([4, 5, 6])

# 向量加法
c = a + b
print(c)

[5 7 9]

向量数乘

把数c与向量每个元素分别相乘，结果向量保持维数不变，直观理解，就是将向量沿着原来方向拉伸相应倍数，最终发现与运算数的符号有关。
```
import numpy as np

# 定义一个向量
a = np.array([1, 2, 3])

# 向量数乘
k = 2
b = k  * a

print(b)
```
```
[2 4 6]
```
线性性质阐述

通过以上两个向量性质阐述，我们总结一下线性代数这么课中线性的内涵，凡是满足以上加法和数乘性质的代数运算，我们就成为线性运算，如果一个代数系统，满足线性运算，那么我们称这个代数系统为线性代数。线性代数就是研究其中性质的一门课。
向量的内积

向量 $u$ 和向量 $v$ 內积定义如下：

$u·v = [u_1~u_2~u_3] [v_1~v_2~v_3]^T = u_1v_1 + u_2v_2 + u_3v_3$

其物理意义是： $|u||v|cos\theta$ ，也就是向量u在v上的投影长度与v模的乘积，可以方便求出u其在v上的投影
向量的外积

我们只讨论二维平面和三维空间中的向量外积：
- 在二维平面中：
  
  $u\times v = [u_1~u_2]^T \times [v_1~v_2]^T = u_1v_2 - u_2v_1$
  
  $\times v| = |u||v|sin \theta$ ,表示两个向量张成的平行四边形面积
- 在三维平面中：
  
  $u\times v = [u_1~u_2~u_3]^T \times [v_1~v_2~v_3]^T = [u_2v_3 - u_3v_2~~ u_3v_1 - u_1v_3~u_1v_2 - u_2v_1 ]$
  
  表示两个向量所表示平面的法向量。
向量的线性组合

在向量加法和数乘的基础上的组合应用。

基底与向量的坐标表示

基底与向量的深入

对于向量 $u = [4~5]^T$ 而言，我们一直以来都很理所应当的认为：他表示一条在 $x$ 轴上投影为4， $y$ 轴上投影为 5的有向线段，其坐标为 $(4, 5)$ 。这其实是基于了一个我们没有刻意强调的前提：我们是利用了方向为 $x$ 轴、 $y$ 轴正方向且长度为1的两个向量 $e_x = [1~0]^T$ , $e_y = [0~1]^T$ 作为讨论基准。因此向量u的完整写法是: $u = 4e_x + 5e_y,u = 4[1~0]^T + 5[0~1]^T$ 。

这里作为基准的向量 $e_x, e_y$ 便是基底，具体作用是当做参考系。基底的每个成员称作基向量。而坐标，就是各基向量前的系数。在已有基底的基础上，空间中的向量表示为坐标的形式，也可以看成基向量的线性组合。而且在不做说明的情况下，一般基向量选取坐标中正方向且长度为1的向量。

综上：向量 $u$ 的准确说法为：在基底 $e_x,e_y)$ 下，以原点为出发点，终点为坐标 $(4, 5)$ 的有向线段。

基底与向量选取与表示

同一向量在不同的基底下表示为不同坐标

在向量空间中的同一个向量 $u$ ，当我们基底分别选取 $1~0]^T$ 、 $0~1]^T$ 和 $[\frac{1}{\sqrt{2}} ~\frac{1}{\sqrt{2}}]^T$ 、 $[-\frac{1}{\sqrt{2}}~\frac{1}{\sqrt{2}}]^T$ 时,在假设前者条件下表示为 $u = [4~5]^T$ ，则在后者为基底的情况下表示为 $[\frac{9}{\sqrt{2}} ~\frac{1}{\sqrt{2}}]^T$ 。

机器学习-线性代数-1-向量、基底及向量空间

基底的特殊性

基向量满足线性无关

在每个向量空间(解释在下)中每个向量都是唯一的，表示也是唯一的。当存在基向量线性相关时，对于空间中的向量表示就不是唯一了。
基底的数量要足够

对于 $n$ 维空间，必须要有 $n$ 个线性无关的向量作为基底。拿三维空间举例，如果线性无关的基向量只有两个，那么其再怎么组合成的向量也只能在一个平面内，平面外的向量无法表示。
$\mathbb{R}^n$ 空间( $n$ 维向量空间)与 $n$ 维空间的区别

$\mathbb{R}^n$ 空间表示所有 $n$ 维向量的集合(默认直角坐标系的基底)，其中每个向量是 $n$ 维。

$n$ 维空间是指由 $n$ 个线性无关的向量所张成的向量空间，更具体的解释为针对一个向量集合 $V$ ，如果任取V中的两个向量 $u$ 和 $v$ ，只要满足 $u ＋ v$ 仍然存在于 $V$ 中，同时任取标量 $c$ ，只要满足 $c u$ 仍然在 $V$ 中，那么这个集合 $V$ 就构成一个向量空间。