Linearly independent 线性无关

从向量的角度上看

向量 $v_1, v_2$

v_1=(1,0),\qquad v_2=(0,1)

不能互相表示。也就是说，我们如果想要构建：

c_1v_1 + c_2v_2 = 0

这个方程，只有： $c_1=c_2=0$ 这一组解的情况，因此称向量 $v_1, v_2$ 线性无关。

从向量-二维平面几何的角度上看

把向量画在二维平面上，“线性无关” 的几何含义是：两个向量不共线（不在同一条直线上）。

比如 $v_1=(2,1)$ 、 $v_2=(1,2)$ ： $v_1$ 无论怎样缩放（ $c_1v_1$ ），都只能躺在自己所在的那条直线 $\operatorname{span}(v_1)$ 上，永远够不到 $v_2$ 。所以想让 $c_1v_1+c_2v_2=0$ ，两个向量只能各自缩回原点，即只有 $c_1=c_2=0$ 这一组解 —— $v_1,v_2$ 线性无关。

相反， $w_1=(1,1)$ 、 $w_2=(2,2)$ 躺在同一条直线上（ $w_2=2w_1$ ），那么 $2w_1-w_2=0$ 就是一组非零解 —— $w_1,w_2$ 线性相关：

几何上的直觉：

线性无关 = 每个向量都带来一个"新的方向"。两个不共线的向量可以拼出（张成）整个平面上的任意向量；
线性相关 = 存在"多余的"向量，它没有带来新方向。两个共线的向量无论怎么组合，都只能在那一条直线上打转，张不成平面。

从系数矩阵的角度看

设方程组系数矩阵 $A$

A= \begin{pmatrix} 1&0&0\\ 0&1&0\\ 1&1&0 \end{pmatrix}

$r_i$ 为 $A$ 的行向量，且：

r_3=r_1+r_2

我们说:

$r_1、r_2$ 线性无关；
$r_1、r_3$ 线性无关；
$r_2、r_3$ 线性无关；
$r_3$ 没有增加新的“独立方向”，它可以由 $r_1,r_2$ 表示； $r_1、r_2、r_3$ 线性相关；
因此 最多只有 2 个线性无关的行向量。也可以说方程组的的秩= 2

最多只有 2 个线性无关的行向量 指的是：

可以有很多组线性无关的组合，但每一组最多只能包含 2 个向量。因为这里有三种选择： $\{r_1,r_2\},\{r_1,r_3\},\{r_2,r_3\}$ ，每个选择都是（最多）2 个彼此线性无关的行向量。你无法找到一个包含 3 个向量的线性无关组。

也可以说方程组的的秩=2 的原因是：

方程组中真正提供独立约束的信息量就是最大线性无关独立的行向量的个数，这也是 Rank 秩的定义之一：

\boxed{\operatorname{rank}(A) =\text{系数矩阵中线性无关的行向量的最大个数}}

定义

设矩阵

A= \begin{pmatrix} r_1\\ r_2\\ \vdots\\ r_m \end{pmatrix}

其中 $r_1,r_2,\dots,r_m$ 是矩阵的行向量。

如果方程：

c_1r_1+c_2r_2+\cdots+c_mr_m=0

只有：

c_1=c_2=\cdots=c_m=0

这一组解，那么称 $r_1,r_2,\dots,r_m$ 线性无关。

“线性无关” 本身不特指行或列

“线性无关” 本身不特指行或列，它描述的是一组向量之间的关系，所以既可以说：

行向量线性无关 → the row vectors are linearly independent
列向量线性无关 → the column vectors are linearly independent

例如矩阵：

A= \begin{pmatrix} 1&2\\ 3&4 \end{pmatrix}

可以讨论：

两个行向量 $(1,2),(3,4)$ 是否线性无关
两个列向量 $(1,3),(2,4)$ 是否线性无关

对于方阵，有一个重要性质：

\boxed{\text{行向量线性无关}\iff\text{列向量线性无关}}

但对于非方阵，就不能简单认为行和列同时无关。

因为我们最常用 线性无关、相关 来描述系数矩阵的行向量的关系，所以 线性无关、相关 会默认指系数矩阵的行向量的关系。