Linear Equations 线性方程组 on 线性代数

Linear Transformation 线性变换

Mon, 01 Jan 0001 00:00:00 +0000

Linear Transformation 线性变换

Linear Transformation 线性变换 从几何直观上看指的是向量的 运动过程，这种在空间中的“运动”或“映射”的过程就像用手在空间中把一个向量箭头推到了另一个位置。

代数上可以把这个过程理解为：用函数 $T$ 表示一个线性变换（Linear Transformation）过程，矩阵 $A$ 可以看作一台线性变换的"变换机器"，即表示 输入一个向量，输出一个新的向量 的动作：

\mathbf x \xrightarrow{\quad T\quad} T(\mathbf x)

如果这个线性变换 $T$ 可以用矩阵 $A$ 表示，那么：

T(\mathbf x)=A\mathbf x

注意：不是所有的“输入→输出”都叫线性变换

“输入 → 输出”只说明这里有一个函数或映射，并不能说明它是线性的。所谓线性，是指这台“变换机器”不会破坏向量之间原有的线性组合关系：先把输入相加再变换，和先分别变换再相加，结果相同；输入乘一个倍数，输出也只会跟着乘同一个倍数。

严格地说，任意向量 $\mathbf u,\mathbf v$ 和标量 $c$ 都要满足：

T(\mathbf u+\mathbf v)=T(\mathbf u)+T(\mathbf v)

T(c\mathbf u)=cT(\mathbf u)

把这两条合在一起，也可以写成保持线性组合的形式：

T(c_1\mathbf u+c_2\mathbf v)=c_1T(\mathbf u)+c_2T(\mathbf v)

因此，线性变换一定会把零向量送到零向量： $T(\mathbf 0)=\mathbf 0$ 。例如，旋转、缩放、投影都满足这些规则，所以可以用矩阵乘法表示。相反，平移

T(\mathbf x)=A\mathbf x+\mathbf b\quad(\mathbf b\ne\mathbf 0)

虽然也是一种“输入 → 输出”的变换，但它会把原点移到 $\mathbf b$ ，不再满足 $T(\mathbf 0)=\mathbf 0$ ，所以叫 Affine Transformation 仿射变换，而不是线性变换。类似地， $T(x)=x^2$ 也会破坏加法关系，因此不是线性变换。

概念：用 Ax = y 描述线性变换的过程

A\mathbf x=\mathbf y

这个式子描述的是一个正向过程：输入向量 $\mathbf x$ 经过矩阵 $A$ 表示的线性变换，得到输出向量 $\mathbf y$ 。它只是把

T(\mathbf x)=A\mathbf x

中的变换结果另外记作 $\mathbf y$ 。

Linearly independent 线性无关

Mon, 01 Jan 0001 00:00:00 +0000

Linearly independent 线性无关

从向量的角度上看

向量 $v_1, v_2$

v_1=(1,0),\qquad v_2=(0,1)

不能互相表示。也就是说，我们如果想要构建：

c_1v_1 + c_2v_2 = 0

这个方程，只有： $c_1=c_2=0$ 这一组解的情况，因此称向量 $v_1, v_2$ 线性无关。

从向量-二维平面几何的角度上看

把向量画在二维平面上，“线性无关” 的几何含义是：两个向量不共线（不在同一条直线上）。

比如 $v_1=(2,1)$ 、 $v_2=(1,2)$ ： $v_1$ 无论怎样缩放（ $c_1v_1$ ），都只能躺在自己所在的那条直线 $\operatorname{span}(v_1)$ 上，永远够不到 $v_2$ 。所以想让 $c_1v_1+c_2v_2=0$ ，两个向量只能各自缩回原点，即只有 $c_1=c_2=0$ 这一组解 —— $v_1,v_2$ 线性无关。

相反， $w_1=(1,1)$ 、 $w_2=(2,2)$ 躺在同一条直线上（ $w_2=2w_1$ ），那么 $2w_1-w_2=0$ 就是一组非零解 —— $w_1,w_2$ 线性相关：

几何上的直觉：

线性无关 = 每个向量都带来一个"新的方向"。两个不共线的向量可以拼出（张成）整个平面上的任意向量；
线性相关 = 存在"多余的"向量，它没有带来新方向。两个共线的向量无论怎么组合，都只能在那一条直线上打转，张不成平面。

从系数矩阵的角度看

设方程组系数矩阵 $A$

A= \begin{pmatrix} 1&0&0\\ 0&1&0\\ 1&1&0 \end{pmatrix}

$r_i$ 为 $A$ 的行向量，且：

r_3=r_1+r_2

我们说:

$r_1、r_2$ 线性无关；
$r_1、r_3$ 线性无关；
$r_2、r_3$ 线性无关；
$r_3$ 没有增加新的“独立方向”，它可以由 $r_1,r_2$ 表示； $r_1、r_2、r_3$ 线性相关；
因此 最多只有 2 个线性无关的行向量。也可以说方程组的的秩= 2

最多只有 2 个线性无关的行向量 指的是：

可以有很多组线性无关的组合，但每一组最多只能包含 2 个向量。因为这里有三种选择： $\{r_1,r_2\},\{r_1,r_3\},\{r_2,r_3\}$ ，每个选择都是（最多）2 个彼此线性无关的行向量。你无法找到一个包含 3 个向量的线性无关组。

Linearly dependent 线性相关

Mon, 01 Jan 0001 00:00:00 +0000

Linearly dependent 线性相关

从向量的角度上看

向量 $w_1, w_2$

w_1=(1,1),\qquad w_2=(2,2)

可以互相表示： $w_2=2w_1$ 。也就是说，我们如果想要构建：

c_1w_1 + c_2w_2 = 0

这个方程，除了 $c_1=c_2=0$ 之外，还存在其它解，比如：

2w_1 - w_2 = 0 \qquad (c_1=2,\ c_2=-1)

因此称向量 $w_1, w_2$ 线性相关。

和 Linearly independent 线性无关正好互为反面：

线性无关： $c_1v_1+c_2v_2=0$ 只有零解；
线性相关： $c_1v_1+c_2v_2=0$ 除了零解，还有非零解。

从向量-二维平面几何的角度上看

把向量画在二维平面上，“线性相关” 的几何含义是：至少有一个向量是"多余的"，它没有带来新的方向。

两种典型情况：

两个向量共线： $w_2=2w_1$ ，两个向量躺在同一条直线上，无论怎么组合都只能在那条线上打转；
平面上任意 3 个向量必然线性相关：平面只有 2 个独立方向，第 3 个向量一定能由前两个拼出来，比如 $v_3=v_1+v_2$ （ $v_1+v_2-v_3=0$ 就是一组非零解）。

推广到一般情形： $n$ 维空间中，任意多于 $n$ 个向量必然线性相关 —— 空间的独立方向一共只有 $n$ 个，多出来的向量一定能被表示。

从系数矩阵的角度看

Linearly independent 线性无关里的系数矩阵就是一个线性相关的例子：

A= \begin{pmatrix} 1&0&0\\ 0&1&0\\ 1&1&0 \end{pmatrix}

因为 $r_3=r_1+r_2$ ，所以：

r_1+r_2-r_3=0

方程 $c_1r_1+c_2r_2+c_3r_3=0$ 有非零解 $(1,1,-1)$ ，因此 $r_1,r_2,r_3$ 线性相关。

换句话说，线性相关说明行向量里有"水分"——真正独立的行向量比总行数少。结合 Rank 秩的定义：

\boxed{\text{行向量线性相关}\iff \operatorname{rank}(A) < \text{行向量的个数 } m}

对应地： $\text{行向量线性无关}\iff \operatorname{rank}(A) = m$ （秩满，也称 行满秩）。

Change of Basis 基变换

Mon, 01 Jan 0001 00:00:00 +0000

Change of Basis 基变换

Change of Basis 基变换，就是利用线性变换，把一个向量从一套基的表达方式，转换成另一套基的表达方式。

概念：基矩阵

任何一个向量都可以看作是单位向量的组合，也就是说在 Standard Basis 标准基组成的线性空间中，任何一个向量都可以看作是标准基的线性组合。如果采用一个新基，那么这个新基也可以用标准基来表示，也就是说新基 $\{\mathbf b_1,\ldots,\mathbf b_n\}$ 集合中，中任意一个基向量 $b_i$ ，可以通过标准基的线性变换得到, 定义这个变换的过程为 $P$ :

P=\begin{bmatrix}\mathbf b_1&\mathbf b_2&\cdots&\mathbf b_n\end{bmatrix}

因为根据矩阵乘法的列提取法则：

P⋅e_i=(取 P 的第 i 列)=b_i

我们称 P 为基矩阵。此矩阵描述的就是输入单位向量转化成新基向量的过程。

假设在一个线性空间中有一个向量 $v$ , 它在旧基下坐标是 $y$ ，在新基下坐标是 $x$ 。因为新旧基都能表示同一个向量 $v$ ：

v =（旧基）⋅ y =（新基）⋅x

因为旧基是标准基，矩阵形式就是单位矩阵 $I$ ，所以：

I · y = P · x

即：

y = P · x

也就是说，新基下的坐标通过 $P$ 基矩阵的变换可以得到旧基下的坐标。

运算：从新基坐标换回旧基坐标

基变换的核心公式就是 $[\mathbf v]_E=P[\mathbf v]_B$ 。

例如，旧基 $E$ 是标准基，新基为：

\mathbf b_1=\begin{pmatrix}1\\1\end{pmatrix},\qquad \mathbf b_2=\begin{pmatrix}1\\-1\end{pmatrix},\qquad P=\begin{bmatrix}1&1\\1&-1\end{bmatrix}

若新基中的一个向量为 $[\mathbf v]_B=\begin{pmatrix}2\\1\end{pmatrix}$ ，则旧基下这个向量为：

区分：Ax = b VS Ax = y

Mon, 01 Jan 0001 00:00:00 +0000

区分：Ax = b VS Ax = y

1. 代数形式上的“同”与“异”

在纯矩阵乘法的层面上，两者完全一致，都表示矩阵 $A$ 乘以向量 $x$ 等于另一个向量。其根本区别在于数学角色与求解动机：

$Ax = b$ （解方程视角）
- 角色： $x$ 是未知数， $b$ 是给定的常数向量（目标值）。
- 目标：反向推导，求出未知向量 $x$ 。
- 数学本质：线性方程组的求解问题。
- 表达式示例：

Ax = b \quad (\text{已知 } A, b \text{，求 } x)

$Ax = y$ （映射视角）
- 角色： $x$ 是输入向量， $y$ 是输出向量（结果值）。
- 目标：正向计算，分析向量 $x$ 在变换 $A$ 作用下产生的效果，或直接求出 $y$ 。
- 数学本质：线性变换的显式定义。
- 表达式示例：

Ax = y \quad (\text{已知 } A, x \text{，求 } y)

⚠️ 易混淆陷阱：如果题目明确写着“已知 $A$ 和 $y$ ，求 $x$ ”，那么 $Ax = y$ 在代数求解上完全退化为 $Ax = b$ （只是把字母 $b$ 换成了 $y$ ）。此时两者无区别。

2. 核心问题：它属于“线性变换”吗？

结论： $T(x)=Ax$ 是线性变换的矩阵表示；当把输出记作 $y$ 时， $Ax=y$ 表示正向应用。 $Ax=b$ 则通常表示给定输出、反向寻找输入。