线性相关与线性无关

线性相关与线性无关

小象实战讲义 · 人工智能数学基础

在上一节中，我们学习了“线性表出”的概念，它为我们判断线性方程组是否有解提供了新的视角。本节我们将深入探讨向量组内部结构的关键概念——线性相关与线性无关。理解这两个概念，能帮助我们判断一组向量中是否存在“冗余”信息，是理解向量空间维数、矩阵秩等核心概念的基础。学完本节，你将能清晰地判断任意一组向量的相关性，并理解其在求解线性方程组中的意义。

💡 核心导读

本节我们将构建以下知识地图：

1. 定义与理解：从“存在不全为零的系数使线性组合为零向量”的角度，精确定义线性相关与线性无关。
2. 多重视角：从线性表出、齐次线性方程组、行列式三个不同角度，重新审视线性相关/无关的本质，建立知识间的联系。
3. 核心性质：学习部分组与整体、缩短组与延伸组之间的相关性关系，掌握判断相关性的重要工具。
4. 关键定理：掌握“一个向量能否被线性无关组线性表出”与“加入该向量后是否相关”之间的等价关系，这是后续学习极大线性无关组和秩的核心。

从定义出发：线性相关与线性无关

在数域 $K$ 上的 $n$ 维向量空间 $K^n$ 中，给定一个向量组 $\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \dots, \boldsymbol{\alpha}_s$。

• 线性相关：如果存在不全为零的数 $k_1, k_2, \dots, k_s \in K$，使得 $$k_1\boldsymbol{\alpha}_1 + k_2\boldsymbol{\alpha}_2 + \dots + k_s\boldsymbol{\alpha}_s = \boldsymbol{0}$$ 则称向量组 $\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \dots, \boldsymbol{\alpha}_s$ 是线性相关的。
• 线性无关：如果上述等式仅当 $k_1 = k_2 = \dots = k_s = 0$ 时才成立，则称该向量组是线性无关的。

理解要点：

• “不全为零”是线性相关的关键。只要找到一组非全零的系数能让组合结果为零向量，就说明这组向量在“内部”存在依赖关系。
• 线性无关是更“强”的条件，意味着向量组中任何一个向量都无法由其他向量的线性组合所“抵消”，它们彼此独立。

简单例子：

1. 包含零向量的向量组一定线性相关。例如，向量组 $\boldsymbol{0}, \boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}_s$，取系数 $(1, 0, \dots, 0)$，则有 $1\cdot\boldsymbol{0} + 0\cdot\boldsymbol{\alpha}_1 + \dots + 0\cdot\boldsymbol{\alpha}_s = \boldsymbol{0}$，系数不全为零。
2. 单个向量 $\boldsymbol{\alpha}$ 线性相关 $\iff$ $\boldsymbol{\alpha} = \boldsymbol{0}$。
3. $K^n$ 中的标准单位向量组 $\boldsymbol{\varepsilon}_1 = (1,0,\dots,0)^T, \boldsymbol{\varepsilon}_2 = (0,1,\dots,0)^T, \dots, \boldsymbol{\varepsilon}$n = (0,0,\dots,1)^Tε1​=(1,0,…,0)T,ε2​=(0,1,…,0)T,…,εn​=(0,0,…,1)T 是线性无关的。因为要使 $\sum${i=1}^{n} k_i \boldsymbol{\varepsilon}_i = (k_1, k_2, \dots, k_n)^T = \boldsymbol{0}，必须 $k_1 = k_2 = \dots = k_n = 0$。

多重视角：理解相关性的本质

同一个数学概念可以从不同侧面理解，这能加深我们的认识并拓展解决问题的工具。

视角一：从线性表出看相关性

定理1：向量组 $\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \dots, \boldsymbol{\alpha}_s (s \ge 2)$ 线性相关 $\iff$ 其中至少有一个向量可由其余向量线性表出。

证明：

• ($\Rightarrow$) 已知线性相关，则存在不全为零的 $k_1, \dots, k_s$ 使得 $\sum_{i=1}^{s} k_i \boldsymbol{\alpha}_i = \boldsymbol{0}$。不妨设 $k_j \ne 0$，则可将该项移项： $$k_j \boldsymbol{\alpha}$$j = -\sum{i \ne j} k_i \boldsymbol{\alpha}_i 两边同除以 $k_j (\ne 0)$，得 $\boldsymbol{\alpha}$j = \sum{i \ne j} (-\frac{k_i}{k_j}) \boldsymbol{\alpha}_i，即 $\boldsymbol{\alpha}_j$ 可由其余向量线性表出。
• ($\Leftarrow$) 设 $\boldsymbol{\alpha}_j$ 可由其余向量线性表出，即存在一组数 $l_i$，使得 $\boldsymbol{\alpha}$j = \sum{i \ne j} l_i \boldsymbol{\alpha}iαj​=∑i=j​li​αi​。移项得： $$\sum$${i \ne j} l_i \boldsymbol{\alpha}_i + (-1)\cdot \boldsymbol{\alpha}_j = \boldsymbol{0} 该等式中 $\boldsymbol{\alpha}_j$ 的系数为 $-1 \ne 0$，故存在一组不全为零的系数使线性组合为零，因此向量组线性相关。

这个定理揭示了线性相关的“内部冗余”本质：组内至少有一个向量是其他向量的“代言人”，可以被替代。

推论：向量组线性无关 $\iff$ 其中任何一个向量都不能由其余向量线性表出。

视角二：从齐次线性方程组看相关性

考虑以 $k_1, k_2, \dots, k_s$ 为未知数的齐次线性方程组： $$x_1\boldsymbol{\alpha}_1 + x_2\boldsymbol{\alpha}_2 + \dots + x_s\boldsymbol{\alpha}_s = \boldsymbol{0}$$ 将向量 $\boldsymbol{\alpha}_i$ 视为列向量，则该方程组可写为矩阵形式 $A\boldsymbol{x} = \boldsymbol{0}$，其中 $A = (\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \dots, \boldsymbol{\alpha}_s)$。

定理2：

• 向量组 $\boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}_s$ 线性相关 $\iff$ 齐次线性方程组 $A\boldsymbol{x} = \boldsymbol{0}$ 有非零解。
• 向量组 $\boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}_s$ 线性无关 $\iff$ 齐次线性方程组 $A\boldsymbol{x} = \boldsymbol{0}$ 只有零解。

这为我们提供了判断向量组相关性的通用计算工具：对矩阵 $A$ 进行高斯消元法（化为行最简形），判断齐次方程组是否有非零解。

视角三：从行列式看相关性（特殊情形）

当向量组中向量的个数 $s$ 等于每个向量的维数 $n$ 时，矩阵 $A$ 是一个 $n \times n$ 的方阵。

定理3：$n$ 个 $n$ 维向量 $\boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}_n$ 线性相关 $\iff$ 由它们构成的方阵 $A$ 的行列式 $\det(A) = 0$。

证明：根据定理2，线性相关等价于齐次方程组 $A\boldsymbol{x}=\boldsymbol{0}$ 有非零解。根据克莱姆法则，齐次方程组有非零解的充要条件正是系数矩阵的行列式为零。

这个定理提供了在方阵情形下判断相关性的一个快捷方法。

import numpy as np
# 示例：利用行列式和求解齐次方程组判断向量组相关性
# 定义两个向量组
# 组1: 线性相关 (第三个向量是前两个之和)
alpha1_1 = np.array([1, 2, 3])
alpha1_2 = np.array([4, 5, 6])
alpha1_3 = np.array([5, 7, 9])  # alpha1_1 + alpha1_2
A1 = np.column_stack((alpha1_1, alpha1_2, alpha1_3))

# 组2: 线性无关 (标准单位向量)
alpha2_1 = np.array([1, 0, 0])
alpha2_2 = np.array([0, 1, 0])
alpha2_3 = np.array([0, 0, 1])
A2 = np.column_stack((alpha2_1, alpha2_2, alpha2_3))

print("向量组1的矩阵 A1：")
print(A1)
print("A1的行列式 det(A1) =", np.linalg.det(A1))
print("向量组1是否线性相关？", np.isclose(np.linalg.det(A1), 0))
print("\n" + "-"*40 + "\n")
print("向量组2的矩阵 A2：")
print(A2)
print("A2的行列式 det(A2) =", np.linalg.det(A2))
print("向量组2是否线性相关？", np.isclose(np.linalg.det(A2), 0))

# 通过求解齐次方程组验证 (更通用的方法)
# 对于A1，求解 A1 * x = 0
# 使用SVD分解找零空间向量 (对应于非零解)
U1, S1, Vh1 = np.linalg.svd(A1)
# 零空间向量是Vh1的最后一行（对应奇异值为0）
null_space_vec_A1 = Vh1[-1, :]
print("\n向量组1对应的齐次方程组的一个非零解（近似）:", null_space_vec_A1)
print("验证 A1 * x ≈ 0:", np.allclose(A1 @ null_space_vec_A1, 0))

核心性质：相关性关系的传递

掌握向量组部分与整体、不同维度表示之间的关系，能帮助我们快速推理。

性质1：部分组与整体

• 若一个向量组的某个部分组线性相关，则整个向量组也线性相关。
• 若整个向量组线性无关，则它的任何一个部分组也线性无关。

逻辑关系：第一条是“若p则q”，第二条是其逆否命题“若非q则非p”，两者等价。证明第一条即可：设部分组 $\boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}$tα1​,…,αt​ 线性相关，则存在不全为零的 $k_1, \dots, k_t$ 使 $\sum${i=1}^{t} k_i \boldsymbol{\alpha}i = \boldsymbol{0}。在此基础上添加项 $0\cdot\boldsymbol{\alpha}${t+1} + \dots + 0\cdot\boldsymbol{\alpha}_s，系数仍不全为零，故整个向量组线性相关。

性质2：缩短组与延伸组

将一个 $n$ 维向量每个分量后添加 $m$ 个分量，得到 $n+m$ 维向量，称为原向量的延伸。一个向量组所有向量都做此操作，得到延伸组；反之，去掉后 $m$ 个分量，得到缩短组。

• 若一个向量组线性无关，则它的延伸组也线性无关。
• 若一个向量组线性相关，则它的缩短组也线性相关。

理解：从方程组视角看，延伸相当于在原有方程组基础上增加了新的方程（约束）。如果原方程组只有零解（对应线性无关），增加约束后解集至多是原解集的子集，因此仍然只有零解，故延伸组仍无关。反之，如果原方程组有非零解（对应线性相关），这个非零解的前 $n$ 个分量自动满足缩短后的方程组，故缩短组也相关。

关键定理：向量能否被表出的判定

这是连接线性表出与线性相关概念的重要桥梁，也是后续学习“秩”和“基”的基础。

定理4：设 $\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \dots, \boldsymbol{\alpha}_s$ 是一个线性无关的向量组，而 $\boldsymbol{\beta}$ 是另一个向量。则

• 向量 $\boldsymbol{\beta}$ 可由 $\boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}_s$ 线性表出 $\iff$ 向量组 $\boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}_s, \boldsymbol{\beta}$ 线性相关。
• 向量 $\boldsymbol{\beta}$ 不可由 $\boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}_s$ 线性表出 $\iff$ 向量组 $\boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}_s, \boldsymbol{\beta}$ 线性无关。

证明：

• ($\Rightarrow$) 若 $\boldsymbol{\beta} = \sum_{i=1}^{s} l_i \boldsymbol{\alpha}$iβ=∑i=1s​li​αi​，则 $\sum${i=1}^{s} l_i \boldsymbol{\alpha}_i + (-1)\cdot \boldsymbol{\beta} = \boldsymbol{0}。该式中 $\boldsymbol{\beta}$ 的系数 $-1 \ne 0$，故新向量组线性相关。
• ($\Leftarrow$) 若新向量组线性相关，则存在不全为零的 $k_1, \dots, k_s, k$ 使得 $\sum_{i=1}^{s} k_i \boldsymbol{\alpha}$i + k\boldsymbol{\beta} = \boldsymbol{0}∑i=1s​ki​αi​+kβ=0。此时 $k$ 必不为零。因为若 $k=0$，则 $\sum${i=1}^{s} k_i \boldsymbol{\alpha}_i = \boldsymbol{0} 且 $k_1,\dots,k_s$ 不全为零，这与 $\boldsymbol{\alpha}_1, \dots, \boldsymbol{\alpha}$sα1​,…,αs​ 线性无关矛盾。故 $k \ne 0$，移项并除以 $k$ 得 $\boldsymbol{\beta} = \sum${i=1}^{s} (-\frac{k_i}{k}) \boldsymbol{\alpha}_i，即 $\boldsymbol{\beta}$ 可被线性表出。

这个定理非常实用：要判断一个向量能否被一组线性无关的向量表出，只需看将它加入这组向量后，新向量组是否变得线性相关。

📝 动手练一练

1. 判断下列向量组的线性相关性： $\boldsymbol{\alpha}_1 = (1, 2, 3)^T, \boldsymbol{\alpha}_2 = (2, 4, 6)^T, \boldsymbol{\alpha}_3 = (1, 0, 0)^T$。

   参考答案：观察可知 $\boldsymbol{\alpha}_2 = 2\boldsymbol{\alpha}_1$，即 $\boldsymbol{\alpha}_2$ 可由 $\boldsymbol{\alpha}_1$ 线性表出。根据定理1，该向量组线性相关。也可构造矩阵 $A = (\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \boldsymbol{\alpha}_3)$，通过初等行变换发现其秩小于3，从而齐次方程组有非零解，得到相同结论。

2. 已知向量组 $\boldsymbol{\alpha}_1 = (1, 0, 1)^T, \boldsymbol{\alpha}_2 = (0, 1, 1)^T$ 线性无关。 (1) 向量 $\boldsymbol{\beta}_1 = (2, 3, 5)^T$ 能否由 $\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2$ 线性表出？若能，写出表出式。 (2) 向量 $\boldsymbol{\beta}_2 = (1, 1, 0)^T$ 能否由 $\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2$ 线性表出？

   参考答案： (1) 设 $\boldsymbol{\beta}_1 = x_1 \boldsymbol{\alpha}_1 + x_2 \boldsymbol{\alpha}_2$，即解方程组： $$\begin{cases} x_1 + 0 \cdot x_2 = 2 \ 0 \cdot x_1 + x_2 = 3 \ x_1 + x_2 = 5 \end{cases}$$ 解得 $x_1=2, x_2=3$，且满足第三个方程。故可以表出，$\boldsymbol{\beta}_1 = 2\boldsymbol{\alpha}_1 + 3\boldsymbol{\alpha}_2$。 (2) 设 $\boldsymbol{\beta}_2 = y_1 \boldsymbol{\alpha}_1 + y_2 \boldsymbol{\alpha}_2$，得方程组： $$\begin{cases} y_1 = 1 \ y_2 = 1 \ y_1 + y_2 = 0 \end{cases}$$ 前两式给出 $y_1=1, y_2=1$，代入第三式得 $1+1=2 \ne 0$，矛盾。故 $\boldsymbol{\beta}_2$ 不能由 $\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2$ 线性表出。根据定理4，向量组 $\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \boldsymbol{\beta}_2$ 是线性无关的。

本章小结

本节我们深入学习了线性代数中刻画向量组内部结构的核心概念：

• 线性相关：存在不全为零的系数使线性组合为零向量，组内存在冗余。
• 线性无关：只有全零系数能使线性组合为零向量，组内向量彼此独立。
• 多重视角：相关性等价于“有向量可由其余向量表出”（内部冗余），也等价于“对应齐次方程组有非零解”（计算判据），在方阵情形下还等价于“行列式为零”（快捷判据）。
• 重要性质：部分组相关则整体相关；整体无关则任何部分组无关。线性无关组的延伸组仍无关。
• 关键定理：对于线性无关组 ${\boldsymbol{\alpha}_i}$，向量 $\boldsymbol{\beta}$ 能否被其线性表出，完全等价于 ${\boldsymbol{\alpha}_i, \boldsymbol{\beta}}$ 是否线性相关。

行动清单

1. 概念辨析：遇到一组向量，尝试用“是否存在内部冗余”的直觉去理解其相关性，并与精确定义对照。
2. 工具选择：面对具体计算问题，根据向量个数与维数的关系，灵活选择高斯消元法（通用）或行列式法（方阵）进行判断。
3. 建立联系：在做练习时，有意识地将线性表出、线性相关/无关、线性方程组解的问题联系起来思考，画出它们之间的逻辑关系图。

— 小象教研组