← 返回《人工智能数学基础》
📑 查看全课大纲(第 69 / 93 节)
  1. 1.概论和集合的定义
  2. 2.逼疯康托的实数集理论
  3. 3.常用不等式与映射
  4. 4.函数及特殊函数
  5. 5.序列极限的定义
  6. 6.序列极限的性质与夹逼定理
  7. 7.重要极限
  8. 8.无穷小量,无穷大量和一组重要的阶的比较关系
  9. 9.聚点原理
  10. 10.函数极限及其性质
  11. 11.重要极限与等价无穷小
  12. 12.连续函数
  13. 13.导数的概念(那些年,扛起牛顿的胡克)
  14. 14.定义法求导
  15. 15.函数四则运算的导数与反函数求导法则
  16. 16.复合函数,隐函数,参数式求导
  17. 17.不定式求导之“洛必达与伯努利的师生情”
  18. 18.一阶微分
  19. 19.高阶导数
  20. 20.高阶微分
  21. 21.罗尔中值定理与拉格朗日中值定理
  22. 22.柯西空降科学院遭排挤
  23. 23.泰勒公式与泰勒的克妻属性
  24. 24.利用泰勒展开唯一性定理计算泰勒展开
  25. 25.泰勒公式的余项估计
  26. 26.极值问题与导数
  27. 27.函数凹凸性
  28. 28.无卵用的渐近线与函数作图
  29. 29.不定积分的定义
  30. 30.第一换元法
  31. 31.第二换元法
  32. 32.分部积分法
  33. 33.有理式积分
  34. 34.三角替换
  35. 35.定积分的概念
  36. 36.定积分的性质与积分中值定理
  37. 37.变上限定积分
  38. 38.微积分基本定理之“高斯教你如何优雅地装逼”
  39. 39.定积分的换元法
  40. 40.奇偶函数与周期函数的定积分
  41. 41.曲线求长与不可求长曲线(海岸线居然算不出长度?)
  42. 42.旋转体体积
  43. 43.旋转体侧面积
  44. 44.极坐标下图形的面积(数学系常用表白曲线)
  45. 45.欧式空间
  46. 46.点列极限,开集与闭集
  47. 47.多元函数的定义
  48. 48.多元函数的极限
  49. 49.多元连续函数
  50. 50.一阶偏导数
  51. 51.高阶偏导数
  52. 52.全微分
  53. 53.方向导数与梯度
  54. 54.链式法则
  55. 55.一阶全微分形式的不变性与高阶微分
  56. 56.多元函数的泰勒公式
  57. 57.隐函数存在定理与逆映射存在定理
  58. 58.多元函数的极值
  59. 59.矩阵基础知识
  60. 60.行列式的定义与特殊矩阵的行列式
  61. 61.行列式的性质
  62. 62.行列式按k行展开
  63. 63.线性方程组初步与高斯消元法
  64. 64.齐次线性方程组与Cramer法则
  65. 65.线性空间
  66. 66.线性相关与线性无关
  67. 67.向量组的秩
  68. 68.矩阵的秩与线性方程组有解的充要条件
  69. 69.齐次线性方程组的解集结构
  70. 70.非齐次线性方程组解集结构
  71. 71.基与维数
  72. 72.矩阵的乘法
  73. 73.特殊矩阵
  74. 74.矩阵乘积的秩与行列式
  75. 75.矩阵的逆
  76. 76.正交矩阵
  77. 77.矩阵对角化与特征值特征向量
  78. 78.实对称矩阵对角化
  79. 79.二次型与正定矩阵
  80. 80.LU分解
  81. 81.Cholesky分解
  82. 82.SVD分解
  83. 83.线搜索
  84. 84.步长
  85. 85.最速下降法和牛顿法
  86. 86.共轭梯度法
  87. 87.拟牛顿法
  88. 88.无约束优化
  89. 89.若干知识点补充(一)
  90. 90.若干知识点补充(二)
  91. 91.凸优化问题
  92. 92.对偶问题(一)
  93. 93.对偶问题(二)

齐次线性方程组的解集结构

约 21 分钟

📺 正在播放小象官方高清录播(支持倍速与清晰度调节)

齐次线性方程组的解集结构

小象实战讲义 · 人工智能数学基础

在求解线性方程组时,我们不仅关心解是否存在,更希望清晰地描述所有解构成的集合。对于齐次线性方程组 Ax=0A\mathbf{x} = \mathbf{0},其解集具有非常规整的代数结构——它是一个线性子空间。本节将揭示这一结构,并介绍如何通过寻找“基础解系”来完整刻画整个解空间,从而得到方程组的通解表达式。掌握这一方法,是理解线性系统解的理论核心,也是后续学习非齐次方程组、特征值问题的重要基础。

💡 核心导读

  1. 解空间:齐次线性方程组 Ax=0A\mathbf{x} = \mathbf{0} 的所有解向量构成一个集合 WW,它满足线性运算封闭性,是向量空间 Kn\mathbb{K}^n 的一个线性子空间,称为该方程组的解空间
  2. 基础解系:解空间 WW 的一组基,即 WW 中的一个极大线性无关向量组。方程组的所有解(即 WW 中的所有向量)都可以由这组基线性表出。
  3. 解空间的维数:若系数矩阵 AA 的秩 rank(A)=r\text{rank}(A) = r,则解空间 WW 的维数为 dim(W)=nr\dim(W) = n - r。基础解系恰好包含 nrn - r 个线性无关的解向量。
  4. 通解:若 η1,η2,,ηnr\boldsymbol{\eta}1, \boldsymbol{\eta}2, \dots, \boldsymbol{\eta}{n-r} 是方程组的一个基础解系,则其通解(即所有解的表达式)为 x=k1η1+k2η2++knrηnr\mathbf{x} = k_1 \boldsymbol{\eta}1 + k_2 \boldsymbol{\eta}2 + \dots + k{n-r} \boldsymbol{\eta}{n-r},其中 k1,,knrk_1, \dots, k{n-r} 为任意常数。
  5. 求解方法:通过高斯消元法将系数矩阵化为行最简形,确定自由未知量,通过令自由未知量分别取单位坐标向量,即可求得一组基础解系。

从解集到解空间

考虑数域 K\mathbb{K}(通常为实数域 R\mathbb{R})上的 nn 元齐次线性方程组: Ax=0A\mathbf{x} = \mathbf{0} 其中 AAm×nm \times n 矩阵,x=(x1,x2,,xn)T\mathbf{x} = (x_1, x_2, \dots, x_n)^T

方程组的每一个解都是一个 nn 维向量,所有解构成的集合记为 WWW={xKnAx=0}W = { \mathbf{x} \in \mathbb{K}^n \mid A\mathbf{x} = \mathbf{0} }

这个解集 WW 具有两个关键性质:

  1. 加法封闭性:若 γ,δW\boldsymbol{\gamma}, \boldsymbol{\delta} \in W,则 γ+δW\boldsymbol{\gamma} + \boldsymbol{\delta} \in W验证A(γ+δ)=Aγ+Aδ=0+0=0A(\boldsymbol{\gamma} + \boldsymbol{\delta}) = A\boldsymbol{\gamma} + A\boldsymbol{\delta} = \mathbf{0} + \mathbf{0} = \mathbf{0}
  2. 数乘封闭性:若 γW\boldsymbol{\gamma} \in WkKk \in \mathbb{K},则 kγWk\boldsymbol{\gamma} \in W验证A(kγ)=k(Aγ)=k0=0A(k\boldsymbol{\gamma}) = k(A\boldsymbol{\gamma}) = k\mathbf{0} = \mathbf{0}

定义(线性子空间):设 UU 是向量空间 Kn\mathbb{K}^n 的一个非空子集。如果 UU 对向量的加法和数乘运算封闭(即满足上述两条性质),则称 UUKn\mathbb{K}^n 的一个线性子空间,简称子空间

因此,齐次线性方程组的解集 WWKn\mathbb{K}^n 的一个子空间。我们特别称 WW 为该方程组的解空间

基础解系与通解

解空间 WW 可能只包含零向量(当方程组只有零解时),也可能包含无穷多个向量(当方程组有非零解时)。为了清晰地描述整个无穷解集,我们需要找到解空间的一组“坐标架”。

定义(基础解系):设齐次线性方程组 Ax=0A\mathbf{x} = \mathbf{0} 有非零解。如果解向量组 η1,η2,,ηt\boldsymbol{\eta}_1, \boldsymbol{\eta}_2, \dots, \boldsymbol{\eta}_t 满足:

  1. η1,η2,,ηt\boldsymbol{\eta}_1, \boldsymbol{\eta}_2, \dots, \boldsymbol{\eta}_t 线性无关
  2. 方程组的任意一个解 x\mathbf{x} 都可以由 η1,η2,,ηt\boldsymbol{\eta}_1, \boldsymbol{\eta}_2, \dots, \boldsymbol{\eta}_t 线性表出, 则称 η1,η2,,ηt\boldsymbol{\eta}_1, \boldsymbol{\eta}_2, \dots, \boldsymbol{\eta}_t 是方程组 Ax=0A\mathbf{x} = \mathbf{0} 的一个基础解系

基础解系本质上就是解空间 WW 的一组基。根据基的定义,解空间 WW 中的任何向量(即方程组的任何解)都可以唯一地表示为基向量的线性组合。

定义(通解):若 η1,η2,,ηt\boldsymbol{\eta}_1, \boldsymbol{\eta}_2, \dots, \boldsymbol{\eta}_t 是齐次线性方程组 Ax=0A\mathbf{x} = \mathbf{0} 的一个基础解系,则其通解为: x=k1η1+k2η2++ktηt,k1,k2,,ktK\mathbf{x} = k_1 \boldsymbol{\eta}_1 + k_2 \boldsymbol{\eta}_2 + \dots + k_t \boldsymbol{\eta}_t, \quad k_1, k_2, \dots, k_t \in \mathbb{K} 其中 k1,k2,,ktk_1, k_2, \dots, k_t 为任意常数。通解表达了方程组的所有解

如何求基础解系:理论与方法

一个自然的问题是:基础解系是否存在?如果存在,它包含多少个向量?又如何具体找到它们?

定理(基础解系的结构):设 nn 元齐次线性方程组 Ax=0A\mathbf{x} = \mathbf{0} 的系数矩阵 AA 的秩 rank(A)=r\text{rank}(A) = r

  1. r=nr = n,则方程组只有零解,解空间 W={0}W = {\mathbf{0}},没有基础解系(或说基础解系包含 0 个向量)。
  2. r<nr < n,则方程组有非零解,且解空间 WW 的维数为 dim(W)=nr\dim(W) = n - r。此时,基础解系存在,且任何一个基础解系都恰好包含 nrn - r 个线性无关的解向量

求解基础解系的标准步骤

  1. 化行最简形:对系数矩阵 AA 施行初等行变换,化为行最简形矩阵 BB
  2. 确定自由未知量:根据行最简形 BB,确定 rr主元(首非零元)所在的列,对应的未知量称为主变量;其余 nrn-r 个未知量称为自由未知量(或自由变量)。
  3. 写出一般解:将主变量用自由未知量线性表示,得到方程组的一般解表达式。
  4. 构造基础解系:分别令自由未知量组取 nrn-r 维单位坐标向量:
    • 第一次:令第一个自由未知量为 1,其余为 0。
    • 第二次:令第二个自由未知量为 1,其余为 0。
    • ……
    • nrn-r 次:令第 nrn-r 个自由未知量为 1,其余为 0。 将每一组取值代入一般解,求出对应的主变量值,从而得到 nrn-r 个解向量 η1,η2,,ηnr\boldsymbol{\eta}_1, \boldsymbol{\eta}2, \dots, \boldsymbol{\eta}{n-r}。这组向量就是原方程组的一个基础解系。

原理剖析:自由未知量可以取任意值,它们张成了一个 nrn-r 维的向量空间 Knr\mathbb{K}^{n-r}。令其分别取单位坐标向量 (1,0,,0)T,(0,1,,0)T,(1,0,\dots,0)^T, (0,1,\dots,0)^T, \dots,相当于取了这个空间的一组标准基。由于主变量由自由未知量唯一确定,这样得到的 nrn-r 个解向量自然线性无关,并且能线性表出自由未知量取任意组合时对应的解,从而构成了整个解空间的一组基。

实例演示

求下列齐次线性方程组的一个基础解系和通解。 {x13x2+5x32x4=02x1+x23x3+x4=0x17x2+9x34x4=0\begin{cases} x_1 - 3x_2 + 5x_3 - 2x_4 = 0 \ -2x_1 + x_2 - 3x_3 + x_4 = 0 \ -x_1 - 7x_2 + 9x_3 - 4x_4 = 0 \end{cases}

  1. 写出系数矩阵并化简为行最简形A=(135221311794)初等行变换B=(1045150175350000)A = \begin{pmatrix} 1 & -3 & 5 & -2 \ -2 & 1 & -3 & 1 \ -1 & -7 & 9 & -4 \end{pmatrix} \xrightarrow{\text{初等行变换}} B = \begin{pmatrix} 1 & 0 & \frac{4}{5} & -\frac{1}{5} \ 0 & 1 & -\frac{7}{5} & \frac{3}{5} \ 0 & 0 & 0 & 0 \end{pmatrix} 这里 rank(A)=2\text{rank}(A) = 2,未知量个数 n=4n=4

  2. 确定主变量与自由未知量:由 BB 可知,x1,x2x_1, x_2 是主变量,x3,x4x_3, x_4 是自由未知量。

  3. 写出一般解:由 BB 对应的方程组: {x1+45x315x4=0x275x3+35x4=0\begin{cases} x_1 + \frac{4}{5}x_3 - \frac{1}{5}x_4 = 0 \ x_2 - \frac{7}{5}x_3 + \frac{3}{5}x_4 = 0 \end{cases} 解得: {x1=45x3+15x4x2=75x335x4\begin{cases} x_1 = -\frac{4}{5}x_3 + \frac{1}{5}x_4 \ x_2 = \frac{7}{5}x_3 - \frac{3}{5}x_4 \end{cases} 其中 x3,x4x_3, x_4 为自由未知量。

  4. 求基础解系:自由未知量有 2 个 (nr=2n-r=2),分别赋值。

    • (x3,x4)T=(1,0)T(x_3, x_4)^T = (1, 0)^T,代入一般解得 (x1,x2)T=(45,75)T(x_1, x_2)^T = (-\frac{4}{5}, \frac{7}{5})^T,得解向量 η1=(45,75,1,0)T\boldsymbol{\eta}_1 = (-\frac{4}{5}, \frac{7}{5}, 1, 0)^T。为消除分数,可乘以 5,取 η1=(4,7,5,0)T\boldsymbol{\eta}_1 = (-4, 7, 5, 0)^T
    • (x3,x4)T=(0,1)T(x_3, x_4)^T = (0, 1)^T,代入一般解得 (x1,x2)T=(15,35)T(x_1, x_2)^T = (\frac{1}{5}, -\frac{3}{5})^T,得解向量 η2=(15,35,0,1)T\boldsymbol{\eta}_2 = (\frac{1}{5}, -\frac{3}{5}, 0, 1)^T。乘以 5,取 η2=(1,3,0,5)T\boldsymbol{\eta}_2 = (1, -3, 0, 5)^T。 则 η1,η2\boldsymbol{\eta}_1, \boldsymbol{\eta}_2 是方程组的一个基础解系。
  5. 写出通解:方程组的通解为: x=k1η1+k2η2=k1(4750)+k2(1305),k1,k2R\mathbf{x} = k_1 \boldsymbol{\eta}_1 + k_2 \boldsymbol{\eta}_2 = k_1 \begin{pmatrix} -4 \ 7 \ 5 \ 0 \end{pmatrix} + k_2 \begin{pmatrix} 1 \ -3 \ 0 \ 5 \end{pmatrix}, \quad k_1, k_2 \in \mathbb{R}

我们可以用 Python 验证求得的解向量确实满足原方程组。

import numpy as np

# 定义系数矩阵 A
A = np.array([[1, -3, 5, -2],
              [-2, 1, -3, 1],
              [-1, -7, 9, -4]], dtype=float)

# 定义求得的基础解系向量
eta1 = np.array([-4, 7, 5, 0])
eta2 = np.array([1, -3, 0, 5])

# 验证 eta1 和 eta2 是解
print("验证 A * eta1 是否为零向量:", np.dot(A, eta1))
print("验证 A * eta2 是否为零向量:", np.dot(A, eta2))

# 验证 eta1 和 eta2 线性无关
# 将它们作为列向量构成矩阵,求秩
V = np.column_stack((eta1, eta2))
print("基础解系向量构成的矩阵 V:\n", V)
print("矩阵 V 的秩(应为2):", np.linalg.matrix_rank(V))

# 生成一个通解示例:取 k1=2, k2=-1
k1, k2 = 2, -1
x_example = k1 * eta1 + k2 * eta2
print(f"\n取 k1={k1}, k2={k2} 时的通解示例 x = {x_example}")
print("验证 A * x 是否为零向量:", np.dot(A, x_example))

📝 动手练一练

  1. 求基础解系:求下列齐次线性方程组的一个基础解系和通解。 {2x1+4x2x3+2x4=0x1+2x2+x3+3x4=03x1+6x22x3+x4=0\begin{cases} 2x_1 + 4x_2 - x_3 + 2x_4 = 0 \ x_1 + 2x_2 + x_3 + 3x_4 = 0 \ 3x_1 + 6x_2 - 2x_3 + x_4 = 0 \end{cases}

    参考答案: 对系数矩阵 (241212133621)\begin{pmatrix}2&4&-1&2\1&2&1&3\3&6&-2&1\end{pmatrix} 作初等行变换:交换第一、二行后,r22r1=(0,0,3,4)r_2-2r_1=(0,0,-3,-4)r33r1=(0,0,5,8)r_3-3r_1=(0,0,-5,-8),再 3r35r2=(0,0,0,4)3r_3-5r_2=(0,0,0,-4),得 (121300340004)\begin{pmatrix}1&2&1&3\0&0&-3&-4\0&0&0&-4\end{pmatrix},故 rank(A)=3\text{rank}(A)=3(第 2 列与第 1 列成比例,但第 (1,3,4) 列构成的三阶子式非零)。 解空间维数为 nr=43=1n-r=4-3=1,基础解系只含 1 个向量。主变量为 x1,x3,x4x_1, x_3, x_4,自由未知量为 x2x_2。回代得 x4=0x_4=0x3=0x_3=0x1=2x2x_1=-2x_2。令 x2=1x_2=1,得基础解系 η1=(2,1,0,0)T\boldsymbol{\eta}_1 = (-2, 1, 0, 0)^T,通解为 x=k1η1\mathbf{x} = k_1\boldsymbol{\eta}_1k1Rk_1 \in \mathbb{R})。 验证:将 η1\boldsymbol{\eta}_1 代入三个方程分别得 2×(2)+4×1=02\times(-2)+4\times1=02+2=0-2+2=03×(2)+6×1=03\times(-2)+6\times1=0x3=x4=0x_3=x_4=0,相关项自动为零),故 η1\boldsymbol{\eta}_1 确为解。

  2. 理解解空间维数:已知一个 5 元齐次线性方程组,其系数矩阵的秩为 3。请问其解空间的维数是多少?一个基础解系应包含多少个解向量?若已知该方程组有三个线性无关的解向量 α,β,γ\boldsymbol{\alpha}, \boldsymbol{\beta}, \boldsymbol{\gamma},它们是否一定构成基础解系?

    参考答案: 解空间维数 dim(W)=nr=53=2\dim(W) = n - r = 5 - 3 = 2。基础解系应包含 2 个解向量。 三个线性无关的 5 维向量 α,β,γ\boldsymbol{\alpha}, \boldsymbol{\beta}, \boldsymbol{\gamma} 不可能同时属于一个 2 维子空间(解空间)。因此,如果它们都是该方程组的解,则它们必定线性相关,不可能线性无关。所以,题目假设的情况不会发生。

本章小结

本节我们深入剖析了齐次线性方程组解集的代数结构,建立了从“解”到“空间”的深刻联系。

要点回顾

  • 解空间:齐次线性方程组 Ax=0A\mathbf{x}=\mathbf{0} 的所有解构成 Kn\mathbb{K}^n 的一个线性子空间 WW
  • 基础解系:解空间 WW 的一组基,是 WW 中的一个极大线性无关解向量组。所有解均可由其线性表出。
  • 核心定理:若 rank(A)=r\text{rank}(A)=r,则 dim(W)=nr\dim(W)=n-r。基础解系恰含 nrn-r 个向量。
  • 通解公式:若 η1,,ηnr\boldsymbol{\eta}1, \dots, \boldsymbol{\eta}{n-r} 是基础解系,则通解为 x=i=1nrkiηi\mathbf{x} = \sum_{i=1}^{n-r} k_i \boldsymbol{\eta}_i
  • 求解步骤:化行最简形 → 定自由未知量 → 写一般解 → 赋单位向量得基础解系。

行动清单

  1. 掌握标准流程:面对一个具体齐次方程组,熟练运用“化简-赋值”四步法求出其基础解系与通解。
  2. 理解维度关系:看到系数矩阵的秩 rr 和未知量个数 nn,能立即反应出解空间的维数 nrn-r,并判断基础解系中向量的个数。
  3. 尝试代码验证:使用 NumPy 实现求解基础解系的算法,或至少能用代码验证你手算得到的解向量是否正确满足原方程。

— 小象教研组

配套学习资源与课件
  • 第10章讲义(含板书):线性代数(PDF · 15.5MB)
    下载
🎁 免费学习资源

领取《小象 11GB VIP 课件资料包与大厂真题手册》

包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。

  • 完整 Python / 数据分析 Jupyter 实战源码
  • 大厂真实业务数据集与练习题
  • 微信扫码添加课程顾问,免费获取网盘下载链接
微信二维码:扫码添加课程顾问微信扫码添加顾问