← 返回《人工智能数学基础》
📑 查看全课大纲(第 52 / 93 节)
  1. 1.概论和集合的定义
  2. 2.逼疯康托的实数集理论
  3. 3.常用不等式与映射
  4. 4.函数及特殊函数
  5. 5.序列极限的定义
  6. 6.序列极限的性质与夹逼定理
  7. 7.重要极限
  8. 8.无穷小量,无穷大量和一组重要的阶的比较关系
  9. 9.聚点原理
  10. 10.函数极限及其性质
  11. 11.重要极限与等价无穷小
  12. 12.连续函数
  13. 13.导数的概念(那些年,扛起牛顿的胡克)
  14. 14.定义法求导
  15. 15.函数四则运算的导数与反函数求导法则
  16. 16.复合函数,隐函数,参数式求导
  17. 17.不定式求导之“洛必达与伯努利的师生情”
  18. 18.一阶微分
  19. 19.高阶导数
  20. 20.高阶微分
  21. 21.罗尔中值定理与拉格朗日中值定理
  22. 22.柯西空降科学院遭排挤
  23. 23.泰勒公式与泰勒的克妻属性
  24. 24.利用泰勒展开唯一性定理计算泰勒展开
  25. 25.泰勒公式的余项估计
  26. 26.极值问题与导数
  27. 27.函数凹凸性
  28. 28.无卵用的渐近线与函数作图
  29. 29.不定积分的定义
  30. 30.第一换元法
  31. 31.第二换元法
  32. 32.分部积分法
  33. 33.有理式积分
  34. 34.三角替换
  35. 35.定积分的概念
  36. 36.定积分的性质与积分中值定理
  37. 37.变上限定积分
  38. 38.微积分基本定理之“高斯教你如何优雅地装逼”
  39. 39.定积分的换元法
  40. 40.奇偶函数与周期函数的定积分
  41. 41.曲线求长与不可求长曲线(海岸线居然算不出长度?)
  42. 42.旋转体体积
  43. 43.旋转体侧面积
  44. 44.极坐标下图形的面积(数学系常用表白曲线)
  45. 45.欧式空间
  46. 46.点列极限,开集与闭集
  47. 47.多元函数的定义
  48. 48.多元函数的极限
  49. 49.多元连续函数
  50. 50.一阶偏导数
  51. 51.高阶偏导数
  52. 52.全微分
  53. 53.方向导数与梯度
  54. 54.链式法则
  55. 55.一阶全微分形式的不变性与高阶微分
  56. 56.多元函数的泰勒公式
  57. 57.隐函数存在定理与逆映射存在定理
  58. 58.多元函数的极值
  59. 59.矩阵基础知识
  60. 60.行列式的定义与特殊矩阵的行列式
  61. 61.行列式的性质
  62. 62.行列式按k行展开
  63. 63.线性方程组初步与高斯消元法
  64. 64.齐次线性方程组与Cramer法则
  65. 65.线性空间
  66. 66.线性相关与线性无关
  67. 67.向量组的秩
  68. 68.矩阵的秩与线性方程组有解的充要条件
  69. 69.齐次线性方程组的解集结构
  70. 70.非齐次线性方程组解集结构
  71. 71.基与维数
  72. 72.矩阵的乘法
  73. 73.特殊矩阵
  74. 74.矩阵乘积的秩与行列式
  75. 75.矩阵的逆
  76. 76.正交矩阵
  77. 77.矩阵对角化与特征值特征向量
  78. 78.实对称矩阵对角化
  79. 79.二次型与正定矩阵
  80. 80.LU分解
  81. 81.Cholesky分解
  82. 82.SVD分解
  83. 83.线搜索
  84. 84.步长
  85. 85.最速下降法和牛顿法
  86. 86.共轭梯度法
  87. 87.拟牛顿法
  88. 88.无约束优化
  89. 89.若干知识点补充(一)
  90. 90.若干知识点补充(二)
  91. 91.凸优化问题
  92. 92.对偶问题(一)
  93. 93.对偶问题(二)

全微分

约 12 分钟

📺 正在播放小象官方高清录播(支持倍速与清晰度调节)

全微分

小象实战讲义 · 人工智能数学基础

在上一节中,我们学习了如何从多个方向考察二元函数的变化率,即偏导数。然而,偏导数只描述了沿坐标轴方向的局部变化。本节我们将引入一个更强大的工具——全微分,它能用一个线性表达式来整体近似函数在任意方向上的微小变化,这是理解多元函数局部线性化、梯度下降等优化算法的基础。学完本节,你将能计算多元函数的全微分,并理解其与偏导数的深刻联系与区别。

💡 核心导读

本节将带你从熟悉的“一元微分”出发,逐步构建“多元全微分”的完整知识体系:

  1. 概念迁移:回顾一元函数微分的几何意义(线性近似),将其思想推广到二元函数的曲面,理解全微分的核心是“用切平面近似曲面”。
  2. 严格定义:学习二元函数全微分的数学定义,掌握“全增量”、“线性主部”和“高阶无穷小”等关键术语。
  3. 核心公式:推导并掌握可微函数全微分的计算公式:dz=fx(x0,y0)dx+fy(x0,y0)dydz = f_x(x_0, y_0) dx + f_y(x_0, y_0) dy,并理解其向量形式(梯度点乘位移向量)。
  4. 重要关系:辨析“可微”、“偏导数存在”与“偏导数连续”三者之间的关系,明确可微是更强的条件。
  5. 计算实战:通过具体例题,掌握计算给定函数在某点全微分的标准流程。

从一元微分到多元微分

我们先回顾一元函数 y=f(x)y = f(x) 在点 x0x_0 处可微的定义。当自变量从 x0x_0 变化 Δx\Delta x 时,函数值的增量 Δy\Delta y 可以表示为:

Δy=f(x0+Δx)f(x0)=AΔx+o(Δx)\Delta y = f(x_0 + \Delta x) - f(x_0) = A \Delta x + o(\Delta x)

其中 AA 是一个与 Δx\Delta x 无关的常数(即导数 f(x0)f’(x_0)),AΔxA \Delta x 称为线性主部o(Δx)o(\Delta x) 是比 Δx\Delta x 更高阶的无穷小量。其几何意义是,在点 (x0,f(x0))(x_0, f(x_0)) 附近,曲线可以用其切线 y=f(x0)+f(x0)(xx0)y = f(x_0) + f’(x_0)(x - x_0) 来近似。

对于二元函数 z=f(x,y)z = f(x, y),其图像是一个曲面。我们自然要问:能否在点 (x0,y0)(x_0, y_0) 附近,用一个平面来近似这个曲面?答案是肯定的,这正是全微分的几何内涵。

与一元情形类似,我们考虑自变量的全增量 (Δx,Δy)(\Delta x, \Delta y) 所引起的函数值的全增量 Δz\Delta z

Δz=f(x0+Δx,y0+Δy)f(x0,y0)\Delta z = f(x_0 + \Delta x, y_0 + \Delta y) - f(x_0, y_0)

如果这个全增量 Δz\Delta z 也能被分解为一个关于 Δx,Δy\Delta x, \Delta y 的线性部分,再加上一个更高阶的无穷小量,那么我们就说函数在该点可微,这个线性部分就是全微分。

二元函数全微分的定义

定义(全微分):设函数 z=f(x,y)z = f(x, y) 在点 P0(x0,y0)P_0(x_0, y_0) 的某邻域内有定义。若函数在点 P0P_0 处的全增量 Δz\Delta z 可表示为

Δz=AΔx+BΔy+o(ρ)\Delta z = A \Delta x + B \Delta y + o(\rho)

其中 A,BA, B 是与 Δx,Δy\Delta x, \Delta y 无关的常数(仅与点 P0P_0 有关),ρ=(Δx)2+(Δy)2\rho = \sqrt{(\Delta x)^2 + (\Delta y)^2} 表示自变量变化点 (x0+Δx,y0+Δy)(x_0+\Delta x, y_0+\Delta y)P0P_0 的距离,o(ρ)o(\rho) 是当 ρ0\rho \to 0 时比 ρ\rho 更高阶的无穷小量,即 limρ0o(ρ)ρ=0\lim_{\rho \to 0} \frac{o(\rho)}{\rho} = 0

则称函数 f(x,y)f(x, y) 在点 P0P_0 可微,并称线性主部 AΔx+BΔyA \Delta x + B \Delta y 为函数在点 P0P_0全微分,记作 dzdzdfdf,即

dz=AΔx+BΔydz = A \Delta x + B \Delta y

通常,我们将自变量的增量 Δx,Δy\Delta x, \Delta y 分别记作 dx,dydx, dy,并称之为自变量的微分。因此,全微分也写作:

dz=Adx+Bdydz = A dx + B dy

这个定义的几何解释非常直观:曲面 z=f(x,y)z = f(x, y) 在点 (x0,y0,z0)(x_0, y_0, z_0) 附近,可以被一个平面 z=z0+A(xx0)+B(yy0)z = z_0 + A(x - x_0) + B(y - y_0) 很好地近似。这个平面就是曲面在该点的切平面

可微的条件与全微分公式

定义中的常数 AABB 究竟是什么?与一元函数类似,它们就是函数在该点的偏导数。

定理(可微的必要条件):如果函数 z=f(x,y)z = f(x, y) 在点 (x0,y0)(x_0, y_0) 可微,则

  1. 函数在该点连续。
  2. 函数在该点的两个偏导数 fx(x0,y0)f_x(x_0, y_0)fy(x0,y0)f_y(x_0, y_0) 必定存在,且 A=fx(x0,y0),B=fy(x0,y0)A = f_x(x_0, y_0), \quad B = f_y(x_0, y_0)

证明思路:在可微定义式 Δz=AΔx+BΔy+o(ρ)\Delta z = A \Delta x + B \Delta y + o(\rho) 中,令 Δy=0\Delta y = 0,则 ρ=Δx\rho = |\Delta x|。此时, Δz=f(x0+Δx,y0)f(x0,y0)=AΔx+o(Δx)\Delta z = f(x_0 + \Delta x, y_0) - f(x_0, y_0) = A \Delta x + o(|\Delta x|) 两边同除以 Δx\Delta x 并取极限 Δx0\Delta x \to 0,即得 fx(x0,y0)=limΔx0ΔzΔx=Af_x(x_0, y_0) = \lim_{\Delta x \to 0} \frac{\Delta z}{\Delta x} = A 同理可证 B=fy(x0,y0)B = f_y(x_0, y_0)

由此,我们得到了全微分公式:若 z=f(x,y)z = f(x, y) 在点 (x0,y0)(x_0, y_0) 可微,则其全微分为

dz=fx(x0,y0)dx+fy(x0,y0)dydz = f_x(x_0, y_0) dx + f_y(x_0, y_0) dy

这个公式可以自然地推广到 nn 元函数 u=f(x1,x2,,xn)u = f(x_1, x_2, \dots, x_n)

du=fx1dx1+fx2dx2++fxndxndu = \frac{\partial f}{\partial x_1} dx_1 + \frac{\partial f}{\partial x_2} dx_2 + \dots + \frac{\partial f}{\partial x_n} dx_n

向量形式:全微分公式有非常简洁的向量表示。记位移向量 dx=(dx,dy)Td\mathbf{x} = (dx, dy)^T,并定义函数在点 x0\mathbf{x}_0梯度(Gradient)为向量 f(x0)=(fx(x0),fy(x0))T\nabla f(\mathbf{x}_0) = \left( \frac{\partial f}{\partial x}(\mathbf{x}_0), \frac{\partial f}{\partial y}(\mathbf{x}_0) \right)^T 则全微分可以写成梯度与位移向量的内积: dz=f(x0)dxdz = \nabla f(\mathbf{x}_0) \cdot d\mathbf{x} 这个形式在高维空间和优化理论中至关重要。

那么,偏导数存在是否就意味着函数可微呢?在一元函数中,可导等价于可微。但在多元函数中,情况更为复杂。

定理(可微的充分条件):如果函数 z=f(x,y)z = f(x, y) 在点 (x0,y0)(x_0, y_0) 的某一邻域内偏导数 fx,fyf_x, f_y 存在且连续,则函数在该点可微。

关键区别

  • 一元函数:可微     \iff 可导。
  • 多元函数:偏导数存在(可导) \nRightarrow 可微。 可微要求更强,一阶偏导数连续是可微的充分条件(即属于 C1C^1 类的函数一定可微)。

对于我们在分析和人工智能中遇到的大多数初等函数(如多项式、指数、对数、三角函数及其复合函数),它们在其定义域内通常是无限次可微的(CC^\infty 类),自然满足偏导数连续的条件。因此,对于这些“性质良好”的函数,只要偏导数存在,我们就可以放心地使用全微分公式。但我们必须从概念上牢记:全微分(可微)是一个比偏导数存在更强的局部性质。

全微分的计算示例

计算全微分的步骤非常直接:

  1. 求出函数的所有一阶偏导数。
  2. 将指定点的坐标代入偏导数,得到数值。
  3. 代入全微分公式 dz=fxdx+fydydz = f_x dx + f_y dy

:设函数 u=(yx)zu = \left( \frac{y}{x} \right)^z,求其在点 P(1,2,1)P(1, 2, -1) 处的全微分 dudu

: 首先计算三个一阶偏导数。将 uu 写为 u=yzxzu = y^z x^{-z} 更便于求导。

  1. xx 求偏导,将 y,zy, z 视为常数: ux=zyzxz1=z(yx)z1x\frac{\partial u}{\partial x} = -z y^z x^{-z-1} = -z \left( \frac{y}{x} \right)^z \frac{1}{x}
  2. yy 求偏导,将 x,zx, z 视为常数: uy=zyz1xz=z(yx)z11x\frac{\partial u}{\partial y} = z y^{z-1} x^{-z} = z \left( \frac{y}{x} \right)^{z-1} \frac{1}{x}
  3. zz 求偏导,将 x,yx, y 视为常数。此时 u=azu = a^z,其中 a=y/xa = y/x,故: uz=(yx)zln(yx)\frac{\partial u}{\partial z} = \left( \frac{y}{x} \right)^z \ln\left( \frac{y}{x} \right)

接下来,将点 P(1,2,1)P(1, 2, -1) 的坐标 (x,y,z)=(1,2,1)(x, y, z) = (1, 2, -1) 代入各偏导数:

  • uxP=(1)(21)111=1121=12\left. \frac{\partial u}{\partial x} \right|_P = -(-1) \cdot \left( \frac{2}{1} \right)^{-1} \cdot \frac{1}{1} = 1 \cdot \frac{1}{2} \cdot 1 = \frac{1}{2}
  • uyP=(1)(21)211=1141=14\left. \frac{\partial u}{\partial y} \right|_P = (-1) \cdot \left( \frac{2}{1} \right)^{-2} \cdot \frac{1}{1} = -1 \cdot \frac{1}{4} \cdot 1 = -\frac{1}{4}
  • uzP=(21)1ln(21)=12ln2\left. \frac{\partial u}{\partial z} \right|_P = \left( \frac{2}{1} \right)^{-1} \cdot \ln\left( \frac{2}{1} \right) = \frac{1}{2} \ln 2

最后,代入 nn 元函数全微分公式: du=uxdx+uydy+uzdzdu = \frac{\partial u}{\partial x} dx + \frac{\partial u}{\partial y} dy + \frac{\partial u}{\partial z} dz 得到在点 PP 处的全微分为: duP=12dx14dy+12ln2dzdu|_P = \frac{1}{2} dx - \frac{1}{4} dy + \frac{1}{2} \ln 2 , dz

用 Python 验证全微分计算

我们可以使用 sympy 符号计算库来验证上述偏导数和全微分的计算过程。

import sympy as sp

# 定义符号变量
x, y, z = sp.symbols('x y z')
# 定义函数 u = (y/x)^z
u = (y / x) ** z

print("函数 u =", u)
print("\n1. 计算偏导数:")
# 计算关于x的偏导数
u_x = sp.diff(u, x)
print("∂u/∂x =", u_x.simplify())
# 计算关于y的偏导数
u_y = sp.diff(u, y)
print("∂u/∂y =", u_y.simplify())
# 计算关于z的偏导数
u_z = sp.diff(u, z)
print("∂u/∂z =", u_z.simplify())

print("\n2. 在点 P(1, 2, -1) 处求值:")
# 代入点 P(1, 2, -1)
P = {x: 1, y: 2, z: -1}
u_x_val = u_x.subs(P).evalf()
u_y_val = u_y.subs(P).evalf()
u_z_val = u_z.subs(P).evalf()
print(f"∂u/∂x|_P = {u_x_val}")
print(f"∂u/∂y|_P = {u_y_val}")
print(f"∂u/∂z|_P = {u_z_val}")

print("\n3. 写出在点 P 的全微分表达式:")
# 定义自变量的微分符号
dx, dy, dz = sp.symbols('dx dy dz')
du = u_x_val*dx + u_y_val*dy + u_z_val*dz
print(f"du|_P = {du}")

📝 动手练一练

  1. 概念辨析:判断下列说法是否正确,并说明理由。

    • (a) 若二元函数 f(x,y)f(x, y) 在点 (x0,y0)(x_0, y_0) 处偏导数 fxf_xfyf_y 都存在,则 ff 在该点可微。
    • (b) 若二元函数 f(x,y)f(x, y) 在点 (x0,y0)(x_0, y_0) 处可微,则 ff 在该点的两个偏导数必定连续。
    • (c) 函数 f(x,y)=xyf(x, y) = \sqrt{|xy|} 在原点 (0,0)(0, 0) 处的偏导数存在,但不可微。
  2. 计算全微分:求函数 z=ex2y2sin(2xy)z = e^{x^2 - y^2} \sin(2xy) 在点 (0,π/4)(0, \pi/4) 处的全微分 dzdz

参考答案

    • (a) 错误。偏导数存在是可微的必要条件,而非充分条件。需要偏导数连续才能保证可微。
    • (b) 错误。可微可以推出偏导数存在,但不能推出偏导数连续。存在可微但偏导数不连续的函数。
    • (c) 正确。可以验证 fx(0,0)=fy(0,0)=0f_x(0,0)=f_y(0,0)=0。但考虑增量 Δz=f(Δx,Δx)f(0,0)=Δx\Delta z = f(\Delta x, \Delta x) - f(0,0) = |\Delta x|,它与 ρ=2Δx\rho = \sqrt{2}|\Delta x| 是同阶无穷小,无法写成 0Δx+0Δy+o(ρ)0 \cdot \Delta x + 0 \cdot \Delta y + o(\rho) 的形式,故不可微。
  1. 首先计算偏导数: fx=ex2y2[2xsin(2xy)+2ycos(2xy)],fy=ex2y2[2ysin(2xy)+2xcos(2xy)]f_x = e^{x^2-y^2}[2x\sin(2xy) + 2y\cos(2xy)], \quad f_y = e^{x^2-y^2}[-2y\sin(2xy) + 2x\cos(2xy)] 在点 (0,π/4)(0, \pi/4) 处:fx(0,π/4)=e0π2/16[0+2(π/4)cos(0)]=(π/2)eπ2/16f_x(0, \pi/4) = e^{0-\pi^2/16}[0 + 2\cdot(\pi/4)\cos(0)] = (\pi/2)e^{-\pi^2/16}fy(0,π/4)=eπ2/16[2(π/4)sin(0)+0]=0f_y(0, \pi/4) = e^{-\pi^2/16}[ -2\cdot(\pi/4)\sin(0) + 0] = 0。 因此,全微分 dz(0,π/4)=π2eπ2/16dx+0dy=π2eπ2/16dxdz|_{(0,\pi/4)} = \frac{\pi}{2}e^{-\pi^2/16} dx + 0 \cdot dy = \frac{\pi}{2}e^{-\pi^2/16} dx

本章小结

本节我们深入探讨了多元函数微分的核心概念——全微分。

  • 核心思想:全微分是函数局部线性化的数学描述。对于二元函数,就是用切平面来近似曲面。
  • 数学定义:函数可微意味着全增量 Δz\Delta z 能分解为线性主部 AΔx+BΔyA\Delta x + B\Delta y 与一个关于距离 ρ=(Δx)2+(Δy)2\rho = \sqrt{(\Delta x)^2+(\Delta y)^2} 的高阶无穷小量 o(ρ)o(\rho) 之和。
  • 核心公式:若函数可微,则 dz=fxdx+fydydz = f_x dx + f_y dy。其向量形式为梯度与自变量微分向量的内积。
  • 关键关系:理清了“可微”、“偏导存在”、“偏导连续”三者的关系。可微最强,它要求偏导存在,但偏导存在推不出可微;偏导连续是保证可微的一个常用充分条件。

行动清单 学完本节,你可以立即:

  1. 练习计算:找2-3个多元函数(如 z=x3y+ln(xy)z = x^3y + \ln(xy)),手动计算其在某点的偏导数和全微分,并用 Python (sympy) 验证结果。
  2. 几何验证:对于简单函数如 z=x2+y2z = x^2 + y^2,在一点(如 (1,1))写出其切平面方程(即全微分定义的线性部分),并与曲面图形对比,直观理解“线性近似”。
  3. 概念自测:尝试构造或查找一个“偏导数存在但不可微”的二元函数例子,加深对多元微分复杂性的理解。

— 小象教研组

配套学习资源与课件
  • 第9章讲义(含板书):多元微分学(PDF · 28.2MB)
    下载
🎁 免费学习资源

领取《小象 11GB VIP 课件资料包与大厂真题手册》

包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。

  • 完整 Python / 数据分析 Jupyter 实战源码
  • 大厂真实业务数据集与练习题
  • 微信扫码添加课程顾问,免费获取网盘下载链接
微信二维码:扫码添加课程顾问微信扫码添加顾问