常用不等式与映射

常用不等式与映射

小象实战讲义 · 人工智能数学基础

在人工智能的数学世界中，我们不仅需要处理精确的数值，更需要掌握描述变量间关系的不等式工具，以及理解不同数学对象之间如何建立联系的映射概念。本节将系统学习三个支撑后续微积分与最优化理论的重要不等式，并深入理解映射的定义与分类，为构建和理解复杂的AI模型（如神经网络中的层间映射）打下坚实的数学基础。

💡 核心导读

本节的知识脉络清晰，主要围绕两大模块展开：

1. 三大不等式：掌握三角不等式、伯努利不等式和算术-几何均值不等式的形式、几何直观与应用场景。
2. 映射及其分类：精确定义映射，并理解单射、满射、双射（一一映射）的核心区别与几何意义，这是理解函数、线性变换等概念的基础。
3. 从几何到代数：体会如何从三角形、二项式展开等具体背景中抽象出普适的数学关系，并学习用集合语言严格定义抽象的对应关系。

三个常用不等式

不等式是描述变量之间大小关系的数学工具，在AI的误差分析、收敛性证明和优化问题中无处不在。

三角不等式

三角不等式是最基本的不等式之一，其形式为： $$|x + y| \leq |x| + |y|$$ 其中 $x, y \in \mathbb{R}$。

为什么叫“三角”不等式？ 我们可以将 $x$ 和 $y$ 视为二维平面上的向量。向量 $\vec{x}$与 $\vec{y}$ 的和 $\vec{x} + \vec{y}$ 对应于以 $\vec{x}$和 $\vec{y}$ 为邻边的三角形的第三边。$|x|$ 和 $|y|$ 分别是两边之长，而 $|x+y|$ 是第三边之长。三角不等式直观地表达了“三角形两边之和大于等于第三边”的几何事实（当向量共线且同向时取等号）。

伯努利不等式

伯努利不等式描述了形如 $(1+x)^n$ 的表达式的一个下界。 对于任意实数 $x \geq -1$ 和任意正整数 $n$，有： $$(1+x)^n \geq 1 + nx$$

简要说明： 当 $n=1$ 时，等式显然成立。对于 $n \geq 2$，可以利用二项式定理展开 $(1+x)^n$： $$(1+x)^n = \sum_{k=0}^{n} \binom{n}{k} x^k = 1 + nx + \binom{n}{2}x^2 + \dots + x^n$$ 由于 $x \geq -1$，且当 $x \neq 0$ 时，展开式中从 $x^2$ 项开始的各项非负（若 $x>0$ 显然；若 $-1 \leq x < 0$，偶数次项非负，奇数次项非正但组合系数使其整体非负性需更细致分析，但结论成立）。因此，整个和至少为 $1 + nx$。该不等式在证明序列极限和增长率比较时非常有用。

算术-几何均值不等式

这是关于平均值的一个经典且强大的不等式。 对于任意 $n$ 个非负实数 $x_1, x_2, \dots, x_n$，它们的算术平均值（Arithmetic Mean, AM）总是大于或等于它们的几何平均值（Geometric Mean, GM）： $$\frac{x_1 + x_2 + \dots + x_n}{n} \geq \sqrt[n]{x_1 x_2 \cdots x_n}$$

等号成立条件：当且仅当 $x_1 = x_2 = \dots = x_n$ 时，等号成立。

这个不等式揭示了“平均分配”导致乘积最大的原理，在最优化问题中有重要应用。例如，在资源分配或设计约束问题中，它常用来寻找极值。

import numpy as np
# 验证算术-几何均值不等式
np.random.seed(42) # 固定随机种子，使结果可复现
n = 5
# 生成5个非负随机数
x = np.random.rand(n) * 10  # 生成[0,10)之间的随机数
print(f"随机生成的 {n} 个数: {x}")

AM = np.mean(x)  # 算术平均值
GM = np.prod(x) ** (1/n)  # 几何平均值

print(f"算术平均值 (AM): {AM:.4f}")
print(f"几何平均值 (GM): {GM:.4f}")
print(f"AM >= GM 成立吗？ {AM >= GM:.4f}")
print(f"等号近似成立（差值很小）吗？ {np.isclose(AM, GM)}")

映射：集合间的对应关系

映射是函数概念的推广，它精确描述了两个集合元素之间的对应规则，是连接不同数学空间的桥梁，在机器学习中对应于从输入空间到输出空间的变换。

映射的定义

设 $A$ 和 $B$ 是两个非空集合。如果存在一个对应法则 $f$，使得对于集合 $A$ 中的每一个元素 $a$，按照法则 $f$，在集合 $B$ 中都有唯一确定的元素 $b$ 与之对应，那么就称 $f$ 是从 $A$ 到 $B$ 的一个映射，记作： $$f: A \rightarrow B$$ 其中，$b$ 称为 $a$ 在映射 $f$ 下的像，记作 $b = f(a)$；$a$ 称为 $b$ 的一个原像。$A$ 称为映射的定义域，$B$ 称为映射的陪域（或靶集）。

所有像 $f(a)$ 构成的集合 ${f(a) \mid a \in A}$ 称为 $f$ 的值域或像集，它是陪域 $B$ 的一个子集。

单射（嵌入映射）

单射要求原像不同，则像必不同。 定义：设 $f: A \rightarrow B$。如果对于 $A$ 中任意两个不同的元素 $a_1 \neq a_2$，都有 $f(a_1) \neq f(a_2)$，则称 $f$ 为单射（或一对一映射）。 几何直观：单射像是把定义域 $A$ “嵌入”到陪域 $B$ 中，$A$ 中的不同元素在 $B$ 中占据不同的位置，不会“撞车”。因此单射也称为嵌入映射。

满射（到上映射）

满射要求陪域中的每一个元素都被“用到”。 定义：设 $f: A \rightarrow B$。如果对于陪域 $B$ 中的每一个元素 $b$，都存在至少一个 $a \in A$，使得 $f(a) = b$，则称 $f$ 为满射。 几何直观：满射像是把定义域 $A$ “铺满”了整个陪域 $B$，$B$ 中没有任何一个元素是“闲置”的。因此满射也称为到上映射。

双射（一一对应）

双射是映射中最理想、结构最清晰的一种。 定义：如果映射 $f: A \rightarrow B$ 既是单射又是满射，则称 $f$ 为双射（或一一对应）。 核心性质：对于双射，$A$ 中的每一个元素都唯一对应 $B$ 中的一个元素，并且 $B$ 中的每一个元素也唯一对应 $A$ 中的一个元素。这意味着 $A$ 和 $B$ 的元素可以通过 $f$ 建立起完全配对的关系。双射存在逆映射 $f^{-1}: B \rightarrow A$。

📝 动手练一练

1. 不等式应用：设 $a, b, c$ 是正实数，且 $abc=1$。利用算术-几何均值不等式证明：$a+b+c \geq 3$。

2. 映射判断：考虑以下从整数集 $\mathbb{Z}$ 到整数集 $\mathbb{Z}$ 的对应关系，哪些构成映射？如果是映射，请判断它们是单射、满射还是双射？ a) $f(n) = n^2$ b) $g(n) = n + 1$ c) $h(n) = 2n$

参考答案：

1. 证明：由算术-几何均值不等式，对于正实数 $a, b, c$，有： $$\frac{a+b+c}{3} \geq \sqrt[3]{abc}$$ 已知 $abc = 1$，代入得： $$\frac{a+b+c}{3} \geq \sqrt[3]{1} = 1$$ 因此，$a+b+c \geq 3$。当且仅当 $a=b=c=1$ 时取等号。

2. 判断： a) $f(n)=n^2$：是映射。每个整数 $n$ 都有唯一确定的平方 $n^2$ 与之对应。不是单射，因为 $f(1)=f(-1)=1$。不是满射，因为负数（如 -1）没有整数原像（任何整数的平方非负）。 b) $g(n)=n+1$：是映射。是双射。它是单射（若 $n_1+1 = n_2+1$，则 $n_1=n_2$），也是满射（对任意整数 $m$，存在原像 $m-1$）。 c) $h(n)=2n$：是映射。是单射（若 $2n_1=2n_2$，则 $n_1=n_2$）。不是满射，因为陪域 $\mathbb{Z}$ 中的奇数（如 1）没有整数原像（$2n=1$ 的解 $n=0.5$ 不是整数）。像集仅为偶数集。

本章小结

本节我们为后续的数学学习装备了两类基础工具：描述数量关系的不等式和描述结构关系的映射。

要点回顾：

• 三角不等式 $|x+y| \leq |x|+|y|$ 源于几何直观，是度量空间的基础。
• 伯努利不等式 $(1+x)^n \geq 1+nx$ ($x \geq -1$) 提供了幂函数的一个简洁下界。
• 算术-几何均值不等式 $\frac{\sum x_i}{n} \geq \sqrt[n]{\prod x_i}$ 揭示了平均值的深层关系，是证明和优化中的利器。
• 映射 $f: A \to B$ 是元素间的对应规则，强调定义域中每一个元素都有唯一的像。
• 单射（原像不同则像不同）、满射（陪域中每个元素都有原像）、双射（既单又满，一一对应）是映射的三种基本类型，决定了两个集合之间关系的“稠密”程度和可逆性。

行动清单：

1. 记忆与推导：熟记三个不等式的标准形式，并尝试用二项式定理推导伯努利不等式。
2. 概念辨析：自己构造几个例子，区分单射、满射和非满非单的映射，并用图示法加深理解。
3. 代码验证：运行讲义中的Python代码，并修改参数（如n的值，生成负数的数组以观察不等式是否依然成立），直观感受算术-几何均值不等式。

— 小象教研组