函数凹凸性

函数的凹凸性

小象实战讲义 · 人工智能数学基础

在数学分析中，函数的凹凸性是描述函数图像弯曲方向的重要性质。理解凹凸性不仅有助于我们直观把握函数图形的形状，更是后续学习最优化理论（如凸优化）的基石。本节我们将从几何和代数两个角度定义凹凸性，并学习如何判断一个函数的凹凸性，最后通过几个著名不等式来展示凸函数的强大应用。

💡 核心导读

本节你将掌握：

1. 几何定义：理解凸函数与凹函数在图像上的直观特征——连接图像上任意两点的线段位于图像上方还是下方。
2. 代数判定：掌握利用一阶导数的单调性或二阶导数的正负来判断函数凹凸性的方法。
3. 琴生不等式：学习凸函数的核心性质，即函数值的加权平均不小于平均值的函数值。
4. 经典应用：了解如何利用凸函数性质证明均值不等式、赫尔德不等式等重要结论。

凸函数与凹函数的几何定义

我们先从最直观的几何图像入手。考虑定义在区间 $I$ 上的函数 $f(x)$。

凸函数：如果对于区间 $I$ 上任意两点 $x_1, x_2$ 以及任意实数 $t \in [0, 1]$，都有： $$f(t x_1 + (1-t) x_2) \le t f(x_1) + (1-t) f(x_2)$$ 则称 $f(x)$ 是 $I$ 上的凸函数（或下凸函数）。

几何解释：在函数图像上取两点 $(x_1, f(x_1))$ 和 $(x_2, f(x_2))$，连接这两点的线段上的点可以表示为 $(t x_1 + (1-t) x_2, \ t f(x_1) + (1-t) f(x_2))$。凸函数的定义意味着，对于任意 $x_1$ 和 $x_2$ 之间的点，其对应的函数值 $f(t x_1 + (1-t) x_2)$ 总是不高于连接两点线段上对应点的纵坐标。简单说，就是“弦在图像之上”。

凹函数：如果将上述不等式的不等号反向，即： $$f(t x_1 + (1-t) x_2) \ge t f(x_1) + (1-t) f(x_2)$$ 则称 $f(x)$ 是 $I$ 上的凹函数（或上凸函数）。其几何意义是“弦在图像之下”。

一个形象的记忆方法是联想二次函数：开口向上的抛物线（如 $y=x^2$）是凸函数；开口向下的抛物线（如 $y=-x^2$）是凹函数。

非凸非凹函数：大部分函数并非在整个定义域上都是凸的或凹的。例如，正弦函数 $y=\sin x$ 在某些区间是凸的，在某些区间是凹的，整体上既非凸也非凹。

凸集与凸函数的关联

凸性的概念不仅限于函数，还适用于集合。

凸集：在二维或高维空间中，如果一个集合 $\Omega$ 满足：连接其中任意两点的线段上的所有点仍然属于 $\Omega$，则称 $\Omega$ 为凸集。

• 例如：圆盘、正方形、整个平面都是凸集。
• 非凸集：月牙形、有缺口的圆环等不是凸集，因为你能找到两点，其连线的一部分落在了集合外部。

凸函数与凸集的关系：一个函数 $f(x)$ 是凸函数，等价于其上方图（epigraph）是一个凸集。函数 $f$ 的上方图定义为： $$\text{epi}(f) = { (x, y) \ | \ x \in I, \ y \ge f(x) }$$ 即函数图像及其上方的所有点构成的区域。凸函数的定义保证了其上方图中任意两点的连线仍在区域内，因此上方图是凸集。这统一了函数凸性与集合凸性的概念。

凹凸性的代数判定定理

从定义直接判断函数凹凸性往往比较困难。幸运的是，对于可导函数，我们有更实用的判定方法。

定理（一阶导数判定法）：设函数 $f(x)$ 在区间 $I$ 上连续且可导。则 $f(x)$ 是 $I$ 上的凸函数的充分必要条件是，其导函数 $f’(x)$ 在 $I$ 上单调不减（非严格递增）。

证明思路：

• 必要性（凸 $\Rightarrow$ $f’(x)$ 单调不减）：任取 $x_1 < x_2 \in I$。根据凸函数的定义，可以构造差商不等式，并令分割点趋于端点，利用极限的夹逼性，最终得到 $f’(x_1) \le f’(x_2)$。
• 充分性（$f’(x)$ 单调不减 $\Rightarrow$ 凸）：任取 $x_1 < x_2 < x_3 \in I$。对区间 $[x_1, x_2]$ 和 $[x_2, x_3]$ 分别应用拉格朗日中值定理，得到两个中值点 $\xi_1, \xi_2$。由 $f’(x)$ 单调不减可知 $f’(\xi_1) \le f’(\xi_2)$，这等价于差商不等式，进而可以推导出琴生不等式，即凸函数的定义。

如果函数二阶可导，我们有更简洁的判定条件。

定理（二阶导数判定法）：设函数 $f(x)$ 在区间 $I$ 上二阶可导。

1. 若在 $I$ 上恒有 $f”(x) \ge 0$，则 $f(x)$ 是 $I$ 上的凸函数。
2. 若在 $I$ 上恒有 $f”(x) \le 0$，则 $f(x)$ 是 $I$ 上的凹函数。

说明：这是因为 $f”(x) \ge 0$ 意味着 $f’(x)$ 单调不减，从而由一阶判定法可知 $f(x)$ 是凸函数。反之亦然。对于严格凹凸性，要求 $f”(x)$ 在 $I$ 的任意子区间上不恒为零。

特例：线性函数 $f(x)=ax+b$ 的二阶导数为零，它既是凸函数也是凹函数，因为连接其上任意两点的线段与函数图像本身重合。

琴生不等式及其应用

琴生不等式是凸函数定义的直接推广，也是凸函数理论中最核心的不等式。

定理（琴生不等式）：设 $f(x)$ 是区间 $I$ 上的凸函数，则对任意 $x_1, x_2, \dots, x_n \in I$ 和任意满足 $\sum_{i=1}^{n} t_i = 1, \ t_i \ge 0$ 的权重 $t_1, t_2, \dots, t_n$，有： $$f\left( \sum_{i=1}^{n} t_i x_i \right) \le \sum_{i=1}^{n} t_i f(x_i)$$ 如果 $f(x)$ 是严格凸函数，且 $x_i$ 不全相等，则上述不等式严格成立。对于凹函数，不等号方向相反。

证明：采用数学归纳法。

1. 奠基：当 $n=2$ 时，即为凸函数的定义，成立。
2. 归纳：假设 $n=k$ 时不等式成立。考虑 $n=k+1$ 的情况。令 $\lambda_i = t_i / (1 - t_{k+1})$ for $i=1,\dots,k$，则 $\sum_{i=1}^k \lambda_i = 1$。于是： $$\begin{aligned} f\left( \sum_{i=1}^{k+1} t_i x_i \right) &= f\left( (1-t_{k+1}) \sum_{i=1}^{k} \lambda_i x_i + t_{k+1} x_{k+1} \right) \ &\le (1-t_{k+1}) f\left( \sum_{i=1}^{k} \lambda_i x_i \right) + t_{k+1} f(x_{k+1}) \quad \text{(由 $n=2$ 情形)} \ &\le (1-t_{k+1}) \sum_{i=1}^{k} \lambda_i f(x_i) + t_{k+1} f(x_{k+1}) \quad \text{(由归纳假设)} \ &= \sum_{i=1}^{k+1} t_i f(x_i) \end{aligned}$$ 证毕。

琴生不等式有广泛的应用，下面我们用它来证明两个著名的不等式。

应用一：均值不等式

对于 $n$ 个正数 $a_1, a_2, \dots, a_n$，有： $$\frac{n}{\frac{1}{a_1} + \frac{1}{a_2} + \dots + \frac{1}{a_n}} \le \sqrt[n]{a_1 a_2 \cdots a_n} \le \frac{a_1 + a_2 + \dots + a_n}{n}$$ 左边是调和平均，中间是几何平均，右边是算术平均。当且仅当所有 $a_i$ 相等时取等号。

证明思路（利用凸函数）：考虑函数 $M(x) = \left( \frac{a_1^x + a_2^x + \dots + a_n^x}{n} \right)^{1/x}$ for $x \ne 0$，并定义 $M(0) = \sqrt[n]{a_1 a_2 \cdots a_n}$。可以证明 $M(x)$ 是单调递增函数。注意到 $M(-1)$ 是调和平均，$M(0)$ 是几何平均，$M(1)$ 是算术平均。由 $M(x)$ 的单调性立得 $M(-1) \le M(0) \le M(1)$，即均值不等式。证明 $M(x)$ 单调增的关键是证明其对数导数非负，而这可以通过验证函数 $h(u) = u \ln u$ 是凸函数并应用琴生不等式来完成。

应用二：赫尔德不等式与柯西-施瓦茨不等式

赫尔德不等式：设 $a_i, b_i > 0$，$p, q > 1$ 且 $\frac{1}{p} + \frac{1}{q} = 1$，则： $$\sum_{i=1}^{n} a_i b_i \le \left( \sum_{i=1}^{n} a_i^p \right)^{\frac{1}{p}} \left( \sum_{i=1}^{n} b_i^q \right)^{\frac{1}{q}}$$

柯西-施瓦茨不等式：是赫尔德不等式在 $p=q=2$ 时的特例： $$\sum_{i=1}^{n} a_i b_i \le \sqrt{ \sum_{i=1}^{n} a_i^2 } \sqrt{ \sum_{i=1}^{n} b_i^2 }$$ 其几何意义是向量内积不大于模长的乘积，即 $|\vec{a} \cdot \vec{b}| \le |\vec{a}| |\vec{b}|$，等价于夹角余弦的绝对值不大于1。

证明思路（利用凸函数）：考虑函数 $f(x) = x^{1/q}$，可以证明其在 $(0, +\infty)$ 上是凹函数（因为二阶导 $f”(x) < 0$）。对其应用琴生不等式（注意凹函数不等号方向），并巧妙选取 $t_i = a_i^p / \sum a_i^p$ 和 $x_i = a_i^{-p} b_i^q$，经过代数整理即可得到赫尔德不等式。

import numpy as np
import matplotlib.pyplot as plt

# 示例1：验证函数的凹凸性及二阶导数判定
print("示例1：验证函数的凹凸性")
x = np.linspace(-2, 2, 400)
f_convex = x**2  # 凸函数，二阶导为2 > 0
f_concave = -x**2 # 凹函数，二阶导为-2 < 0
f_linear = 2*x + 1 # 线性函数，二阶导为0，既凸又凹
f_non = np.sin(x) # 非凸非凹函数

fig, axes = plt.subplots(2, 2, figsize=(10, 8))
functions = [f_convex, f_concave, f_linear, f_non]
titles = ['凸函数: <span class="katex"><span class="katex-mathml"><math xmlns="http://www.w3.org/1998/Math/MathML"><semantics><mrow><mi>f</mi><mo stretchy="false">(</mo><mi>x</mi><mo stretchy="false">)</mo><mo>=</mo><msup><mi>x</mi><mn>2</mn></msup></mrow><annotation encoding="application/x-tex">f(x)=x^2</annotation></semantics></math></span><span class="katex-html" aria-hidden="true"><span class="katex-base"><span class="katex-strut" style="height:1em;vertical-align:-0.25em;"></span><span class="mord mathnormal" style="margin-right:0.1076em;">f</span><span class="mopen">(</span><span class="mord mathnormal">x</span><span class="mclose">)</span><span class="mspace" style="margin-right:0.2778em;"></span><span class="mrel">=</span><span class="mspace" style="margin-right:0.2778em;"></span></span><span class="katex-base"><span class="katex-strut" style="height:0.8141em;"></span><span class="mord"><span class="mord mathnormal">x</span><span class="msupsub"><span class="vlist-t"><span class="vlist-r"><span class="vlist" style="height:0.8141em;"><span style="top:-3.063em;margin-right:0.05em;"><span class="pstrut" style="height:2.7em;"></span><span class="katex-sizing reset-size6 size3 mtight"><span class="mord mtight">2</span></span></span></span></span></span></span></span></span></span></span>', '凹函数: <span class="katex"><span class="katex-mathml"><math xmlns="http://www.w3.org/1998/Math/MathML"><semantics><mrow><mi>f</mi><mo stretchy="false">(</mo><mi>x</mi><mo stretchy="false">)</mo><mo>=</mo><mo>−</mo><msup><mi>x</mi><mn>2</mn></msup></mrow><annotation encoding="application/x-tex">f(x)=-x^2</annotation></semantics></math></span><span class="katex-html" aria-hidden="true"><span class="katex-base"><span class="katex-strut" style="height:1em;vertical-align:-0.25em;"></span><span class="mord mathnormal" style="margin-right:0.1076em;">f</span><span class="mopen">(</span><span class="mord mathnormal">x</span><span class="mclose">)</span><span class="mspace" style="margin-right:0.2778em;"></span><span class="mrel">=</span><span class="mspace" style="margin-right:0.2778em;"></span></span><span class="katex-base"><span class="katex-strut" style="height:0.8974em;vertical-align:-0.0833em;"></span><span class="mord">−</span><span class="mord"><span class="mord mathnormal">x</span><span class="msupsub"><span class="vlist-t"><span class="vlist-r"><span class="vlist" style="height:0.8141em;"><span style="top:-3.063em;margin-right:0.05em;"><span class="pstrut" style="height:2.7em;"></span><span class="katex-sizing reset-size6 size3 mtight"><span class="mord mtight">2</span></span></span></span></span></span></span></span></span></span></span>', '线性函数: <span class="katex"><span class="katex-mathml"><math xmlns="http://www.w3.org/1998/Math/MathML"><semantics><mrow><mi>f</mi><mo stretchy="false">(</mo><mi>x</mi><mo stretchy="false">)</mo><mo>=</mo><mn>2</mn><mi>x</mi><mo>+</mo><mn>1</mn></mrow><annotation encoding="application/x-tex">f(x)=2x+1</annotation></semantics></math></span><span class="katex-html" aria-hidden="true"><span class="katex-base"><span class="katex-strut" style="height:1em;vertical-align:-0.25em;"></span><span class="mord mathnormal" style="margin-right:0.1076em;">f</span><span class="mopen">(</span><span class="mord mathnormal">x</span><span class="mclose">)</span><span class="mspace" style="margin-right:0.2778em;"></span><span class="mrel">=</span><span class="mspace" style="margin-right:0.2778em;"></span></span><span class="katex-base"><span class="katex-strut" style="height:0.7278em;vertical-align:-0.0833em;"></span><span class="mord">2</span><span class="mord mathnormal">x</span><span class="mspace" style="margin-right:0.2222em;"></span><span class="mbin">+</span><span class="mspace" style="margin-right:0.2222em;"></span></span><span class="katex-base"><span class="katex-strut" style="height:0.6444em;"></span><span class="mord">1</span></span></span></span>', '非凸非凹: <span class="katex"><span class="katex-mathml"><math xmlns="http://www.w3.org/1998/Math/MathML"><semantics><mrow><mi>f</mi><mo stretchy="false">(</mo><mi>x</mi><mo stretchy="false">)</mo><mo>=</mo><mi>sin</mi><mo>⁡</mo><mo stretchy="false">(</mo><mi>x</mi><mo stretchy="false">)</mo></mrow><annotation encoding="application/x-tex">f(x)=\sin(x)</annotation></semantics></math></span><span class="katex-html" aria-hidden="true"><span class="katex-base"><span class="katex-strut" style="height:1em;vertical-align:-0.25em;"></span><span class="mord mathnormal" style="margin-right:0.1076em;">f</span><span class="mopen">(</span><span class="mord mathnormal">x</span><span class="mclose">)</span><span class="mspace" style="margin-right:0.2778em;"></span><span class="mrel">=</span><span class="mspace" style="margin-right:0.2778em;"></span></span><span class="katex-base"><span class="katex-strut" style="height:1em;vertical-align:-0.25em;"></span><span class="mop">sin</span><span class="mopen">(</span><span class="mord mathnormal">x</span><span class="mclose">)</span></span></span></span>']

for ax, func, title in zip(axes.flat, functions, titles):
    ax.plot(x, func, lw=2)
    # 在图像上取两点并连线，直观展示凹凸性
    x1, x2 = -1.5, 1.5
    y1, y2 = func[np.abs(x - x1).argmin()], func[np.abs(x - x2).argmin()]
    ax.plot([x1, x2], [y1, y2], 'r--', alpha=0.6, label='弦')
    ax.fill_between(x, func, func.min()-1, alpha=0.1) # 浅色填充下方区域，帮助观察“上方图”
    ax.set_title(title)
    ax.legend()
    ax.grid(True, alpha=0.3)

plt.tight_layout()
plt.show()

# 示例2：数值验证琴生不等式（以凸函数exp(x)为例）
print("\n示例2：数值验证琴生不等式 for f(x)=exp(x)")
np.random.seed(42)
n = 5
x_vals = np.random.uniform(0, 2, n)  # 随机生成n个点
t_vals = np.random.dirichlet(np.ones(n), size=1)[0] # 随机生成一组和为1的权重

f = np.exp
lhs = f(np.sum(t_vals * x_vals))  # f(∑ t_i x_i)
rhs = np.sum(t_vals * f(x_vals))   # ∑ t_i f(x_i)

print(f"随机点 x_i: {x_vals}")
print(f"随机权重 t_i: {t_vals}")
print(f"f(∑ t_i x_i) = exp({np.sum(t_vals * x_vals):.4f}) = {lhs:.4f}")
print(f"∑ t_i f(x_i) = {rhs:.4f}")
print(f"验证：{lhs:.4f} <= {rhs:.4f} 是否成立？ {lhs <= rhs + 1e-10}") # 添加微小容差

# 示例3：验证均值不等式和柯西-施瓦茨不等式
print("\n示例3：验证均值不等式与柯西-施瓦茨不等式")
a = np.array([1.0, 2.0, 3.0, 4.0, 5.0])
b = np.array([5.0, 4.0, 3.0, 2.0, 1.0])

# 均值不等式
harmonic_mean = len(a) / np.sum(1.0 / a)
geometric_mean = np.prod(a) ** (1.0/len(a))
arithmetic_mean = np.mean(a)
print(f"数组 a: {a}")
print(f"调和平均 H = {harmonic_mean:.4f}")
print(f"几何平均 G = {geometric_mean:.4f}")
print(f"算术平均 A = {arithmetic_mean:.4f}")
print(f"验证 H <= G <= A: {harmonic_mean <= geometric_mean + 1e-10 and geometric_mean <= arithmetic_mean + 1e-10}")

# 柯西-施瓦茨不等式
lhs_cs = np.dot(a, b)
rhs_cs = np.linalg.norm(a, 2) * np.linalg.norm(b, 2)
print(f"\n数组 a: {a}, 数组 b: {b}")
print(f"内积 a·b = {lhs_cs:.4f}")
print(f"||a|| * ||b|| = {rhs_cs:.4f}")
print(f"验证 |a·b| <= ||a|| ||b||: {np.abs(lhs_cs) <= rhs_cs + 1e-10}")

📝 动手练一练

1. 判断凹凸性：判断下列函数在指定区间上的凹凸性，并说明理由。 a) $f(x) = \ln(x)$，在 $(0, +\infty)$ 上。 b) $f(x) = x^3$，在 $\mathbb{R}$ 上。 c) $f(x) = e^{-x}$，在 $\mathbb{R}$ 上。

   参考答案： a) 凹函数。因为 $f”(x) = -\frac{1}{x^2} < 0$ 在 $(0, +\infty)$ 上恒成立。 b) 非凸非凹。因为 $f”(x) = 6x$，在 $(-\infty, 0)$ 上 $f”(x) < 0$（凹），在 $(0, +\infty)$ 上 $f”(x) > 0$（凸），在整个 $\mathbb{R}$ 上既非凸也非凹。 c) 凸函数。因为 $f”(x) = e^{-x} > 0$ 在 $\mathbb{R}$ 上恒成立。

2. 应用琴生不等式：已知 $f(x) = -\ln(x)$ 在 $(0, +\infty)$ 上是凸函数（请自行验证）。利用琴生不等式证明：对于正数 $x_1, x_2, \dots, x_n$，有 $\frac{x_1 + x_2 + \dots + x_n}{n} \ge \sqrt[n]{x_1 x_2 \cdots x_n}$（即算术平均不小于几何平均）。 提示：在琴生不等式 $f(\sum t_i x_i) \le \sum t_i f(x_i)$ 中，取 $f(x)=-\ln x$，并令所有权重 $t_i = \frac{1}{n}$。

   参考答案： 取 $t_i = \frac{1}{n}$，代入琴生不等式： $$-\ln\left( \frac{1}{n} \sum_{i=1}^n x_i \right) \le \sum_{i=1}^n \frac{1}{n} (-\ln x_i) = -\frac{1}{n} \ln \left( \prod_{i=1}^n x_i \right)$$ 两边同时乘以 $-1$（注意不等号方向改变）： $$\ln\left( \frac{1}{n} \sum_{i=1}^n x_i \right) \ge \frac{1}{n} \ln \left( \prod_{i=1}^n x_i \right) = \ln \left( \prod_{i=1}^n x_i^{\frac{1}{n}} \right)$$ 由于 $\ln(x)$ 是单调递增函数，因此： $$\frac{1}{n} \sum_{i=1}^n x_i \ge \left( \prod_{i=1}^n x_i \right)^{\frac{1}{n}}$$ 证毕。

本章小结

本节我们深入探讨了函数的凹凸性，这是分析函数图形和优化问题的重要工具。

要点回顾：

1. 几何本质：凸函数“弦在图像上”，凹函数“弦在图像下”。这与凸集（连接集合内任意两点的线段仍在集合内）的概念紧密相连。
2. 判定方法：对于可导函数，一阶导数单调不减是凸函数的充要条件。对于二阶可导函数，直接检查二阶导数的正负即可：$f”(x) \ge 0$ 凸，$f”(x) \le 0$ 凹。
3. 核心性质：琴生不等式是凸函数的代数特征，它表明函数值的加权平均不小于平均值的函数值。这个不等式是证明许多重要结论的利器。
4. 经典应用：利用凸函数性质和琴生不等式，可以优雅地证明均值不等式、赫尔德不等式和柯西-施瓦茨不等式。

行动清单：

1. 可视化练习：任选几个常见函数（如 $x^2, \sqrt{x}, e^x, \ln x$），用绘图工具画出其图像，并取两点连线，直观感受其凹凸性。
2. 判定练习：找几个复杂一点的函数，练习使用二阶导数判定法判断其在给定区间上的凹凸性。
3. 不等式推导：尝试独立完成用琴生不等式证明算术-几何平均不等式的推导过程，加深对凸函数应用的理解。

— 小象教研组