隐马尔可夫模型（2）：前向算法与动态混合模型

小象实战讲义 · 机器学习算法精讲

上一节结尾，盒子-小球例子停在「看到了红、白、红，生成这个序列的概率到底有多大？我怎么去计算？」——这一节讲师接着往下算。状态序列是隐藏的，所以要对所有可能的路径求和；硬算会发现组合太多，「不是（不可）算」的量级。于是引出本节的主角前向算法：引入前向概率 $\alpha$，一层一层把求和吸收掉。最后讲师给了一个「不是很多人都去讲」的统一视角：HMM 其实是一个动态的混合模型。

💡 核心导读

• 从联合到边缘：$P(Y \mid \lambda) = \sum_Q P(Y, Q \mid \lambda)$——把隐含变量加和掉，是第 12 章起我们一直在做的事。
• 组合爆炸：三个盒子、三个时刻，状态路径有 $3^3 = 27$ 条，一条条硬算当然算得出来，但路径数随时刻数指数增长。
• 前向概率 $\alpha$：$\alpha(q_t) = P(y_0, \dots, y_t, q_t)$——「到 $t$ 为止的全部观测且当前状态是 $q_t$」的联合概率；配对的 $\beta(q_t)$ 管 $t$ 之后的观测。
• 递推：$\alpha(q_{t+1}) = \sum_{q_t} \alpha(q_t) \cdot A_{q_t,\, q_{t+1}} \cdot B_{q_{t+1},\, y_{t+1}}$——想算下一时刻，只需前一时刻的 $\alpha$ 乘上转移和释放。
• 动态混合模型：三硬币是伯努利混合、男女生身高是高斯混合，HMM 是加了转移矩阵 $A$ 的动态版——分量会随时间跳来跳去。

目标：算出 P(Y)

上一节我们算过「状态序列已知」时的联合概率 $P(Q, Y \mid \lambda)$。但现实里 $Q$ 是隐藏的，我们真正想要的是只关于观测的概率 $P(Y \mid \lambda)$。做法是老套路——讲师开场先点破：「我们从上次课就已经学过了，我们最会做的事情就是把隐含变量做一个加和。」

$$P(Y \mid \lambda) = \sum_{Q} P(Y, Q \mid \lambda) = \sum_{q_0} \sum_{q_1} \cdots \sum_{q_T} \pi(q_0) \prod_{t=0}^{T-1} A_{q_t,\, q_{t+1}} \prod_{t=0}^{T} B_{q_t,\, y_t}$$

（把上节的联合概率公式整套搬进求和号，就是把每一条可能的路径的概率加起来。）

先辨析一个容易混的地方：下标是时刻、不是状态。$q$ 本身只有三个取值——盒子 1、盒子 2、盒子 3；$q_0, q_1, q_2, \dots$ 里的数字代表的是不同的时刻。任何一个时刻的 $q_t$ 都属于这三个盒子之一，三个状态的概率加在一起还是 1。

于是这个求和有多「厚」？以盒子例子（观测红、白、红）为例，三个时刻、每个时刻三种状态，路径组合是：

$$111,\ 112,\ 113;\quad 121,\ 122,\ 123;\quad \dots;\quad 331,\ 332,\ 333$$

一共 $3^3 = 27$ 种组合，把每一种组合代进去算出值再累加。讲师的评价很直白：「你会发现这个呢，不是算（的量级），当然你要硬算呢，当然也是可以算出来的。」——每加一个时刻，路径数乘 3；时刻一多，硬算彻底失去可行性。

把链从中间剪开：α 与 β

换这个问题想想：给定所有的观测数据，我想知道某一时刻的状态——「我知道他 shopping、clean 所有的事情，我想知道他某一天天气到底什么样」「我看了所有小球的颜色，我想知道某一次是从第几个箱子里取出来的」。这相当于对隐含状态做一个估计，用贝叶斯公式写：

$$P(q_t \mid Y) = \frac{P(Y, q_t)}{P(Y)}$$

但你会发现，这里的 likelihood 部分（尤其是 $P(Y)$）非常难计算。所以讲师做了一个变形：把整条马尔可夫链从 $t$ 时刻剪开，分成前、后两部分。

• 前向部分定义一个函数 $\alpha$：把「$t$ 之前的所有观测」和「$t$ 时刻的状态」放进一个联合概率：

$$\alpha(q_t) = P(y_0, y_1, \dots, y_t, q_t)$$

（构造思路：条件概率乘先验等于联合概率——前半段观测给定 $q_t$ 的条件概率，乘上 $P(q_t)$，就合成了 $\alpha$。）

• 后向部分定义一个函数 $\beta$：只管 $t$ 之后的观测：

$$\beta(q_t) = P(y_{t+1}, y_{t+2}, \dots, y_T \mid q_t)$$

两个函数一乘，前后两段拼回整条链，于是那个估计问题变成 $P(q_t \mid Y) = \alpha(q_t)\,\beta(q_t) \,/\, P(Y)$。这套东西的名字叫前向-后向算法。本节视频重点推「前向」这一半；$\beta$ 的递推思路与 $\alpha$ 对称（课件里有完整公式），视频没有展开，按讲师的处理我们先吃透前向。

前向算法：α 的递推

「我可能就没办法给大家讲推全部的公式了，我只给大家推一小半吧——如果全写出来特别复杂。」先摆目标：想找 $\alpha(q_{t+1})$ 与 $\alpha(q_t)$ 的关系。按定义把 $t+1$ 时刻写开：

$$\alpha(q_{t+1}) = P(y_0, \dots, y_t,\ y_{t+1},\ q_{t+1})$$

第一步，把新观测 $y_{t+1}$ 单拎出来，剩下的部分拆成「条件 $\times$ 先验」：

$$= P(y_0, \dots, y_t \mid q_{t+1}) \cdot P(y_{t+1} \mid q_{t+1}) \cdot P(q_{t+1})$$

接下来是讲师口中「稍微有创意性的一步」：在中间引入一个新的隐含变量——对 $q_t$ 做加和。$q_t$ 是 $t$ 时刻的状态，取遍所有盒子：

$$= \sum_{q_t} P(y_0, \dots, y_t \mid q_t) \cdot P(q_{t+1} \mid q_t) \cdot P(q_t) \cdot P(y_{t+1} \mid q_{t+1})$$

（讲师板书推到这一带反复自我纠正了好几次——「写晕了」「Sorry，T 又写错了」——变形本身没有新东西，就是联合概率与条件概率的来回改写。）最后把三块认出来：$P(y_0, \dots, y_t, q_t)$ 恰好是 $\alpha(q_t)$ 的定义；$P(q_{t+1} \mid q_t)$ 就是转移矩阵 $A$；$P(y_{t+1} \mid q_{t+1})$ 就是释放概率 $B$：

$$\alpha(q_{t+1}) = \sum_{q_t} \alpha(q_t) \cdot A_{q_t,\, q_{t+1}} \cdot B_{q_{t+1},\, y_{t+1}}$$

用讲师的话说：「你每次想求一个 $\alpha(q_{t+1})$ 的时候，可以做的就是把前一时刻的 $\alpha$，乘上它的转移概率和释放概率。」 如果你现在处于状态 $q_t$，有多少种可能转到 $t+1$ 的状态、转到之后又要生成什么样的 $y$，把这些可能累加起来，就得到下一个 $\alpha$。

$\alpha$ 存在的意义也在这句里：「$\alpha$ 所起到的目的，就是把这个公式每一步的加和不断地累加掉。」硬算是把 27 条路径各自算完再总加；前向算法是边走边加——每前进一个时刻，就把那一层的求和吸收进 $\alpha$ 里。走到最后：

$$P(Y \mid \lambda) = \sum_{j} \alpha(q_T = j)$$

数值走查：盒子-小球的前向表

回到盒子-小球（参数沿用上一节：$\pi = (0.2, 0.4, 0.4)$，$A$、$B$ 同前），观测序列红、白、红。

初始化 $t=0$（第一个观测是红），讲师逐个口算：

• $\alpha(q_0 = \text{盒}1) = \pi_1 \cdot B_{1,\text{红}} = 0.2 \times 0.5 = 0.1$
• $\alpha(q_0 = \text{盒}2) = \pi_2 \cdot B_{2,\text{红}} = 0.4 \times 0.4 = 0.16$
• $\alpha(q_0 = \text{盒}3) = \pi_3 \cdot B_{3,\text{红}} = 0.4 \times 0.7 = 0.28$

三个值加起来：$0.2 \times 0.5 + 0.4 \times 0.4 + 0.4 \times 0.7 = 0.54$——讲师：「最后就等于一个，我应该是 0.54。」这正是第一个观测是红球的总概率 $P(y_0 = \text{红})$：所有可能的箱子都有一些概率生成红球，你看到红球的概率就是它们所有的这些累加。

递推到 $t=1$（第二个观测是白），以 $\alpha(q_1 = \text{盒}1)$ 为例——从 $t=0$ 的三个 $\alpha$ 出发，各自乘上「转到盒 1」的转移概率再加和，最后乘上盒 1 出白球的释放概率：

$$\alpha(q_1 = \text{盒}1) = \big[\underbrace{0.1 \times A_{11}}_{\text{盒}1 \to \text{盒}1} + \underbrace{0.16 \times A_{21}}_{\text{盒}2 \to \text{盒}1} + \underbrace{0.28 \times A_{31}}_{\text{盒}3 \to \text{盒}1}\big] \times B_{1,\text{白}} = [0.05 + 0.032 + 0.084] \times 0.5 = 0.083$$

（口播勘误：讲师现场念这一列时说「0.1×0.5、0.16×0.3、0.28×0.2」，把 $A$ 的这一列读成了第一行——按上一节定稿的转移矩阵，盒 2 转盒 1 是 $A_{21} = 0.2$、盒 3 转盒 1 是 $A_{31} = 0.3$，本表按矩阵定义为准。）整张表跑完：

# 盒子-小球 HMM（参数同上一节），观测序列：红、白、红
pi = [0.2, 0.4, 0.4]
A = [
    [0.5, 0.3, 0.2],          # A[i][j]：盒 i → 盒 j 的转移概率
    [0.2, 0.5, 0.3],
    [0.3, 0.2, 0.5],
]
B = [
    [0.5, 0.5],               # B[i][k]：盒 i 出（红, 白）的概率
    [0.4, 0.6],
    [0.7, 0.3],
]
Y = [0, 1, 0]                 # 0=红，1=白

T = len(Y)
N = len(pi)
alpha = [[0.0] * N for _ in range(T)]

# 初始化：α(q_0 = i) = π_i · B[i][y_0]
for i in range(N):
    alpha[0][i] = pi[i] * B[i][Y[0]]

# 递推：α(q_{t+1} = j) = [ Σ_i α(q_t = i) · A[i][j] ] · B[j][y_{t+1}]
for t in range(T - 1):
    for j in range(N):
        s = sum(alpha[t][i] * A[i][j] for i in range(N))
        alpha[t + 1][j] = s * B[j][Y[t + 1]]

# 终止：P(Y) = Σ_j α(q_T = j)
prob = sum(alpha[T - 1])

for t in range(T):
    print(f"t={t} 观测={'红白'[Y[t]]}: alpha = [{', '.join(f'{v:.4f}' for v in alpha[t])}]")
print(f"P(红白红) = {prob:.6f}")
print(f"检验：P(y_0=红) = 0.2*0.5 + 0.4*0.4 + 0.4*0.7 = {0.2*0.5 + 0.4*0.4 + 0.4*0.7:.2f}")

t=0 观测=红: alpha = [0.1000, 0.1600, 0.2800]
t=1 观测=白: alpha = [0.0830, 0.0996, 0.0624]
t=2 观测=红: alpha = [0.0401, 0.0349, 0.0544]
P(红白红) = 0.129318
检验：P(y_0=红) = 0.2*0.5 + 0.4*0.4 + 0.4*0.7 = 0.54

读一遍这张表：$t=0$ 行就是讲师口算的 0.1、0.16、0.28（和为 0.54，检验行复现）；每往下一行，只是把上一行的三个数乘上转移概率、加和、再乘释放概率——27 条路径的求和，被三行递推吃掉了。最终 $P(\text{红白红}) = 0.0401 + 0.0349 + 0.0544 = 0.129318$。这就是前向算法：一条硬算的指数级加法题，变成了「一层一层累加」的线性流程。

HMM 是动态的混合模型

本节最后，讲师给了一个统一的理解——「HMM 实际上可以看成是一个 dynamic mixture model（动态混合模型）。这种说法不是很多人都去讲，但是意思是这样子的。」

我们学过的混合模型：三硬币是伯努利混合模型，男女生身高的例子是混合高斯模型。它们都是静态的——每个数据点先用 $\pi$ 独立地选一个分量，再从分量里采样。HMM 把「选分量」这件事变成了有记忆的。用三个高斯画个图景：

• 最开始，用 $\pi$（$\pi_1, \pi_2, \dots$ 加起来为 1）先选一个高斯——比如第一次选中了橘黄色的那个，就在它的概率密度里选了第一个值；
• 第二次不再独立重抽，而是按转移概率决定下一个状态——可能跳到别的高斯，也可能回到自己——在新状态里再选一个点；
• 之后不断重复：从这个点跳到那个点，每次按 $A$ 走、按当前高斯的密度取值。

这一串「选哪个高斯」的过程，本身就是一条马尔可夫链。参数的分工：$A$ 矩阵描述的就是在不同的 mixture（高斯）之间不断地跳跃；$B$ 矩阵就是每个高斯自己的参数——$\mu_1, \sigma_1$、$\mu_2, \sigma_2$、$\mu_3, \sigma_3$，各有各的概率密度（形状各异）。

用代码把「静态」和「动态」的差别算出来（同一组 $\pi$ 和 $A$，对比两条固定路径在两种模型下的概率）：

# 动态混合 vs 静态混合：同一条状态路径，两种模型下的概率对比
pi = [0.2, 0.4, 0.4]
A = [
    [0.5, 0.3, 0.2],
    [0.2, 0.5, 0.3],
    [0.3, 0.2, 0.5],
]

def p_static(path):
    """静态混合模型：每一步都独立地按 π 重新选盒子。"""
    p = 1.0
    for s in path:
        p *= pi[s]
    return p

def p_dynamic(path):
    """动态混合模型（HMM 状态链）：第一步按 π，之后按 A 转移。"""
    p = pi[path[0]]
    for t in range(1, len(path)):
        p *= A[path[t - 1]][path[t]]
    return p

path1 = [1, 1, 1, 1, 1]       # 一路粘在盒 2
path2 = [1, 2, 0, 2, 1]       # 盒2 → 盒3 → 盒1 → 盒3 → 盒2，来回跳

for name, path in [("路径1", path1), ("路径2", path2)]:
    print(f"{name} {path}:")
    print(f"  静态混合模型概率: {p_static(path):.6f}")
    print(f"  动态混合模型概率: {p_dynamic(path):.6f}")

路径1 [1, 1, 1, 1, 1]:
  静态混合模型概率: 0.010240
  动态混合模型概率: 0.025000
路径2 [1, 2, 0, 2, 1]:
  静态混合模型概率: 0.005120
  动态混合模型概率: 0.001440

看两组数的门道：静态模型下，路径概率只数每个状态出现了几次，与顺序无关——路径 1 是清一色的五个盒 2（$0.4^5 = 0.01024$），路径 2 则是两个盒 2、两个盒 3、一个盒 1（$0.4^2 \times 0.4^2 \times 0.2 = 0.00512$），两条路径静态概率的差别来自状态计数的不同（乘法可交换，顺序重排不改变乘积）。动态模型下，连贯性被转移矩阵放大、跳跃被压低：一路粘住盒 2 的路径 1 概率 0.025，是来回横跳的路径 2 概率 0.00144 的十七倍还多。这就是「记忆」的数学形状。

最后回到最初的硬币例子收束全章：如果每次掷硬币 B 或 C 的状态选择，都跟上一次的结果相关，那就变成了一个完全的隐马尔可夫模型。 这时要估计的参数是 $\pi$、$A$、$B$——「$\pi$ 其实大家都知道，很好估计了。那 $A$ 和 $B$ 这件事怎么估？我们会下节课跟大家去讲完。」（参数怎么从数据里学出来，正是下一章开头要接的问题。）

📝 动手练一练

1. 算一算组合账：盒子-小球模型中，若观测序列长度为 $T$（每个时刻有 $N = 3$ 种状态），状态路径共有多少条？每条路径需要连乘多少个因子（初始、转移、释放各多少个）？当 $T = 10$ 时路径总数是多少？再对比：前向算法递推 $T$ 层、每层 $N^2$ 次乘加，各是多少？体会一下「指数级」与「线性级」的差距。

2. 递推手算：正文的前向表中，$t=1$ 时刻的 $\alpha$ 为 $[0.0830, 0.0996, 0.0624]$。请手算 $t=2$ 时刻的 $\alpha(q_2 = \text{盒}3)$（提示：$A_{13}=0.2$、$A_{23}=0.3$、$A_{33}=0.5$，盒 3 出红球概率 $0.7$），并与代码输出对照。

本章小结

本节接着上一节的悬念，解决了「状态序列未知时 $P(Y)$ 怎么算」：先把联合概率对所有状态路径求和，发现组合是指数级的；于是引入前向概率 $\alpha(q_t) = P(y_0, \dots, y_t, q_t)$（与管后半段的 $\beta$ 配对），推导出递推 $\alpha(q_{t+1}) = \sum_{q_t} \alpha(q_t) \cdot A \cdot B$——每前进一个时刻就把一整层求和吸收掉，最后 $P(Y) = \sum_j \alpha(q_T = j)$。盒子-小球例子的走查表（0.1/0.16/0.28 → 0.54 检验 → 完整三行）把这个流程落到了数上。收尾的统一视角：HMM 是动态的混合模型——三硬币、GMM 静态地选分量，HMM 让分量随时间按 $A$ 跳跃；至于 $\pi$、$A$、$B$ 怎么从数据里估出来，讲师留给了下一章。

📋 行动清单

• 白纸推一遍 $\alpha(q_{t+1})$ 的递推：重点是「引入 $q_t$ 做加和」那一步为什么合法。
• 把正文代码的观测序列改成其他组合（如白、白、白），跑出新的前向表和 $P(Y)$，观察哪些行变化最大、为什么。
• 带着「$\pi$ 好估、$A$ 和 $B$ 怎么估」的问题进入下一章——想想上一章 EM 的 E/M 两步能不能搬到 HMM 上。

—— 小象教研组