动态模型系列笔记（一）——隐马尔可夫模型（HMM）

背景介绍

隐马尔可夫模型 (HMM) 是一种概率图模型。

我们知道，机器学习模型可以从频率派和贝叶斯派两个方向考虑，

频率派发展成形成了统计机器学习，核心是优化问题;
1. model: 例如，超平面 $f(\omega)=\omega^Tx+b$ 或者回归（regression）等；
2. strategy: 衡量模型好坏/评估准则 loss function;
3. algorithm（求解）：GD, SGD, 牛顿法, 拟牛顿法等。
贝叶斯派发展成了概率图模型，核心是推断问题(inference)或者求后验概率 $p (z ∣ x)$ , 常常需要用MCMC方法进行积分。（注：通常 $x$ 表示数据）

在这里插入图片描述

如图，概率图模型最基本的模型可以分为

在这些基本的模型上，如果样本之间存在关联，可以认为样本中附带了时序信息(不一定是时间，是一个表示先后的量即可），从而样本之间不独立全同分布的，这种模型就叫做动态模型，隐变量随着时间发生变化，于是观测变量也发生变化。

根据状态变量（隐变量）的特点，可以分为：

动态模型从横向看是一个时间序列，纵向看是一个混合模型：
请添加图片描述

下面的内容将分为以下三个部分进行叙述：

HMM 用概率图表示为：
HMM示意图

更进一步：

观测变量：上图中灰色的圆圈表示观测变量，用符号 $[o_1, o_2, \cdots , o_t, \cdots]$ 表示，其值域为 $V=\{v_1,v_2,\cdots,v_M\}$ ;
状态变量 Hidden state：上图中白色圆圈表示状态变量 Hidden state，用符号 $[i_1, i_2, \cdots , i_t, \cdots]$ 表示，其值域为 $Q=\{q_1,q_2,\cdots,q_N\}$ ；
状态转移矩阵： $A=[a_{ij}]$ ，其中 $a_{ij}=p(i_{t+1}=q_j|i_t=q_i)$ ;
发射矩阵/观测概率矩阵： $B=[b_j(k)]$ ，其中 $b_j(k)=p(o_t=v_k|i_t=q_j)$ .

在 HMM 中，有两个基本假设：

齐次 Markov假设（当前状态仅与前一状态有关）：
$p(i_{t+1}|i_t,i_{t-1},\cdots,i_1,o_t,o_{t-1},\cdots,o_1)=p(i_{t+1}|i_t) \tag{1}$
观测独立假设（当前的观测变量只与当前的状态变量有关）：
$p(o_t|i_t,i_{t-1},\cdots,i_1,o_{t-1},\cdots,o_1)=p(o_t|i_t) \tag{2}$

Evaluation：
在所有参数 $\lambda$ 已知的条件下，观测序列的概率，即 $p(O|\lambda)$ ；
通常采用前向后向算法（Forward-Backward Algorithm）解决。
Learning：
如何求 $\lambda$ ? 即如何求 $\lambda=\mathop{argmax}\limits_{\lambda}p(O|\lambda)$ ？
通常采用EM 算法（即Baum-Welch算法，Baum-Welch算法在EM前提出，后来发现它本质就是EM算法）。
Decoding：
找到一个系列 $I$ 使 $p(I|O,\lambda)$ 最大，即 $I=\mathop{argmax}\limits_{I}p(I|O,\lambda)$ 最大；
通常使用Vierbi 算法；
同时这类问题还可以分成两个小问题
1. 预测问题： $p(i_{t+1}|o_1,o_2,\cdots,o_t)$