10 - HMM

《统计学习方法》 机器学习

这篇与前面几篇隔了有一段时间，《统计学习方法》后面两章为HMM和CRF，均是概率图模型，而在我心目中，概率图模型是一个非常非常重要的模型，而且其内容有很多，想更多的接触一些概率图的基本思想和定义之后再来看这两章，怕理解不到位更怕写不好。（但昨天面试这部分被当做基础问到了，回答的很模糊，异常尴尬 :<）

《统计学习方法》的HMM部分也已经写得非常好，前人提出的这些方法都很巧妙，如从联合分布$P(O,I)$推导出来观测序列概率的前向算法和后向算法，以及与前向后向算法中间结果得到的EM学习方法，现在只能达到的层次是跟着别人的思路，能够把别人每一步的公式都推出来，然而这只是最低级的一种层次，下一个层次才是给出模型定义和方法思路能够自己推出所有公式整个详细过程。

表示

首先HMM是一个动态的概率有向图模型，这里加一点概率有向图和概率无向图

任何模型最重要的一点是如何用数学的方法来表示，首先来看看HMM如何数学化定义

首先给出手推，稍后再整理