概率模型与概率图模型

概率模型

概率模型(probabilistic model)提供了一种描述框架,将学习任务归结于计算变量的概率分布。在概率模型中,利用已知变量推测未知变量的分布称为推断(inference),其核心是如何基于可观测变量推测出未知变量的条件分布。假定所关心的变量集合为Y,可观测变量集合为O,其他变量的集合为R。

  • 生成式(generative)模型考虑联合分布P(Y,R,O)
  • 判别式(discriminative)模型考虑条件分布P(Y,R|O)

给定一组观测变量值,推断就是要由P(Y,R,O)或P(Y,R|O)得到条件概率分布P(Y|O)

概率图模型

概率图模型(probabilistic graphical model)是一类用图来表达变量相关关系的概率模型。它以图为表示工具,最常见的是用一个结点表示一个或一组随机变量,结点之间的边表示变量间的概率相关关系,即变量关系图。

根据边的性质不同,概率图模型可大致分为两类

  • 贝叶斯网(Bayesian network):使用有向无环图表示变量间的依赖关系
  • 马尔可夫网(Markovnetwork):使用无向图表示变量间的相关关系,又称为无向图模型

隐马尔可夫模型

隐马尔可夫模型(Hidden Markov Model,HMM)是结构最简单的动态贝叶斯网(dynamic Bayesian network),主要用于时序数据建模。

隐马尔可夫模型中的变量可以分为两组:

  • 状态变量:状态变量yi表示第i时刻的系统状态,通常假定状态变量是隐藏的、不可被观测的,因此也称隐变量(hidden variable)。隐马尔可夫模型中,系统的状态通常在多个状态之间互相转化,因此一般认为状态变量的取值是有限的离散值。
  • 观测变量:观测变量xi表示第i时刻的观测值。它可以是离散型也可以是连续型。

隐马尔可夫模型各变量的依赖关系如下图。在任一时刻,观测变量的取值仅依赖于状态变量,即 xt 仅由 yt 确定;任一时刻的状态变量仅依赖于其上一时刻的状态变量,即 yt 仅依赖于 y(t-1)。这就是马尔可夫链(Markov chain),即:系统下一时刻的状态仅由当前状态决定,不依赖于以往的任何状态。

基于马尔可夫链,所有变量的联合概率分布为:

为确定一个隐马尔可夫模型,需要以下三组参数:

  • 状态转移概率:模型在各个状态间转换的概率,通常记为矩阵A=[aij]N×N,其中
    表示在任意时刻t,若状态为si,则在下一时刻状态为sj的概率
  • 输出观测概率:模型根据当前状态获得各个观测值的概率,通常记为矩阵B=[bij]N×M,其中
    表示在任意时刻t,若状态为si,则观测值oj被获取的概率
  • 初始状态概率:模型在初始时刻各状态出现的概率,通常记为π=(π1, π2, …, πN),其中
    表示模型的初始状态为si的概率

从而,隐马尔可夫模型通常使用 λ=[A, B, π] 来表示。

马尔可夫随机场

马尔可夫随机场(Markov Random Field,MRF)是典型的马尔可夫网,这是一种无向图模型。图中每个结点表示一个或一组变量,结点之间的边表示两个变量之间的依赖关系。马尔可夫随机场有一组势函数(potential functions),亦称因子(factor),这是定义在变量子集上的非负实函数,主要用于定义概率分布函数。

如下图即一个简单的马尔可夫随机场:

马尔可夫随机场计算联合分布

在一个马尔可夫随机场中定义如下概念:

  • (clique):对于图中结点的一个子集,若其中任意两个结点之间都有边连接,则称该子集为一个团
  • 极大团(maximal clique):若某个团加入另外任何一个结点都不能再够成团,则称该团为极大团,即极大团就是不能被其他团所包含的团

马尔可夫随机场中,所有变量的联合概率可以通过团来定义,每个因子仅与一个团相关。若所有的团构成集合C,与团Q相关的变量集合记为xQ,则联合概率定义为:

其中ψQ为与团Q对应的势函数,用于对团Q中的变量关系进行建模

称为规范化因子,一般很难计算,所以往往不需要Z的精确值

为了减少团的数量同时保证满足每个因子仅与一个团相关这个条件,通常使用极大团Q*来计算,使用极大团定义的联合概率为:

马尔可夫随机场中的条件独立性

定义如下概念:

若马尔可夫随机场中,结点集A中的结点到B中的结点都必须经过结点集C中的结点,则称结点集A和B被结点集C分离,结点集C称为分离集(separating set),如图所示:

  • 全局马尔可夫性(global Markov property):给定两个变量子集的分离集,则这两个变量子集条件独立,如上图中,xA和xB在给定xC的条件下独立,记为:
  • 局部马尔可夫性(local Markov property):给定某变量的邻接变量,则该变量条件独立于其他变量。例如,令V为图的结点集,n(v)为结点v在图上的邻接结点,n*(v)=n(v)U{v},有:
  • 成对马尔可夫性(pairwise Markov property):给定所有其他变量,两个非邻接变量条件独立。例如,令图的结点集和边集分别为V和E,对图中的两个结点u和v,若⟨n,v⟩∉E,则:

势函数

势函数定量地刻画变量集xQ中变量之间的相关关系,是非负函数,且在所偏好的变量取值上有较大的函数值,势函数常用指数函数定义:

HQ(xQ)是一个定义在变量xQ上的实值函数,常见形式为:

条件随机场

条件随机场(Conditional Random Field,CRF)是一种判别式无向图模型,对条件分布进行建模。隐马尔可夫模型和马尔可夫随机场为生成式模型,直接对联合分布进行建模。

条件随机场试图对多个变量在给定观测值后的条件概率进行建模。具体来说,若令x={x1, x2, …, xn}为观测序列,y={y1, y2, …, yn} 为与之相应的标记序列,则条件随机场的目标是构建条件概率模型P(y|x)。

令G=<V,E>表示结点与标记变量y中元素一一对应的无向图,yv表示与结点v对应的标记变量,n(v)表示结点v的邻接结点,若图G的每个变量yv都满足马尔可夫性,即:

则G=<V,E>构成一个条件随机场

理论上来说,图G可具有任意结构,只要能表示标记变量之间的条件独立性关系即可。但在现实应用中,尤其是对标记序列建模时,最常用的仍是如下图所示的链式结构,即链式条件随机场(chain-structured CRF):

条件随机场中,通过选用指数势函数并引入特征函数(feature function),条件概率被定义为:

其中tj是定义在观测序列的两个相邻标记位置上的转移特征函数(transition feature function),用于刻画相邻标记变量之间的相关关系以及观测序列对它们的影响,sk是定义在观测序列的标记位置i上的状态特征函数(status feature function),用于刻画观测序列对标记变量的影响,λj和μk为参数,Z为规范化因子。

  • 条件随机场和马尔可夫随机场均使用团上的势函数定义概率,两者在形式上没有显著区别
  • 条件随机场处理的是条件概率,而马尔可夫随机场处理的是联合概率

全文参考:周志华 著 《机器学习》