,表示不确定性.在特征A的条件下集合D的基尼指数定义为
?
,表示分割后集合D的不确定性.基尼指数越大,样本集合的不确定性也就越大....隐变量:不能被直接观察到,但是对系统的状态和能观察到的输出存在影响的一种东西.
算法:
选择参数的初始值θ(0),开始迭代.注意EM算法对初值是敏感的....隐马尔可夫模型(HMM)
隐马尔可夫模型是关于时序的概率模型,描述由一个隐藏的马尔可夫链随机生成不可观测的状态序列,再由各个状态生成一个观测而产生观测随机序列的过程....,πi表示时刻t=1处于状态qi的概率.隐马尔可夫模型由初始状态概率向量π,状态转移概率矩阵A以及观测概率矩阵B确定.π和A决定即隐藏的马尔可夫链,生成不可观测的状态序列.B决定如何从状态生成观测,与状态序列综合确定了观测序列...近似算法: 在每个时刻t选择在该时刻最有可能出现的状态it*,从而得到一个状态序列作为预测的结果.优点是计算简单,缺点是不能保证状态序列整体是最有可能的状态序列.