马尔可夫预测模型(与过去无关)
一、定义
设有随机过程,其中状态空间为
若对任意的正整数,任意及任意非负整数,有
则称为离散时间的马尔可夫链,简称马尔可夫链或马氏链.其中上式表示的性质为马尔可夫性或无后效性. 无后效性的直观意义是:如果把时刻看作现在,那么是将来的时刻,而则是以前的时刻,马尔可夫性表示在确切知道系统现在状态的条件下,系统将来状态的概率分布只与现在的状态有关,与之前的状态无关。
二、C-K方程
对于任意的正整数及有:
根据定理(1.1)C-K方程也可以写成矩阵形式为. 因此,我们有步转移概率与一步转移概率之间的关系为
步转移概率矩阵与一步转移概率矩阵的关系为
三、转移概率
条件概率称为在时刻系统从状态经过步,转移到状态的步转移概率,记为
一般地,转移概率不仅与状态和有关,而且与时刻有关,当与无关时,表明马尔可夫链具有平稳的转移概率,此时称马尔可夫链为(时间)齐次的马尔可夫链,并把记为. 以下以仅讨论齐次的马尔可夫链,通常将“齐次”两字省略. 当时,把记为,称为马尔可夫链的一步转移概率. 若用表示马尔可夫链的步转移概率所组成的矩阵,则称为步转移概率矩阵. 此外,特别地,规定
进一步,当时,一步转移概率组成的矩阵. 显然,转移概率矩阵具有如下性质:
即每个元素为非负
即矩阵每行的元素和为1
马氏链模型说明【重在理解】
1.时间、状态均为离散的随机转移过程
2.系统在每个时期所处的状态是随机的
3.从一时期到下时期的状态按一定概率转移
4.下时期状态只取决于本时期状态和转移概率
5.本质:已知现在,将来与过去无关(无后效性)
6.注意转移概率与初始分布的区别与联系
7.每行的概率之和为1
8.求解某马尔可夫链具有稳定性,只看列,而不看行(易错)
题目一
甲、乙两人进行同一场比赛(双方对战),设每局比赛中甲胜的概率是p,乙胜的概率是q,和局的概率是r,其中p+q+r=1。设每局比赛后,胜者记“+1”分,负者记“-1”分,和局不记分。当两人中有一人获得2分结束比赛。以X,,表示比赛至第n局时甲获得的分数。
(1)写出状态空间;
(2)求p(2);
(3)问在甲获得1分的情况下,再赛二局可以结束比赛的概率是多少?
解:
(1)记甲获得“负2分”为状态1,获得“负1分”为状态2,获得“0分”为状态3,获得“正1分”为状态4,获得“正2分”为状态5,则状态空间为:
一步转移概率矩阵
(2)二步转移概率矩阵
(3)
在中是在甲得1分的情况下经二步转移至得2分
是在甲得1分的情况下经二步转移至-2分(即乙得2分)从而结束比赛的概率。
所以题中所求概率为
马尔可夫遍历性与稳定性【计算】
题目二
设马尔可夫链的状态空间为,其一步转移矩阵为
试求证此马尔可夫链具有遍历性,并求其平稳分布.
解:
由于
所以,时,对一切都有,因此该马尔可夫链具有遍历性。
由定理(1.2),建立方程组
解得:
此时,即为该马尔可夫链多平稳分布.
【总结】
本节在于讲述马尔可夫模型(链)的理论知识内容,要求学会理解,会做题,其次在于应用
马尔可夫预测模型——数学模型与数学建模(急救版80+)常考知识点(二)文章来源:https://www.toymoban.com/news/detail-805184.html
若对各位有帮助的,请点赞收藏哦,以防下次找不到了哦!!!文章来源地址https://www.toymoban.com/news/detail-805184.html
到了这里,关于数学模型与数学建模(急救版80+)常考知识点(二)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!