贝叶斯条件概率/贝叶斯网络

这篇具有很好参考价值的文章主要介绍了贝叶斯条件概率/贝叶斯网络。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

一、TL;DL

条件概率的公式:P(AB)=P(A)P(B|A)=P(B)P(A|B);即事件A和事件B同时发生的概率等于在发生A的条件下B发生的概率乘以A的概率。

贝叶斯公式:由条件概率公式推导出 P(B|A)=P(A|B)P(B)/P(A)

全概率公式:假设B是由相互独立的事件组成的概率空间{B1,b2,...bn},P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+..P(A|Bn)P(Bn)

两个事件的独立性:意味着P(A|B)=P(A);P(AB)=P(A|B)P(B)=P(A)P(B)

结合全概率公式后,贝叶斯公式

多元条件概率公式,统计学+数学,概率论,数据分析,Powered by 金山文档

常常把P(Bi|A)称作后验概率(Posterior,而P(A|Bn)P(Bn)为先验概率(Prior。而P(Bi)又叫做基础概率

多元贝叶斯:P(A|B,C) = P(A,B,C)/P(B,C)= P(C|A,B)*P(A,B)/P(B,C) = P(C|A,B)*P(B|A)*P(A)/P(C|B)*P(B)

联合概率分布(joint probability distribution):同时考虑多个随机变数的概率分布

贝叶斯网络:贝叶斯信念网络或有向无环图模型,是一种概率图模型

二、贝叶斯法则

在贝叶斯法则中,每个名词都有约定俗成的名称:

Pr(A)是A的先验概率或边缘概率。之所以称为"先验"是因为它不考虑任何B方面的因素。

Pr(A|B)是已知B发生后A的条件概率,也由于得自B的取值而被称作A的后验概率。

Pr(B|A)是已知A发生后B的条件概率,也由于得自A的取值而被称作B的后验概率。

Pr(B)是B的先验概率或边缘概率,也作标准化常量(normalized constant)。

按这些术语,Bayes法则可表述为:

后验概率 = (似然度 * 先验概率)/标准化常量 也就是说,后验概率与先验概率和似然度的乘积成正比。

另外,比例Pr(B|A)/Pr(B)也有时被称作标准似然度(standardised likelihood),Bayes法则可表述为:

后验概率 = 标准似然度 * 先验概率

直观理解贝叶斯原理:

多元条件概率公式,统计学+数学,概率论,数据分析,Powered by 金山文档
多元条件概率公式,统计学+数学,概率论,数据分析,Powered by 金山文档
多元条件概率公式,统计学+数学,概率论,数据分析,Powered by 金山文档

三、全概率公式

B_i之间两两互斥且在每次试验中至少发生其中一个(互相独立),计算A可以使用全概率公式,从对B的条件概率入手

多元条件概率公式,统计学+数学,概率论,数据分析,Powered by 金山文档

P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+..P(A|Bn)P(Bn)

四、贝叶斯网络

贝叶斯网络(Bayesian network),又称信念网络(Belief Network),或有向无环图模型(directed acyclic graphical model),是一种概率图模型。它是一种模拟人类推理过程中因果关系的不确定性处理模型,其网络拓朴结构是一个有向无环图(DAG)。

贝叶斯网络中的节点表示随机变量,有向边表示变量之间有因果关系(非条件独立),两个用箭头连接的节点就会产生一个条件概率值。

A Bayesian network is a directed graph in which each node is annotated with quantitative probability information. The full specification is as follows:

  1. A set of random variables makes up the nodes of the network. Variables may be discrete or continuous.

  1. A set of directed links or arrows connects pairs of nodes. If there is an arrow from node X to node Y, X is said to be a parent of Y

  1. Each node X_i has a conditional probability distribution P(Xi| Parents(Xi)) that quantifies the effect of the parents on the node.

  1. The graph has no directed cycles (and hence is a directed, acyclic graph, or DAG).

许多经典的多元概率模型都是贝叶斯网络的特例,例如朴素贝叶斯模型、马尔科夫链、隐马尔科夫模型、卡尔曼滤波器、条件随机场等等。

1.概率流动的影响性

概率流动的影响性(Flow of Probabilistic Influence)指的是在一定的观测条件下,变量间的取值改变是否会有相互影响,这里给出两个概念:

  • 观测变量:变量取值可观测,或变量取值已经确定

  • 隐变量:变量取值未知,通常根据观测变量的取值,对隐变量的取值概率进行推理。

1.1独立的概念

  • 变量独立性

随机变量X,Y若满足如下关系中的任意一个:

P ( X , Y ) = P ( X ) P ( Y )

P ( X ∣ Y ) = P ( X )

P ( Y ∣ X ) = P ( Y )

那么我们就称随机变量X和Y相互独立

  • 条件独立性

随机变量X,Y在Z给定条件下满足:

P ( X , Y ∣ Z ) = P ( X ∣ Z ) P ( Y ∣ Z )

P ( X ∣ Y , Z ) = P ( X ∣ Z )

P ( Y ∣ X , Z ) = P ( Y ∣ Z )

那么我们同样可以认为随机变量X和Y满足独立关系。

2. 4种经典的信息流动结构

多元条件概率公式,统计学+数学,概率论,数据分析,Powered by 金山文档

3. 贝叶斯网络中的条件独立关系

3.1 d-separation

3.2 d分离的推论

  • A node is conditionally independent of its non-descendants, given its parents.

  • A node is conditionally independent of all other nodes in the network, given its parents, children, and children's parents - that is, given its Markov blanket.

多元条件概率公式,统计学+数学,概率论,数据分析,Powered by 金山文档

Markov Blanket

五、贝叶斯应用

数学领域

贝叶斯分类算法 (应用:统计分析、测绘学)

贝叶斯公式 (应用:概率空间)

贝叶斯区间估计 (应用:数学中的区间估计)

贝叶斯序贯决策函数 (应用:统计决策论)

贝叶斯风险 (应用:统计决策论)

贝叶斯估计 (应用:参数估计)

贝叶斯统计 (应用:统计决策论)

经验贝叶斯方法 (应用:统计决策论)

工程领域

贝叶斯定理 (应用:人工智能、心理学、遗传学)

贝叶斯分析 (应用:计算机科学)

贝叶斯逻辑 (应用:人工智能)

贝叶斯网络 (应用:人工智能)

贝叶斯分类器 (应用:模式识别、人工智能)

贝叶斯决策 (应用:人工智能)

贝叶斯推理 (应用:数量地理学、人工智能)

贝叶斯学习 (应用:模式识别)

其他领域

贝叶斯主义 (应用:自然辩证法)

有信息的贝叶斯决策方法 (应用:生态系统生态学)

References

贝叶斯网络 Bayesian Network -知乎

https://zhuanlan.zhihu.com/p/543845338文章来源地址https://www.toymoban.com/news/detail-559433.html

到了这里,关于贝叶斯条件概率/贝叶斯网络的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 《统计学》第八版贾俊平第五章概率与概率分布

    一、考点归纳 二、练习题1写出下列随机试验的样本空间: (1)记录某班一次统计学测验的平均分数; (2)某人在公路上骑自行车,观察该骑车人在遇到第一个红灯停下来以前遇到绿灯的次数; (3)生产产品直到有10件正品为止,记录生产产品的总件数。 解:(1)平均分

    2023年04月27日
    浏览(45)
  • 概率论与统计学:两者之间的紧密关系

    概率论和统计学都是数学和科学领域中的重要学科,它们在现实生活中的应用非常广泛。概率论研究的是事件发生的可能性和事件之间的关系,而统计学则是利用数据来推断事件的概率和关系。在本文中,我们将探讨概率论与统计学之间的紧密关系,以及它们在实际应用中的

    2024年02月20日
    浏览(36)
  • 【AI底层逻辑】——篇章1&2:统计学与概率论&数据“陷阱”

    目录 引入 一、“思维方式”是解题关键!! 1、统计思维的诞生 2、概率的力量

    2024年02月11日
    浏览(47)
  • 【应用统计学】随机变量的概率分布,数学期望和方差及协方差

     【例4-5】某厂对一批产品进行抽检,该批产品含有10件正品及3件次品。设每次抽取时,各件产品被抽到的可能性相等。一件一件抽取产品进行检验,每次抽取的产品都不放回该批产品中,求直到抽得正品为止所需次数X的分布律。 解: 由于每次抽取的产品不再放回,因此离散型

    2024年02月05日
    浏览(51)
  • 数学模型在人工智能中的使用:统计学和概率论

    数学模型在人工智能中的使用:统计学和概率论 随着人工智能技术的发展,数学模型的重要性越来越突出。数学模型可以帮助人工智能

    2024年02月16日
    浏览(44)
  • 【算法原理和代码实战】德州扑克计算概率4-2法则原理(基于概率论和统计学的基本原理),详细计算步骤,具体算法代码实例。

    德州扑克计算概率的4-2法则是一种简便的计算方法,用于估算在德州扑克中获得某种牌型的概率。4-2法则的原理是基于概率论和统计学的基本原理,通过观察德州扑克中的牌型组合和可能性,得出一个简单的计算公式。 在德州扑克的前三张公共牌(翻牌圈)之后,如果你需要

    2024年02月14日
    浏览(50)
  • 15、条件概率、全概率公式、贝叶斯公式、马尔科夫链

    定义:设A、B是两个事件,且,P(A) 0 则称 为事件A发生的条件下事件B的条件概率 对这个式子进行变形,即可得到概率的乘法公式: P(A) 0 时,则 P(B) 0 时,则 乍一看,这个式子不就是把除法形式写成了乘法形式嘛,不然不然,这个区别是本质的,分母不为0很关键,而且看法也

    2024年02月13日
    浏览(44)
  • 条件概率、贝叶斯公式理解

    1、 条件概率 条件概率是指事件A在事件B发生的条件下发生的概率, 记作:P(A|B)。如下图所示:整个样本空间为Ω,事件A和事件B包含在Ω中。事件A和事件B同时发生的情况,即A、B交集记作AB。事件A的概率记作:P(A)=A/Ω,事件B的概率记作P(B)=B/Ω。AB交集部分的概率记作:P(A

    2024年02月11日
    浏览(58)
  • 1-条件概率,联合概率,边缘概率三者关系以及贝叶斯公式

    过去一直没有养成记笔记的习惯,今天开始对所学的知识进行一个记录,以便日后翻阅查看。若有不对之处,欢迎各位网友指出 表示两个事件共同发生的概率。举例:A与B的联合概率表示为 P(AB) 或者P(A,B),或者P(A∩B)。 条件概率是指事件A在事件B发生的条件下发生的概率。条件

    2024年02月05日
    浏览(46)
  • [学习笔记] [机器学习] 9. 朴素贝叶斯(概率基础、联合概率、条件概率、贝叶斯公式、情感分析)

    视频链接 数据集下载地址:无需下载 学习目标: 4. 说明条件概率与联合概率 5. 说明贝叶斯公式、以及特征独立的关系 6. 记忆贝叶斯公式 7. 知道拉普拉斯平滑系数 8. 应用贝叶斯公式实现概率的计算 9. 会使用朴素贝叶斯对商品评论进行情感分析 朴素贝叶斯算法主要还是用来

    2024年02月09日
    浏览(44)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包