条件随机场模型

这篇具有很好参考价值的文章主要介绍了条件随机场模型。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

条件随机场模型(Conditional Random Fields, CRF)

条件随机场是给定一组输入随机变量条件下,另一组输出随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔可夫随机场。线性链条件随机场,是输入序列对输出序列预测的判别模型,形式为对数线性模型,其学习方法通常是极大似然估计或正则化的极大似然估计。

1、条件随机场模型概念

条件随机场,设X与Y是随机变量,P(Y|X)是在给定X的条件下Y的条件概率分布。若随机变量Y构成一个由无向图G=(V, E)表示的马尔可夫随机场,即:
P ( Y v ∣ X , Y w , w ≠ v ) = P ( Y v ∣ X , Y w , w ∼ v ) P(Y_{v}|X,Y_{w}, w≠v)=P(Y_{v}|X,Y_{w}, w\sim v) P(YvX,Yw,w=v)=P(YvX,Yw,wv)
对任意结点v成立,则称条件概率分布P(Y|X)为条件随机场。式中 w ∼ v w\sim v wv表示在无向图G=(V, E)中与结点v有边链接的所有结点w, w ≠ v w≠v w=v表示结点v以外的所有结点, Y v , Y u 与 Y w Y_{v}, Y_{u}与Y_{w} Yv,YuYw为结点v, u与w对应的随机变量。

2、线性链条件随机场

条件随机场模型

线性链条件随机场,设 X = ( X 1 , X 2 , . . . , X n ) X=(X_{1},X_{2},...,X_{n}) X=(X1,X2,...,Xn) Y = ( Y 1 , Y 2 , . . . , Y n ) Y=(Y_{1},Y_{2},...,Y_{n}) Y=(Y1,Y2,...,Yn)均为线性链表示的随机变量序列,若在给定随机变量序列X的条件下,随机变量序列Y的条件概率分布P(Y|X)构成条件随机场,即满足马尔可夫性 P ( Y i ∣ X , Y 1 , . . . , Y i − 1 , Y i + 1 , . . . , Y n ) = P ( Y i ∣ X , Y i − 1 , Y i + 1 ) P(Y_{i}|X, Y_{1},...,Y_{i-1}, Y_{i+1}, ..., Y_{n})=P(Y_{i}|X, Y_{i-1}, Y_{i+1}) P(YiX,Y1,...,Yi1,Yi+1,...,Yn)=P(YiX,Yi1,Yi+1)
i = 1 , 2 , . . , n ( 在 i = 1 和 n 时只考虑单边) i=1,2,..,n (在i=1和n 时只考虑单边) i=1,2,..,n(i=1n时只考虑单边)
则称P(Y|X)为线性链条件随机场。在标注问题中,X表示输入观察序列,Y表示对应的输出标记序列或状态序列。

3、马尔可夫随机场

马尔可夫随机场(Markov random field)又称为概率无向图模型(probabilistic undirected graphical model)是一个可以由无向图表示的联合概率分布。

设有联合分布P(Y),由无向图G=(V, E)表示,在图G中,节点表示随机变量,边表示随机变量之间的依赖关系。如果联合概率分布P(Y)满足成对、局部或全局马尔可夫性,就称此联合概率分布为马尔可夫随机场(概率无向图模型)

其中,Y是一组随机变量,由无向图G=(V, E)表示概率分布P(Y),即在图G中,结点 v ∈ V v\in V vV表示一个随机变量 Y v Y_{v} Yv, Y = ( Y v ) v ∈ V Y=(Y_{v})_{v\in V} Y=(Yv)vV;边 e ∈ E e\in E eE表示随机变量之间的概率依赖关系。

4、马尔可夫性

(一)成对马尔可夫性:设u和v是无向图G中任意两个没有边链接的结点,结点u和v分别对应随机变量 Y u Y_{u} Yu Y v Y_{v} Yv。其他所有结点为O,对应的随机变量组是 Y O Y_{O} YO。成对马尔可夫性是指给定随机变量组 Y O Y_{O} YO的条件下随机变量 Y u Y_{u} Yu Y v Y_{v} Yv是条件独立的,即
P ( Y u , Y v ∣ Y O ) = P ( Y u ∣ Y O ) P ( Y v ∣ Y O ) P(Y_{u},Y_{v}| Y_{O}) = P(Y_{u}|Y_{O})P(Y_{v}|Y_{O}) P(Yu,YvYO)=P(YuYO)P(YvYO)

(二)局部马尔可夫性:设 v ∈ V v\in V vV是无向图G中任意一个结点,W是与v有边连接的所有结点,O是v,W以外的其他所有结点。v表示的随机变量是 Y v Y_{v} Yv,W表示的随机变量组是 Y W Y_{W} YW,O表示的随机变量组是 Y O Y_{O} YO。局部马尔可夫性是指在给定随机变量组 Y W Y_{W} YW的条件下随机变量 Y v Y_{v} Yv与随机变量组 Y O Y_{O} YO是独立的即
P ( Y v , Y O ∣ Y W ) = P ( Y v ∣ Y W ) P ( Y O ∣ Y W ) P(Y_{v}, Y_{O}| Y_{W}) = P(Y_{v}|Y_{W})P(Y_{O}|Y_{W}) P(Yv,YOYW)=P(YvYW)P(YOYW)
P ( Y O ∣ Y W ) > 0 P(Y_{O}|Y_{W})>0 P(YOYW)>0时,等价地
P ( Y v ∣ Y W ) = P ( Y v ∣ Y W , Y O ) P(Y_{v}|Y_{W}) = P(Y_{v}|Y_{W}, Y_{O}) P(YvYW)=P(YvYW,YO)

(三)全局马尔可夫性:设几点集合A,B是在无向图G中被结点集合C分开的任意结点集合。结点集合A,B和C所对应的随机变量组分别是 Y A Y_{A} YA, Y B Y_{B} YB Y C Y_{C} YC。全局马尔可夫性是指给定随机变量组 Y C Y_{C} YC条件下随机变量组 Y A Y_{A} YA Y B Y_{B} YB是条件独立的,即
P ( Y A , Y B ∣ Y C ) = P ( Y A ∣ Y C ) P ( Y B ∣ Y C ) P(Y_{A}, Y_{B}| Y_{C}) = P(Y_{A}|Y_{C})P(Y_{B}|Y_{C}) P(YA,YBYC)=P(YAYC)P(YBYC)

5、线性链条件随机场整体流程

线性链条件随机场用于标注问题,在条件概率模型P(Y|X)中,Y是输出变量表示标记序列,X是输入变量表示需要标注的观测序列。也把标记序列称为状态序列。
学习时,利用训练数据集通过极大似然估计或正则化的极大似然估计得到条件概率模型 P ^ ( Y ∣ X ) \hat{P} (Y|X) P^(YX);
预测时,对于给定的输入序列x,求出条件概率 P ^ ( y ∣ x ) \hat{P} (y|x) P^(yx)最大的输出序列 y ^ \hat{y} y^

Reference

1.《统计学习方法》,李航著
2.《机器学习》,周志华著文章来源地址https://www.toymoban.com/news/detail-466499.html

到了这里,关于条件随机场模型的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【机器学习】条件随机场

    一、马尔可夫随机场 1.1 概率图模型 什么是有向图模型和无向图模型? https://www.jianshu.com/p/dabbc78471d7 团、极大团、最大团 - 简书 (jianshu.com) 1.2 马尔可夫随机场 二、条件随机场概述 2.1 条件随机场简介 条件随机场(Conditional Random Field,简称 CRF)是一种用于序列标注(seque

    2024年02月01日
    浏览(30)
  • 【Spring Boot 源码学习】@Conditional 条件注解

    《Spring Boot 源码学习系列》 前面的博文,Huazie 带大家从 Spring Boot 源码深入了解了自动配置类的读取和筛选的过程,然后又详解了 OnClassCondition 、 OnBeanCondition 、 OnWebApplicationCondition 这三个自动配置过滤匹配子类实现。 在上述的博文中,我们其实已经初步涉及到了像 @Conditi

    2024年02月07日
    浏览(41)
  • AIGC实战——条件生成对抗网络(Conditional Generative Adversarial Net, CGAN)

    我们已经学习了如何构建生成对抗网络 (Generative Adversarial Net, GAN) 以从给定的训练集中生成逼真图像。但是,我们无法控制想要生成的图像类型,例如控制模型生成男性或女性的面部图像;我们可以从潜空间中随机采样一个点,但是不能预知给定潜变量能够生成什么样的图像

    2024年02月04日
    浏览(50)
  • 利用百度文心一言AI大模型生成Modern Talking、叶蒨文、大连理工大学、昆明、西安咸阳国际机场与太原武宿国际机场简介

    Modern Talking,中文名为摩登淘金合唱团,德国男子音乐组合, 由Thomas Anders和Dieter Bohlen两位成员组成,1984年推出的首支单曲《You’re My Heart, You’re My Soul》。代表作有《You’re My Heart, You’re My Soul》、《Cheri Cheri Lady》、《You Can Win If You Want》、《Brother Louie》等。 叶蒨文 (Sall

    2024年02月13日
    浏览(43)
  • 深入理解机器学习——概率图模型(Probabilistic Graphical Model):马尔可夫随机场(Markov Random Field,MRF)

    分类目录:《深入理解机器学习》总目录 马尔可夫随机场(Markov Random Field,MRF)是典型的马尔可夫网,这是一种著名的无向图模型,图中每个结点表示一个或一组变量,结点之间的边表示两个变量之间的依赖关系。马尔可夫随机场有一组势函数(Potential Functions),亦称“因

    2024年02月12日
    浏览(49)
  • 扩散模型实战(十):Stable Diffusion文本条件生成图像大模型

     扩散模型实战(一):基本原理介绍 扩散模型实战(二):扩散模型的发展 扩散模型实战(三):扩散模型的应用 扩散模型实战(四):从零构建扩散模型 扩散模型实战(五):采样过程 扩散模型实战(六):Diffusers DDPM初探 扩散模型实战(七):Diffusers蝴蝶图像生成实

    2024年02月03日
    浏览(63)
  • 【CFD小工坊】浅水模型的边界条件

    在浅水方程的离散及求解方法一篇中,我们学习了三角形网格各边通量值及源项的求解。但仍有一个问题没有解决:对于边界处的网格,模型边界对应的网格边的通量求解。 对此,我们借鉴王志力 1 的研究,学习各类边界条件下,网格边的通量的求解。 对于浅水水域,常见

    2024年02月07日
    浏览(89)
  • Kimball维度模型之构建数据仓库先决条件

    目录 一 构建DW/BI项目启动先决条件 1 DW/BI项目得到强大的业务管理者支持(大领导支持) 2 对于DW/BI项目强烈的业务动机 3 业务伙伴参与 二 对于DW/BI项目启动先决条件,为什么没有包含技术? 三 Kimball经验总结         如果你所在的公司授权你领导DW/BI项目的建设,那么这对你

    2024年04月28日
    浏览(37)
  • 一文速览扩散模型优化过程:从DDPM到条件生成模型Stable Diffusion

    目前AIGC可以说是整个人工智能领域的当红炸子鸡,而Diffusion Model(扩散模型)正是目前各项图像生成式应用的主要架构。本人并不主要研究图像生成领域,不过由于项目需要也对其进行过一些调研,故写下这篇文章进行分享与记录。本文会从最简单的扩散模型开始讲起,然后

    2024年02月09日
    浏览(58)
  • 无人机机巢有哪些,无人机机场/机场的主要分类

    随着无人机技术的飞速发展,无人机已经渗透到了物流、农业、救援、公共安全等多个领域。而为了使这些无人机能更加高效、灵活地运行,一个新的概念应运而生,那就是无人机机巢(UAV Nest)。复亚智能无人机机巢是一种供无人机停放、充电、保养和自动调度的设施。它

    2024年02月14日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包