提出背景
论文:https://arxiv.org/pdf/2401.02034.pdf
代码:https://github.com/michael-wzhu/text2dt
假设我们有一本医学指南,其中包含关于诊断和治疗某种疾病的指导。
首先,通过标准化和结构化的方法,我们定义出哪些文本片段表示条件判断(例如,病人年龄超过60岁),哪些表示决策(例如,使用药物A治疗)。
然后,使用构建的Text2MDT基准数据集训练NLP模型,使其能够从类似的医学文本中自动识别和提取这些条件判断和决策。
最终,通过应用预训练模型和特定的算法流程,从文本中抽取出的信息被转化成一个结构化的MDT,明确显示了从条件判断到最终决策的完整路径。
这张图展示的是一个医学决策树(MDT),用于辅助医学决策过程。
是根据某个癫痫临床指南中的内容构建的。
决策树的每个节点代表一个临床决策点,其中包含条件(橙色菱形)和决策节点(蓝色矩形)。
图决策树是这样的:
-
最顶部的框包含了一个临床指南建议:对于普通强直-阵挛发作的患者,首选药物是丙戊酸(Valproic acid)。如果丙戊酸不适合,可以使用拉莫三嗪(Lamotrigine)或苯巴比妥(Phenobarbital)。如果患者还有肌阵挛发作或疑似有儿童肌阵挛发作,则不适合使用拉莫三嗪。
-
在决策树的左侧,如果患者对丙戊酸适应(“Yes”),则继续向下走,如果不适应(“No”),则考虑其他药物。
-
在左侧分支中,如果患者对丙戊酸适应且有其他指定条件(在图中以"null"表示),则选择使用丙戊酸。
-
在右侧分支中,首先判断患者是否有肌阵挛发作,如果没有(“No”),则选择使用苯巴比妥;如果有(“Yes”),则进一步判断是否是儿童肌阵挛发作,是的话(“Yes”),避免使用拉莫三嗪,否则(“No”),使用苯巴比妥或拉莫三嗪。
这种决策树是临床决策支持系统中的一个工具,可以帮助医生根据患者具体情况作出更加精确的药物选择。英文翻译已在图中的括号中提供。
Text2MDT 逻辑
问题:如何从非结构化的医学文本中提取结构化的知识,并构建医学决策树(MDTs)。
解法:Text2MDT 逻辑(从文本到医学决策树的自动化提取)
文本输入: 表示任务的起始点,输入的是医学文本。
三元组提取: 从文本中提取出主体、关系、客体组成的三元组信息。
节点分组: 根据三元组和逻辑关系(如AND、OR)将提取的信息分组到不同的节点。
树组装: 将节点按照逻辑关系组装成一个完整的决策树。
特征1 (节点角色识别):识别决策树中的节点角色,区分条件节点(表示为菱形)和决策节点(表示为矩形)。
首先,我们识别出文本中描述病人状态的部分,这将构成条件节点;然后识别出治疗方案的部分,这将构成决策节点。
为什么需要节点角色识别?
因为医学决策树需要区分条件和决策,这是逻辑流程中的关键部分。
特征2 (三元组提取):从医学文本中提取三元组,每个三元组由主体(sub)、关系(rel)、客体(obj)组成,用于描述医学内容。
从这些部分中提取三元组。例如,如果文本说“如果患者对药物A过敏,使用药物B”,我们将提取三元组(患者,对…过敏,药物A)和(使用,药物,药物B)。
为什么需要三元组提取?
因为决策树的每个节点都基于一组特定的医学事实,这些事实最好以结构化的数据表示,例如三元组。
特征3 (逻辑关系理解):确定节点内三元组之间的逻辑关系,可能是AND、OR或NULL(不存在明确关系)。
确定三元组之间的逻辑关系。在这个例子中,因为药物B的使用取决于对药物A的过敏反应,我们可能会标记这个关系为条件关系(IF-THEN)。
为什么需要理解逻辑关系?
因为医学决策是基于一系列逻辑关系,正确理解这些关系对于构建准确的决策树至关重要。
特征4 (条件判断映射):将条件节点中的条件判断映射到决策树的分支逻辑,即根据条件判断结果是"Yes"或"No"决定接下来的路径。
在决策树中,如果条件判断为“Yes”,我们会向左移动到决策树的下一个节点;如果为“No”,则向右。
为什么需要条件判断映射?
因为决策树的路径取决于条件判断的结果,映射这些结果对于树的结构和最终的决策路径至关重要。
特征5 (决策序列生成):生成节点的预定序列来唯一表示医学决策树。
确定节点的预定序列。
根据前面的条件和决策,我们可以构建一个节点序列,从而生成整个决策树。
为什么需要生成决策序列?
因为最终的目标是生成一个可以代表医学决策过程的结构化决策树,而这需要所有节点和路径按特定顺序排列。
Text2MDT 实现
Text2MDT 实现 = 特征1 + 特征2 + 特征3 + 特征4 + 特征5
特征1:预训练语言模型的应用
- 描述:利用像BERT这样的预训练语言模型(PLMs)来处理医学NLP任务。
特征2:信息提取技术的发展
- 描述:应用不同的模型架构,如Seq2Seq生成模型,来处理不同的细粒度信息提取任务。
特征3:医学信息提取的特殊性
- 描述:考虑医学领域中不连续或嵌套实体的复杂性,以及条件三元组的概念。
特征4:Text2Tree任务的历史和应用
- 描述:从给定文本中提取树结构的NLP任务,如句法分析和语义分析。
特征5:模型架构的趋势
- 描述:从专门的模型过渡到更统一的模型架构,比如利用预训练的编码器模型来提高Text2Tree任务的性能。
例如,在处理一篇关于糖尿病治疗的论文时,模型首先识别出治疗方案、药物剂量和患者条件等实体。
然后,它使用Seq2Seq模型来理解这些实体如何在不同条件下相互作用,比如哪些药物是在餐前使用,哪些是餐后使用。
再接着,模型识别出特定的医学条件三元组,例如,某种药物可能只适用于2型糖尿病患者。
最后,所有这些信息被整合成一个决策树,其中每个节点根据患者的具体情况指导特定的医疗行为。
例如,根节点可能是“患者是否有心脏疾病的病史”,如果答案是肯定的,那么下一个节点可能是“是否应该减少某种药物的剂量”。
而如果答案是否定的,下一个节点可能是“是否可以使用标准剂量”。
这个统一的模型框架可以自动化地从医学文本中提取这些决策点,并构建成一个有助于医生和病人理解和遵循的决策树。
通过这种方式,Text2MDT任务可以帮助将大量的非结构化医学知识转化为结构化的、可操作的决策支持工具。
框架
Text2MDT任务的模型化方法被拆解为两个主要框架:
- 管道化(pipelined)框架
- 端到端(end-to-end)框架
由于没有现有的神经网络方法能直接处理这个新颖的任务,作者提出了两种方法群体:
-
(a) 管道化方法:将Text2MDT任务分解为三个子任务,并利用现有的方法来完成这些子任务。
-
(b) 端到端方法:这是一个具有挑战性的方法,不能由基于编码器的模型处理。研究中利用了最新的开源大型语言模型(LLM)和思路链提示方法(chain-of-thought prompting)来应对端到端方法。
管道化框架
管道化框架将Text2MDT任务分为三个主要步骤:
-
三元组提取:
- 使用统一的三元组提取模型(TEModel)从医学文本中提取代表决策或条件的三元组。
- 三元组由实体对和它们之间的关系组成,关系类型由之前提到的表格定义。
-
节点分组:
- 将提取出的三元组根据逻辑关系分组成不同的节点,这些节点将成为MDT的主要组成部分。
- 使用节点分组双仿射模型(NG-Biaffine)来实现这一步骤。
-
树组装:
- 组装节点以构建医学决策树,涉及为每个节点分配角色(条件或决策)以及确定节点间的连接。
- 树组装也可以看作是实体类型分类和关系提取的联合任务。
端到端框架
端到端框架考虑使用生成性语言模型来一次性完成整个Text2MDT任务。这种方法的关键特点包括:
-
直接生成:
- 询问语言模型(LM)直接根据文本输入生成整个MDT。
-
COT风格生成:
- 鉴于任务的复杂性,考虑了不同的COT风格提示和响应,例如:
- COT-Generation-1: 按照管道框架的步骤,让LM首先生成三元组,然后进行节点分组,最后组装树。
- COT-Generation-2: 将任务分解为更细粒度的子任务,如先生成实体,然后三元组,接着节点分配和角色,最后整个树。
- COT-Generation-3: 要求LM首先提取三元组,然后生成整个MDT。
- COT-Generation-4: 进一步分解三元组提取子任务,让LM先提取实体,然后生成三元组,最后生成整个MDT。
- 鉴于任务的复杂性,考虑了不同的COT风格提示和响应,例如:
管道化框架通过逐步处理每个任务的子部分,逐渐建立起决策树的结构。
而端到端框架则利用生成性语言模型的能力,一次性或通过COT风格的逐步推理生成完整的决策树。
这两种框架各有优势:管道化框架的模块化设计使问题变得更容易管理和优化,而端到端框架更直接和效率高,但需要更复杂的数据处理和训练过程。
效果
Ground Truth(实际情况)、Prediction(预测):
临床指南提及患有鼻咽炎的患者通常会使用的药物,包括治疗鼻塞、发烧时常用的药物,如布洛芬、对乙酰氨基酚等。
- Ground Truth中提及了正确的药物和情况,包括使用药物治疗鼻塞的情况。
- Prediction部分出现错误,它没有预测出应使用的药物,比如未能预测布洛芬和对乙酰氨基酚。
临床指南提及对于低钠血症且年龄超过65岁的男性患者,不建议使用去氨加压素。
- Ground Truth正确识别了患者的基本情况以及不应该使用去氨加压素的指南。
- Prediction部分未能正确预测不应使用去氨加压素,而是错误地将其作为治疗药物。
目前系统的局限性包括:
- 节点的逻辑表达受限,仅限于“和”和“或”逻辑关系,而在更复杂的情况下,可能需要多种逻辑关系的组合。
- 树的表现力有限,当前的决策树在达到一个决策点后就终止,但实际场景应该是一个连续判断和决策的过程。
- 文本长度有限,当前方法仅旨在提取一个段落的医学文本,而实际上,医学知识可能需要基于多个部分或章节。
COT-Generation-3 尽管是一个有前途的方法,但它在三元组提取阶段仍有提升空间,特别是在处理复杂的医学知识时。
- COT-Generation-3可能是一个特定版本的Chain of Thought生成模型,而Text2MDT是它试图解决的任务。
该研究表明,虽然Text2MDT模型在处理某些任务上取得了进展,但还存在局限性和改进空间。文章来源:https://www.toymoban.com/news/detail-829212.html
未来的工作将需要解决逻辑表达的多样性、决策树的连续性以及处理更长文本的能力,以便更准确地从复杂医学文本中提取MDT。文章来源地址https://www.toymoban.com/news/detail-829212.html
到了这里,关于【医学大模型】Text2MDT :从医学指南中,构建医学决策树的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!