【一周资讯】5.1-5.7-Toy模板网

这篇具有很好参考价值的文章主要介绍了【一周资讯】5.1-5.7。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

目前的医学GPT

微软：BioGPT

前不久，微软开源了BioGPT，这是一个大规模生物医学文献上进行预训练的特定领域生成式 Transformer 语言模型。

微软研究团队从 PubMed 收集文章，PubMed 是一个生物医学研究领域的大型数据库，团队共产生1500万条带有标题和摘要的内容，用于训练BioGPT。

团队使用 3.57 亿个参数改进了预训练的基于 GPT-2 的模型，用于下游任务：端到端关系提取、文本生成、问题回答和文档分类。

在回答专业医学问题时，BioGPT也展现出了强大的准确率。BioGPT-Large 在 PubMedQA 上的准确率达到了创纪录的 81%，而单个人类的准确率仅为 78%。大多数其他NLP程序，包括谷歌的 BERT语言模型家族，都没有超过人类的准确性。

谷歌：Med Palm

在 ChatGPT推出仅几周后，2022年12月谷歌/DeepMind 宣布推出MedPaLM，专门用于回答有关医疗保健的问题。

该医学模型也是根据谷歌此前发布的大模型PaLM训练得出，PaLM是一个包含5400亿参数的转换器语言模型，使用新的机器学习系统Pathways进行训练。

Med-PaLM 也是第一个可能通过美国医学执照考试（USMLE）的人工智能模型，人类通过只需60%的准确率，而Med-PaLM 的准确率在67.2%。USMLE是美国执业医师资格考试，是所有医学生成为美国临床执业的路径。

今年4月，谷歌又发布了Med-PaLM2，较上一代版本已经有了很大的提升。

Med-PaLM2是第一个在USMLE问题的MedQA数据集上以“专家”水平表现的语言模型，准确率达到85%以上。

这也是第一个在包括印度AIIMS和NEET医学考试问题的MedMCQA数据集中达到及格分数的人工智能系统，得分72.3%。

目前，谷歌已经将 Med-PaLM 2开放给业内人士使用，同时期望何客户合作，希望将其运用到实际的场景中，以便更大程度的利用该技术。

OpenAI：已将GPT-4尝试用于医疗

OpenAI的研究显示，在没有任何专门的提示的情况下，GPT-4超过了USMLE的及格分数20分以上，并且优于早期的通用模型(GPT-3.5)以及专门针对医学知识进行微调的模型(Med-PaLM, Flan-PaLM 540B的提示调整版本)。

斯坦福：BioMedLM

2022年12月，斯坦福大学的研究人员宣布基于HuggingFace GPT模型训练了2.7B 参数后，得到了生物医学文本的大型语言模型BioMedLM（以前被称为PubMed GPT），在USMLE的医学QA文本上取得了媲美人类的成绩。

百度

2023年2月，百度完成对中国医疗信息数据提供商GBI Health的并购，通过GBI与其类ChatGPT产品“文心一言”等的结合，百度将在医疗商业方案服务领域带来更大影响力，以实现“AI+医疗大数据智能化全链条洞察”。

清华：BioMedGPT

2023年4月19日，清华大学智能产业研究院公布了生物医药领域基础模型BioMedGPT的最新进展，并开源了轻量级科研版基础模型BioMedGPT-1.6B。该模型目标是把分子语言中蕴含的知识以及长期以来通过湿实验总结的文本和知识图谱信息融合压缩到一个大规模语言模型中，从而实现从序列模式中学习生物结构和功能规律，通过AI解码生命语言。