达摩院开源多模态对话大模型mPLUG-Owl-Toy模板网

这篇具有很好参考价值的文章主要介绍了达摩院开源多模态对话大模型mPLUG-Owl。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

miniGPT-4的热度至今未减，距离LLaVA的推出也不到半个月，而新的看图聊天模型已经问世了。今天要介绍的模型是一款类似于miniGPT-4和LLaVA的多模态对话生成模型，它的名字叫mPLUG-Owl。
达摩院开源多模态对话大模型mPLUG-Owl

论文链接：https://arxiv.org/abs/2304.14178
项目链接：https://github.com/X-PLUG/mPLUG-Owl
在线demo：https://modelscope.cn/studios/damo/mPLUG-Owl/summary

mPLUG-Owl展现出强大的图文理解能力：
达摩院开源多模态对话大模型mPLUG-Owl
以下是本文作者的试用结果：

本文贡献如下：

提出一种新的模块化的训练多模态大模型的方式
提出测评集OwlEval，以便测试多模态模型在视觉相关任务上的能力
开源模型代码，demo代码以及模型权重文件，方便研究者进行进一步的研究。

mPLUG-Owl

模型架构

达摩院开源多模态对话大模型mPLUG-Owl

本文提出了 mPLUG-Owl，其整体架构如图2所示。它由视觉基础模型 $f_V$ 、视觉抽象模块 $f_K$ 以及预训练语言模型 $f_L$ 组成。视觉抽象模块将较长的、细粒度的图像特征概括为少量可学习的 Token，从而实现对视觉信息的高效建模。生成的视觉 Token 与文本查询一起输入到语言模型中，以生成相应的回复。

训练策略

达摩院开源多模态对话大模型mPLUG-Owl

如图1所示，目前存在三种主要的训练策略来训练端到端的多模态LLM模型。这些策略分别是：

在预训练和指令微调阶段冻结视觉模块和语言模块，调整有限的参数，如MiniGPT4。
冻结视觉模块，训练语言模块，如Kosmos-1。
在指令微调阶段冻结视觉模块，训练语言模块，如LLaVA。

然而，这些模型都冻结了视觉模块的参数调整，从而限制了不同模态之间的对齐。此外，它们缺乏单模态和多模态数据的共同训练，难以有效地激发大型模型的各种潜能。

为了克服这些限制，mPLUG-Owl采用了一种不同的训练策略。首先，其使用多模态数据训练视觉模块，并冻结语言模块。这样可以让视觉特征贴合语言特征。然后，其使用多模态和单模态数据联合调整语言模块的LoRA参数，同时冻结视觉模块。这样，模型可以学习多样化的单模态和多模态指令，同时具备单模态和多模态多轮对话能力。