多模态大模型综述
本文基于微软七位研究员撰写的 119 页综述，从目前已经完善和还处于最前沿的两类多模态大模型研究方向出发，全面总结了五个具体研究主题：
- 视觉理解
- 视觉生成
- 统一视觉模型
- LLM 加持的多模态大模型
- 多模态 agent
并重点关注到一个现象：多模态基础模型已经从专用走向通用。
一文摸清多模态大模型现状
这五个具体主题中的前 2 个为目前已经成熟的领域，后 3 个则还属于前沿领域。
1、视觉理解
这部分的核心问题是如何预训练一个强大的图像理解 backbone。根据用于训练模型的监督信号的不同，我们可以将方法分为三类：标签监督、语言监督（以 CLIP 为代表）和只有图像的自监督。
其中最后一个表示监督信号是从图像本身中挖掘出来的，流行的方法包括对比学习、非对比学习和 masked image 建模。在这些方法之外，文章也进一步讨论了多模态融合、区域级和像素级图像理解等类别的预训练方法。
2、视觉生成
这个主题是 AIGC 的核心，不限于图像生成，还包括视频、3D 点云图等等。并且它的用处不止于艺术、设计等领域——还非常有助于合成训练数据，直接帮助我们实现多模态内容理解和生成的闭环。
在这部分，作者重点讨论了生成与人类意图严格一致的效果的重要性和方法（重点是图像生成）。具体则从空间可控生成、基于文本再编辑、更好地遵循文本提示和生成概念定制（concept customization）四个方面展开。
在本节最后，作者还分享了他们对当前研究趋势和短期未来研究方向的看法。即，开发一个通用的文生图模型，它可以更好地遵循人类的意图，并使上述四个方向都能应用得更加灵活并可替代。
3、统一视觉模型
这部分讨论了构建统一视觉模型的挑战：一是输入类型不同；二是不同的任务需要不同的粒度，输出也要求不同的格式；三是在建模之外，数据也有挑战。比如不同类型的标签注释成本差异很大，收集成本比文本数据高得多，这导致视觉数据的规模通常比文本语料库小得多。
不过，尽管挑战多多，作者指出 CV 领域对于开发通用、统一的视觉系统的兴趣是越来越高涨，还衍生出来三类趋势：
- 从闭集（closed-set）到开集（open-set），它可以更好地将文本和视觉匹配起来。
- 从特定任务到通用能力，这个转变最重要的原因还是因为为每一项新任务都开发一个新模型的成本实在太高了。
- 从静态模型到可提示模型，LLM 可以采用不同的语言和上下文提示作为输入，并在不进行微调的情况下产生用户想要的输出。我们要打造的通用视觉模型应该具有相同的上下文学习能力。
4、LLM 加持的多模态大模型
本节全面探讨多模态大模型。先是深入研究背景和代表实例，并讨论 OpenAI 的多模态研究进展，确定该领域现有的研究空白。
接下来作者详细考察了大语言模型中指令微调的重要性。再接着，作者探讨了多模态大模型中的指令微调工作，包括原理、意义和应用。
最后，涉及多模态模型领域中的一些高阶主题，方便我们进行更深入的了解，包括：更多超越视觉和语言的模态、多模态的上下文学习、参数高效训练以及 Benchmark 等内容。
5、多模态 agent
所谓多模态 agent，就是一种将不同的多模态专家与 LLM 联系起来解决复杂多模态理解问题的办法。
这部分，作者主要先带大家回顾了这种模式的转变，总结该方法与传统方法的根本差异。然后以 MM-REACT 为代表带大家看了这种方法的具体运作方式。
接着全面总结了如何构建多模态 agent，它在多模态理解方面的新兴能力，以及如何轻松扩展到包含最新、最强的 LLM 和潜在的数百万种工具中。
当然，最后也是一些高阶主题讨论，包括如何改进/评估多多模态 agent，由它建成的各种应用程序等。
作者介绍
本报告一共 7 位作者。
发起人和整体负责人为 Chunyuan Li。
他是微软雷德蒙德首席研究员，博士毕业于杜克大学，最近研究兴趣为 CV 和 NLP 中的大规模预训练。他负责了开头介绍和结尾总结以及'利用 LLM 训练的多模态大模型'这章的撰写。
核心作者一共 4 位：
- Zhe Gan：目前已进入 Apple AI/ML 工作，负责大规模视觉和多模态基础模型研究。此前是 Microsoft Azure AI 的首席研究员，北大本硕毕业，杜克大学博士毕业。
- Zhengyuan Yang：微软高级研究员，罗切斯特大学博士毕业，获得了 ACM SIGMM 杰出博士奖等荣誉，本科就读于中科大。
