桃子桃子快讯
返回首页
研究论文

预训练多模态大模型可零样本充当文生图奖励模型

新论文提出,冻结参数的预训练多模态大模型可直接作为文生图生成的零样本奖励模型。

2026.07.15 · 周三2 分钟阅读

一篇题为《Read It Back: Pretrained MLLMs Are Zero-Shot Reward Models for Text-to-Image Generation》的论文在社交平台 X 上被公开。该研究探讨的核心问题是:能否在不对模型进行额外微调的前提下,直接利用已有的预训练多模态大语言模型(Multimodal Large Language Model,简称 MLLM)来评估和引导文生图(Text-to-Image,T2I)生成过程。

研究背景

文生图模型在生成质量、文本对齐等方面长期依赖奖励模型进行后训练或推理时引导。传统做法通常需要针对 T2I 任务专门训练或微调一个奖励网络,计算成本较高且依赖大量偏好数据。MLLM 本身已经具备跨模态理解能力,能够判断图像与文本描述之间的一致性,这为将其直接复用为奖励信号提供了理论上的可能性。

核心思路

论文标题中的「Read It Back」暗示了研究方法的关键:让 MLLM 对生成的图像进行「回读」——即根据图像内容反推其对应的文本描述,再与原始 prompt 进行比对。如果回读出的文本与输入 prompt 高度一致,说明图像较好地反映了文本意图;反之则提示需要优化。

  • 零样本:无需为奖励建模任务额外训练或微调 MLLM,直接使用其预训练权重。
  • 通用性:理论上任何具备图文对齐能力的 MLLM 都可以作为奖励信号源。
  • 轻量化:避免了传统奖励模型训练所需的数据标注和算力开销。

潜在意义

如果该方法在实验中验证有效,将为文生图模型的偏好对齐、推理阶段重排序等场景提供一种低成本替代方案,也降低了研究人员进入该领域的门槛。

信息局限

需要指出的是,本次可获取的原文仅为社交平台上一条包含论文标题与链接的推文,论文摘要、作者团队、所属机构、实验设置、benchmark 结果等关键信息尚未给出,无法对论文的具体贡献与方法细节做进一步核实。建议读者查阅原论文全文以了解实验数据与结论。

信源