开源代理 VisionBridge 让纯文本大模型获得视觉能力
开发者发布 MIT 协议的轻量 OpenAI 兼容代理,可为 DeepSeek、Qwen、GLM 等文本模型外挂视觉理解…
开发者近日在 Reddit r/LocalLLaMA 板块发布了一款名为 VisionBridge 的开源代理工具。它以 MIT 协议开源,定位是一个轻量的 OpenAI 兼容代理,作用是让原本只支持文本的大语言模型获得「看图」能力,整个过程无需训练,也不需要修改模型权重。
项目定位
据作者描述,VisionBridge 的设计思路是用最小的工程代价,把视觉理解能力「外挂」到纯文本推理模型上。它并不是一个新模型,而是一层位于客户端和模型之间的中间代理。在用户层面,调用方式与直接调用 OpenAI 接口的体验一致,便于已有生态接入。
作者在介绍中明确点名支持 DeepSeek、Qwen、GLM 等常见的文本推理模型,意味着这套代理可以搭配本地部署的开源权重模型使用,对关注数据隐私和成本的开发者较为友好。
工作机制
VisionBridge 借助工具调用(tool calling)的方式,将图像相关请求转发给一个独立的视觉模型来处理。它向文本模型暴露了若干工具接口:
- look:让模型查看整张图片
- OCR:从图片中提取文字
- scan:扫描图片内容
- crop:按需裁剪指定区域
- compare:对比多张图片
当文本模型收到包含图像的请求时,会通过这些工具调用把图像处理任务委派给视觉模型,再把结果整合进自己的回答里。这种「分工协作」的模式让纯文本模型在不增加自身参数负担的情况下,获得了多模态理解能力。
许可与适用场景
项目采用 MIT 协议开源,允许自由使用、修改和再分发。由于接口兼容 OpenAI,现有的 OpenAI 生态客户端和上层应用理论上可以直接将后端切换到 VisionBridge + 文本模型 + 视觉模型的组合。对于希望本地运行、避免持续 API 费用的个人开发者和小型团队来说,这种轻量代理提供了一条成本可控的多模态路径。
需要指出的是,原帖披露的信息较为简略,关于视觉模型端如何选型、延迟表现、识别精度等关键指标,作者尚未给出详细数据,社区后续的实测和讨论值得继续关注。
