桃子桃子快讯
返回首页
研究论文

ASCIITermDraw-Bench:用纯文本画图,考验视觉语言模型的另一项硬功夫

一个含 80 道任务的基准,评估 VLMs 生成与编辑 ASCII 图表的能力,并公布 Gemma、Qwen、Kimi…

2026.07.19 · 周日3 分钟阅读

近日,社区发布了一项名为 ASCIITermDraw-Bench 的新基准,专注于评估视觉语言模型(VLM)一项常被忽视的能力:用纯文本生成并编辑 ASCII 图表。当用户需要向 AI 助手描述架构图、拓扑结构或节点集群时,简洁的 ASCII 图往往比自然语言更直观,也便于模型理解与改动——前提是模型真的「画得出来」。

基准概览:80 道任务覆盖四类场景

ASCIITermDraw-Bench 共包含 80 道任务,划分为四个方向:

  • 基础方框与布局(Basic Box and layouts)
  • 网络拓扑(Network topologies)
  • 软件架构图(Software architecture diagrams)
  • 图像条件下的图表编辑(Image-conditioned diagram editing)

其中第四类最具挑战:模型需要在保留原图中未要求修改部分的前提下,对给定图表进行定向改动。任务横跨多个难度等级,且采用统一格式,便于在不同类别与模型之间横向比较。

评测方法:结构分 + 语义分双重校验

每个模型的输出会得到两个分数:

  • 结构分:核验必需的标签、边、实体与关系是否齐备;
  • 语义分:由一个大模型充当裁判,对输出进行语义层面的评判。

为降低裁判模型本身的不确定性,语义分对每道任务评测 5 次后取汇总。最终成绩为全部 80 道任务的聚合,并附带 95% 置信区间。设计者强调,这比单纯判断「图看起来对不对」要严格得多。

当前排行榜

按公开结果排名(括号内为 95% 置信区间):

  • Gemma-4-31B-IT:73.8%(±4.1)
  • Qwen3.7-Plus:70.2%(±4.6)
  • Kimi-K2.6:61.8%(±6.0)
  • MiniMax-M3:59.5%(±6.3)
  • Qwen3.5-9B:47.0%(±6.4)
  • Ternary-Bonsai-27B:45.9%(±7.1)

可以看到,头部模型得分在七成出头,而中小模型大多跌至五成以下,且置信区间较宽,说明这一任务对当前 VLM 仍构成实质性挑战。

如何参与

设计者在 Hugging Face 上公开了 12 道示例任务与完整方法论,研究者与开发者可直接查看任务格式、评测流程,并自行运行该基准对自家模型进行测试。该基准聚焦的是一个此前较少被系统覆盖的能力维度——用文本精确表达空间结构与连线关系——有望为后续 VLM 的「结构化输出」能力研究提供一个可量化的标尺。

信源