桃子桃子快讯
返回首页
工具

ASCIITermDraw Bench:测试视觉语言模型生成 ASCII 图能力

社区推出 ASCIITermDraw Bench 基准,含 80 道任务,用于评估 VLM 按指令生成与编辑 ASCII…

2026.07.19 · 周日2 分钟阅读

近日,AI 研究社区在 Hugging Face 上发布了名为 ASCIITermDraw Bench 的基准评测,专门用于衡量当前主流视觉语言模型(VLM)按指令生成与编辑纯文本 ASCII 示意图的能力。区别于常见的代码、数学与推理类基准,该评测聚焦的是模型能否仅用 ASCII 字符准确布局方框、连线、箭头与标签,绘制出可读的架构图、拓扑图等。

评测目标与任务设计

ASCIITermDraw Bench 试图回答一个实际问题:在描述系统架构、网络拓扑或节点集群时,是否可以跳过图像生成器,让 AI 助手直接以简洁的 ASCII 图接收并理解用户意图?该基准认为,虽然不少模型能用自然语言正确描述一张图的构成,但要精确排列元素位置、保留连线关系与箭头方向,是一项独立的、更具挑战性的能力。

基准共包含 80 道任务,覆盖以下四类:

  • 基础方框与布局
  • 网络拓扑图
  • 软件架构图
  • 图像条件下的图编辑:给定一张示意图,要求模型在保留其余内容的前提下,仅修改被指定的部分

任务按多个难度等级划分,并采用统一格式,便于在不同模型、不同类别之间横向对比。

评分方法

每条模型响应会得到两个分数:

  • 结构分:校验必需的标签、边、实体与关系是否齐全
  • 语义分:由 LLM 裁判模型打分,每道任务评估 5 次以减少裁判波动

最终分数在全部 80 道任务上聚合,并以 95% 置信区间呈现,相比单纯判断图是否「看起来对」更为严谨。

当前排行榜

基准已公布第一版模型排行(百分制,含 95% 置信区间):

  • Gemma-4-31B-IT:73.8%(±4.1)
  • Qwen3.7-Plus:70.2%(±4.6)
  • Kimi-K2.6:61.8%(±6.0)
  • MiniMax-M3:59.5%(±6.3)
  • Qwen3.5-9B:47.0%(±6.4)
  • Ternary-Bonsai-27B:45.9%(±7.1)

如何使用

基准提供 12 道示例任务与完整方法论,已开源在 Hugging Face 上,研究者与开发者可自行查阅任务格式、评估流程并复跑测试。该基准为评估 VLM 在「纯文本视觉表达」这一细分能力上提供了量化依据,但适用范围仍偏向终端、文档等轻量绘图场景,距离主流图形设计需求尚有距离。

信源