Discord AI 审核系统出 bug，两个月误封超 8000 名用户

Discord 近日公开承认，其平台上的 AI 自动审核系统出现技术故障，在过去两个月里误将大量无害图片识别为违规内容，导致超过 8000 名用户账号被错误封禁。受影响的图片包括电子表格、棋盘、游戏贴图以及白色或灰色透明背景等常见内容。

事件经过与影响范围

Discord 在 X 平台发布的官方说明中表示，该问题自 5 月起就已影响部分账号；直到本周末，又有约 200 名用户因同一 bug 被封禁，随后技术团队定位并修复了故障。目前，所有受影响的账号正在陆续恢复中。

Discord 的自动安全系统采用图像相似度匹配技术，将用户上传内容与已知违规素材库进行比对。该方案用于快速识别违法或不良信息，但 Discord 也承认，匹配机制会产生误报（false positives）。正常流程中，被标记的内容应由 Trust & Safety 团队人工复核后再做处置；然而本次 bug 导致系统在未经人工确认的情况下直接执行了封禁。

误判原因：网格状图案

在 X 和 Reddit 上，多名用户反映自己仅仅因为上传含有方格网格图案的图片就被永久封号。部分用户猜测，Discord 的 AI 审核工具对网格图案越来越敏感，是因为此类图案曾被用于模糊或规避 NSFW 及儿童剥削内容的自动检测。

不少受影响用户在社交媒体上表达了不满。有用户指出，仅凭自动化检测就执行永久封禁，可能对依赖 Discord 进行工作、游戏社群运营或远程社交的用户造成严重影响。

AI 审核的行业性挑战

这并非 Discord 首次因自动化审核引发争议，也不是行业孤例。去年，Instagram 和 Facebook Groups 的用户曾大规模报告不明原因的封号事件，许多人怀疑与 AI 审核有关，但 Meta 从未公开确认是否是 AI 误判所致；目前 Meta 监督委员会正推动提高相关透明度。在此之前，Tumblr 也曾出现用户反映账号被批量封禁且未获明确解释的情况。

随着越来越多平台采用 AI 辅助审核来应对海量违规内容，如何在效率与准确性之间取得平衡、如何避免类似的误封事件，仍是整个行业需要持续面对的课题。