Reddit 用 AI 升级内容审核：日拦截 2300 万垃圾浏览，处理延迟降至 5 秒

Reddit 近日公布了其 AI 自动化内容审核体系的最新升级成果。借助大语言模型与多重信号检测，平台在垃圾信息、虚假投票、仇恨暴力内容等场景的处置效率与精度均有显著提升。这是 Reddit 应对 21 年来持续不断的机器人和垃圾内容挑战的一次大规模 AI 化升级。

自动化防御：拦截规模与精度双提升

Reddit 表示，系统在账户创建阶段即开始信号比对，将可疑行为扼杀在发帖之前。对已发布内容，平台借助 LLM 捕捉那些传统规则系统难以发现的「细微协调造假」与「虚假宣传」模式。官方披露的核心数据包括：

• 每日拦截约 2300 万次垃圾浏览，确保其触达人类用户之前；
• 每日净增识别约 2.5 万条垃圾帖子和评论；
• 2026 年 1 月至 3 月期间用户垃圾信息曝光下降约 20%，整体垃圾账号曝光额外下降 10–15%；
• 过去三个月每日撤销约 200 万虚假投票。

Reddit 强调，「最有效的工作发生在内容被人看到之前」。

仇恨与暴力内容：处置时间从小时压缩到 5 秒

在有害内容侧，Reddit 将自动化审核能力扩展到全英语文本场景，并计划支持更多语言。关键改进体现为：

• 检测到处置的平均时间压缩到 5 秒以内；
• 仇恨与暴力相关执法行动量提升 超过 200%；
• 潜在有害内容曝光下降 逾 40%；
• 误判（合法内容被误删）减少 逾 40%。

这套升级意味着 Reddit 在仇恨、骚扰、协调攻击与暴力威胁等高敏感类目上，已具备近实时的自动化响应能力。

多层防御：平台、版主、用户三位一体

Reddit 强调其安全体系并非单一模型驱动，而是多层防御结构：

• 平台管理员（Safety 团队）：执行全站政策，结合自动化工具与人工审核，团队规模是 Reddit 最大的内部团队之一；
• 社区版主（志愿者）：使用 Reddit 自带的 AI 工具识别低质量贡献者，关键机制包括 Reputation Filter、Crowd Control 与 Ban-Evasion Detection；
• 用户投票机制：每个用户都能通过点赞或点踩直接影响内容可见度，低质量或操纵性内容会被快速压制。

落地背景与意义

Reddit 本身就是高质量人工语料的巨大来源，亦是 AI 训练数据的重要供应商。平台此次升级既是对抗日益泛滥的 AI 生成垃圾内容（AI slop）和机器人行为的自保动作，也是为后续数据策略奠定基础。值得注意的是，Reddit 还在近期宣布对存疑账号进行人机验证，从源头压缩恶意账号的生存空间。

整体来看，这次披露更多偏向平台运营层面的「成果汇报」，但其中提及的 LLM 协同检测模式、量化指标体系，对同样需要应对 UGC 内容风险的 AI 产品仍有一定参考价值。