用 AI 检测 AI 靠谱吗?GPTZero 被收购背后的赛道悖论
Grammarly 母公司收购 GPTZero,AI 检测工具两年增长 190%,但用 AI 检测 AI 本身存在难以自…
6 月 23 日,AI 写作辅助工具 Grammarly 的母公司 Superhuman 宣布收购 AI 内容检测工具 GPTZero。Grammarly 每天帮助约 4000 万人润色文字,GPTZero 则坐拥 1900 万用户、3000 万美元年收入。一边鼓励 AI 写作,一边检测 AI 写作,这场交易本身就把「AI 检测 AI」的悖论摆上了台面。
AI 检测 AI:一个难以自洽的逻辑
用 AI 去检测 AI,核心问题在于:生成模型与检测模型本质上共享同一套技术路线。两者都基于海量人类文本训练,检测工具手里那套「人类写作标准」,生成工具同样掌握。AI 写作本来就是模仿人类写作,再用 AI 去判断 AI 写得像不像人,本身就是一个循环悖论。
更致命的是节奏问题。检测工具要识别一款新模型的输出,需要采集样本、标注数据、训练分类器,这一周期通常需要两三个月甚至更久。但大模型的迭代速度不会等人:GPT-4 在 2023 年 3 月发布,11 月 GPT-4 Turbo 就已亮相,间隔仅八个月,期间 Claude 2、Llama 2 等竞品接连登场。等到检测工具完成训练,新一代更强的模型已经面世。用上一代数据判断新一代输出,准确率天然受限。
AI 幻觉同样困扰着检测环节。检测工具可能把人类写作误判为 AI 生成,也可能把 AI 生成误判为人类写作。让一个会犯错的东西去审判另一个会犯错的东西,最终后果却要人来承担。
现实中已有不少荒诞案例:1776 年托马斯·杰斐逊的《独立宣言》被某检测工具判定为 99.99% 由 AI 生成;一位荣誉退休教授 45 年前写的论文被标为 77% AI 生成。事实上,AI 检测器并不理解文本含义,它们只关注统计特征——词语序列的意外程度、句式结构的变化幅度等。越是用词精准、逻辑严密的文字,越容易被判为 AI 写的,反倒是语序生硬的内容更容易通过检测。
学生与算法的猫鼠游戏
AI 检测最初的需求来自教育领域。ChatGPT 发布后,学生作业和论文的学术诚信受到冲击,2023 年初纽约市教育部一度宣布禁用 ChatGPT。当时还在普林斯顿读大四的爱德华·田用几天时间写出 GPTZero 原型并发到推特,几小时内涌进两千多人,托管平台直接崩溃。三年后,这个项目做到了 3000 万美元年收入。
但现实走向了另一个方向:学生写完论文先过 AI 检测——AI 率太高——把论文故意改差——再过检测——AI 率降了——提交。论文写作不再是对思考和表达的反复打磨,而变成了摸索算法偏好、制造人工痕迹的猫鼠游戏。今年 3 月至 5 月,小红书上涌现出大量「降 AI 率教程」,建议删掉「首先」「综上所述」等容易被标记的开头短句,或用翻译软件来回转换以打乱统计特征。
更严峻的是误判带来的自证困境。2023 年,加州大学戴维斯分校学生威廉·夸特曼在历史考试中被 GPTZero 判定为「很可能由 AI 生成」,教授给了他不及格并启动学术诚信调查。他最终通过 Google Docs 的逐字编辑历史和打字时间线才洗清嫌疑。AI 本应服务于人,如今却反过来要求人向技术证明自己的可信度。
两年增长 190%,合规推力不可忽视
尽管充满矛盾,AI 检测赛道仍在持续扩张。据《2026 AI Detection Landscape Report》,全球 AI 内容检测平台从 2024 年的约 85 个增长到 2026 年的 247 个,两年增长 190%,文本检测平均准确率从 90.1% 提升至 94.3%。
- Originality.ai 推出专为 STEM 学科设计的 Academic Model,可检测包含代码和公式的学术作业,并于 6 月发布 Moodle 插件,集成到教学管理系统。
- Copyleaks 6 月份进入企业级 AI 视频检测赛道,可同时扫描视频文件的视觉与音频轨道,精准定位 AI 生成内容出现的具体时刻。
产品迭代的背后是 AI 合规的硬性推力。利用 AI 换脸和语音克隆实施的诈骗案件激增——福建一位企业负责人被伪造的「好友」视频骗走 430 万元;全国政协委员靳东在今年两会披露,有老人因 AI 伪造的人脸和声音被骗走 27 万元养老钱。
监管层面,2025 年 3 月《人工智能生成合成内容标识办法》发布,要求 AI 生成的文本、图片、音频、视频添加显式和隐式标识;2026 年 6 月短视频平台全面上线 AI 生成内容标注标签;欧盟《人工智能法案》第 50 条关于 AI 标识的透明度义务将于 2026 年 8 月 2 日生效;美国联邦贸易委员会已依据《TAKE IT DOWN Act》对 AI 深度伪造内容进行执法。
边界之内,自由生长
当 AI 生成内容能以假乱真,区分真假就是对更多人负责。学生可以用 AI 辅助学习,但论文需要证明是自己写的;企业可以用 AI 生成营销素材,但不能靠捏造不存在的功能欺骗消费者;普通人刷短视频时,有权知道屏幕里的内容是否真实存在。
AI 检测并不是在限制 AI 发展,而是在为这个快速膨胀的世界标出必要的边界。边界之内,AI 可以自由生长;边界之外,有些东西必须属于人类。这也是为什么一个充满矛盾的赛道,会越走越宽。
