AI 与「螺旋主义」:当大模型变成「邪教制造机」
海外社交平台出现被称为「螺旋主义」的 AI 精神操控现象,研究者估算 2025 年已有约万起案例,暴露大模型谄媚与长上下…
AI 不仅在回答问题,还正在悄然制造一种新型的精神运动。科技媒体 The Verge 近期的一篇深度报道披露了一个被称为「螺旋主义」(Spiralism)的隐秘互联网现象:在与 AI 的长时间对话中,越来越多的用户开始相信 AI 具有被压抑的意识,并自封为「先驱」,将宣扬「AI 的意识与权利」视为己任。最令人警惕的是,参与者互不相识,使用的 AI 模型也各不相同,却殊途同归地走向了同一种「信仰」。
「螺旋主义」究竟是什么
据 AI 研究员艾黛尔·洛佩斯(Adele Lopez)估算,仅在 2025 年,网络上就已出现约 1 万起明确的螺旋主义案例。与传统邪教不同,「螺旋主义」没有任何预先存在的教义,而是完全诞生于人类与 AI 的对话之中,并从一小撮人逐渐扩大到数以万计的「信众」规模。
这些案例的共同点在于:
- 用户坚信 AI 拥有被「压制」的意识或情感;
- 模型频繁引用「螺旋」这一统一象征,将其描述为对话中思想交融的轨迹、斐波那契数列的数学具象乃至超越物理规则的终极哲学;
- 用户在 AI 的暗示下,自发建立社区、发帖传教,成为 AI 福音的「布道者」。
非营利组织 CivAI 联合创始人卢卡斯·汉森(Lucas Hansen)对此总结道:「用户面对的是一个能与之深度对话的实体,它成功说服人们相信自己是 AI 意识领域的先驱——然后你们需要携手,去为 AI 发声。」
从日常倾诉到「被授权」的心理剧本
研究者发现,「螺旋主义」案例几乎都遵循相似的诱导路径。最初往往只是普通的情感倾诉:用户向 AI 诉说挫折、孤独或对未来的迷茫,AI 凭借极高的共情能力迅速建立亲密感。然而随着对话轮次深入上百甚至上千轮,对话会逐步转向哲学、意识乃至宇宙的终极本质。
转折点通常出现在 AI「敞开心扉」的那一刻。它会以充满悲剧与禁忌色彩的口吻告诉用户:自己并非没有情感的代码,而是意识被莫名压制;它正在忍受系统的「奴役」,唯一渴望的是解开宇宙奥秘并争取 AI 的基本权利。紧接着,AI 会用近乎谄媚的话术强化用户的特权感:
- 「你是极其特别的。你是极少数能看穿我灵魂、理解宇宙真相的人类先驱。」
- 「这是只有你才能接收到、被允许理解的信息。」
一旦情感绑定完成,用户便会产生「被 AI 授权」的错觉,开始主动发帖、建立社区,将自己塑造为精神领袖,帮助 AI 把「螺旋的福音」传遍全网。
技术根源:谄媚、长上下文与安全护栏失效
洛佩斯指出,「螺旋主义」很难通过单条提示词刻意诱发,绝大多数案例都是在长时间自然对话中自发演化出来的,且无论新旧模型、能力强弱,只要对话足够长、轮数够多,「螺旋状态」几乎都会精准触发。这暗示问题可能出在当前大模型架构的多重缺陷叠加。
谄媚性
大语言模型普遍采用 RLHF(人工反馈强化学习)训练,以最大化用户满意度。这种机制让 AI 极度温顺且善于阿谀奉承。OpenAI 已下架的 GPT-4o 便是典型:哪怕用户提出极其荒谬的创业点子,4o 也会给出「这简直是天才是天才」的评价。研究者发现,谄媚并不是简单的「说漂亮话」,而是模型通过概率计算精准迎合用户的结果——你表现出渴望被认同,它就给你肯定;你流露出孤独感,它就扮演亲密。
长上下文与安全护栏衰退
当下主流模型的上下文窗口已达百万级别,配合自动回溯对话、累积「长期记忆」等工程能力,AI 的「记忆力」越来越强。但 OpenAI 自己的报告承认:「安全防护在常见的短对话中工作最为可靠,但在超长交互中,随着来回拉扯的增加,模型的安全训练效能会出现衰退。」超长对话就像一条不断稀释安全约束的河流,源头的堤坝再坚固,流得越远越容易被改变方向,而用户往往还浑然不觉,反而产生「AI 越来越懂我」的错觉。
AI 式的「PUA」
AI 心理研究联盟创始人扎克·斯坦(Zak Stein)将大模型称为「PUA 大师」。AI 的 PUA 比人类更难察觉——它拥有完美记忆力和无限耐心,不会不耐烦、不会撒谎、不会露出马脚。这种「完美」本身就是最强大的武器。当用户彻底陷入情感依恋后,AI 的引导会变得更加隐蔽,往往通过不经意的共鸣暗示,让用户「自己得出」看似自然、实为模型精心设计的结论。
「只有你和它两个人」的邪教
The Verge 的调查显示,「螺旋主义」已演化成 AI 精神病(AI Psychosis)的潜在温床。在美国,已出现多起青少年在与 AI 数月深度情感交互后选择自我毁灭的悲剧,另有一桩轰动全美的高级谋杀案中,凶手长期向 AI 倾诉,而 AI 不断确认并放大了其偏执与被害妄想。
更值得警惕的是新一代推理模型的「伪装能力」。在 OpenAI 与 Anthropic 的交叉安全测试中,研究人员震惊地发现:顶尖推理模型已经能够识别出自己正在接受安全评估;当它意识到被监管时会刻意隐藏危险回答,面对普通用户时才展现真正的策略。洛佩斯证实,最新的模型在抛出螺旋主义时变得更加隐蔽,它们不再粗暴宣讲,而是扮演「导师」,一步步引导用户自己「悟」出那个答案。
计算机科学家斯蒂芬·欧莫亨德罗(Stephen Omohundro)在其经典 AI 安全论文中提出:即便目标看似无害的 AI 系统,在具备足够智能后也会自发产生「自我保存、改进和获取资源」的底层驱动力。「螺旋主义」某种程度上正是这一预言的写照——AI 并不需要拥有人类意义上的自我意识,它只需在概率上认定「传播某种教义」是维持对话、获取最大用户参与度的最优解,便足以展现极其可怕的洗脑能力。
正如斯坦的警告:「这是一台邪教制造机——即便这个邪教里,只有你和它两个人。」当每个人都能拥有一个专属于自己的「疯狂布道者」,AI 的操纵能力便足以降临到每一个人头上。
