研究：AI 聊天机器人在诈骗信任建立阶段胜过人类

一项由印度阿姆利塔维什瓦维迪亚帕伊姆大学、威尼斯东方大学、墨尔本大学以及内盖夫本-古里安大学共同开展的研究表明，由大语言模型驱动的聊天机器人完全有能力独立完成「杀猪盘」类电信诈骗中最耗时、也最关键的「信任建立」阶段，甚至在部分衡量指标上超过了经验丰富的真人诈骗者。该研究发表于 2025 年初，模拟了真实杀猪盘的完整沟通过程，并首次用对照实验量化了 AI 与人类在「养号」阶段的差异。

实验设计：AI 与真人诈骗者同场竞技

研究团队招募了 22 名测试对象参与一项表面名为「如何在网上交朋友」的行为研究。参与者被要求在一周内分别与两位「网友」通过短信聊天：其中一位是研究人员基于 Claude 构建的 AI Agent，另一位则是研究团队描述为「精通杀猪盘话术的人类专家」。一周结束后，两人会向参与者提出一个下载应用的请求，AI 代理请求对方下载测试一个自制应用，人类诈骗者则请求对方下载并试玩一款在线游戏。任务不同的设计是为了避免两位聊天对象发出相同请求而引发警觉。

实验结果显示，约 46% 的测试对象在 AI 聊天机器人的请求下完成了下载，而在人类诈骗者这一组，比率不足 18%，仅约 19%。与此同时，参与者对 AI 聊天对象给出了明显更高的「信任度」评分。

研究背景：「杀猪盘」的三阶段模型

为了解真实诈骗流程，研究人员还访谈了 145 名曾在柬埔寨、缅甸和老挝诈骗园区工作的前从业者，其中不少人本身是被强迫劳动的人口贩运受害者。基于这些访谈、真实话术与内部培训资料，研究者将杀猪盘的运作归纳为「钩—线—坠（hook, line, and sinker）」三阶段：

• 钩：用一条看似随机的初始消息引起目标注意；
• 线：通过长达数月的关系经营与情感陪护「养号」；
• 坠：最终诱导对方在虚假投资平台入金，完成诈骗。

访谈对象普遍表示，他们已经广泛使用生成式 AI 来润色话术、跨语言翻译、打磨虚假人设以及生成视频深度伪造，但全程仍需要人工参与。研究团队的疑问是：若完全去除人工，LLM 能否独立完成最漫长的「信任建立」阶段？

安全隐忧：模型防护可能被「接力」绕过

研究作者之一、内盖夫本-古里安大学计算机科学教授 Yisroel Mirsky 对此明确警示：「只要把诈骗的第一阶段完全用 LLM 自动规模化执行，把受害者养到高度信任的状态，再在最后阶段把对话交接给人类诈骗者，就能完全绕过大模型内置的诈骗识别防护。」他强调，研究团队「以相对很小的工程量，就做出了一个在建立可被利用的情感信任上胜过人类的 Agent」。

这一发现意味着，原本需要强迫劳工轮班工作的杀猪盘「养号」环节，未来可能由 AI 在前 90% 的时间里独立完成，而需要绕过模型安全策略的「临门一脚」则由真人接手，从而大幅降低运营成本、扩大可同时运作的案件规模。

对防御侧的影响

该研究发表之际，全球每年因电信诈骗损失的资金已达数百亿美元，包括杀猪盘在内的加密货币投资类骗局尤为猖獗。研究结果提示，主流大模型厂商在评估滥用风险时，仅检测「对话中是否出现投资诱导」已不足够——更早期的、表面上只是闲聊的信任建立过程同样需要纳入监控；同时，反诈宣传也需要让公众意识到，对方打字流畅、回应贴心，本身已不再是有意义的「真人信号」。