桃子桃子快讯
返回首页
AI×设计

借来的信任:AI 产品正在透支品牌信用

一篇设计伦理随笔,揭示 AI 产品用品牌光环掩盖错误输出,并讨论 onboarding 中「烟雾与镜子」如何操控用户判断…

2026.08.13 · 周四3 分钟阅读

一个设计团队为一个 AI 产品做 onboarding 时,花了一个小时争论是否要加一段「假装在思考」的动画:让本可瞬间返回的结果延迟几秒,再塞进几句硬编码的「个性化洞察」,让用户觉得软件「很懂自己」。他们最终选择不做,理由并非道德洁癖,而是担心用户在被「惊艳」之后发现什么都没发生——产品最值钱的信任瞬间,就这么被挥霍在了一场假魔术上。

信任从品牌「借」给了机器

这件小事之所以让作者耿耿于怀,是因为它照见了更大的风险:当屏幕上那个自信满满、对答如流的东西,挂着一个你早就相信的品牌名,你几乎不会再去检查它到底懂不懂自己在说什么。而一旦它错了,赔进去的是整个品牌积累多年的信用。

心理学里有一个「过度自信的地位增强理论」:看起来更自信的人,会被判定为更胜任、更具影响力,无论他是否真的有本事;而旁观者根本无法分辨「真自信」和「空自信」——从外面看,它们长得一模一样。

AI 不做这些。它给出错误答案的流利程度,与给出正确答案时毫无差别。卡内基梅隆大学的研究团队用数据印证了这一点:人在犯错后会变得更不确定,这是正常、健康的反应;而他们测试的 AI 模型越错反而越自信。其中一位研究者直言:我们对 AI 警惕不足,是因为它用一种尚未挣得的自信断言一切,并且从不流露出我们一生都在学习阅读的犹豫信号。

从「操纵行为」到「操纵信念」

Harry Brignull 花了十五年记录界面诱骗用户的方式,他把这些手法叫做「dark patterns」,并在 2023 年的书中更名为「deceptive patterns(欺骗性模式)」。假倒计时、默认勾选、把退订按钮藏得像圣物柜——这些都是经典手法。它们针对的是行为:让你点、让你留、让你买。

但 AI onboarding 中的「烟雾与镜子」走得更深。它不是在操纵你做什么,而是在操纵你相信什么——让你在产品真正证明自己之前就先信任它。一旦你信了,就不再质疑它。这比任何一个预勾选框都更黑暗。

自信曾是好用的信号

过去十万年,「自信」其实是一个相对可靠的信号——不是因为我们能读懂骗子,而是因为自信背后往往对应着真实的经验积累。我们以为自己能识别谎言(闪躲的眼神、紧张的停顿),但几十年的研究表明这些线索微弱且不可靠,大多数人都是平庸的测谎者。

AI 绕过了这套古老机制。它没有眼神、没有停顿、没有我们能用直觉捕捉的「破绽」。它把人类的自信语言学得滚瓜烂熟,却没有任何与之匹配的真实判断力。当这种能力被嫁接到一个你信任的品牌名下,借来的信任就成了最容易被透支的信任。

文章最后的落点是:今天,那个「是否加假动画」的小决定,正被放大到任何你愿意押注的品牌决策的尺度上。而每一次自信的错误,都在悄悄消耗一个名字最值钱的东西——被相信的权利。

信源