AI 邮件助手不是压缩信息，而是在分配注意力

AI 邮件、日历、会议、通知类助手表面上是「压缩信息」，实际上是在「分配注意力」：它们决定哪些输入出现在用户视野、如何被描述、哪些被排除在视野之外。与可见的摘要错误相比，被遗漏的重要邮件往往不留下任何痕迹——用户看到的是一份合理的当日叙述，却看不到叙述里缺失的那部分素材。这是 Show HN 上的一篇长文的核心主张，作者整理了多起与注意力分配型 AI 相关的公开事件，并提出评估和约束这类系统的若干原则。

从「信息工具」到「注意力系统」

传统搜索工具按需响应用户提问，邮件规则按明确条件触发，结果通常可追溯。而 AI 助理更进一步：在用户查看原始内容之前，它已经决定哪些消息重要、哪些线程值得纳入、哪些会议事项归属用户、哪些通知应当置顶。结果可能先于用户审视材料之前就已就绪。这意味着软件角色正在改变：它不再只是协助用户处理信息，而是在构建用户对信息的第一印象，变成了一个「注意力系统」。

四项可独立失败的功能

作者将这类系统的工作拆解为四类判断：

• 选择：剔除噪声——决定哪些输入值得被考虑。
• 排序：让重要项靠前——判断哪些输入后果更严重。
• 压缩：减少阅读时间——决定哪些事实可以省略。
• 呈现：形成连贯简报——决定用哪种叙述框定一天的工作。

每一项都可能独立失败：选对了线程却摘要错误、摘要准确却排序过低、识别出截止日期却把行动错派给他人、正确处理了所有可见邮件却漏掉了唯一一封法律函件所在的文件夹。

已公开的事故与缺陷

作者梳理了若干公开记录中的相关事件：

• Apple Intelligence 曾生成虚假通知摘要，看起来像来自知名新闻机构；Apple 随后暂停了新闻和娱乐类应用的通知摘要功能。
• Microsoft 365 Copilot 出现缺陷，导致被标记为「机密」的邮件尽管已配置数据丢失防护规则仍被处理；Microsoft 表示该问题未向无权限者开放访问，但承认行为与设计不符。
• 安全研究人员演示了在邮件和日历内容中嵌入指令，可改变助理输出或将私密信息复制到其他记录；属于可控演示，尚未确认针对客户的实际攻击。
• 某会议转写服务据报道曾向外部参会者发送一份包含会议结束后续对话的转写稿。
• 加拿大一仲裁庭在 Air Canada 案中认定，客户因依赖其官网聊天机器人提供的错误信息而受损时，公司仍需对该自动化系统提供的信息负责。

作者同时指出，截至成文未发现任何经核实的公开案例，能直接将某一邮件优先级功能与漏读文件、丢失合同或个人紧急事件之间建立因果链。但这一缺口不能被视为风险不存在：邮箱故障往往发生在私人领域，遗漏难以察觉，相关产品尚属新兴，也未见公开的「假阴性率」或事件登记机制。

作者建议的五条原则

文末提出如下主张，应把 AI 助理视为决策支持而非中立便利工具：

• 同步衡量「重要项是否被遗漏」与「用户是否省时」。
• 公开被评估的数据源、被排除项以及具体产品和配置版本。
• 将法律、安全、财务、安保等关键事项保留在不依赖概率排序的渠道上。
• 用新颖、模糊、对抗性、岗位专属的消息测试助理，再决定是否真正依赖。
• 要求厂商与部署方明确对「遗漏、变更、事故」的责任归属。

文章强调，AI 助理不只是在总结信息，它们在管理注意力；其最隐蔽的失败，可能就是被它悄然略过的那一项。