Natera 基于 Bedrock AgentCore 打造肿瘤患者语音预约 Agent
诊断公司 Natera 用 Amazon Bedrock AgentCore 构建语音预约系统,以双 WebSocket…
诊断公司 Natera 近日在 Amazon Bedrock AgentCore 上构建了一个面向肿瘤患者的语音预约 Agent,用于替代原有的人工排班流程,让患者在家即可完成上门抽血采样的预约。该系统在 500 次端到端通话仿真中实现 100% 工具调用准确率,感知延迟低于 7 秒,单次完成通话成本不到 0.01 美元。
业务背景:从人工排班到对话式预约
Natera 专注于无细胞 DNA(cell-free DNA)检测,其移动采血服务支持患者预约上门采血。原有流程是患者来电、提供三个备选日期和服务地址,再由人工排班团队与抽血师、第三方供应商协调确认时段。这一流程需要短信验证码身份验证、对接多家供应商的可约时段接口,并在复杂场景下提供回退方案。
此前系统依赖第三方 AI 提供商处理语音与编排,通过 Twilio 接入电话、运行在 Amazon ECS 容器之上。虽然功能可用,但团队在准确性、可扩展性和对话自然度方面仍有改进空间。对于采用 Epic 或 Cerner、且流程标准的医疗机构,Amazon Connect Health 已提供开箱即用的患者预约 Agent;Natera 的场景涉及定制化的供应商协同与电话接入灵活性,因此选用了 AgentCore 作为基础架构。
为什么选择 Amazon Bedrock AgentCore
Natera 在评估后选择 AgentCore 来重建排班 Agent,主要出于三点考虑:
- 全托管运行时免去了容器基础设施与扩缩容配置的运维负担,可以让团队专注于业务逻辑。
- 通过 Amazon Bedrock 上的快速基础模型生成上下文感知的中间回复,在底层处理期间持续与患者对话,缓解延迟带来的等待感。
- 内置的内存管理与可观测性能力。AgentCore 会在每次请求处理时记录详细 trace,团队可以查看调用的工具、每一步耗时以及模型决策;端到端会话可追溯,定位延迟瓶颈(模型推理、工具执行还是内存检索)不需要靠猜测。
对于准确性、性能要求严苛的医疗场景,这种细粒度可见性是快速定位与修复问题的关键。
核心架构原则
该方案围绕三项设计原则构建,可适配其他实时语音 AI 场景:
- 双 WebSocket 桥接模式:在电话流媒体与模型推理之间引入编排层。系统分别与电话服务商、基础模型各维持一条 WebSocket 连接,编排层在中间管理数据流。这样电话侧(Twilio 或 Amazon Connect Health)与模型侧(OpenAI 或 Amazon Nova)均可独立替换,无需重新设计整个系统。
- 事件驱动的延迟掩盖:把感知延迟作为一等设计目标,而不是单纯追求各组件的原始速度。当 Agent 需要调用工具(如查询可约时段)时,架构会并行生成上下文相关的填充回复,让患者听到自然的口头确认而非沉默。即便后端操作耗时数秒,对话仍保持流畅。
- 渐进信任模型:在对话过程中逐步提升身份验证与内存访问权限,让系统在保证合规的前提下减少前置摩擦。
从 ECS 迁移到 AgentCore
迁移过程中,团队重点解决了 WebSocket 生命周期与会话状态管理两个挑战。AgentCore 运行时接管了原本由 ECS 负责的容器与连接管理,使得长会话下的连接保活、状态恢复以及异常重连逻辑有了标准化支撑,也让运维团队从底层基础设施维护中释放出来。
整体来看,这套架构展示了如何在医疗合规约束下,把电话接入、基础模型推理与后端业务系统串成一个低延迟、低成本的对话式 Agent,同时为后续替换任意一侧组件保留了灵活性。
