nOps 借助 Amazon Bedrock AgentCore 将 FinOps 智能体交付提速 75%

云成本优化平台 nOps 近期将旗下 FinOps 分析与智能体能力迁移到 Amazon Bedrock AgentCore 上，整体交付速度较此前提升约 75%。nOps 是一家以 AI 为核心的云优化服务商，长期为客户管理跨 AWS、GCP 与 Azure 的承诺类资源（Reserved Instances、AWS Savings Plans 等），目前管理的云支出规模超过 40 亿美元。

旧架构的瓶颈

在迁移之前，nOps 已经上线了名为 Clara 的 FinOps AI 智能体，底层基于 Kubernetes、Amazon Bedrock 模型调用以及 LangChain/LangGraph 编排，并通过对 Web API 的工具封装来访问数据。这套方案在初期交付较快，但随着产品线与客户基数扩大，逐渐暴露出三类问题：

• 响应延迟与不一致：基于 API 的数据访问带来较长的上下文消息，导致响应延迟升高、答案稳定性下降。
• 系统复杂度高：编排与可观测层叠加，增加了迭代与调试难度。
• 数据路径错配：智能体输出受限于 API 响应，缺乏专门的语义分析层。

nOps 相关负责人 Jordan Stein 表示，团队一度在「并非为分析驱动智能体而设计」的基础设施上构建高级 AI 能力，导致迭代缓慢、链路复杂且容易出现准确性问题。

新架构：AgentCore + Databricks 语义层

迁移后的新架构以 Amazon Bedrock AgentCore 为运行时与编排核心，搭配 Databricks Lakehouse Metric Views 提供治理后的语义分析能力，并以 Databricks Lakebase（无服务器 PostgreSQL）保存会话、画布与组件规格等持久化应用状态。nOps 选择 AgentCore 的原因在于其托管智能体运行时、内置记忆与编排能力，并允许自由选用任意框架或模型，团队在 Strands 之上构建，并可在不更换服务的前提下灵活切换底层模型。

整体方案分为四层：

• 交互层：托管在 Vercel 上的 Next.js Web 应用，通过 Server-Sent Events 流式输出，为客户提供对话式体验。
• 智能体运行时层：Amazon Bedrock AgentCore 运行单一 Strands 智能体，直接调用画布操作、查询执行、数据源发现与工作流编排等工具，避免多智能体路由带来的额外开销。
• 数据层：Databricks Metric Views 提供语义分析层，Databricks Lakebase 存储持久化状态。
• 异步工作流层：通过 Amazon DynamoDB 任务跟踪、Amazon SNS/SQS 通知以及 API Gateway WebSocket 推送，处理长时间运行的异步分析任务并实时更新 UI。

单智能体架构与流式体验

与多智能体路由方案不同，nOps 在 AgentCore 上采用单智能体架构：一个 Strands Agent 直接挂载画布操作、查询执行、数据源发现与工作流编排等工具，规避了智能体之间交接造成的延迟与误差累积，使工具调度保持确定性。运行时以 Docker 容器形式部署在 AgentCore 上，基础设施（运行时、记忆、Guardrail、队列与 Worker 函数）全部由一个 AWS CDK 栈统一定义。

流式输出是体验关键。团队在 Strands 异步流与 SSE 输出之间加入了自定义合并层，单次处理三类问题：心跳保活以应对长时工具调用、文本缓冲以及工具事件透传，使前端能够在工具执行期间持续获得反馈，而不是等到全部完成才一次性返回。

业务收益与定位

迁移完成后，nOps 的产品迭代重心从基础设施维护转向领域逻辑。Clara 可让用户手动调用与智能体相同的工具流，既是面向客户的能力，也是智能体遵循「与人类相同流程」执行任务的基础模块。对于正在评估智能体运行时的团队而言，这一案例展示了 AgentCore 在托管运行时、模型无关编排与流式体验方面的实际落地形态。