开源 AI 静态风险分析工具 SafeAI 发布首周报告

SafeAI 是一款面向 AI Agent 应用的离线静态分析工具，由社区驱动开发。项目定位明确：传统 SAST、SCA、IaC 扫描器并未针对 AI 智能体系统设计，AI 应用带来了新型风险面，包括 prompt 注入、Agent 工具滥用、能力蔓延、MCP 暴露以及治理缺口。SafeAI 在部署前静态扫描框架、Agent、工具、能力与 MCP 集成，作为运行时护栏与红队测试工具的前置环节。

核心能力与检测范围

SafeAI 通过导入、配置与依赖识别 AI 框架，再以 AST 解析、能力模式匹配与依赖扫描完成静态分析，最终将框架对象映射到归一化的风险类别，由规则引擎按可配置严重度与权重打分，输出 0–100 的确定性信任分数。报告支持终端摘要、JSON、SARIF 2.1.0 与 HTML 四种格式，并提供 GitHub Actions 工作流样例。

主要特性包括：

• 框架检测：覆盖 15 个 AI Agent 框架（见下节）。
• 能力发现：识别文件系统、Shell、网络、数据库等高风险能力。
• 风险分类：划分为 7 个风险类别并附加权信任分。
• Prompt 风险分析：检测注入模式、分隔符问题、系统泄露、角色覆盖。
• 工具与记忆分析：识别 Agent 绑定的工具、记忆与检查点使用。
• MCP 分析：发现 MCP server、client、工具、资源并校验配置。
• 数据泄露检测：标记硬编码密钥、令牌与 API Key。
• 跨文件分析：包含导入图、符号解析与项目图。
• 置信度仲裁解析：单文件多解析器合并，保留来源信息。

支持的 Agent 框架

首批适配器中，LangGraph、CrewAI、LangChain、Semantic Kernel、OpenAI Agents SDK 与 Microsoft Agent Framework 已具备部分发现与能力分析能力，处于 Early Preview；Azure AI Foundry、Bedrock Agent、Claude Code、Google ADK、Mastra、Haystack、LlamaIndex、Dify、n8n 等 9 个框架当前以检测与最小级别发现为主。项目文档明确指出，首批框架的框架特定分析尚未与已建立的适配器齐平。

在安全生命周期中的定位

SafeAI 明确表示并不替代运行时工具（如 Microsoft AGT）、评测框架（如 LangSmith、DeepEval）或红队扫描器（如 Promptfoo、Garak），而是在提交时刻先行识别代码中的风险，再由运行时工具验证。这一互补关系决定了它的最佳使用场景：CI/CD 流水线中的提交阶段静态扫描、Agent 框架选型审计、以及 MCP 集成配置合规检查。对构建多 Agent 系统的团队而言，SafeAI 提供了一个轻量、可解释、社区驱动的开源起点。