桃子桃子快讯
返回首页
行业动态

微软 Foundry 上线 Hugging Face 模型目录,周度更新一键部署

微软 Build 2026 宣布 Foundry 托管算力支持 Hugging Face 开放权重模型,每周精选、Azu…

2026.07.07 · 周二6 分钟阅读

在 Microsoft Build 2026 上,微软与 Hugging Face 联合推出 Hugging Face Models on Foundry ——一个精选自 Hugging Face 生态的开放权重模型目录,每周刷新,可在 Foundry Managed Compute 上实现一键部署。模型权重预先在 Azure 中完成预置(pre-stage),运行时由微软负责构建与安全扫描,并沿用 Foundry 全平台统一的企业级安全、治理、可观测性与计费体系。

Foundry 与 Managed Compute 平台

Microsoft Foundry 是面向智能体(agentic)AI 应用构建与运营的平台,以「业界最广的模型选择」为起点,涵盖来自微软、OpenAI、Anthropic、Meta、Mistral、DeepSeek、Hugging Face 等厂商的前沿、开源与自定义权重模型,统一端点与统一 SDK(Python、C#、JavaScript、Java)。

在模型之上,Foundry Agent Service 提供多智能体编排、内置记忆、通过 Foundry IQ 进行知识增强(grounding),以及通过智能体协议对接的工具目录;平台还内置端到端 tracing、实时监控、持续评估与提示词优化器,构成闭环的可观测与质量体系。配套的企业级能力包括:

  • 内容安全过滤
  • 任务一致性护栏(guardrails)
  • 用于对抗性测试的 AI Red Teaming Agent
  • 统一 RBAC
  • 私有网络接入
  • 与 Azure Policy 的原生集成

在部署层面,Foundry 提供三种模式:按 token 计费(pay-per-token,上手最快)、预置吞吐(provisioned throughput,面向前沿模型的高性能生产负载)以及本次重点推出的 Foundry Managed Compute——面向开源与自定义模型的托管 GPU PaaS。

Managed Compute 的关键能力

Managed Compute 让开发者以「业务口径」描述模型实例:参数量、上下文长度、延迟或吞吐偏好,GPU 拓扑(单卡或多卡)由平台自动匹配;容器更新、运行时升级与安全补丁在受支持的运行时(vLLM、SGLang、TensorRT-LLM、NIM、TEI、llama.cpp)上自动完成,无需重新部署模型。模型配置、部署行为与路由仍由用户掌控。

三种部署模式共享一致的开发者体验:统一端点、统一 SDK、统一认证、统一可观测性与统一账单。开源模型与 Foundry Agents 的集成方式与前沿模型一致,可在同一智能体中混合使用不同类型模型,无需额外集成路径。部署区域支持:

  • Global deployments:最广容量与最优价格
  • Data Zone deployments:数据驻留与主权合规

配额按加速器家族对齐,例如基于 H100 家族制定的计划可随硬件代际升级平滑迁移。

Hugging Face 生态与开放权重的价值

Hugging Face 被视为开放 AI 的「公共广场」:拥有 1500 万开发者、40 万家组织,累计发布超过 300 万个开放模型,新的前沿能力(智能体编码、视频分割、语音、向量等)几乎每周涌现。它已成为开放模型的 GitHub,社区在其中发布权重、撰写 model card、对比评测并拉取模型进行实验。

文章指出,开放模型在多项主流基准上已逼近闭源模型,并具备闭源端点难以替代的能力:

  • 开放的前沿:领先的开源权重模型在主流基准上已可与顶级闭源前沿模型竞争
  • 深度定制:完整权重支持微调、蒸馏、量化与 LoRA 适配
  • 自主托管:权重运行在用户自己的租户与基础设施之上
  • 成本塑形:按加速器小时计费、空闲时缩容到零、可按模型精配 GPU
  • 版本控制:可固定特定版本进行评估、部署、回滚

但开放模型的运营门槛——发现、许可证审查、安全扫描、运行时选择、GPU 选型、镜像构建、CVE 修补与企业级端点的搭建——一直是企业落地的障碍。Hugging Face 本身并不是企业级模型服务平台,而 Hugging Face Models on Foundry 即由微软运行的那一层「运营底座」

精选目录与运行时匹配

Hugging Face Collection 将精选模型直接接入 Foundry Model Catalog,具备以下特征:

  • 每周刷新:随着社区发布新模型持续引入
  • 全模态覆盖:文本、视觉、音频与多模态,包括 LLM/VLM(对话与智能体)、ASR 与语音翻译、向量、分割、图像生成
  • 仅 Safetensors、不执行不可信代码:每个模型均经过安全扫描,以 Safetensors 权重格式发布
  • 运行时自动匹配:LLM 用 vLLM 与 SGLang,TensorRT-LLM 与 NIM 按需使用,向量用 TEI,CPU 场景用 llama.cpp

开发者侧只需在 Foundry 中选取模型、设定业务参数,即可获得与前沿模型同等级别的部署、监控与计费体验。

信源