OpenAI GPT-5.6 登陆 Amazon Bedrock,支持跨区域推理
AWS 在 25+ 区域上线 GPT-5.6 的 Sol、Terra、Luna 三个变体,提供跨区域推理能力以提升吞吐量…
Amazon Bedrock 已在超过 25 个 AWS 区域上线 OpenAI GPT-5.6 模型,并同步开放跨区域推理(Cross-Region Inference,简称 CRIS)能力。该批模型包含 Sol、Terra、Luna 三个通用变体,各自针对不同的能力与成本平衡进行了调优,三者均支持文本与图像输入并输出文本,具备 100 万 token 的上下文窗口,开放推理模式、服务端工具调用以及提示词缓存,可通过 OpenAI Responses API、Chat Completions API 以及 Bedrock Converse API 三种接口调用。
跨区域推理的工作机制
跨区域推理依赖 Bedrock 中的「推理配置文件」(inference profile)实现:用户从源区域调用配置文件,Bedrock 根据实时算力将请求路由到目标区域处理。其核心目的是扩⼤可调用的算力池,缓解单一区域的容量瓶颈,从而在高负载下维持吞吐和性能的一致性。
针对 GPT-5.6,AWS 同时推出两类配置文件:
- 地理推理配置文件(geographic profile):仅在同一地理范围内的区域间路由,例如以「us.」为前缀的 us.openai.gpt-5.6-terra,适合有数据驻留要求的工作负载。
- 全局推理配置文件(global profile):以「global.」为前缀,可在模型已部署的所有 AWS 商业区域间调度,提供最大的算力池,适合无地理处理限制的场景。
计费和配额仍按用户账号统一统计,不受实际处理区域影响。若工作负载要求数据停留在特定地理范围内,应使用对应地理配置文件或直接调用单一区域,而非全局配置文件。
区域覆盖一览
US 跨区域推理配置文件(us.openai.gpt-5.6-sol / -terra / -luna)覆盖的源区域与可路由目标区域包括:
- US East(N. Virginia)us-east-1:可达 us-east-1、us-west-2、us-east-2
- US West(Oregon)us-west-2:可达 us-east-1、us-west-2、us-east-2
- US East(Ohio)us-east-2:可达 us-east-1、us-west-2、us-east-2
- US West(N. California)us-west-1:可达 us-east-1、us-west-2、us-east-2、us-west-1
- Canada(Central)ca-central-1:可达 us-east-1、us-west-2、us-east-2、ca-central-1
- Canada West(Calgary)ca-west-1:可达 us-east-1、us-west-2、us-east-2、ca-west-1
全局配置文件(global.openai.gpt-5.6-sol / -terra / -luna)则覆盖更广的 AWS 商业区域,涵盖美国、加拿大、欧洲(斯德哥尔摩、巴黎、爱尔兰、法兰克福、西班牙、米兰、伦敦、苏黎世)、亚太(东京、大阪、首尔、孟买、海得拉巴、新加坡、雅加达、悉尼、墨尔本、吉隆坡、曼谷、台北等)、中东(阿联酋、以色列)以及南美等多个区域。
调用方式与适用建议
GPT-5.6 三个变体均可通过 OpenAI Responses API、Chat Completions API 以及 Bedrock Converse API 调用,前两者支持流式输出(stream=True),后者可通过 ConverseStream 实现流式响应。开发者可直接在 Amazon Bedrock 控制台中创建并调用推理配置文件,也可使用相应的 SDK 通过代码发起请求。
在选型时,若工作负载对数据驻留有明确要求,应优先选择对应地理区域的配置文件;若更看重可用容量与吞吐量,且无地理处理限制,则全局配置文件能提供更大的算力弹性。
