Signal YCurated AI News
更新于 11/5 20:4061 个信源

在 Amazon Bedrock 上通过跨区域推理从加拿大访问 OpenAI GPT 模型

企业 AI10/21 00:42AWS 机器学习博客查看原文 ↗
摘要

AWS 官方博客介绍,加拿大(中部)与加拿大西部(卡尔加里)区域现已可通过 Amazon Bedrock 的跨区域推理访问 OpenAI GPT-5.6、GPT-6、GPT-6.1 系列模型,并给出权限配置、接口调用、配额与可观测性的操作指引。

核心要点
  • 文章列出三个 OpenAI 模型家族在加拿大可用:GPT-5.6(Sol、Terra、Luna)、GPT-6(Astra、Sol、Luna)以及 GPT-6.1 Sol,分别定位高推理编码、复杂端到端智能体、平衡性价比与高吞吐低成本等场景
  • 这些模型接受文本与图像输入、返回文本,支持 100 万 token 上下文窗口、推理模式与工具调用;GPT-6.1 Sol 还提供模型卡中记录的额外输入输出模态
  • GPT-5.6、GPT-6、GPT-6.1 均支持 Amazon Bedrock 上的提示缓存(prompt caching),可通过 OpenAI Responses API、OpenAI Chat Completions API 和 Bedrock Converse API 在 bedrock-runtime 端点上调用
  • 跨区域推理被明确定位为容量机制:应用只需调用源区域端点,Bedrock 自动路由到受支持的目标区域,开发者无需在应用中管理目标区域路由,从而在需求高峰时获得更大容量池、维持吞吐
  • 文章还覆盖配额提升申请、源区域可观测性信号查看,以及资源清理等落地运维环节
原文佐证
  • With Amazon Bedrock cross-Region inference (CRIS), you can now access these models from Canada.
  • Cross-Region inference is a capacity mechanism. Your application calls the Amazon Bedrock Runtime endpoint in your source Region. Amazon Bedrock then routes the request to a supported destination Region for processing.
  • These models accept text and image inputs, return text, and support a 1-million-token context window, reasoning mode, and tool calling.
AI 洞察
OpenAI 模型经 Bedrock 交付并扩展到更多区域,说明前沿模型的分发正与云平台深度绑定,企业采购模型越来越像采购云资源而非绑定单一厂商。跨区域推理则暴露了现实约束:GPU 容量在区域间分布不均,云厂商用“容量池+自动路由”把供给问题从客户侧转移走。对企业而言,模型选择将更多取决于合规驻留要求与容量经济性,而非单纯的能力排名。