在Amazon Bedrock上为OpenAI GPT-5.6模型推出显式提示缓存
摘要
AWS宣布在Amazon Bedrock上提供OpenAI GPT-5.6系列模型（Sol、Terra、Luna），并引入显式提示缓存功能，可缓存提示部分并享受90%折扣。
核心要点
- GPT-5.6 Sol针对复杂推理和代理编码，Terra用于平衡日常生产，Luna用于快速高吞吐任务。
- 显式提示缓存允许用户标记哪些提示部分被缓存，缓存输入享受90%折扣，有效期30分钟。
- 推荐使用短期令牌认证，代码示例使用OpenAI SDK和AWS Bedrock令牌生成器。
- 模型支持推理努力级别（none/low/medium/high/xhigh），默认medium，在none级别可调temperature和top_p。
- 函数调用和严格JSON schema输出与原生OpenAI API一致。
原文佐证
- GPT-5.6 Sol for the most complex reasoning and agentic coding work, GPT-5.6 Terra for balanced everyday production workloads, and GPT-5.6 Luna for fast, high-volume tasks such as classification and summarization.
AI 洞察
显式缓存是AI推理服务成本优化的关键创新，尤其适用于代理型工作流。此举标志着AWS与OpenAI合作进一步深化，结合AWS生态优势，可能推动更多企业采用云上AI。同时，缓存功能的90%折扣将激励开发者设计可复用提示结构。