使用 OpenTelemetry 与 Amazon CloudWatch 为 Amazon Bedrock 上的 Codex 构建可见性
摘要
AWS 推出一套参考架构，利用本地 OpenTelemetry 收集器将 Codex 在 Bedrock 上的使用指标发送到 CloudWatch，帮助企业实现 AI 编码工具的可见性与治理。
核心要点
- 开发者通过 IAM Identity Center 认证，使用 Codex 时，本地收集器监听 127.0.0.1 并接收遥测，避免在模型请求路径中引入中心代理。
- 收集器为指标添加用户、团队、部门、成本中心等组织属性，并利用 SigV4 签名发送到 CloudWatch OTLP 端点。
- Codex 发出的指标包括 codex.api_request、codex.turn.token_usage、codex.turn.tool.call 等，覆盖 API 请求、回合时长和令牌用量。
- 参考部署提供 CloudWatch 仪表盘，显示 24 小时活跃用户、对话轮次、请求数、令牌数，支持按模型/用户/部门/团队/成本中心等维度筛选。
- 文章明确说明 CloudWatch OTel 指标不能替代计费，实际花费应通过 AWS Cost and Usage Reports (CUR) 2.0 的 IAM 主体成本分配获取。
原文佐证
- Codex can emit OpenTelemetry (OTel) metrics about its activity.
- The reference deployment creates a CloudWatch dashboard, not an Amazon Elastic Container Service (Amazon ECS) service, load balancer, virtual private cloud (VPC), or public ingestion endpoint.
- Token counts can support trend analysis, but they are not a billing ledger.
AI 洞察
这标志着企业 AI 编码工具的采用进入治理阶段，可观测性成为规模化推广的前提。使用本地收集器与既有 IAM 身份的架构，兼顾开发者体验与集中管控，可能成为企业 AI 工具监控的通用模板。未来，类似遥测标准有望在不同 AI 工具间统一，形成跨平台的治理和数据闭环。