Signal YCurated AI News
更新于 11/5 20:4061 个信源

Reflection Beam:面向智能体编程的开放权重模型登陆 AWS

通用 AI10/16 23:23AWS 机器学习博客查看原文 ↗
摘要

Reflection AI 发布开放权重智能体编程模型 Beam,并说明如何在 AWS 上通过 SageMaker JumpStart、HyperPod 及 SGLang/vLLM 进行部署与容量规划。

核心要点
  • Beam 是稀疏混合专家模型,总参数 5010 亿、激活参数 230 亿,Reflection 称其有效上下文长度为 100 万 token。
  • 模型面向软件问题修复、代码修改、工具调用、处理中间结果以及多步长周期工作流。
  • 权重通过 Hugging Face 以 Apache 2.0 许可发布,提供 BF16、FP8、NVFP4 三种检查点变体。
  • AWS 提供 SageMaker JumpStart 实时端点的全托管路径,以及 HyperPod Inference 上结合 JumpStart、SGLang 或 vLLM 的 Kubernetes 原生路径。
  • 上线时 Beam 在 SageMaker JumpStart 的美国东部(弗吉尼亚北部)和美国东部(俄亥俄)区域可用。
原文佐证
  • It has 501 billion total parameters and 23 billion active parameters, and Reflection reports an effective context length of 1 million tokens.
  • Reflection releases Beam’s weights through Hugging Face under the Apache 2.0 license.
  • At launch, Beam is available in Amazon SageMaker JumpStart in US East (N. Virginia) and US East (Ohio).
AI 洞察
开放权重正在把竞争焦点从模型训练转向推理部署与运维:Beam 的稀疏 MoE、100 万 token 上下文和多精度检查点,使显存、KV cache 与并行策略成为实际采用的关键门槛。AWS 同时提供托管端点和 HyperPod 自控路径,说明云厂商正把开源模型快速纳入自身推理栈,以承接智能体编程的生产化需求。对企业来说,选型应更关注单位 token 成本、并发延迟和可定制性,而非只看参数规模。