AWS 基于 Strands Agents 构建自适应智能体框架 AAIF
摘要
AWS 在博客中介绍了一套基于 Strands Agents 的自适应智能体框架 AAIF,用小语言模型在本地处理常规任务、把复杂请求路由到 Amazon Bedrock 上的大模型,从而兼顾成本与延迟。
核心要点
- AAIF 分为三层:智能编排层用 llama3.2:1b 作为决策层对请求分类并路由,本地处理层通过 Ollama 运行 SLM 完成设备遥测读取与图像分析,云端处理层用 Amazon Bedrock 上的前沿模型做复杂模式分析与策略建议。
- Strands agent 向系统暴露三个工具:get_device_telemetry 拉取本地传感器数据、analyze_camera_feed 调用 llama3.2-vision 在设备端做视觉处理、get_expert_insights 通过 boto3 调用 Bedrock 做复杂分析。
- 作者指出的痛点是一体化路由的三个副作用:API 成本被推高、延迟不可预测、失去离线运行能力,连本可本地解决的例行查询也要走一次云端大模型的完整网络往返。
- 编排层的分类不依赖硬编码规则,而由轻量 SLM 自行判断任务复杂度并决定走本地工具还是云端端点。
- 方案的理论依据来自 NVIDIA 的 Belcak 等人的研究立场:小语言模型对智能体系统中的许多调用而言“足够强大、本质上更合适、且必然更经济”。
原文佐证
- They argue that small language models are “sufficiently powerful, inherently more suitable, and necessarily more economical for many invocations in agentic systems.”
- Smart orchestration uses a lightweight SLM (llama3.2:1b) as the decision-making layer.
AI 洞察
这篇博客的真正信号不是某个新模型,而是“模型路由”正从工程技巧升级为智能体架构的标准分层:用廉价 SLM 做调度、按任务复杂度分级调用算力。对云厂商而言,这等于把“卖大模型 API”变成“卖分层算力编排”,既保住高端推理收入又覆盖端侧场景;对企业而言,单位任务成本将由路由准确率而非模型单价决定,编排层的质量会成为新的竞争壁垒。