从Token到任务：为何智能体AI改变基础设施讨论

Arm Newsroom文章指出，随着AI从生成式转向智能体式，基础设施必须从仅关注模型推理扩展到优化整个工作流（规划、工具、验证、行动），以支持任务自动化。

• 智能体AI需要处理多步骤任务，包括规划、调用工具、验证结果和执行动作，而非单一Token生成。
• 基础设施需支持低延迟交互（如实时工具调用）和高吞吐并行处理（如多智能体协作）。
• 安全隔离成为关键，因为智能体可能访问外部系统或敏感数据。
• Arm强调其芯片架构在能效和异构计算方面的优势，适合边缘和云端的智能体部署。
• 文章未提供具体性能数据或基准测试，主要基于概念性论述。