Signal YCurated AI News
更新于 11/5 20:4061 个信源

微软研究院:将物理 AI 推理从机器人本体卸载到边缘与云端

AI 研究9/24 00:01Microsoft Research Blog查看原文 ↗
摘要

微软研究院提出,把物理 AI 的推理从机器人机载 GPU 卸载到边缘或云端,并在移动操作任务上观察到成功率、续航与可用模型规模的提升,同时为 Physical AI Toolchain 增加了基于 Kubernetes 的跨机器人、边缘、云的推理编排能力。

核心要点
  • 研究聚焦移动机器人操作这一典型负载,任务形态如“检查厨房有没有垃圾并把它丢进垃圾桶”,涉及路径规划与环境感知。
  • 当前主流做法是把 GPU 直接装在机器人上,推理被限制在本体算力内;高层规划虽可放云端,任务执行仍绑在机器人自身。
  • 机载 GPU 的具体代价被逐项列出:功耗大、缩短电池续航、增加成本与重量,并限制运行最新一代 AI 模型。
  • 在代表性移动操作负载上,卸载推理带来了任务成功率提升、可承载更大模型,以及在动态真实环境中更有效的响应。
  • 用轻量机载硬件加远程推替代高功耗机载 AI 计算,可显著延长机器人单次充电后的作业时长。
原文佐证
  • Our research shows that running physical AI inference exclusively on onboard GPUs can limit robot performance, battery life, and scalability, and that offloading inference to edge or cloud GPUs can offer significant advantages.
  • Across representative mobile manipulation workloads, offloading improved task success rates, enabled larger AI models, and helped robots respond more effectively in dynamic, real-world environments.
  • We conducted the first systematic study of robotics workloads.
AI 洞察
如果推理可以外置,机器人本体就从“算力载体”退化为“感知与执行终端”,价值链会向边缘/云端算力、低时延网络与调度编排层迁移——这与大模型从本地走向云端的历史路径高度相似。相应地,竞争焦点会从谁的机器人装了更强的 GPU,转向谁能提供稳定的分布式推理服务、确定性的时延与安全兜底;而网络中断、实时性与功能安全,也将成为这套架构必须回答的硬约束。