Signal YCurated AI News
更新于 11/5 20:4061 个信源

Liquid AI 发布 LFM2.5-24B-A2B:在端侧运行快速、私密的 Agent

通用 AI10/14 01:05Hugging Face Blog查看原文 ↗
摘要

Liquid AI 在 Hugging Face Blog 上发布 LFM2.5-24B-A2B,一款面向端侧设备、主打推理速度与数据隐私的 Agent 模型。

核心要点
  • 模型名为 LFM2.5-24B-A2B,属于 LFM(Liquid Foundation Model)系列的新版本,命名中的「24B-A2B」按业界惯例指总参数约 240 亿、每 token 仅激活约 20 亿的稀疏架构。
  • 定位是端侧(on-device)Agent:卖点集中在本地推理的速度,以及数据不出设备所带来的隐私性。
  • 发布载体为 Hugging Face Blog,这类发布通常同时提供模型权重下载,便于直接部署到本地或边缘设备。
  • 目标场景是本地/离线 Agent 工作流,与依赖云端 API 的通用大模型方案形成成本与隐私上的对照。
  • 本次可获取的信息仅有标题,未包含基准测试分数、吞吐量、内存占用、量化方案或授权条款等可验证数据。
AI 洞察
端侧 Agent 正在成为模型厂商避开云端算力军备竞赛的一条差异化路径:用稀疏架构把单次推理的激活参数压到 20 亿量级,正是为了在消费级硬件上跑出可用的 Agent 循环。若这条路走通,竞争的焦点会从「谁的模型更聪明」部分转向「谁能在本地把隐私、延迟和功耗同时做下来」,这对依赖 API 计费的云厂商和做本地 AI 芯片的厂商都是格局级的变量。不过目前只有发布标题、没有跑分与内存数据,实际能否在普通终端上稳定运行 Agent 多步推理,仍需第三方实测验证。