Meta Andromeda:模型与系统协同设计驱动下一代广告召回
摘要
Meta 工程团队发布下一代个性化广告召回系统 Andromeda,通过模型、系统与 GPU 硬件的协同设计,在召回阶段以接近精排的模型效果完成打分,吞吐达每秒十亿级广告,较 2024 版提升 100 倍。
核心要点
- 生产环境中系统每秒为超过 10 亿条合格广告打分并选出头部候选,被称为广告召回阶段模型的新吞吐基准,相比 2024 年的 Andromeda 系统提升 100 倍。
- 自 2025 年起,Andromeda 在 Facebook 上带来 2.4% 的转化率提升;对广告主而言,这意味着在相同延迟预算内,系统能以更大的候选池自动完成更优匹配。
- 召回阶段对模型质量提升的 ROI 极高:召回模型性能的小幅改进即可带来广告主价值的大幅增长,这也是持续投入架构演进的动因。
- 2024 版 Andromeda 基于 NVIDIA GH200 Grace Hopper Superchip 部署,采用分层索引、GPU 原生算子与专用 ML 模型,将模型容量提升四个数量级。
- 生成式 AI 创意工具帮助广告主快速产出数亿条新广告,候选池扩张到前所未有的规模,使硬件容量 ROI 成为越来越关键的优化目标。
原文佐证
- In production, the system scores every eligible ad with near ranking-level model performance at retrieval scale and surfaces the top candidates at over one billion ads per second, a new throughput benchmark for ads retrieval-stage models (i.e., a 100x lift compared to the 2024 Meta Andromeda system).
- Since 2025, Meta Andromeda has delivered a 2.4% increase in conversions on Facebook.
- growing model capacity by four orders of magnitude
AI 洞察
广告推荐中召回与精排的算力分层正被打破:当召回也能承载接近精排的模型容量时,广告系统的边际收益将主要来自“单位算力能打多少分”,而不是“用多大模型”。生成式 AI 让广告素材供给爆炸后,瓶颈从创意生产转向检索效率与硬件利用率;谁能以同等延迟覆盖更大的候选池,谁就能拿到变现增量。这也意味着模型、系统与芯片的垂直整合将成为大厂广告技术竞争的常态,而非可选项。