Signal YCurated AI News
更新于 8/20 09:5261 个信源

Meta 使用开源内核调度器现代化广告服务

AI 产业7/14 00:00Engineering at Meta查看原文 ↗
摘要

Meta 采用基于 BPF 的开源调度框架 sched_ext,为广告服务定制调度策略,显著降低尾延迟并提升广告排名数量,同时节省大量电力。

核心要点
  • Meta 广告服务处理超过 5百万请求/秒,每天 4000亿次。
  • 使用 sched_ext 后,广告检索路径的 p99 延迟降低 28%。
  • 通过后续两次用户空间更新,p99 延迟再降低 60%,超时错误减少 18%。
  • 节省电力 3.28 兆瓦。
  • 广告排名数量增加 1.1%。
原文佐证
  • a 28% reduction in ads retrieval stage tail(99th percentile) latency, 3.28 megawatts(MW) power saving, and a 1.1% increase in the number of ads ranked
  • That cadence is what turned sched_ext from a kernel upgrade unblocker to a continuous-optimization platform for ads serving.
AI 洞察
此案例表明,对于超大规模 AI 基础设施,通用内核调度器无法满足延迟敏感型工作负载的需求,而 BPF 可扩展调度框架为深度定制提供了可能。这意味着 AI 系统的基础设施优化可以走向精细化和专业化,未来更多企业可能效仿,推动操作系统调度层的创新。sched_ext 的独立部署能力使得优化迭代速度从月级降至天级,改变了传统内核优化的周期限制。