超算研究者系统记录 AI 硬件的演进历程
摘要
MIT 林肯实验室超级计算中心(LLSC)的 LAICS 调查已发布六篇论文,通过公开数据持续梳理商用 AI 加速器并对比其峰值性能与功耗,最新一篇覆盖的加速器已从最初的 57 款增至 120 余款。
核心要点
- LAICS 调查始于 2018 年,由 LLSC 的 Albert Reuther 领导,核心成员包括 Michael Jones、Peter Michaleas、Jeremy Kepner 与 Vijay Gadepally。
- 调查规模持续扩大:首篇论文分析 57 款加速器,最新一篇考察的加速器超过 120 款。
- 核心对比指标为峰值性能与峰值功耗,并按照加速器处于芯片、板卡还是系统层级进行分类。
- 覆盖的加速器类型包括 CPU、GPU、ASIC、FPGA 和数据流加速器;CPU 面向通用计算,ASIC 只能执行非常特定的任务,而 GPU、FPGA 与数据流加速器更灵活、可配置多种工作负载。
- 这些加速器除机器学习外,还可用于分子功能建模、流体动力学仿真等计算开销极高的并行应用。
原文佐证
- The first paper in their series studied 57 accelerators, while the latest one looked at more than 120 accelerators.
- The main metrics the team uses to compare accelerators are the peak performance and power; then they sort accelerators by whether they're on a chip, card, or system.
- All the data in the papers are drawn from public sources, which can be challenging because some companies prefer to keep their performance and power data private.
AI 洞察
在算力成为国家竞争力与出口管制焦点的背景下,一个持续八年、只依赖公开数据的加速器横评,实质上是把厂商的营销话术翻译成可比的性能—功耗坐标。随着加速器数量在八年里翻倍、形态多元化,掌握这份能效谱系正在成为采购、预算与战略判断的基础设施。而厂商对功耗数据的普遍隐瞒,反过来让这类独立调查本身成为一种稀缺的情报能力。