Signal YCurated AI News
更新于 11/5 20:4061 个信源

MLPerf 被欧盟 AI 超级工厂招标指定为性能标尺,Endpoints v1.0 开放提交

AI 产业10/13 22:25MLCommons(MLPerf 基准)查看原文 ↗
摘要

MLCommons 宣布 MLPerf 已被欧盟 AI Gigafactories 招标指定为训练与推理性能的评测标准,同时 MLPerf Endpoints v1.0 开放提交,把 AI 性能测量从硬件速度推进到部署服务与真实 API 调用层面。

核心要点
  • 欧盟于 7 月启动 AI Gigafactories 招标:最多建设 7 个大规模 AI 计算设施,由最多 100 亿欧元欧盟及各国资金支持,预计撬动超过 300 亿欧元总投资,由 EuroHPC 联合体与各国采购机构联合采购,投标截止 2026 年 11 月 12 日。
  • 招标文件点名 MLPerf 作为衡量投标方技术性能的标准,并以 MLPerf Training v5.1 与 Inference v5.1 两套基准对提案打分。
  • 涉及的工作负载超过半打,训练侧包括 Flux.1 与 Llama 等大模型,推理侧包括 Llama 3.1 405B、DeepSeek R1 和 SDXL 1.0。
  • 要求的指标沿用 MLPerf 标准:训练用 time-to-train,推理用 time to first token 与 time per output token,并补充加速器利用率等细节;投标方需分别报告第一阶段交付容量与第二阶段扩展计划。
  • MLPerf Endpoints v1.0 以 AI 被真实消费的方式测试:被测系统只是一个 URL,Endpoints 客户端通过标准接口与之通信,从而让硬件厂商、超大规模云、neocloud 与托管 API 提供方在同一尺度上被比较。
原文佐证
  • The tender specifications name MLPerf as the standard for measuring bidders technical performance.
  • up to seven large-scale AI computing facilities, backed by up to €10 billion in EU and national funding and expected to unlock more than €30 billion in total investment
  • MLPerf Endpoints tests AI the way it is actually consumed: through the live API that applications call to reach a model.
AI 洞察
欧盟把百亿欧元级公共采购与公开基准绑定,等于把算力基础设施竞争从峰值参数宣传拉到可比的实测指标上,厂商在 MLPerf 标准工作负载上的成绩将直接关联中标与融资能力。Endpoints v1.0 又把评测对象从硬件下沉到实际调用的 API,硬件厂商、超大规模云与托管 API 提供方被放进同一把尺子,模型服务层的选型与定价逻辑可能因此重写。若此类基准被更多主权采购采纳,MLPerf 有从行业惯例演化为事实性监管标准的趋势。