Signal YCurated AI News
更新于 8/20 09:5261 个信源

字节跳动训练大规模AI模型,力图与Anthropic竞争

通用 AI8/7 21:29Ars Technica · AI查看原文 ↗
摘要

据三位知情人士透露,字节跳动正在预训练一个参数规模可能达10万亿的AI模型,以对标Anthropic的最强系统。该模型尚处早期,预计数月后微调发布。

核心要点
  • 字节跳动正在训练一个AI模型,规模或接近Anthropic最先进的Mythos系统。
  • 该模型参数最多达10万亿,是Moonshot Kimi K3(目前中国最大模型)的三倍。
  • 模型目前处于预训练早期阶段,预训练通常耗时三到六个月。
  • 预训练完成后将进行微调,若进展顺利将对外发布。
  • 最终模型大小将在后期确定,当前信息来自三位知情人士。
原文佐证
  • ByteDance is training an AI model that could approach the size of Anthropic’s most cutting-edge Mythos system, as Chinese companies continue to narrow the gap with the top US labs.
  • The Chinese tech giant is at an early stage of training a model with as many as 10 trillion parameters—three times larger than Moonshot’s Kimi K3, the biggest Chinese model released to date, according to three people with knowledge of the matter.
AI 洞察
字节跳动此举显示中国AI企业正以更大规模模型追赶美国,10万亿参数若实现,将刷新全球大模型纪录。这或加剧算力资源竞争,并推动模型效率创新。不过,训练成本与工程挑战巨大,最终效果有待验证。