搜索
曝字节训10亿参数大模型 表现或超Mythos 5
3 小时前
8月7日，据英国《金融时报》报道，字节跳动正在训练一款参数量可能高达10万亿的AI大模型，该模型目前处于早期预训练阶段，预训练通常需3至6个月，之后还有微调等环节，最终参数规模尚未确定。此前晚点LatePost报道字节跳动内部讨论训练参数规模超5万亿的模型，若按10万亿参数计算，该模型规模将超过国内已发布的最大模型月之暗面Kimi K3（2.8万亿参数），接近Anthropic的Fable 5（约5万亿参数），并可能超越Anthropic先进的Mythos 5（约8万亿参数），进入全球超大模型第一梯队。不过，参数量并非模型实际表现的唯一决定因素，训练数据质量、训练方法、推理效率及算力投入同样重要。
