搜索
信通院报告：大模型词元服务量价齐升 国内价格较去年下半年翻倍
2 小时前
在大模型技术快速迭代的背景下，词元服务成为技术落地的关键环节。相关机构联合发布的《大模型词元服务性能监测报告（2026年）》指出，针对用户缺乏词元服务性能判断依据、选型困难的问题，报告基于2026年1至8月的监测数据，从多个维度对国内外大模型词元服务进行了分析。报告显示，国内词元服务呈现量价齐升态势，2026年归一化均价较2025年下半年接近翻倍，词元消耗量也大幅增长，2026年6月日均消耗量约500万亿，是2025年12月的近4倍，不过国外词元均价仍显著高于国内。性能方面，国内模型每秒输出词元数较2025年翻倍，但整体仍落后于国外典型模型。国内外模型的首词时延均有所上升，这是由于模型参数量、上下文长度和调用量同步增加，而非单纯性能退化。当前，长上下文模型占比大幅提升，20万词元及以上的模型占比已达95.7%。报告还对比了四款开源模型在不同第三方平台的表现，发现模型新版本迭代后性能持续提升，但同一模型在不同平台的表现差异显著，TPS最大差距接近一倍，这主要源于各平台的推理加速、优化策略和成本控制策略不同。
