搜索
清华大学计算机系孙茂松团队提出“密度法则”揭示大模型高效化发展内在趋势
2025-11-23
近日，清华大学计算机系孙茂松教授、刘知远副教授、韩旭助理研究员团队与OpenBMB开源社区合作，提出大模型“密度法则”。该法则指出，2023年2月至2025年4月，大模型最大“能力密度”约每3.5个月翻一番，即每隔3.5个月，可用一半参数量的模型实现当前最优性能。研究团队设计了相对“能力密度”评估框架，对51个开源大模型分析后发现，大模型能力密度随时间呈指数级增长。基于“密度法则”，研究团队得出多项推论，如同能力模型推理成本下降等。团队还发布了MiniCPM等端侧高“能力密度”模型，相关论文发表于《自然·机器智能》等刊物。
