搜索
中金：超节点有望成为AI算力的重要组织方式
1 小时前
中金公司研报指出，大模型参数规模、长上下文及并行策略增加了卡间通信需求，AI基础设施瓶颈正从单芯片算力转向互联效率、资源调度和系统协同。Scale-up通过扩大高带宽、低时延的互联域，聚合算力和HBM资源，减少通信瓶颈对训练和推理效率的影响。中金公司认为，超节点或将成为AI算力的重要组织形式，推动交换芯片及交换托盘、光互联、液冷和高功率电源等环节的需求增长和技术升级。
