高通与AI私有云企业Cirrascale合作,向部分客户开放Dragonfly AI200推理加速器评估,客户可通过云环境测试自身AI工作负载在该芯片上的表现。Dragonfly AI200是高通首款机架级AI解决方案,单卡配备768GB LPDDR5X内存,支持PCIe Gen6纵向扩展和RoCE横向扩展。单个140kW液冷ORv3机架由56张卡组成,总内存43TB,内存带宽0.414PB/s,可在单机架内运行10T级超大模型推理,总持有成本更低。