OpenAI在9月29日的DevDay演讲中宣布推出Ultra Fast服务,该服务覆盖API、ChatGPT及Codex,通过优化硬件架构与数据调度,实现最高每秒750个token的推理速度,较标准模式提升14倍,旨在满足实时交互、金融交易等低延迟场景需求。