OpenAI推出Ultra Fast服务 称速度为标准处理八倍
8 小时前

OpenAI在9月29日的DevDay演讲中宣布推出Ultra Fast服务,该服务覆盖API、ChatGPT及Codex,通过优化硬件架构与数据调度,实现最高每秒750个token的推理速度,较标准模式提升14倍,旨在满足实时交互、金融交易等低延迟场景需求。