搜索
微软推出 Copilot 混合推理架构：云端本地模型可自动切换 本月底上线
1 小时前
微软宣布，GitHub Copilot将于本月底支持本地AI模型推理，开发者可在云端与设备端模型间自动或手动切换。当前，GitHub Copilot依赖云端托管模型，协调器根据性能、成本和准确性路由请求。扩展后，平台将支持自动编排或强制使用设备端模型，用户可在工具中设置偏好，指定本地模型的提供程序、模型或端点。微软还推出了MAI Code 1.1 Flash混合专家模型，实测显示，该模型在相关设备上多项性能显著提升，解码吞吐量表现尤为出色。
