搜索
英伟达开源发布 PAIR：本地跑 AI 新方案，调度 Mac / RTX PC 跨设备推理
9 小时前
英伟达发布了开源测试版Personal AI Router（PAIR）软件，该软件能在局域网内为本地AI请求智能调度空闲设备。它兼容M4及以上Mac设备、英伟达RTX PC和DGX Spark设备，为Ollama、LM Studio等本地AI工具提供统一入口。PAIR可自动发现设备、分配请求，模型运行仍由目标设备上的工具负责，无需为每款AI应用单独配置每台机器。设备繁忙或不可用时，软件会转派请求以分担并发负载，但单个AI回复速度不会因设备增多而自动提升。演示显示，多设备协作可缩短多任务处理时间。
