搜索
得益于苹果的MLX框架 Ollama在Mac上运行得更快
9 小时前
Ollama近日更新，将苹果机器学习框架MLX引入本地大模型运行方案，在搭载Apple芯片的Mac上性能显著提升。官方称，新版本提示预填阶段处理速度提升约1.6倍，生成回复阶段速度几乎翻倍，整体响应更迅速。配备M5系列芯片的机型受益最大，这得益于苹果新一代芯片中加入的GPU神经加速器。
