已在 iPhone 17 Pro 上完整运行 Qwen 3.6,消息称 PrismML 模型 AI 压缩技术被苹果看中
4 小时前 / 阅读约2分钟
来源:IT之家
苹果正接洽PrismML初创公司,评估在iPhone上运行更大规模AI模型。PrismML原生1-bit模型压缩技术可大幅压缩模型体积,降低内存占用,提升推理速度并降低能耗。
感谢IT之家网友 对的时间点 的线索投递!

IT之家 7 月 10 日消息,科技媒体 The Information 昨日(7 月 9 日)发布博文,报道称苹果公司正接洽 PrismML 初创公司,评估在 iPhone 上直接运行更大规模 AI 模型的可行性。

IT之家查询公开资料,PrismML 是加州理工衍生出来的 AI 初创公司,核心突破为原生 1-bit 模型压缩技术,模型体积可压缩至全精度版本的 1/14 左右,内存占用降低超 90%。

原生 1-bit 模型压缩技术权重仅用 {-1, +1} 表示,配合分组缩放因子,非传统量化,声称无“高精度逃生通道”,宣称在保持接近 FP16 模型精度的同时,推理速度提升最高 8 倍,能耗降低 75%-80%。

报道指出 PrismML 公司精简阿里巴巴开源大型语言模型 Qwen 3.6(拥有 27B 参数),并成功在 iPhone 17 Pro 上完整运行,苹果看中该公司的量化能力,希望进一步增强本地 AI 模型的推理性能。