搜索
Edge0 重磅开源 145B 端侧模型，内存狂省 60% 还能满血写代码
8 小时前
端侧AI部署取得里程碑式突破。开源项目Edge0发布Edge0-145B、Edge0-120B两款模型及配套统一推理框架与部署工具。其中，Edge0-145B号称全球首个可在个人电脑本地流畅运行的1450亿参数开源模型。团队从底层架构、训练、加载、调度四个维度进行创新，采用稀疏专家架构、端侧协同训练、三层存储智能流水线、CPU与GPU高效协同等技术，大幅降低运行门槛，在主流消费级PC上实现低内存占用、高生成速度和超长上下文支持，核心能力比肩云端前沿大模型，可离线支撑各类复杂本地工作流。Edge0已形成覆盖多模态的完整模型矩阵，模型权重与部署工具均已开源，推动AI应用范式向端侧优先、云端辅助转变。
