搜索
奔腾2 CPU+128MB内存成功运行Llama大模型 速度还挺快
2024-12-30
EXO Labs发布了一段视频，展示了在26年历史的Windows 98奔腾2 PC上成功运行大模型LLM。该电脑主频为350MHz，顺利启动Windows 98系统后，EXO使用基于Llama2.c定制的纯C推理引擎，要求LLM生成“Sleepy Joe”的故事。令人惊讶的是，尽管设备老旧，LLM的生成速度依然可观。
