软件工程师Andrew Rossignol在本周的博客文章中分享了他在2005年款PowerBook G4上运行生成式人工智能的经历。尽管大型语言模型(LLM)通常需要高性能硬件支持,但这款PowerBook G4仅配备了1.5GHz PowerPC G4处理器和1GB RAM。Rossignol成功地在该笔记本上移植并运行了Meta的LLM模型Llama 2,利用PowerPC的矢量扩展AltiVec提升性能。他的博客文章提供了更多技术细节。